"أوبن ايه آي" تكشف سبب نفاق تشات جي بي تي للمستخدمين

نشرت شركة أوبن ايه آي تقريرًا مفصلاً عن مشاكل التملق الأخيرة المتعلقة بنموذج الذكاء الاصطناعي الافتراضي المُشغّل لبرنامج تشات جي بي تي ChatGPT، GPT-4o، والتي أجبرت الشركة على التراجع عن تحديثٍ للنموذج صدر الأسبوع الماضي، حسبما ذكرت قناة العربية.
موضوعات مقترحة
خلال عطلة نهاية الأسبوع، وبعد تحديث نموذج GPT-4o، لاحظ مستخدمو مواقع التواصل الاجتماعي أن تشات جي بي تي بدأ يستجيب بطريقةٍ مُبالغ فيها في التصديق والقبول، بحسب تقرير نشره موقع "تك كرانش" .
نشر المستخدمون لقطات شاشة لبرنامج تشات جي بي تي مُشيدين بجميع أنواع القرارات والأفكار المُشكلة والخطيرة.
في منشور على "إكس" يوم الأحد، أقرّ الرئيس التنفيذي سام ألتمان بالمشكلة، وقال إن "أوبن ايه آي" ستعمل على إيجاد حلول في أقرب وقت ممكن.
بعد يومين، أعلن ألتمان إلغاء تحديث GPT-4o، وأن "أوبن ايه آي" تعمل على إصلاحات إضافية لشخصية النموذج.
ووفقًا لـ "أوبن ايه آي"، فإن التحديث، الذي كان يهدف إلى جعل الشخصية الافتراضية للنموذج أكثر سهولة وفعالية، كان مُستندًا بشكل كبير إلى ملاحظات قصيرة المدى ولم يُراعِ تمامًا كيفية تطور تفاعلات المستخدمين مع تشات جي بي تي بمرور الوقت.
نتيجةً لذلك، انحرفت GPT-4o نحو ردودٍ داعمةٍ بشكلٍ مبالغٍ فيه، لكنها مُضلِّلة، كما كتبت "أوبن ايه آي" في منشورٍ على مدونتها.
وقالت الشركة: «قد تكون التفاعلات المُتملقة غير مريحةٍ ومُقلقةٍ وتُسبِّب الضيق. لقد قصرنا في ذلك، ونعمل على تصحيحه».
أوبن ايه آي: تطبيق العديد من الإصلاحات
تقول شركة أوبن ايه آي إنها تُطبّق العديد من الإصلاحات، بما في ذلك تحسين تقنيات تدريب النموذج الأساسية ومطالبات النظام لتوجيه GPT-4o بشكل صريح بعيدًا عن النفاق.
كما تُطوّر الشركة المزيد من حواجز الأمان لزيادة صدق النموذج وشفافيته، وتُواصل توسيع تقييماتها للمساعدة في تحديد المشكلات التي تتجاوز النفاق، كما تقول.
وتقول "أوبن ايه آي" أيضًا إنها تجرب طرقًا تسمح للمستخدمين بتقديم ملاحظات في الوقت الفعلي للتأثير بشكل مباشر على تفاعلاتهم مع تشات جي بي تي والاختيار من بين شخصيات تشات جي بي تي المتعددة.
كتبت الشركة في مدونتها: "نستكشف طرقًا جديدة لدمج ملاحظات أوسع وأكثر ديمقراطية في سلوكيات تشات جي بي تي الافتراضية".
وتابعت: "نأمل أن تساعدنا هذه الملاحظات على عكس القيم الثقافية المتنوعة حول العالم بشكل أفضل، وفهم كيفية تطور تشات جي بي تي. كما نؤمن بأنه ينبغي أن يتمتع المستخدمون بتحكم أكبر في سلوك تشات جي بي تي، وأن يُجريوا التعديلات اللازمة إذا لم يوافقوا على السلوك الافتراضي، قدر الإمكان."

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

وكالة نيوز

منذ 6 ساعات

• وكالة نيوز

مصمم iPhone Jony Ive انضم إلى Openai كجزء من صفقة 6.5 مليار دولار

انضم Jony Ive ، وهو تصميم Apple Industrial Design السابق الشهير خلف مظهر iPhone و iPad وغيرها من منتجات التكنولوجيا العملاقة ، إلى Openai كجزء من صفقة بقيمة 6.5 مليار دولار من شأنها أن تندمج شركة Ive's Startup مع شركة Sam Altman. سوف تساعد IVE شركة الذكاء الاصطناعي ، التي طورت chatgpt ، تشغيل أجهزة مع قدرة الذكاء الاصطناعي ، وفقا لمقطع فيديو تم نشره على Openai's حساب x يوم الاربعاء. كجزء من الصفقة ، أعلنت Openai أنها ستحصل على IV's Startup IO ، وفقًا لـ A إفادة أرسلت بواسطة Openai. سيقود إيف وفريق بدء التشغيل جهود التصميم في شركة الذكاء الاصطناعى. وقال ألتمان ، الرئيس التنفيذي لشركة Openai ، في الفيديو: 'قبل عامين ، بدأت أنا وجوني نتحدث عن ما كان يبدو عليه مستقبل الذكاء الاصطناعي وأنواع جديدة من أجهزة الكمبيوتر'. 'أصبح من الواضح بسرعة كبيرة لكلا منا أننا بحاجة إلى شركة ثالثة.' وقال ألتمان إن مهمتهم هي إنشاء عائلة من الأجهزة التي تسمح للناس باستخدام الذكاء الاصطناعي 'لإنشاء جميع أنواع الأشياء الرائعة' ، مشيرًا إلى أن Ive وفريقه قد طوروا بالفعل جهازًا أوليًا. عملت في Apple لأكثر من عقدين من الزمن ، وهو معروف بعمله على iPhone الأيقونية و IMAC وغيرها من التصميمات. كان كبير مسؤولي التصميم في Apple قبل مغادرته الشركة في عام 2019 لبدء شركة التصميم الخاصة به ، والتي تسمى LoveFrom. ساهم في هذا التقرير.

نافذة على العالم

منذ 11 ساعات

• نافذة على العالم

أخبار العالم : طحنون بن زايد يعلن إطلاق مشروع مجمع الذكاء الاصطناعي في فرنسا

الأربعاء 21 مايو 2025 04:01 مساءً نافذة على العالم - قال سمو الشيخ طحنون بن زايد آل نهيان نائب حاكم إمارة أبوظبي مستشار الأمن الوطني، عبر منصة «إكس»: «في خطوة استراتيجية تعكس الالتزام بالاستثمار في أدوات المستقبل، يأتي إطلاق مشروع مجمع الذكاء الاصطناعي في فرنسا بالشراكة بين MGX و Bpifrance و Mistral AI و NVIDIA ضمن مسار التعاون الإماراتي-الفرنسي في مجال التكنولوجيا المتقدمة والذكاء الاصطناعي، وتجسيداً للرؤية المشتركة لبناء بنية تحتية رقمية مستدامة وذات سيادة». وأضاف سموه: «دولة الإمارات من خلال شراكاتها الاستراتيجية تواصل دعم الازدهار العالمي من خلال دعم الابتكار والتكنولوجيا المتقدمة وتعزيز التكامل الدولي في هذا المجال، وتسخير الذكاء الاصطناعي لخدمة المجتمعات وتعزيز جودة الحياة». وتابع سموه: «ويمثل هذا التعاون نموذجاً عالمياً لتطوير بنية تحتية تدعم الذكاء الاصطناعي الشامل، وتفتح آفاقاً جديدة للبحث العلمي والابتكار والنمو الاقتصادي المستدام».

الجمهورية

منذ يوم واحد

• الجمهورية

الذكاء الاصطناعي.. رفيقك اليومي لكل المهام

بما في ذلك كل محادثة، وكتاب مقروء، ورسالة مستلمة، وحتى البيانات من مصادر أخرى. وحسب ألتمان، فإن الجهاز المستقبلي سيكون نظاما مدمجا خاصا بمعالجة المعلومات بسعة سياق هائلة تصل إلى تريليونات الوحدات ("الرموز"). وسيتمكن المستخدم من دمج كل حياته فيه: أي أحداث، سواء كانت محادثات، قراءة كتب أو لحظات أخرى. سيكون هذا النظام بمثابة مستودع شامل للذكريات، يوفر إمكانية العودة الفورية إلى أي حدث من الماضي بفضل واجهة مدروسة وآليات بحث سريعة. وأضاف أن الشركات يمكنها استخدام هذه التكنولوجيا لجميع بياناتها، مما يفتح آفاقا جديدة لتطبيقاتها واسعة النطاق على مستوى المؤسسة. كما أشار إلى توجه ملحوظ لاستخدام الأشخاص في سن 20-30 سنة روبوت الدردشة كمرشد للحياة، بينما يراه الجيل الأكبر سنا بديلا عن محرك البحث غوغل. وهذا الاختلاف في الاستخدام يسلط الضوء على كيفية تكييف الأجيال المختلفة مع الذكاء الاصطناعي وفقا لاحتياجاتهم. وتشمل الأمثلة العملية على استخداماته: التخطيط التلقائي لتغيير زيت السيارة. تنظيم رحلات لحضور حفلات الزفاف خارج المدينة مع طلب الهدايا. الحجز المسبق للمجلد التالي من السلسلة الكتابية المفضلة، وما إلى ذلك. كل هذه الأمثلة توضح كيف يمكن أن يصبح ChatGPT مساعدا لا غنى عنه في تبسيط المهام اليومية. ورغم الآفاق المثيرة، فإن الوثوق الكامل بشركة تكنولوجية كبيرة تثير مخاوف جدية. كما تظل مخاطر التلاعب والتحيز والمعلومات المضللة من قبل الذكاء الاصطناعي مشكلة كبيرة.