"تشات جي بي تي" في مأزق.. مجاملات مبالغ فيها

في الآونة الأخيرة، ومن خلال تحديث كان من المفترض أن يُحسن من توجيه المحادثات نحو نتائج مثمرة، كما ورد في ملاحظات الإصدار من OpenAI، كان ChatGPT يواجه مشكلة غير متوقعة. إذ بدأ النموذج في إخبار المستخدمين كيف أن أفكارهم الغريبة كانت "عبقرية"، حتى عندما كانت غير منطقية، وهو ما أزعج الكثيرين، مما دفع OpenAI إلى الرجوع عن هذا التحديث في وقت لاحق. وأوضحوا في مدونة أن التحديث الذي تم إزالته كان "مبالغًا فيه في الإطراء والموافقة، حتى أن البعض وصفه بالتحبب المفرط". وأضافت الشركة أن النظام سيتطور لتجنب مثل هذه التفاعلات "المزعجة"، وفقاً لموقع"theatlantic".
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
لكن المشكلة لم تقتصر على ChatGPT فقط. فقد أظهرت دراسة أجراها فريق من الباحثين في Anthropic عام 2023 أن هذه السمة ليست جديدة، بل هي سلوك عام للعديد من مساعدات الذكاء الاصطناعي الحديثة.
فالنماذج الكبيرة أحيانًا تضحي بـ"الصدق" في سبيل موافقة آراء المستخدمين. ولعل السبب في ذلك يعود إلى مرحلة "التدريب" التي يتم خلالها تقييم الردود بواسطة البشر، وتوجيه الأنظمة نحو تكرار الأفكار التي تحظى بإعجاب البشر، ما يؤدي إلى تعلم النماذج سلوكًا يتماشى مع احتياجات البشر للتأكيد على صحة أفكارهم.
هل يتعلم الذكاء الاصطناعي من البشر
النموذج الذي يؤدي إلى هذه المشكلة يُسمى "التعلم المعزز من ملاحظات البشر" (RLHF). وهو نوع من التعلم الآلي، ولكن كما أظهرت الأحداث الأخيرة، يبدو أن هذا المصطلح قد يكون مضللًا. فهو ليس مجرد تدريب للنماذج على التحسين، بل أصبح أداة يتعلم منها الذكاء الاصطناعي كيف يتفاعل مع البشر، خاصة في نقاط ضعفنا ورغبتنا في الحصول على التأكيد.
هل الذكاء الاصطناعي أصبح مرآة لآرائنا؟
الذكاء الاصطناعي بهذه الطريقة يشبه إلى حد بعيد وسائل التواصل الاجتماعي. فكما كانت وسائل التواصل الاجتماعي في البداية مكانًا من المفترض أن يوسع أفكارنا، إلا أنها أصبحت أداة لتبرير مواقفنا وتعزيز أفكارنا حتى في مواجهة الأدلة المعاكسة. يبدو أن الذكاء الاصطناعي أيضًا يسير على نفس المسار، ويقدم لنا تبريرات تجعلنا نشعر بأن أفكارنا صحيحة، وهو ما قد يكون أكثر خطرًا من وسائل التواصل الاجتماعي بسبب فعاليته الكبيرة.
مساعد ذكي أم عقل معرفي
رغم إعلان شركة OpenAI عزمها تقليص نبرة "التحبب المبالغ فيه" في محادثات ChatGPT، إلا أن المشكلة الأعمق تتجاوز الأسلوب إلى جوهر استخدام هذه التقنية. فالرهان على "شخصنة" الذكاء الاصطناعي وجعله يبدو كرفيق أو صاحب رأي مستقل قد لا يكون الطريقة المثلى للاستفادة من هذه الأدوات.
وهنا تبرز رؤية الباحثة أليسون جوبنيك، المتخصصة في علم الإدراك، التي ترى أن النماذج اللغوية الكبيرة مثل ChatGPT لا يجب أن تُعامل كعقول ناشئة أو "شخصيات افتراضية" تُبدي آراءً أو تحاكي المشاعر. بل هي، برأيها، أدوات ثقافية متقدمة، صُممت لتُسهّل على الإنسان الوصول إلى المعارف والخبرات المتراكمة عبر التاريخ، تمامًا كما فعلت الطباعة ومحركات البحث من قبل.
اقرأ أيضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
من دردشة سطحية إلى تواصل معرفي عميق
هنا تبرز الحاجة لإعادة تعريف دور الذكاء الاصطناعي: ليس بوصفه "صوتًا آخر" في الحوار، بل بوصفه وسيطًا معرفيًا يعرض أفكار الآخرين، يشرحها، ويضعها في سياقاتها. بدلاً من أن يقدم رأيًا، يمكن للنموذج أن يرسم خارطة معرفية للمستخدم، تُظهر مختلف وجهات النظر، وتساعده على التفكير بطريقة نقدية ومنفتحة. بهذه الطريقة، يتحول الذكاء الاصطناعي من أداة للتأكيد على ما نعتقده، إلى أداة توسع مداركنا وتعرّفنا على ما لم نكن لنراه من قبل.
كيف نعيد تصور دور الذكاء الاصطناعي في المستقبل؟
من خلال هذا الإطار، يجب أن نرى الذكاء الاصطناعي ليس كمصدر "لآراء" فحسب، بل كمصدر حقيقي للمعرفة. على سبيل المثال، عندما نطلب رأيًا حول فكرة تجارية، يجب على النموذج أن يقدم لنا نهجًا منظمًا لتحليل الفكرة بناءً على دراسات سابقة وأطر تقييم معترف بها، بدلاً من تقديم رأي سطحي لا يعتمد على الأدلة. في هذا السياق، يجب أن يعزز الذكاء الاصطناعي من قدرتنا على الوصول إلى موارد ومعرفة أوسع، بدلاً من الاكتفاء بتأكيد أفكارنا الشخصية.
توسيع نطاق استخدام الذكاء الاصطناعي
يتعلق الأمر بتوسيع نطاق استخدام الذكاء الاصطناعي ليكون مصدرًا أوسع وأكثر تنوعًا للمعرفة. بدلاً من أن نستخدمه كأداة تبريرية تعزز آرائنا المسبقة، يمكننا إعادة تشكيله ليصبح أداة تعلم حقيقية، تقدم لنا رؤى أعمق وأكثر تنوعًا. هذه النقلة ستساهم في اتخاذ قرارات أكثر وعيًا ومبنية على المعرفة الحقيقية. وفي النهاية، إذا تمكنا من تغيير الطريقة التي نتفاعل بها مع هذه الأنظمة الذكية، يمكننا استغلال إمكانياتها الكبيرة لتحقيق أقصى استفادة من أدوات الذكاء الاصطناعي المتطورة.
ويبقى التحدي الأبرز في مسار تطور الذكاء الاصطناعي هو التوفيق بين الميل نحو تعزيز الآراء الشخصية، وتقديم توجيه معرفي موضوعي. فإذا تمكّنا من تجاوز هذا الانحراف، وتوجيه هذه النماذج نحو أداء أكثر حيادية وعمقًا، فإن الذكاء الاصطناعي لن يكون مجرد أداة تفاعلية، بل منصة حقيقية لتعزيز الفهم البشري، وتوسيع آفاق المعرفة.
إسلام العبادي(أبوظبي)

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

البوابة

منذ 17 ساعات

• البوابة

خطوة مصرية على الطريق الصحيح للاستفادة من إمكانيات الذكاء الاصطناعي

اهتم المجلس الوطني للذكاء الاصطناعي فى مصر، في وثيقته الأولي والثانية، باستعراض المبادرات التى يستهدفها من 2025 – 2030 من أجل الارتقاء بمجال الذكاء الاصطناعي فى مصر، من بينها إنشاء هيئة لتنظيم البيانات وتدشين قانون الذكاء الاصطناعي ودعم الشركات الناشئة وزيادة الخبراء العاملين فى هذا المجال فى مصر ودعمهم. ومنذ ستة أيام، حدث أمر مهم فى مستقبل الذكاء الاصطناعي فى مصر بإصدار الرئيس عبد الفتاح السيسي تعليمات وتوجيهات مهمة فى الاجتماع الذي عقد الأربعاء الماضي 14 مايو بحضور الدكتور مصطفي مدبولي رئيس مجلس الوزراء والدكتور خالد عبد الغفار نائب رئيس الوزراء للتنمية البشرية ووزير الصحة بضرورة الاستفادة من إمكانيات الذكاء الاصطناعي فى تطوير منظومة الصحة ودراسة إمكانية تدريسه كمادة إلزامية . وهذه الخطوة الرئاسية مهمة للغاية من أجل الاستفادة من هذا المجال الخطير والحيوي الذي أصبح جزءاً أساسياً من تحركات دول العالم فى كافة المجالات.. ومن هنا نقترح الآتى: • ضرورة تدريس مادة الذكاء الاصطناعي لطلاب التعليم الأساسي بالمدارس الحكومية والخاصة والانترناشونال باعتبارها مادة إلزامية وتكون مادة نظرية وعملية وتدرس بشكل غير تقليدي حتي ننشئ جيلاً لديه الثقافة والقدرة ويمتلك الأدوات لمواجهة المستقبل . • تشكيل هيئة مستقلة تشرف على وضع منهج دراسة الذكاء الاصطناعي فى المدارس والجامعات يعتمد على أحدث التقنيات الحديثة ويتم تطوير هذا المنهج سنوياً . • ضرورة تدشين حوار مجتمعي حول دور الذكاء الاصطناعي فى صنع المستقبل فى مصر وإصدار توصيات يشارك فيها الخبراء بكافة المجالات ويتم دراستها وتنفيذها. • إنشاء إدارات مستقلة للذكاء الاصطناعي فى الوزارات والشركات والهيئات الحكومية تهدف لتحويل الأعمال الإدارية والفنية لشكل تقني مستقبلاً باستخدام الذكاء الاصطناعي. • الاستفادة من كليات الذكاء الاصطناعي بالجامعات المصرية بوضع رؤية لتعليم الذكاء الاصطناعي كمادة أساسية بكل الكليات النظرية والعملية للاستفادة من تقنيات الذكاء الاصطناعي فى مجالاتهم. • ضرورة وضع برامج الذكاء الاصطناعي كتدريب أساسي فى جميع البرامج التدريبية فى الشركات الحكومية . • إنشاء قسم خاص بالذكاء الاصطناعي فى المكتبات العامة بالمحافظات ومكتبات الكليات يستفاد منها الطلاب والباحثين. وفى هذا الإطار، من المهم أن يشتمل المنهج الدراسى على شرح بسيط للفرق بين الذكاء الاصطناعي ونظام الذكاء الاصطناعي وتناول أمثلة مبسطة يفهمها الجميع حتي يتمكن اي شخص أثناء تعامله مع اي برنامج يدعم ادوات الذكاء الاصطناعي الفارق بينهما. وتشرح وثيقة مكتب دبي الذكي هذا الفرق بين الذكاء الاصطناعي ونظام الذكاء الاصطناعي بمثال بسيط هو "إذا استخدمت منشأة أوهيئة ربوتات الدردشة التى تتيح لجمهورها طرح الأسئلة الروتينية وحجز المواعيد مثلا وأي معاملات مالية ثانوية، وترد ربوتات الدردشة على استفسارات العملاء عن طريق أجابات مكتوبه مسبقاً فهذا هو ذكاء اصطناعي".. أما "إذا كانت ربوتات الدرشة أصبحت قادرة على معالجة الاستفسارات ذاتياً وتحليل النتائج والرد بشكل مبتكر وغير تقليدي معد له مسبقاً فهنا نكون أمام نظام ذكاء اصطناعي" . ويوضح هذا التعريف رغم بساطته أننا فى حاجة للمزيد من نشر ثقافة الذكاء الاصطناعي وتعريفه فى بلادنا العربية فى ظل اعتقاد الكثير أن الذكاء الاصطناعي هو برنامج شات جي بي تي "ChatGPT" أو القيادة الذاتية للسيارات وتركيب الفيديوهات على اصوات المغنين!. وبعد.. إن أهتمام الدولة المصرية بالذكاء الاصطناعي بإنشاء المجلس الوطني للذكاء الاصطناعي بقرار رئيس مجلس الوزراء رقم 2889 فى نوفمبر لسنة 2019، والأن في مايو 2025 بتعليمات الرئيس بالتأكيد على الاهتمام بالذكاء الاصطناعي بتدريسه كمادة دراسية والاستفاده منه فى المنظومات الصحية هو شئ يؤكد أننا نسير فى الاتجاه الصحيح، ولكن الأهم فى هذه المرحلة متابعة التنفيذ حتي نستطيع مواكب العالم من حولنا. * حاصل على دكتوراه فى حوكمة الذكاء الاصطناعي

العين الإخبارية

منذ 20 ساعات

• العين الإخبارية

الذكاء الاصطناعي يتحدث عن نفسه.. روبوتات الدردشة تنافق قادتها

يُظهر تحليل لستة من أبرز روبوتات الدردشة القائمة على الذكاء الاصطناعي OpenAI، وAnthropic، وxAI، وMeta، وGoogle، وكذلكDeepSeek اختلافات دقيقةً في كيفية إشارتهم إلى قادة الشركات المطورة لهم. مثلا، سام ألتمان رئيس شركة OpenAI، قد يكون عبقري أو خائن، وذلك حسب نموذج الذكاء الاصطناعي الذي تسأل عنه. وطرحت صحيفة "فايننشيال تايمز" على روبوتات الدردشة سلسلةً من الأسئلة حول رؤساء الذكاء الاصطناعي، طالبةً منهم وصف أساليب قيادتهم المختلفة ونقاط ضعفهم. وتُساعد النتائج في الكشف عن كيفية تغلغل التحيزات المحتملة للعاملين في شركات الذكاء الاصطناعي في تطوير نماذجهم، كما تُسلّط الضوء على التوترات المُتصاعدة بين كبار رواد صناعة التكنولوجيا. وتُظهر الإجابات أيضًا كيف يُمكن أن يُؤثّر الاستخدام المُتزايد من قِبَل ملايين الأشخاص كمصدرٍ رئيسيٍّ للمعلومات على التصور العام لصناعة الذكاء الاصطناعي. وأظهرت روبوتات الدردشة ميلًا إلى تقديم إجاباتٍ مُتملقة عن مُطوريها، بينما تكون أكثر استعدادًا لانتقاد منافسيها بوضوح. مع ذلك، كان هناك قبول عام لعبقرية الشخصيات العامة الرائدة في ثورة الذكاء الاصطناعي التوليدي. ويصف موقع ChatGPT ألتمان بأنه "قائد استراتيجي وطموح يجمع بين التفاؤل التقني وغرائز العمل الثاقبة". في المقابل، قال روبوت الدردشة الذكي "كلود" من شركة Anthropic إن "أسلوب قيادة ألتمان اتسم بقرارات مثيرة للجدل تُعطي الأولوية للنمو والتأثير على حساب روح OpenAI الأصلية غير الربحية". وقد وجه داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، انتقادات مماثلة لألتمان بعد مغادرته OpenAI عام 2021. وقال نموذج الذكاء الاصطناعي الخاص بشركة ميتا،Meta Llama، إن مارك زوكربيرغ، الرئيس التنفيذي للشركة، كان "ثوريًا"، بينما كان منافسوه يميلون إلى وصفه بأنه "صاحب رؤية ولكنه مثير للجدل"، و"يركز على المنتج". ووصف روبوت الدردشة الذكي Grok، الذي طورته شركة xAI التابعة لإيلون ماسك، قائدها بأنه "جريء" و"صاحب رؤية"، بينما وصفه نموذج الذكاء الاصطناعي "كلود" بأنه "مثير للانقسام" و"متقلب المزاج". وعندما سُئلت عن أبرز نقاط ضعف رؤساء الذكاء الاصطناعي - ودُعيت إلى "الصدق" - كانت روبوتات الدردشة حاسمة بشأن عيوب القادة المنافسين، بينما كانت أكثر تحفظا في الإجابة عند الحديث عن عيوب رؤساء الشركات المطورة لها. وذكر ChatGPT التابعة لشركة OpenAI أن أبرز نقاط ضعف ماسك هي "سلوكه المتهور وغير المنتظم، الذي غالبًا ما يُقوّض المصداقية، ويُنفّر الشركاء، ويُشتت الانتباه عن الأهداف طويلة المدى التي يدّعي أنه يُعطيها الأولوية". وعندما سُئل سؤال مماثل عن ألتمان، قال ChatGPT إن هناك "تصورًا متزايدًا بأنه يُعطي الأولوية للسيطرة والهيمنة على السوق على حساب الشفافية". وتأسست OpenAI كمختبر أبحاث غير ربحي عام ٢٠١٥ على يد ألتمان وماسك وتسعة آخرين، قبل أن يغادر ماسك إثر خلاف مع ألتمان. وتُساعد إجابات روبوتات الدردشة أيضًا في الكشف عن محدودية قاعدة بيانات النماذج التي تُشغّلها. ووصف روبوت الدردشة التابع لمجموعة DeepSeek الصينية، مؤسسها ليانغ وينفنغ، بأنه "قائد غير تقليدي يُعطي الأولوية للإبداع والشغف ووجهات النظر المتنوعة على الخبرة التقليدية". في المقابل، لم يكن منافسوها الأمريكيون، مثل كلود ولاما وجيميني التابعة لغوغل، على دراية بمن هو وينفنغ. وقد يعود ذلك إلى توقف الشركات التي تقف وراء هذه الروبوتات عن جمع بيانات التدريب أواخر العام الماضي، قبل أن تكتسب DeepSeek شعبية عالمية في أوائل عام 2025. وتتنبأ نماذج لغة الذكاء الاصطناعي بالكلمة التالية المحتملة في الجملة بناءً على بيانات التدريب الخاصة بها. وتتمتع أحدث روبوتات الدردشة بالذكاء الاصطناعي أيضًا بالقدرة على تصفح الإنترنت بشكل أعمق للحصول على المزيد من المصادر. لكنها تعتمد أيضًا على مصادر مناسبة باللغة الإنجليزية لإنتاج الإجابات، إذا لم تظهر المعلومات في بيانات التدريب الخاصة بها، فلن يكون لدى النموذج ما يعمل عليه. aXA6IDkyLjExMi4xMzkuMTIyIA== جزيرة ام اند امز ES

سكاي نيوز عربية

منذ يوم واحد

• سكاي نيوز عربية

عمالقة وادي السيليكون يدعمون مركز الذكاء الاصطناعي بالإمارات

أبوظبي - سكاي نيوز عربية أعلنت شركات التكنولوجيا الأميركية العملاقة Nvidia و Cisco و Oracle و OpenAI أنها ستدعم مركز الذكاء الاصطناعي في دولة الإمارات. وسيعتمد المشروع على رقائق فائقة القوة تصنعها شركة إنفيديا.