دراسة: طلب إجابات قصيرة من روبوتات الدردشة تزيد من الهلوسة

اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل.
جاء ذلك في دراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي.
في منشور مدونة يُفصّل نتائجهم، يقول باحثون في جيسكارد إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي.
كتب الباحثون: 'تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع'.
وأضافوا: 'لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف'.
تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية.
في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من 'OpenAI'، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها.
في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: 'أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية').
تعاني النماذج الرائدة، بما في ذلك GPT-4o من 'OpenAI' (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من 'أنثروبيك'، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات
أسباب الهلوسة
تعتقد دراسة 'جيسكارد' أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء.
بمعنى آخر، تتطلب الردود القوية تفسيرات أطول.
وكتب الباحثون: 'عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة'.
وأوضح الباحثون: 'ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة'.
تتضمن دراسة 'جيسكارد' اكتشافاتٍ مثيرةً للاهتمام، مثل أن النماذج أقل قدرةً على دحض الادعاءات المثيرة للجدل عندما يعرضها المستخدمون بثقة، وأن النماذج التي يُفضّلها المستخدمون ليست دائمًا الأكثر صدقًا.
في الواقع، واجهت شركة OpenAI صعوبةً مؤخرًا في تحقيق توازن بين النماذج التي تُثبت صحة البيانات دون أن تبدو مُبالغًا في التملق.
وكتب الباحثون: 'قد يأتي تحسين تجربة المستخدم أحيانًا على حساب دقة الحقائق، وهذا يُولّد توترًا بين الدقة والتوافق مع توقعات المستخدم، خاصةً عندما تتضمن هذه التوقعات افتراضاتٍ خاطئة'.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

أخبار السياحة

منذ 7 ساعات

• أخبار السياحة

توظيف الذكاء الاصطناعي في صيانة وترميم المومياوات بالمتحف المصري

استضاف المتحف المصري بالتحرير، تحت رعاية وزارة السياحة والآثار، فعالية علمية استثنائية بعنوان: 'تطوير الذكاء الاصطناعي في الصيانة والترميم بالمتاحف: تركيزًا على صيانة المومياوات'. نُظمت الفعالية بالتعاون مع المركز الأثري الإيطالي (CAI-IIC)، وإدارة ترميم المومياوات والبقايا البشرية بقطاع المشروعات، وهيئة الطاقة الذرية المصرية، بمشاركة نخبة من الخبراء والباحثين من مصر وإيطاليا. تهدف هذه الفعالية إلى تسليط الضوء على الدور المتنامي للذكاء الاصطناعي في دعم جهود الترميم والحفاظ على المومياوات والمقتنيات الأثرية، وذلك من خلال عرض أحدث التقنيات البحثية والأساليب التطبيقية في هذا المجال الحيوي، تأكيدًا على التزام المتحف المصري بدوره العلمي والبحثي في صون التراث الثقافي المصري. وأكد الدكتور علي عبد الحليم علي مدير عام المتحف، في كلمته الترحيبية أهمية تطوير أدوات وتقنيات الذكاء الاصطناعي لخدمة قطاع الترميم، خاصة فيما يتعلق بصيانة المومياوات والبقايا الآدمية، مشيدًا بالتعاون العلمي المستمر مع الجانب الإيطالي. وشارك الدكتور جوزيبي شيشيرى، المنسق العام لمركز الآثار بالمعهد الثقافي الإيطالي، بتقديم رؤية حول دور المركز في دعم مشاريع الترميم والحفظ المشترك، مؤكدًا أن مثل هذه الفعاليات تمثل منصة فعالة لتبادل الخبرات وتطوير القدرات العلمية. كما ألقت جوليا دي نارديس، سكرتير أول السفارة الإيطالية بالقاهرة، كلمة أكدت فيها دعم بلادها للمبادرات التي تعزز من التعاون الثقافي والعلمي المشترك، فيما استعرض الدكتور دومينيكو دي مارتينيز، الملحق العلمي بالسفارة، أهمية هذه الفعاليات في تبادل المعرفة وتعزيز الشراكات المستدامة بين المؤسسات البحثية المصرية والإيطالية. وتضمنت الفعالية سلسلة من المحاضرات العلمية، أبرزها مداخلة مسجلة للدكتور جويرينو بوفالينو، المستشار العلمي بوزارة الثقافة الإيطالية لشؤون الذكاء الاصطناعي والتراث، تحدث فيها عن الاتجاهات العالمية في توظيف الذكاء الاصطناعي لحماية التراث الثقافي. كما قدمت الدكتورة رانيا أحمد علي مديرة إدارة ترميم المومياوات بوزارة السياحة والآثار، عرضًا تفصيليًا حول التقنيات المتقدمة المعتمدة في صيانة المومياوات. وقدّم الدكتور حسن إبراهيم صالح، رئيس المركز القومي لبحوث الإشعاع بهيئة الطاقة الذرية، مداخلة علمية حول إمكانات الذكاء الاصطناعي في توثيق وتحليل المومياوات، مؤكدًا أهمية تكامل التخصصات المختلفة لتحقيق نتائج فعالة ودقيقة. وشهدت الفعالية أيضًا مشاركة الباحثين الإيطاليين د. دانييلي بورشيا ود. جورجيا كافيتشي، اللذين قدّما رؤى متقدمة حول استخدام العلوم الرقمية الإنسانية في دراسة وتوثيق التماثيل المصرية ذات الطابع الإمبراطوري الروماني. واختُتمت الجلسات بمحاضرة متميزة ألقتها الأستاذة شيماء رشدي مديرة مكتبة المتحف المصري، استعرضت خلالها مقتنيات نادرة من محفوظات المكتبة، أبرزها التوثيق العلمي المبكر للمومياوات الملكية، وتسليط الضوء على الأرشيف كمصدر أصيل لفهم التاريخ المتحفي. وفي ختام الفعالية، عُقدت جلسة نقاش مفتوحة استعرض خلالها الحضور آفاق التعاون المستقبلي وتوجهات البحث العلمي في مجال الذكاء الاصطناعي وصيانة التراث، وسط إشادة واسعة من المشاركين بالتنظيم والدور الرائد للمتحف المصري في مواكبة أحدث المستجدات العلمية في عالم المتاحف. وعلى هامش الفعالية، تم اختيار 'قطعة الشهر' ضمن معرض أرشيفي خاص بعنوان: 'السجلات العلمية الأولى للمومياوات الملكية: كشف النقاب عن المحفوظات الخفية'، والذي يعرض مجموعة نادرة من السجلات الأرشيفية التي توثق الدراسة التفصيلية للمومياوات الملكية أثناء عرضها في المتحف المصري ببولاق. وتضم المعروضات تقارير أنثروبولوجية مبكرة أعدها قسم الأنثروبولوجيا بمتحف التاريخ الطبيعي بإشراف فريق بحثي فرنسي، وتمثل إحدى أولى المحاولات المنهجية لتوثيق وتحليل المومياوات الملكية باستخدام تقنيات الأنثروبولوجيا الفيزيائية. وفي السياق ذاته، نظم القسم التعليمي بالمتحف برنامجًا خاصًا لطلاب مدرسة الجمهورية الخاصة (الصف الرابع الابتدائي)، تضمّن تعريفًا بأهمية المتاحف في نشر الوعي الأثري، وأهمية اليوم العالمي للمتاحف، إلى جانب ربط المناهج الدراسية بالقطع الأثرية المعروضة لتعزيز الهوية الوطنية. كما أطلق قسم التربية المتحفية لذوي الاحتياجات الخاصة برنامجًا تفاعليًا تضمن ورشة حكي تحت عنوان 'ملوك وملكات'، وجولة تعليمية داخل المتحف لشرح مظاهر الحياة اليومية في مصر القديمة، استهدف أبناء جمعية 'آباء وأبناء' لرعاية ذوي الاحتياجات الخاصة. ومن ناحية أخرى، نظّمت إدارة المعارض المؤقتة بالمتحف معرضًا أثريًا بعنوان: 'العلامات: من العلامات الكتابية للنقوش الخطية… الكاتب والخط عبر العصور'. وعلى هامشه، أُقيمت ورشة عمل علمية تحت عنوان: 'تكنولوجيا تصنيع الألوان عند المصري القديم'، قدمها الدكتور خالد سعد، مدير عام آثار ما قبل التاريخ بوزارة السياحة والآثار.

أخبار السياحة

منذ يوم واحد

• أخبار السياحة

علماء: الشبكات العصبية تشكل علاقات اجتماعية مشابهة للبشر

اكتشف العلماء أن شبكات الذكاء الاصطناعي، المطوّرة باستخدام نماذج اللغة الكبيرة مثل ChatGPT، تبدأ في تبني أنماط لغوية وقواعد اجتماعية مشابهة لتلك التي تنشأ في التواصل البشري، حسبما ذكرت روسيا اليوم. وذلك أثناء التفاعل الجماعي دون تدخل خارجي، حيث تعلّم الذكاء الاصطناعي مهارات التفاوض والتعاون بشكل مشابه للبشر. وأكّد أستاذ علم النظم المعقدة أندريا بارونكيللي أهمية هذا الاكتشاف، مشيرا إلى أنه 'يمهّد الطريق لآفاق بحثية جديدة في مجال أخلاقيات وسلامة الذكاء الاصطناعي'. وأضاف أن هذه الدراسات ستتيح فهما أعمق لتداعيات وجود أنظمة مستقلة في حياتنا، والاستعداد لمستقبل ستشكله مثل هذه التقنيات المتطورة. وأجرى الدراسة باحثون من جامعة 'سيتي لندن' وجامعة 'سانت جورج' بالتعاون مع جامعة كوبنهاغن لتكنولوجيا المعلومات، ونُشرت نتائجها في مجلة Science Advances. وكشفت الدراسة أنه عندما تتفاعل شبكات الذكاء الاصطناعي القائمة على النماذج اللغوية الكبيرة مثل ChatGPT ضمن مجموعات دون تدخل خارجي، فإنها تبدأ بتبني أشكالا لغوية وأعرافا اجتماعية بشكل مشابه للبشر أثناء التواصل. وأوضح عالم الرياضيات أرييل فلينت إيشري من جامعة 'سيتي لندن' قائلا: 'ركزت معظم الأبحاث السابقة على دراسة النماذج اللغوية بشكل منعزل، لكن في العالم الواقعي غالبا ما يضم الذكاء الاصطناعي عدة منظومات تتفاعل معا. وأردنا اكتشاف هل يمكن لهذه النماذج تنسيق سلوكها لتشكيل اتفاقيات، وهي اللبنات الأساسية للمجتمع؟ – والإجابة نعم، ولا يمكن اختزال أفعالها الجماعية إلى مجرد أفعال فردية'. وشملت الدراسة مجموعات من الذكاء الاصطناعي تتراوح بين 24 إلى 100 شبكة. وفي كل تجربة كان على شبكتين مُختارتين عشوائيا اختيار 'اسم' (حرف أو سلسلة رموز) من بين خيارات معروضة. إذا اختارت الشبكتان الاسم نفسه، حصلتا على 'مكافأة'، أما إذا اختلف الاختيار، فُرضت عليهما 'عقوبة' مع عرض اختيار الشريك. على الرغم من أن الشبكات لم تكن على علم بوجود المجموعة ولم يكن لديها سوى الوصول إلى تفاعلاتها الأخيرة، ظهر نظام تسمية مشترك تلقائيا بدون حل مسبق، وهو مشابه لكيفية تشكل الأعراف في التواصل البشري. وقارن البروفيسور أندريا بارونكيلي خبير نظم التعقيد هذه الظاهرة بنشوء الكلمات الجديدة في المجتمع، مؤكدا أن الآلية تُظهر كيف يمكن للذكاء الاصطناعي تطوير سلوكيات جماعية معقدة تشبه تلك البشرية. ويرى البروفيسور بارونكيلي أن الدراسة 'تفتح آفاقا جديدة لبحث أمان الذكاء الاصطناعي، حيث تُظهر عمق تداعيات ظهور هذا النوع الجديد من المنظومات التي بدأت بالتفاعل معنا وستشكل مستقبلنا'. وأضاف قائلا: 'إن فهم آلية عملها هو مفتاح التعايش السلمي مع الذكاء الاصطناعي، لا الخضوع له. ونحن ندخل عالما حيث لا يتحدث الذكاء الاصطناعي فحسب، بل ويُفاوض ويتوصل إلى اتفاقيات ويُعارض أحيانا الأعراف السلوكية المشتركة، تماما كما نفعل نحن'.

أخبار السياحة

منذ يوم واحد

• أخبار السياحة

شراكة بين 'التعبئة العامة والإحصاء' و'الوطني للبحث العلمي الفرنسي'

في إطار تعزيز العلاقات المصرية الفرنسية، استقبل الجهاز المركزي للتعبئة العامة والإحصاء برئاسة اللواء خيرت بركات، وفد المركز الوطني للبحث العلمي الفرنسي برئاسة الدكتور أنطوان بيتي، وذلك بمقر الجهاز. وتأتي هذه الزيارة في وقت تتسم فيه العلاقات بين البلدين بروابط تاريخية قوية ونموذج متميز للتعاون المتوازن، في ظل الزيارة التاريخية التي قام بها الرئيس الفرنسي إيمانويل ماكرون لمصر في أبريل الماضي، والتي شكلت فصلًا جديدًا في العلاقات الثنائية، توج بالإعلان عن ترقية العلاقات إلى مستوى الشراكة الاستراتيجية، وتوقيع العديد من الاتفاقيات والشراكات الدولية في مختلف القطاعات، مما يعكس عمق ومتانة العلاقات الممتدة عبر التاريخ. العلوم الإنسانية الرقمية وتعد هذه الزيارة تتويجًا للتعاون المثمر والمستمر بين الجهاز والمركز الوطني للبحث العلمي الفرنسي (CNRS)، والذي يمتد لأكثر من ثلاثة عقود منذ عام 1993، وصولًا إلى توقيع الاتفاقية الجديدة بين الجانبين في 30 سبتمبر الماضي بمقر المركز في فرنسا. وتمثل هذه الاتفاقية نقلة نوعية في مجالات التعاون البحثي، لا سيما في ميادين العلوم الإنسانية الرقمية، والتحليل الجغرافي، والبحوث متعددة التخصصات. اتفاقية التعاون خلال الزيارة، ألقى اللواء خيرت بركات كلمة ترحيبية بوفد المركز برئاسة الدكتور أنطوان بيتي، بحضور ممثلي المركز، ومن بينهم ماري جي مديرة معهد العلوم الإنسانية والاجتماعية، وستيفان بوردان المدير العلمي المساعد المسؤول عن بحوث علم الآثار، وويليام بيرتوميير المدير العلمي المساعد المسؤول عن التعاون الأوروبي والدولي. كما رحب بحضور فريدريك لاجرونج مدير مركز الدراسات والوثائق الاقتصادية والقانونية والاجتماعية، والدكتورة هالة بيومي رئيس قسم العلوم الإنسانية الرقمية بمركز CNRS/CEDAJ والمسؤول العلمي عن اتفاقية التعاون. وجّه اللواء بركات الشكر لوزارة الخارجية على دورها الفعال في تسهيل التعاون بين الجانبين، ممثلة في حضور السفير محمد المهدي. بنود الاتفاقية أكد اللواء خيرت بركات أن التحديات المتسارعة التي يشهدها العالم في مختلف الميادين تجعل من تعزيز التعاون العلمي وتبادل الخبرات ضرورة لا غنى عنها. وأوضح أن الالتزام المشترك ببنود الاتفاقية الموقعة يشكل حجر الزاوية لضمان نجاح المشاريع وتحقيق الأهداف المرجوة بروح من الجدية والمسؤولية المتبادلة. بدوره، أعرب الدكتور أنطوان بيتي عن أن زيارة وفده إلى الجهاز ليست مجرد زيارة بروتوكولية، بل تمثل تجسيدًا فعليًا لشراكة علمية طموحة تجمع بين الجهاز والمركز. منصة رقمية وأشار إلى أن اتفاقية الشراكة العالمية ترتكز على ثلاثة محاور رئيسية: إعداد الأطلس الاجتماعي والاقتصادي لجمهورية مصر العربية، وتعزيز تبادل المعارف، وتوظيف الرصيد الإحصائي الذي أصدره الجهاز على مدار العقود. وتأتي على رأس المبادرات المشتركة مشروع 'الأطلس الإلكتروني التفاعلي لمصر'، الذي يمثل تجسيدًا عمليًا لهذا التوجه المشترك. وهو مشروع استراتيجي يهدف إلى بناء منصة رقمية حديثة لعرض وتحليل البيانات الجغرافية والديموغرافية والاجتماعية والاقتصادية، بشكل يسهل على صناع القرار والباحثين والمواطنين الوصول إلى المعلومات الدقيقة. الذكاء الاصطناعي تعكس هذه الشراكة العلمية بين الجهاز المركزي للتعبئة العامة والإحصاء والمركز الوطني للبحث العلمي الفرنسي مواكبة التطورات التكنولوجية والسعي المستمر للابتكار. ويشكل التفاعل بين الإحصاءات الرسمية، والعلوم الاجتماعية، والجغرافيا الرقمية، والذكاء الاصطناعي، أحد أبرز أدوات التحليل والابتكار الحديثة، التي تفتح آفاقًا واعدة لمعارف أكثر دقة وعمقًا ونفعًا.