دراسة: طلب إجابات قصيرة من روبوتات الدردشة تزيد من الهلوسة

اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل.
جاء ذلك في دراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي.
في منشور مدونة يُفصّل نتائجهم، يقول باحثون في جيسكارد إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي.
كتب الباحثون: "تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع".
وأضافوا: "لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف".
تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية.
في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من "OpenAI"، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها.
في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: "أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية").
تعاني النماذج الرائدة، بما في ذلك GPT-4o من "OpenAI" (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من "أنثروبيك"، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات.
اسباب الهلوسة
تعتقد دراسة "جيسكارد" أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء.
بمعنى آخر، تتطلب الردود القوية تفسيرات أطول.
وكتب الباحثون: "عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة".
وأوضح الباحثون: "ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة".
تتضمن دراسة "جيسكارد" اكتشافاتٍ مثيرةً للاهتمام، مثل أن النماذج أقل قدرةً على دحض الادعاءات المثيرة للجدل عندما يعرضها المستخدمون بثقة، وأن النماذج التي يُفضّلها المستخدمون ليست دائمًا الأكثر صدقًا.
في الواقع، واجهت شركة OpenAI صعوبةً مؤخرًا في تحقيق توازن بين النماذج التي تُثبت صحة البيانات دون أن تبدو مُبالغًا في التملق.
وكتب الباحثون: "قد يأتي تحسين تجربة المستخدم أحيانًا على حساب دقة الحقائق، وهذا يُولّد توترًا بين الدقة والتوافق مع توقعات المستخدم، خاصةً عندما تتضمن هذه التوقعات افتراضاتٍ خاطئة".

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الرجل

منذ ساعة واحدة

• الرجل

Veo 3 من جوجل يشعل الإنترنت بفيديوهات شبه حقيقية!

أطلقت شركة جوجل أداة الذكاء الاصطناعي الجديدة "Veo 3" لإنشاء الفيديوهات، لتُحدث صدمة في الإنترنت بعد تداول مقاطع يصعب على المشاهد العادي تمييزها عن الأعمال المصوّرة بكاميرات حقيقية، وبواسطة ممثلين حقيقيين. وتُعد Veo 3، التي كُشف عنها خلال مؤتمر Google I/O الأخير، نقلة نوعية في عالم المحتوى المرئي المُنتج بواسطة الذكاء الاصطناعي، حيث تجمع بين الواقعية البصرية المتقدمة، والقدرة على توليد حوارات، ومؤثرات صوتية، وموسيقى تصويرية، ما يجعل الناتج شبيهًا إلى حد كبير بالإنتاجات السينمائية. واقعية تُثير الإعجاب والقلق! بخلاف أدوات منافسة مثل Sora من OpenAI، تقدم Veo 3 قدرات معقدة على مزامنة حركة الشفاه بدقة، ومحاكاة قوانين الفيزياء الطبيعية، وإنشاء شخصيات بشرية بأطراف كاملة؛ وقد بدا واضحًا، بحسب الفيديوهات المنتشرة على المنصات الاجتماعية، أن معظم العلامات التي تفضح "الصناعة الاصطناعية" غائبة تقريبًا. في مثال لافت، شارك المخرج وعالم الأحياء هاشم الغيلي عبر منصة X مجموعة من المقاطع القصيرة التي أنشأها باستخدام الذكاء الاصطناعي، تظهر فيها شخصيات رقمية تؤدي أدوارًا تمثيلية تنتقد فيها "مبتكريها"؛ وقد لاقت هذه المقاطع تفاعلًا واسعًا، نظرًا لما حملته من سرد درامي قوي، وبنية بصرية متقنة تُحاكي الإنتاج السينمائي الحقيقي. ورغم ما تحمله Veo 3 من وعود بالتحرّر الإبداعي، عبّر كثير من صنّاع الأفلام التقليديين عن قلقهم من غزو "الفيديو الاصطناعي" لمجالهم، خصوصًا في ظل غياب آليات واضحة لضبط مفاهيم الملكية والموافقة وحقوق النشر. تحولات في صناعة الفيديو في مقطع ترويجي لأداة Flow من جوجل، التي تتضمن تقنية Veo 3، عبّر المخرج ديف كلارك عن انطباعه تجاه الأداة قائلًا: "يبدو أنها تبني على نفسها، وكأن لديها نوعًا من الوعي الذاتي البسيط"، في إشارة إلى الإحساس الغريب والمبهم الذي يصاحب التعامل مع هذه التقنية المتقدمة. ورغم الثناء الكبير الذي حظيت به Veo 3، أشار تحقيق نشره موقع 404 Media إلى أن الأداة تُظهر في بعض الحالات ميلًا لتكرار النكات أو المشاهد، ما أثار تساؤلات حول مصادر البيانات التي تم تدريب النموذج عليها، ومدى أصالة المحتوى الذي ينتجه؛ وفي واقعة لافتة، لاحظ اليوتيوبر ماركيس براونلي تطابقًا ملحوظًا بين أحد مشاهد الفيديوهات المُولدة عبر Veo 3 ونبتة صناعية شهيرة تظهر في خلفية مقاطع قناته، في إشارة محتملة إلى استخدام محتوى منشئي يوتيوب ضمن مواد التدريب دون الإفصاح عن ذلك. وبينما تستمر التقنية في التقدّم بسرعة مذهلة، تبقى التساؤلات الكبرى حول حقوق المبدعين، ومفهوم المؤلف، والمستقبل المهني لصناعة السينما، دون إجابات حاسمة. ومع اتساع الفجوة بين ما هو حقيقي وما تصنعه الخوارزميات، يبدو أن Veo 3 ليست مجرد أداة، بل مؤشر على تحوّل جذري قادم لا محالة.

مباشر

منذ ساعة واحدة

• مباشر

أبل تخطط لإطلاق نظارات ذكية في 2026

مباشر- قالت وكالة بلومبرج نيوز أمس الخميس إن أبل تخطط لإطلاق نظارات ذكية في نهاية العام المقبل، في أحدث مسعى لمصنعة هواتف آيفون لتنويع منتجاتها وتعزيز الطلب على أجهزتها التي تعمل بالذكاء الاصطناعي. ونقل التقرير عن مصادر مطلعة أن أبل ستبدأ في إنتاج كميات كبيرة من النماذج الأولية للأجهزة في نهاية هذا العام مع موردين من الخارج. وتتوجه الشركة نحو النظارات بعد أن شهدت وحدات فيجن برو إقبالا فاترا من المستهلكين بسبب سعرها الباهظ وافتقارها إلى ميزات الذكاء الاصطناعي. وستنافس نظارة أبل الجديدة نظارة راي بان الذكية الخاصة بشركة ميتا، التي أصبحت تحظى بشعبية لدى المستهلكين. وذكر التقرير أن أبل علقت خططا لإنتاج ساعة ذكية قادرة على تحليل محيطها عن طريق كاميرا مدمجة. وأضاف التقرير أن الشركة كانت تعمل على إصدار ساعة مزودة بكاميرا بحلول عام 2027، ولكن تم إيقاف هذا المشروع.

الرجل

منذ ساعة واحدة

• الرجل

Veo 3 من جوجل يصدم الإنترنت بفيديوهات شبه حقيقية

أطلقت شركة جوجل أداة الذكاء الاصطناعي الجديدة "Veo 3" لإنشاء الفيديوهات، لتُحدث صدمة في الإنترنت بعد تداول مقاطع يصعب على المشاهد العادي تمييزها عن الأعمال المصوّرة بكاميرات حقيقية، وبواسطة ممثلين حقيقيين. وتُعد Veo 3، التي كُشف عنها خلال مؤتمر Google I/O الأخير، نقلة نوعية في عالم المحتوى المرئي المُنتج بواسطة الذكاء الاصطناعي، حيث تجمع بين الواقعية البصرية المتقدمة، والقدرة على توليد حوارات، ومؤثرات صوتية، وموسيقى تصويرية، ما يجعل الناتج شبيهًا إلى حد كبير بالإنتاجات السينمائية. واقعية تُثير الإعجاب والقلق! بخلاف أدوات منافسة مثل Sora من OpenAI، تقدم Veo 3 قدرات معقدة على مزامنة حركة الشفاه بدقة، ومحاكاة قوانين الفيزياء الطبيعية، وإنشاء شخصيات بشرية بأطراف كاملة؛ وقد بدا واضحًا، بحسب الفيديوهات المنتشرة على المنصات الاجتماعية، أن معظم العلامات التي تفضح "الصناعة الاصطناعية" غائبة تقريبًا. في مثال لافت، شارك المخرج وعالم الأحياء هاشم الغيلي عبر منصة X مجموعة من المقاطع القصيرة التي أنشأها باستخدام الذكاء الاصطناعي، تظهر فيها شخصيات رقمية تؤدي أدوارًا تمثيلية تنتقد فيها "مبتكريها"؛ وقد لاقت هذه المقاطع تفاعلًا واسعًا، نظرًا لما حملته من سرد درامي قوي، وبنية بصرية متقنة تُحاكي الإنتاج السينمائي الحقيقي. ورغم ما تحمله Veo 3 من وعود بالتحرّر الإبداعي، عبّر كثير من صنّاع الأفلام التقليديين عن قلقهم من غزو "الفيديو الاصطناعي" لمجالهم، خصوصًا في ظل غياب آليات واضحة لضبط مفاهيم الملكية والموافقة وحقوق النشر. تحولات في صناعة الفيديو في مقطع ترويجي لأداة Flow من جوجل، التي تتضمن تقنية Veo 3، عبّر المخرج ديف كلارك عن انطباعه تجاه الأداة قائلًا: "يبدو أنها تبني على نفسها، وكأن لديها نوعًا من الوعي الذاتي البسيط"، في إشارة إلى الإحساس الغريب والمبهم الذي يصاحب التعامل مع هذه التقنية المتقدمة. ورغم الثناء الكبير الذي حظيت به Veo 3، أشار تحقيق نشره موقع 404 Media إلى أن الأداة تُظهر في بعض الحالات ميلًا لتكرار النكات أو المشاهد، ما أثار تساؤلات حول مصادر البيانات التي تم تدريب النموذج عليها، ومدى أصالة المحتوى الذي ينتجه؛ وفي واقعة لافتة، لاحظ اليوتيوبر ماركيس براونلي تطابقًا ملحوظًا بين أحد مشاهد الفيديوهات المُولدة عبر Veo 3 ونبتة صناعية شهيرة تظهر في خلفية مقاطع قناته، في إشارة محتملة إلى استخدام محتوى منشئي يوتيوب ضمن مواد التدريب دون الإفصاح عن ذلك. وبينما تستمر التقنية في التقدّم بسرعة مذهلة، تبقى التساؤلات الكبرى حول حقوق المبدعين، ومفهوم المؤلف، والمستقبل المهني لصناعة السينما، دون إجابات حاسمة. ومع اتساع الفجوة بين ما هو حقيقي وما تصنعه الخوارزميات، يبدو أن Veo 3 ليست مجرد أداة، بل مؤشر على تحوّل جذري قادم لا محالة.