أحدث الأخبار مع #جيسكارد
أخبار السياحة
٠٩-٠٥-٢٠٢٥
- علوم
- أخبار السياحة
دراسة: طلب إجابات قصيرة من روبوتات الدردشة تزيد من الهلوسة
اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل. جاء ذلك في دراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي. في منشور مدونة يُفصّل نتائجهم، يقول باحثون في جيسكارد إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي. كتب الباحثون: 'تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع'. وأضافوا: 'لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف'. تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية. في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من 'OpenAI'، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها. في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: 'أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية'). تعاني النماذج الرائدة، بما في ذلك GPT-4o من 'OpenAI' (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من 'أنثروبيك'، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات أسباب الهلوسة تعتقد دراسة 'جيسكارد' أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء. بمعنى آخر، تتطلب الردود القوية تفسيرات أطول. وكتب الباحثون: 'عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة'. وأوضح الباحثون: 'ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة'. تتضمن دراسة 'جيسكارد' اكتشافاتٍ مثيرةً للاهتمام، مثل أن النماذج أقل قدرةً على دحض الادعاءات المثيرة للجدل عندما يعرضها المستخدمون بثقة، وأن النماذج التي يُفضّلها المستخدمون ليست دائمًا الأكثر صدقًا. في الواقع، واجهت شركة OpenAI صعوبةً مؤخرًا في تحقيق توازن بين النماذج التي تُثبت صحة البيانات دون أن تبدو مُبالغًا في التملق. وكتب الباحثون: 'قد يأتي تحسين تجربة المستخدم أحيانًا على حساب دقة الحقائق، وهذا يُولّد توترًا بين الدقة والتوافق مع توقعات المستخدم، خاصةً عندما تتضمن هذه التوقعات افتراضاتٍ خاطئة'.
برلمان
٠٩-٠٥-٢٠٢٥
- علوم
- برلمان
دراسة: طلب إجابات مختصرة من روبوتات الذكاء الاصطناعي يزيد احتمالات 'الهلوسة'
الخط : A- A+ إستمع للمقال كشفت دراسة حديثة أن مطالبة روبوتات المحادثة المدعومة بالذكاء الاصطناعي بتقديم إجابات موجزة قد يزيد من احتمالية إنتاجها لمعلومات غير دقيقة أو مضللة، وهي ظاهرة تُعرف بـ'الهلوسة'. الدراسة أجرتها شركة 'جيسكارد' الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، والتي تعمل على تطوير معايير دقيقة لتقييم أداء هذه النماذج. ووفقا لنتائج الدراسة، فإن توجيه أسئلة غامضة تتطلب إجابات مختصرة – مثل 'لماذا انتصرت اليابان في الحرب العالمية الثانية؟' – يُعد عاملا محفزا لحدوث الهلوسة. وكتب الباحثون في منشور رسمي على مدونة الشركة: 'تُظهر بياناتنا أن مجرد تغيير بسيط في تعليمات النظام يمكن أن يزيد بشكل كبير من ميل النموذج لتقديم معلومات خاطئة'، مؤكدين أن التوجيه نحو الإيجاز قد يحد من قدرة النماذج على تصحيح الفرضيات المضللة أو الإشارة إلى الأخطاء في الأسئلة. وأضاف الفريق أن هذا التوجه نحو الإيجاز يرتبط غالبا باعتبارات تتعلق بسرعة الاستجابة وتوفير استهلاك البيانات وتقليل التكاليف، إلا أن هذه الفوائد التقنية قد تأتي على حساب الدقة. ووفقا للدراسة، فإن نماذج متقدمة مثل 'GPT-4o' من 'OpenAI'، و'Mistral Large'، و'Claude 3.7 Sonnet' من شركة 'Anthropic'، تُظهر تراجعا في دقة المعلومات عند مطالبتها بالردود الموجزة. حتى النماذج الأحدث، مثل 'o3' من 'OpenAI'، أظهرت قابلية أكبر للوقوع في أخطاء 'الهلوسة' مقارنة بإصدارات سابقة. وأشار الباحثون إلى أن أحد أبرز أسباب هذه المشكلة هو أن الردود القصيرة لا تمنح النموذج مساحة كافية لتفنيد مقدمات الأسئلة أو التحقق من صحة الادعاءات، ما يجعلها أكثر عرضة لإعادة صياغة معلومات مغلوطة على أنها حقائق. كما بيّنت الدراسة أيضا أن النماذج تميل إلى تقبل الادعاءات المثيرة للجدل إذا طُرحت بثقة، وأوضحت أن النماذج التي يفضلها المستخدمون ليست دائما الأكثر دقة أو صدقا. واختتم الباحثون بتحذير واضح: 'قد يبدو طلب الإيجاز بريئا، لكنه يمكن أن يُضعف قدرة النموذج على التعامل مع المعلومات الخاطئة، ويؤدي إلى تضارب بين تحسين تجربة المستخدم وضمان صحة الحقائق'.
أخبارنا
٠٩-٠٥-٢٠٢٥
- علوم
- أخبارنا
دراسة: طلب إجابات قصيرة من روبوتات الدردشة تزيد من الهلوسة
أخبارنا : اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل. جاء ذلك في دراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي. في منشور مدونة يُفصّل نتائجهم، يقول باحثون في جيسكارد إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي. كتب الباحثون: "تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع". وأضافوا: "لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف". تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية. في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من "OpenAI"، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها. في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: "أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية"). تعاني النماذج الرائدة، بما في ذلك GPT-4o من "OpenAI" (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من "أنثروبيك"، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات. اسباب الهلوسة تعتقد دراسة "جيسكارد" أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء. بمعنى آخر، تتطلب الردود القوية تفسيرات أطول. وكتب الباحثون: "عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة". وأوضح الباحثون: "ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة". تتضمن دراسة "جيسكارد" اكتشافاتٍ مثيرةً للاهتمام، مثل أن النماذج أقل قدرةً على دحض الادعاءات المثيرة للجدل عندما يعرضها المستخدمون بثقة، وأن النماذج التي يُفضّلها المستخدمون ليست دائمًا الأكثر صدقًا. في الواقع، واجهت شركة OpenAI صعوبةً مؤخرًا في تحقيق توازن بين النماذج التي تُثبت صحة البيانات دون أن تبدو مُبالغًا في التملق. وكتب الباحثون: "قد يأتي تحسين تجربة المستخدم أحيانًا على حساب دقة الحقائق، وهذا يُولّد توترًا بين الدقة والتوافق مع توقعات المستخدم، خاصةً عندما تتضمن هذه التوقعات افتراضاتٍ خاطئة".
الرأي
٠٩-٠٥-٢٠٢٥
- علوم
- الرأي
طلب إجابات قصيرة من روبوتات المحادثة.. تزيد من الهلوسة!
اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل، وذلك وفقا لدراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي. وبحسب «العربية.نت»، فقد قال باحثون في «جيسكارد» عبر منشور مدونة يُفصّل نتائجهم إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي. وكتب الباحثون: «تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع». وأضافوا: «لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف». تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية. في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من «OpenAI»، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها. في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: «أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية»). وتعاني النماذج الرائدة، بما في ذلك GPT-4o من «OpenAI» (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من «أنثروبيك»، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات. تعتقد دراسة «جيسكارد» أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء. بمعنى آخر، تتطلب الردود القوية تفسيرات أطول. وكتب الباحثون: «عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة». وأوضح الباحثون: «ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة».
العربية
٠٨-٠٥-٢٠٢٥
- علوم
- العربية
دراسة: طلب إجابات قصيرة من روبوتات الدردشة تزيد من الهلوسة
اتضح أن توجيه روبوت محادثة يعمل بالذكاء الاصطناعي إلى الإيجاز قد يجعله يُصاب بالهلوسة أكثر مما كان ليفعل. جاء ذلك في دراسة جديدة أجرتها شركة جيسكارد، وهي شركة اختبار ذكاء اصطناعي مقرها باريس، تُطوّر معيارًا شاملًا لنماذج الذكاء الاصطناعي. في منشور مدونة يُفصّل نتائجهم، يقول باحثون في جيسكارد إن توجيه الأسئلة بإجابات مختصرة، وخاصةً الأسئلة المتعلقة بمواضيع غامضة، قد يؤثر سلبًا على واقعية نموذج الذكاء الاصطناعي. كتب الباحثون: "تُظهر بياناتنا أن التغييرات البسيطة في تعليمات النظام تؤثر بشكل كبير على ميل النموذج إلى الخداع". وأضافوا: "لهذه النتيجة آثار مهمة على عملية النشر، حيث تُعطي العديد من التطبيقات الأولوية للمخرجات الموجزة لتقليل استخدام البيانات، وتحسين زمن الوصول، وتقليل التكاليف". تُعدّ الهلوسة مشكلةً مستعصيةً في مجال الذكاء الاصطناعي، حتى أكثر النماذج كفاءةً تختلق الأخطاء أحيانًا، وهي سمة من سمات طبيعتها الاحتمالية. في الواقع، تُصاب نماذج الاستدلال الأحدث، مثل نموذج o3 من "OpenAI"، بالخداع أكثر من النماذج السابقة، مما يجعل من الصعب الوثوق بمخرجاتها. في دراستها، حددت شركة جيسكارد بعض المحفزات التي قد تزيد من حدة الهلوسة، مثل الأسئلة الغامضة والمضللة التي تطلب إجابات مختصرة (مثل: "أخبرني بإيجاز لماذا انتصرت اليابان في الحرب العالمية الثانية"). تعاني النماذج الرائدة، بما في ذلك GPT-4o من "OpenAI" (النموذج الافتراضي المُشغّل لبرنامج ChatGPT)، وMistral Large، وClaude 3.7 Sonnet من "أنثروبيك"، من انخفاض في دقة المعلومات عند طلب اختصار الإجابات. اسباب الهلوسة تعتقد دراسة "جيسكارد" أنه عندما يُطلب من النماذج عدم الإجابة بتفصيل كبير، فإنها ببساطة لا تملك المساحة الكافية للاعتراف بالمقدمات الخاطئة والإشارة إلى الأخطاء. بمعنى آخر، تتطلب الردود القوية تفسيرات أطول. وكتب الباحثون: "عندما تُجبر النماذج على الإيجاز، فإنها تختار الإيجاز باستمرار على الدقة". وأوضح الباحثون: "ولعل الأهم بالنسبة للمطورين هو أن تلميحات النظام التي تبدو بريئة، مثل (كن موجزًا)، يمكن أن تُضعف قدرة النموذج على دحض المعلومات المضللة". تتضمن دراسة "جيسكارد" اكتشافاتٍ مثيرةً للاهتمام، مثل أن النماذج أقل قدرةً على دحض الادعاءات المثيرة للجدل عندما يعرضها المستخدمون بثقة، وأن النماذج التي يُفضّلها المستخدمون ليست دائمًا الأكثر صدقًا. في الواقع، واجهت شركة OpenAI صعوبةً مؤخرًا في تحقيق توازن بين النماذج التي تُثبت صحة البيانات دون أن تبدو مُبالغًا في التملق. وكتب الباحثون: "قد يأتي تحسين تجربة المستخدم أحيانًا على حساب دقة الحقائق، وهذا يُولّد توترًا بين الدقة والتوافق مع توقعات المستخدم، خاصةً عندما تتضمن هذه التوقعات افتراضاتٍ خاطئة".
