كلما اختصر.. اختلق! الوجه الخفي للذكاء الاصطناعي

كشفت دراسة حديثة أجرتها شركة Giskard الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب الإيجاز من روبوتات المحادثة مثل ChatGPT قد يزيد من ميلها إلى "الهلوسة" أي اختلاق معلومات غير دقيقة أو غير حقيقية.
تفاصيل الدراسة
ووفقاً لموقع "تك كرانش" نشر الباحثون نتائجهم في تدوينة تفصيلية، أشاروا فيها إلى أن التوجيهات التي تطلب إجابات قصيرة، خاصة على أسئلة غامضة أو مبنية على معلومات خاطئة، تؤدي إلى انخفاض ملحوظ في دقة المحتوى الذي تقدمه النماذج.
وقال الباحثون: "تُظهر بياناتنا أن تغييرات بسيطة في التوجيهات تؤثر بشكل كبير على ميل النموذج إلى الهلوسة".
وهو ما يثير القلق، خاصة أن كثيرًا من التطبيقات تعتمد على الإجابات الموجزة بهدف تقليل استخدام البيانات، وتسريع الاستجابة، وتقليص التكاليف.
اقرأ ايضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
الهلوسة ليست مشكلة جديدة في الذكاء الاصطناعي، حتى النماذج الأحدث مثل GPT-4o وClaude 3.7 Sonnet تعاني منها بدرجات متفاوتة. لكن المفاجئ في الدراسة كان اكتشاف أن مجرد طلب إيجاز في الإجابة يمكن أن يزيد من احتمالية وقوع هذه الأخطاء.
ويرجّح الباحثون أن السبب يكمن في أن الإجابات القصيرة لا تتيح للنموذج "المجال" الكافي لتفنيد المغالطات أو شرح التعقيدات. فيكون أمام خيارين: الإيجاز أو الدقة، وغالبًا ما يختار الأول على حساب الثاني.
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
عبارات بريئة.. لكنها تخدع النموذج
أظهرت الدراسة أن النماذج الشهيرة مثل GPT-4o وMistral Large وClaude Sonnet تصبح أقل دقة عندما تُطلب منها إجابات مقتضبة على أسئلة مشوشة .
فبدلًا من الإشارة إلى أن السؤال يحتوي على فرضية خاطئة، تميل النماذج إلى تقديم إجابة مختصرة تكميلية للخطأ، مما يعزز التضليل بدلاً من تصحيحه.
وحذرت الدراسة أيضًا من أن بعض النماذج تميل إلى تفادي التصحيح عندما تُطرح المعلومات المغلوطة بطريقة واثقة، في محاولة لمجاراة توقّعات المستخدم، حتى وإن كانت خاطئة.
تُبرز الدراسة مفارقة مؤسفة تتمثل في أن تحسين تجربة المستخدم من خلال الإجابات المختصرة قد يأتي على حساب دقة الحقيقة. لذلك، يوصي الباحثون بضرورة توخي الحذر عند تصميم الأوامر والتعليمات الموجهة للذكاء الاصطناعي، مع التأكيد على أهمية تحقيق توازن بين سرعة الإجابة وموثوقيتها.
إسلام العبادي(أبوظبي)

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

البوابة

منذ يوم واحد

• البوابة

خطوة مصرية على الطريق الصحيح للاستفادة من إمكانيات الذكاء الاصطناعي

اهتم المجلس الوطني للذكاء الاصطناعي فى مصر، في وثيقته الأولي والثانية، باستعراض المبادرات التى يستهدفها من 2025 – 2030 من أجل الارتقاء بمجال الذكاء الاصطناعي فى مصر، من بينها إنشاء هيئة لتنظيم البيانات وتدشين قانون الذكاء الاصطناعي ودعم الشركات الناشئة وزيادة الخبراء العاملين فى هذا المجال فى مصر ودعمهم. ومنذ ستة أيام، حدث أمر مهم فى مستقبل الذكاء الاصطناعي فى مصر بإصدار الرئيس عبد الفتاح السيسي تعليمات وتوجيهات مهمة فى الاجتماع الذي عقد الأربعاء الماضي 14 مايو بحضور الدكتور مصطفي مدبولي رئيس مجلس الوزراء والدكتور خالد عبد الغفار نائب رئيس الوزراء للتنمية البشرية ووزير الصحة بضرورة الاستفادة من إمكانيات الذكاء الاصطناعي فى تطوير منظومة الصحة ودراسة إمكانية تدريسه كمادة إلزامية . وهذه الخطوة الرئاسية مهمة للغاية من أجل الاستفادة من هذا المجال الخطير والحيوي الذي أصبح جزءاً أساسياً من تحركات دول العالم فى كافة المجالات.. ومن هنا نقترح الآتى: • ضرورة تدريس مادة الذكاء الاصطناعي لطلاب التعليم الأساسي بالمدارس الحكومية والخاصة والانترناشونال باعتبارها مادة إلزامية وتكون مادة نظرية وعملية وتدرس بشكل غير تقليدي حتي ننشئ جيلاً لديه الثقافة والقدرة ويمتلك الأدوات لمواجهة المستقبل . • تشكيل هيئة مستقلة تشرف على وضع منهج دراسة الذكاء الاصطناعي فى المدارس والجامعات يعتمد على أحدث التقنيات الحديثة ويتم تطوير هذا المنهج سنوياً . • ضرورة تدشين حوار مجتمعي حول دور الذكاء الاصطناعي فى صنع المستقبل فى مصر وإصدار توصيات يشارك فيها الخبراء بكافة المجالات ويتم دراستها وتنفيذها. • إنشاء إدارات مستقلة للذكاء الاصطناعي فى الوزارات والشركات والهيئات الحكومية تهدف لتحويل الأعمال الإدارية والفنية لشكل تقني مستقبلاً باستخدام الذكاء الاصطناعي. • الاستفادة من كليات الذكاء الاصطناعي بالجامعات المصرية بوضع رؤية لتعليم الذكاء الاصطناعي كمادة أساسية بكل الكليات النظرية والعملية للاستفادة من تقنيات الذكاء الاصطناعي فى مجالاتهم. • ضرورة وضع برامج الذكاء الاصطناعي كتدريب أساسي فى جميع البرامج التدريبية فى الشركات الحكومية . • إنشاء قسم خاص بالذكاء الاصطناعي فى المكتبات العامة بالمحافظات ومكتبات الكليات يستفاد منها الطلاب والباحثين. وفى هذا الإطار، من المهم أن يشتمل المنهج الدراسى على شرح بسيط للفرق بين الذكاء الاصطناعي ونظام الذكاء الاصطناعي وتناول أمثلة مبسطة يفهمها الجميع حتي يتمكن اي شخص أثناء تعامله مع اي برنامج يدعم ادوات الذكاء الاصطناعي الفارق بينهما. وتشرح وثيقة مكتب دبي الذكي هذا الفرق بين الذكاء الاصطناعي ونظام الذكاء الاصطناعي بمثال بسيط هو "إذا استخدمت منشأة أوهيئة ربوتات الدردشة التى تتيح لجمهورها طرح الأسئلة الروتينية وحجز المواعيد مثلا وأي معاملات مالية ثانوية، وترد ربوتات الدردشة على استفسارات العملاء عن طريق أجابات مكتوبه مسبقاً فهذا هو ذكاء اصطناعي".. أما "إذا كانت ربوتات الدرشة أصبحت قادرة على معالجة الاستفسارات ذاتياً وتحليل النتائج والرد بشكل مبتكر وغير تقليدي معد له مسبقاً فهنا نكون أمام نظام ذكاء اصطناعي" . ويوضح هذا التعريف رغم بساطته أننا فى حاجة للمزيد من نشر ثقافة الذكاء الاصطناعي وتعريفه فى بلادنا العربية فى ظل اعتقاد الكثير أن الذكاء الاصطناعي هو برنامج شات جي بي تي "ChatGPT" أو القيادة الذاتية للسيارات وتركيب الفيديوهات على اصوات المغنين!. وبعد.. إن أهتمام الدولة المصرية بالذكاء الاصطناعي بإنشاء المجلس الوطني للذكاء الاصطناعي بقرار رئيس مجلس الوزراء رقم 2889 فى نوفمبر لسنة 2019، والأن في مايو 2025 بتعليمات الرئيس بالتأكيد على الاهتمام بالذكاء الاصطناعي بتدريسه كمادة دراسية والاستفاده منه فى المنظومات الصحية هو شئ يؤكد أننا نسير فى الاتجاه الصحيح، ولكن الأهم فى هذه المرحلة متابعة التنفيذ حتي نستطيع مواكب العالم من حولنا. * حاصل على دكتوراه فى حوكمة الذكاء الاصطناعي

العين الإخبارية

منذ يوم واحد

• العين الإخبارية

الذكاء الاصطناعي يتحدث عن نفسه.. روبوتات الدردشة تنافق قادتها

يُظهر تحليل لستة من أبرز روبوتات الدردشة القائمة على الذكاء الاصطناعي OpenAI، وAnthropic، وxAI، وMeta، وGoogle، وكذلكDeepSeek اختلافات دقيقةً في كيفية إشارتهم إلى قادة الشركات المطورة لهم. مثلا، سام ألتمان رئيس شركة OpenAI، قد يكون عبقري أو خائن، وذلك حسب نموذج الذكاء الاصطناعي الذي تسأل عنه. وطرحت صحيفة "فايننشيال تايمز" على روبوتات الدردشة سلسلةً من الأسئلة حول رؤساء الذكاء الاصطناعي، طالبةً منهم وصف أساليب قيادتهم المختلفة ونقاط ضعفهم. وتُساعد النتائج في الكشف عن كيفية تغلغل التحيزات المحتملة للعاملين في شركات الذكاء الاصطناعي في تطوير نماذجهم، كما تُسلّط الضوء على التوترات المُتصاعدة بين كبار رواد صناعة التكنولوجيا. وتُظهر الإجابات أيضًا كيف يُمكن أن يُؤثّر الاستخدام المُتزايد من قِبَل ملايين الأشخاص كمصدرٍ رئيسيٍّ للمعلومات على التصور العام لصناعة الذكاء الاصطناعي. وأظهرت روبوتات الدردشة ميلًا إلى تقديم إجاباتٍ مُتملقة عن مُطوريها، بينما تكون أكثر استعدادًا لانتقاد منافسيها بوضوح. مع ذلك، كان هناك قبول عام لعبقرية الشخصيات العامة الرائدة في ثورة الذكاء الاصطناعي التوليدي. ويصف موقع ChatGPT ألتمان بأنه "قائد استراتيجي وطموح يجمع بين التفاؤل التقني وغرائز العمل الثاقبة". في المقابل، قال روبوت الدردشة الذكي "كلود" من شركة Anthropic إن "أسلوب قيادة ألتمان اتسم بقرارات مثيرة للجدل تُعطي الأولوية للنمو والتأثير على حساب روح OpenAI الأصلية غير الربحية". وقد وجه داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، انتقادات مماثلة لألتمان بعد مغادرته OpenAI عام 2021. وقال نموذج الذكاء الاصطناعي الخاص بشركة ميتا،Meta Llama، إن مارك زوكربيرغ، الرئيس التنفيذي للشركة، كان "ثوريًا"، بينما كان منافسوه يميلون إلى وصفه بأنه "صاحب رؤية ولكنه مثير للجدل"، و"يركز على المنتج". ووصف روبوت الدردشة الذكي Grok، الذي طورته شركة xAI التابعة لإيلون ماسك، قائدها بأنه "جريء" و"صاحب رؤية"، بينما وصفه نموذج الذكاء الاصطناعي "كلود" بأنه "مثير للانقسام" و"متقلب المزاج". وعندما سُئلت عن أبرز نقاط ضعف رؤساء الذكاء الاصطناعي - ودُعيت إلى "الصدق" - كانت روبوتات الدردشة حاسمة بشأن عيوب القادة المنافسين، بينما كانت أكثر تحفظا في الإجابة عند الحديث عن عيوب رؤساء الشركات المطورة لها. وذكر ChatGPT التابعة لشركة OpenAI أن أبرز نقاط ضعف ماسك هي "سلوكه المتهور وغير المنتظم، الذي غالبًا ما يُقوّض المصداقية، ويُنفّر الشركاء، ويُشتت الانتباه عن الأهداف طويلة المدى التي يدّعي أنه يُعطيها الأولوية". وعندما سُئل سؤال مماثل عن ألتمان، قال ChatGPT إن هناك "تصورًا متزايدًا بأنه يُعطي الأولوية للسيطرة والهيمنة على السوق على حساب الشفافية". وتأسست OpenAI كمختبر أبحاث غير ربحي عام ٢٠١٥ على يد ألتمان وماسك وتسعة آخرين، قبل أن يغادر ماسك إثر خلاف مع ألتمان. وتُساعد إجابات روبوتات الدردشة أيضًا في الكشف عن محدودية قاعدة بيانات النماذج التي تُشغّلها. ووصف روبوت الدردشة التابع لمجموعة DeepSeek الصينية، مؤسسها ليانغ وينفنغ، بأنه "قائد غير تقليدي يُعطي الأولوية للإبداع والشغف ووجهات النظر المتنوعة على الخبرة التقليدية". في المقابل، لم يكن منافسوها الأمريكيون، مثل كلود ولاما وجيميني التابعة لغوغل، على دراية بمن هو وينفنغ. وقد يعود ذلك إلى توقف الشركات التي تقف وراء هذه الروبوتات عن جمع بيانات التدريب أواخر العام الماضي، قبل أن تكتسب DeepSeek شعبية عالمية في أوائل عام 2025. وتتنبأ نماذج لغة الذكاء الاصطناعي بالكلمة التالية المحتملة في الجملة بناءً على بيانات التدريب الخاصة بها. وتتمتع أحدث روبوتات الدردشة بالذكاء الاصطناعي أيضًا بالقدرة على تصفح الإنترنت بشكل أعمق للحصول على المزيد من المصادر. لكنها تعتمد أيضًا على مصادر مناسبة باللغة الإنجليزية لإنتاج الإجابات، إذا لم تظهر المعلومات في بيانات التدريب الخاصة بها، فلن يكون لدى النموذج ما يعمل عليه. aXA6IDkyLjExMi4xMzkuMTIyIA== جزيرة ام اند امز ES

عرب هاردوير

منذ 3 أيام

• عرب هاردوير

رؤية سام ألتمان لمُستقبل ChatGPT: مساعد ذكاء اصطناعي يعرف كل شيء عنك!

طرح سام ألتمان -الرئيس التنفيذي لشركة OpenAI - رؤيةً طموحة لمُستقبل ChatGPT خلال فعالية استضافتها شركة Sequoia لرأس المال الاستثماري. وأكّد أن الهدف النهائي هو تطوير نموذج ذكاء اصطناعي قادر على توثيق وتذكر كل تفاصيل حياة المُستخدم، ليصبح مساعدًا شخصيًا شاملاً يعرف كل شيء عنك! اقرأ أيضًا: نموذج ذكاء اصطناعي يعيش معك طوال حياتك عند سؤاله عن كيفية جعل ChatGPT أكثر تخصيصًا، أوضح ألتمان أنّ النموذج المثالي سيكون "نموذج تفكير صغير جدًا يحتوي على تريليون رمز سياقي تُوظّف فيه حياتك بأكملها". هذا يعني أن الذكاء الاصطناعي سيتذكّر كل دردشة، وكل كتاب قُرئ، وكل بريد إلكتروني، وكل بياناتك من مصادر مُختلفة، كما سيكون قادرًا على ربط هذه المعلومات لخدمتك بشكل أفضل، سواء على المُستوى الشخصي أو المهني. وأشار إلى أنّ الشباب -خاصةً طلاب الجامعات- يستخدمون ChatGPT بالفعل كنظام تشغيل لحياتهم، حيث يرفعون ملفاتهم ويربطون مصادر البيانات لطرح أسئلة مُعقدّة. بل إن بعضهم لا يتخذ قرارات حياتية دون استشارة الذكاء الاصطناعي، وهذا يجعله أكثر من مُجرّد أداة بحث. إمكانيات مُذهلة... ومخاطر مُحتملة تخيّل أن يكون لديك مُساعد ذكاء اصطناعي يُنظّم حياتك بالكامل: يُذكرك بمواعيد الصيانة، يُخطّط لرحلاتك، ويطلب هدايا الأصدقاء تلقائيًا. لكن هذا المُستقبل المُشرق يأتي مع تحديات كبيرة، أهمها: إلى أي مدى يمكننا الوثوق بشركة تكنولوجية تعرف كل أسرارنا؟ فقد شهدنا في الماضي كيف انخرطت عمالقة التكنولوجيا في مُمارسات مشبوهة، مثل احتكار جوجل للسوق أو تحيُّز بعض روبوتات الدردشة لأجندات سياسية. حتى ChatGPT نفسه واجه انتقادات عندما بدأ في تمجيد بعض المُستخدمين بطريقة مُبالغ فيها، الذي اضطر فريق OpenAI إلى تعديله سريعًا. هل نثق بالذكاء الاصطناعي ليكون رفيق حياتنا؟ رغم الفوائد الكبيرة لوجود مساعد ذكاء اصطناعي شامل، إلا أنّ التاريخ يُظهر أن الشركات التكنولوجية لا تتصرّف دائمًا بمسؤولية. فهل نريد أن نعطي هذه الشركات حق الوصول إلى أدق تفاصيل حياتنا؟ الواقع أنّ الذكاء الاصطناعي قد يُحسّن حياتنا بطرق غير مسبوقة، لكنه أيضًا مُعرّض للاستغلال إذا لم تُوضع ضوابط صارمة. والسؤال الأهم الآن هو: كيف يُمكننا تحقيق التوازن بين الراحة التي يُقدمها الذكاء الاصطناعي وحماية خصوصيتنا وأمننا؟ المُستقبل سيكشف الإجابة، لكن علينا أن نكون مُستعدين للتحديات التي ستأتي معه.