تجارب صادمة..الذكاء الاصطناعي لم يصمم لقول الحقيقة
ففي مطلع أغسطس، عندما نشر النائب الفرنسي عن حزب "فرنسا الأبية" إيمريك كارون المؤيد للقضية الفلسطينية هذه الصورة من دون تعليق على "إكس"، بينما كان قطاع غزة مهددا بـ"مجاعة معمّمة" وفقا للأمم المتحدة، سارع كثر من المستخدمين إلى طلب التحقق من مصدرها من "غروك".
وأعطى روبوت الدردشة المدمج في "إكس" جوابا جازما مفاده أن هذه الصورة التُقطت في أكتوبر 2018 في اليمن، وأن الطفلة التي تظهر فيها تُدعى أمل حسين، وتبلغ سبع سنوات. وانتشر جواب "غروك" على نطاق واسع، واتُهم النائب بنشر معلومات مضللة.
ولكن تبيّن أن "غروك" كان مخطئا. فالصورة التُقطت بالفعل في غزة في 2 أغسطس بعدسة المصوّر الصحافي المتعاون مع وكالة فرانس برس عمر القطّاع.
وتُظهر الصورة مريم دوّاس البالغة تسع سنوات، تحملها في مدينة غزة والدتها مدلَّلة التي شرحت لوكالة فرانس برس أن وزنَ ابنتها انخفض من 25 كيلوغراما قبل الحرب إلى تسعة كيلوغرامات اليوم. وأضافت أنها لا تتلقى من الدعم الطبي "سوى الحليب، وهو غير متوافر دائما، ولا يكفيها للتعافي".
وعندما سُئل "غروك" عن عدم دقة إجابته، ردَّ قائلا "أنا لا أنشر أخبارا كاذبة، بل أعتمد على مصادر موثوق بها". واعترف في النهاية بخطئه، لكنه كرره في اليوم التالي ردا على أسئلة جديدة من مستخدمي "إكس".
ورأى الباحث في أخلاقيات التكنولوجيا ومؤلف كتاب "بونجور تشات جي بي تي" Bonjour ChatGPT لوي دو دييزباك أن خطأ "غروك" يبيّن حدود أدوات الذكاء الاصطناعي، التي تشبه في عملها "الصناديق السوداء".
وإذ أشار الخبير إلى أن "من غير المعروف تحديداً سبب إعطاء هذه الأدوات هذه الإجابة أو تلك، ولا كيفية ترتيبها مصادرها"، لاحظ أن هذه الأدوات تنطوي على تحيزات مرتبطة ببيانات تدريبها، ولكن أيضا بتعليمات مصمميها.
وأشار مثلاً إلى أن لروبوت المحادثة من شركة "إكس إيه آي" الناشئة التابعة لإيلون ماسك، وفقا للخبير، "تحيزات نافرة أكثر تتوافق إلى حد كبير مع الايديولوجية التي يروج لها، من بين أمور أخرى"، الملياردير المقرب من أفكار اليمين المتطرف الأميركي.
وشرح لوي دو دييزباك أن توجيه سؤال إلى روبوت محادثة عن أصل صورةٍ ما، هو طلب يُخرجه من نطاق مهمته الأساسية.
وأضاف "عادةً، عند البحث عن أصل صورة، قد يقول: +ربما التُقطت هذه الصورة في اليمن، أو ربما التُقطت في غزة، أو ربما التُقطت في أي بلد يعاني من المجاعة+".
وأوضح الخبير أن "النموذج اللغوي لا يسعى إلى إنشاء أمور دقيقة، فليس هذا هو الهدف".
ونشرت صحيفة "ليبراسيون" أخيرا صورة أخرى لوكالة فرانس برس، التقطها عمر القطّاع أيضا، تُظهر طفلاً يعاني سوء التغذية في غزة. وسبق لـ"غروك" أن أفاد خطأً أيضا بأن الصورة ملتقطة في اليمن عام 2016، بينما التُقطت الصورة في الواقع في يوليو 2025 في غزة.
ودفعَ خطأ الذكاء الاصطناعي مستخدمي الإنترنت إلى اتهام الصحيفة زوراً بالتلاعب.
ترتبط تحيزات الذكاء الاصطناعي ببيانات التدريب التي تُحدد قاعدة معارف النموذج، وفي مرحلة المطابقة التي تُحدد ما سيعتبره النموذج إجابة "جيدة" أو "سيئة".
ويضيف دو دييزباك "إذا شرح المستخدمون للنموذج أن إجابته خاطئة، لا يعني ذلك أنه سيُغيّر إجابته بين ليلة وضحاها، لأن بيانات تدريبه لم تتغير، وكذلك مطابقته".
لكنّ الأخطاء ليست حكراً على "غروك". فعندما سألت وكالة فرانس برس روبوت الدردشة التابع لشركة "ميسترال إيه آي" الناشئة التي تستطيع بصفتها شريكة لفرانس برس إدراج أخبار الوكالة في أجوبة نموذجها، أشارت أداتها هي الأخرى إلى أن الصورة التُقطت في اليمن.
ورأى لوي دو دييزباك عدم جواز استخدام روبوتات الدردشة للتحقق من الأخبار والصور، كما في ما يتعلق بمحركات البحث، لأن أدوات الذكاء الاصطناعي التوليدي "ليست مصممة لقول الحقيقة" بل "لإنتاج محتوى، سواء أكان صحيحاً أم خاطئا".
وخلص الخبير إلى القول "يجب النظر إليه كصديق مهووس بالأساطير: فهو لا يكذب دائما، لكنه قادر على الكذب دائما".
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
خليج تايمز
منذ 18 ساعات
- خليج تايمز
"شكراً محمد بن زايد»… قصة مسن غزّي أنقذته أيادي الإمارات الرحيمة من براثن الجوع
يردد مسن فلسطيني بجسد نحيل الأذان وسط خيام النازحين في قطاع غزة، ليصبح شاهدًا آخر على الآثار المدمرة للحرب التي تعصف بالقطاع منذ ما يقرب من عامين. سالم عصفور هو رجل غزي مسن اعتاد جيرانه على سماع صوت الأذان بصوته الجميل، رغم أن هذا الصوت قد خفت وتغيرت ملامحه بسبب الجوع الشديد. وكان مرصد عالمي للجوع قد أعلن عن تفاقم "سيناريو مجاعة" في قطاع غزة، مع انتشار الجوع ووفاة أطفال دون سن الخامسة لأسباب مرتبطة بالجوع، وتقييد وصول المساعدات الإنسانية إلى القطاع المحاصر بشدة. ولا تزال التحذيرات من المجاعة وسوء التغذية تأتي تباعًا من وكالات الإغاثة. وتنتشر عبر الإنترنت صور لأطفال جائعين يمسكون بأواني فارغة ويتوسلون للحصول على الطعام، لكن قسوة الحرب على كبار السن في القطاع لا تقل حدة. في مقطع فيديو على الإنترنت، يظهر سالم بلا قميص، كاشفًا عن التأثير المروع للجوع على جسده. ويشكو من وضعه المزري قائلاً: "أريد أن آكل. ليس لدي أسنان لأمضغ الخبز، لذا أنقعه في الماء لمساعدتي على مضغه وهضمه... لقد عشت هكذا لمدة ثلاثة أشهر." شاهد الفيديو هنا الذي نشرته شبكة أخبار الخامسة على الفيسبوك: "شكرًا للشيخ محمد بن زايد" لكن مناشدة سالم لم تمر دون رد، حيث تدخلت عملية "الفارس الشهم 3" الإماراتية، التي تهدف إلى مساعدة سكان غزة، لتقديم العون له. قام عمال الإغاثة الإماراتيون بتقييم حالته بسرعة وقاموا بزيارته. في مقابلة مصورة مع ضياء أبو زيد، وهو عضو في العملية، ظهر سالم بأذرع وساقين نحيلتين، وصدر تبرز منه ضلوعه بسبب الجوع الشديد. ثم يُظهر المقطع المصور ضياء وعمال إغاثة آخرين يحملون حقائب وصناديق من إمدادات المساعدات إلى خيمة سالم. وتحتوي على جميع أنواع الخضروات والفواكه المتوفرة في السوق، بالإضافة إلى الدقيق والزيت وغيرها من الأساسيات. يظهر ضياء وهو يطعم سالم بيده. ويرد سالم قائلاً: "أتوجه بالشكر إلى صاحب السمو الشيخ محمد بن زايد آل نهيان رئيس الدولة وعائلته، وإلى شعب الإمارات. أقدم لهم امتناني واحترامي. بارك الله فيك يا شيخ محمد بن زايد، وفي شعبك، وبلدك، وأحبابك". ثم يساعد ضياء سالم على ارتداء رداء على جسده الضعيف، ويسير معه خارج الخيمة، ويقبل رأسه، وهي لفتة من التعاطف تبعث الأمل في نهاية المعاناة. شاهد المقابلة كاملة هنا: وسط قسوة الجوع وتدهور حالته الصحية، عملية الفارس الشهم 3 تتدخل لمساندة رجل مسن يعاني صحياً من آثار المجاعة، وتقدم له ما يلزم للتخفيف من معاناته #الفارس_الشهم3 #الإمارات_العربية_المتحدة #غزة #محمد_بن_زايد_رجل_الإنسانية #الإمارات_وطن_الإنسانية #فلسطين … — الفارس الشهم 3 (@alfaresalshahm3) August 9, 2025 تقدم دولة الإمارات مساعدات للفلسطينيين في قطاع غزة عن طريق الجو والبحر والبر منذ ما يقرب من شهر. يوم الجمعة، نفذت الدولة إسقاطها الجوي السادس والستين للمساعدات الإنسانية فوق القطاع، بالتعاون مع الأردن وبمشاركة من ألمانيا وبلجيكا وفرنسا وهولندا وإيطاليا. وقد رفع هذا الإسقاط الجوي إجمالي كمية المساعدات التي تم إلقاؤها من الجو إلى أكثر من 3,873 طنًا، وهو دليل واضح على التزام الإمارات الثابت بالوقوف إلى جانب الشعب الفلسطيني الشقيق ودعم الجهود الإنسانية الدولية. بفضل نظام التسليم ثلاثي الأبعاد هذا، مكّنت المبادرة الإمارات من أن تشكل 44% من إجمالي المساعدات الدولية لغزة حتى الآن، وفقًا لتقارير الأمم المتحدة.
سكاي نيوز عربية
منذ يوم واحد
- سكاي نيوز عربية
مصادر طيبة: مستشفيات القطاع تستقبل 39 قتيلا و491 مصابا
وكانت مصادر طبية فلسطينية ذكرت، أمس الجمعة، أن حصيلة الضحايا في قطاع غزة ارتفع إلى 61,330 قتيلا، أغلبيتهم من الأطفال والنساء، منذ بدء عدوان الاحتلال الإسرائيلي في السابع من أكتوبر 2023، فيما ارتفع عدد الجرحى والمصابين إلى 152,359 جريحا. هذا ولا يزال عدد من الضحايا تحت الأنقاض، ولا تستطيع طواقم الإسعاف والدفاع المدني الوصول إليهم. وذكرت المصادر أنه وصل إلى مستشفيات قطاع غزة ، الجمعة، 72 قتيلا، و314 مصابا خلال الساعات الأربع والعشرين السابقة. وبلغت حصيلة القتلى والجرحى منذ 18 مارس الماضي، بعد خرق الجيش الإسرائيلي اتفاق وقف إطلاق النار، 9,824 قتيلا، و40,318 جريحا. وحتى أمس الجمعة، ارتفع إجمالي ضحايا لقمة العيش ، ممن وصلوا إلى المستشفيات، إلى 1,772، والإصابات إلى 12,249.
العين الإخبارية
منذ يوم واحد
- العين الإخبارية
تحذير من ميزة جديدة على إنستغرام.. هل يكشف موقعك الشخصي دون علمك؟
حذر مستخدمون لمنصة إنستغرام من ميزة جديدة أضافها التطبيق تتيح مشاركة الموقع الجغرافي للمستخدمين، معتبرين أنها قد تعرضهم للخطر عن طريق كشف أماكن تواجدهم دون علمهم. ووفقاً لوكالة فرانس برس، أضافت منصة إنستغرام، المملوكة لمجموعة ميتا، يوم الأربعاء خيارًا جديدًا يسمح بمشاركة المواقع باستخدام خريطة تحمل اسم "خريطة الأصدقاء"، وهي ميزة مشابهة لتلك التي يقدمها تطبيق سناب شات منذ عام 2017. ولكن، تفاجأ بعض المستخدمين عندما اكتشفوا أن مواقعهم قد تم مشاركتها، وهو ما كشفته منشورات تداولها العديد من المستخدمين. وأعربت ليندسي بيل، إحدى مستخدمات إنستغرام، عن صدمتها بعد أن اكتشفت أن ميزة مشاركة الموقع كانت مفعلة، وأن عنوان منزلها كان يظهر لجميع متابعيها. وقالت بيل: "أوقفتها فورًا بعدما علمت بالأمر، لكن ذلك جعلني أشعر باستياء شديد". وكانت كيلي فلاناغان، نجمة برنامج "ذي باتشلر"، قد نشرت تحذيرًا لمتابعيها البالغ عددهم 300 ألف على تيك توك، وصفت فيه الميزة بأنها "خطيرة" وشرحت كيفية إيقافها. وفي رد على هذه المخاوف، نشر آدم موسيري، الرئيس التنفيذي لـ إنستغرام، بيانًا عبر منصة ثريدز التابعة لـ "ميتا"، أكد فيه أن ميزة مشاركة الموقع مُعطلة افتراضيًا، ما يعني أن المستخدمين يحتاجون إلى تفعيلها يدويًا. وذكر موسيري في منشوره: "لن يتم مشاركة موقعك إلا إذا قررتَ ذلك، وإذا فعلتَ، فسيتم مشاركته مع مجموعة محدودة من الأشخاص الذين تختارهم". من جانبها، أوضحت إنستغرام في منشور لها على مدونتها أن هذه الميزة أُضيفت بهدف تسهيل التواصل بين الأصدقاء من خلال مشاركة الأماكن المميزة. وأكدت المنصة أنه يمكن للمستخدمين تحديد الأشخاص الذين يرغبون في مشاركة مواقعهم معهم، كما يمكنهم إيقاف الميزة في أي وقت. تجدر الإشارة إلى أن هذه المخاوف تأتي بعد أسبوع من تأييد هيئة محلفين فيدرالية في سان فرانسيسكو لنساء اتهمن "ميتا" باستخدام البيانات الصحية التي تجمعها من تطبيق "فلو"، الذي يتتبع الدورة الشهرية ومحاولات الحمل. وقد خلصت الهيئة إلى أن ميتا استغلت بيانات صحية حساسة لتحسين استهداف الإعلانات، مما أثار مزيدًا من الجدل حول خصوصية البيانات وحمايتها. IT
