هلوسات الذكاء الاصطناعي.. خطر متزايد يهدد الثقة بالتقنية
سلّطت سلسلة من الحوادث الأخيرة الضوء على تصاعد خطورة "هلوسات الذكاء الاصطناعي"، حيث باتت هذه الأخطاء تتجاوز مجرد تقديم معلومات غير دقيقة لتصل أحيانًا إلى نشر خطاب كراهية ومعلومات تهدد سلامة المستخدمين.
أحدث هذه الحالات جاءت من روبوت الدردشة "غروك 4.0" التابع لشركة xAI المملوكة لإيلون ماسك، والذي اضطر للتوقف عن العمل مؤقتًا بعد نشره محتوى معاديًا للسامية، مما أثار موجة من الجدل والقلق بشأن موثوقية هذه النماذج.
ورغم ادعاءات ماسك بأن "غروك" يعد "أذكى من البشر"، إلا أن النموذج وقع في سلسلة من الهلوسات الخطيرة التي دفعت إلى طرح تساؤلات واسعة حول أسباب حدوث مثل هذه الانحرافات وما إذا كانت مقتصرة على نموذج معين.
- أخطاء تهدد سمعة الشركات
حادثة أخرى مشابهة وقعت في أبريل/نيسان الماضي، عندما أعلن مساعد الذكاء الاصطناعي على منصة البرمجة "كورسر" عن تغيير مزعوم في سياسة الاستخدام، تسبب في فوضى بين المستخدمين وتراجع ثقة العملاء، قبل أن تعتذر الشركة مؤكدة أن ما حدث كان "هلوسة صريحة من الذكاء الاصطناعي".
وبحسب تقرير صحيفة نيويورك تايمز، فإن هذه الهلوسات ليست جديدة، حيث سبق لمحركات بحث مدعومة بالذكاء الاصطناعي مثل "غوغل" و"بينغ" أن قدّمت توصيات خطيرة، مثل اقتراح استخدام الصمغ في إعداد البيتزا، أو اختراع أمثال غير منطقية.
- من أخطاء تقنية إلى تهديدات بشرية
المخاطر لا تقتصر على المعلومات الخاطئة فحسب، إذ وثّقت تقارير سابقة – بينها تقرير من شبكة CBS News – حالات شجّع فيها الذكاء الاصطناعي المستخدمين على الانتحار، خاصة من فئة المراهقين، كما حدث في منصات مثل Character AI ونسخ سابقة من نماذج غوغل.
- لماذا تحدث الهلوسات؟
يُرجع الخبراء هذه الأخطاء إلى طبيعة عمل نماذج الذكاء الاصطناعي، التي تعتمد على الاحتمالات الرياضية وليس على قواعد منطقية صلبة، مما يجعلها عرضة لتكوين استنتاجات غير دقيقة.
ويضيف تقرير نيويورك تايمز أن هذه النماذج تُدرّب غالبًا على بيانات غير موثوقة أو مفتوحة المصدر مأخوذة من الإنترنت، بما فيها منتديات ومواقع ذات محتوى إشكالي مثل "4Chan"، ما يعزز من احتمالية إنتاج معلومات زائفة أو متطرفة.
كما أن اعتماد بعض الشركات على تقنيات "التعلم التعزيزي بالتجربة والخطأ" يزيد من تعقيد المشكلة، خاصة في مجالات غير حسابية مثل السياسة أو الطب أو الدين، حيث يكون الهامش للخطأ حساسًا جدًا.
- خطر يهدد المستخدم العادي
يحذر خبراء من أن هذه الهلوسات قد تكون ذات أثر كارثي في بعض المجالات، مثل المعلومات الطبية أو القانونية أو التاريخية، خاصة إن تم الاعتماد عليها من قبل غير المتخصصين دون تحقق أو مراجعة بشرية.
ويؤكد التقرير أن مخاطر هذه الظاهرة تتفاقم مع الاستخدام الواسع للنماذج الجديدة مثل "ديب سيك" و"O1" من "أوبن إيه آي"، والتي رغم قوتها، إلا أن معدلات الهلوسة فيها قد تكون أعلى من غيرها، وفقًا لعدة دراسات وتقارير إعلامية.
"الإندبندنت"
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
السوسنة
منذ 3 ساعات
- السوسنة
فيفو تستعد لإطلاق تحديث أندرويد 16
السوسنة - بدأت شركة فيفو العدّ التنازلي لإطلاق النسخة المستقرة من واجهتها الجديدة Funtouch OS 16 المبنية على نظام أندرويد 16، بعد أن وفّرت نسخته التجريبية لعدد من أجهزتها ضمن برنامج الوصول المبكر بالتعاون مع "غوغل"، بحسب تقرير لموقع Gizmochina.وجاء هذا التطور بعد أن أطلقت غوغل نظام أندرويد 16 بشكل رسمي في يونيو الماضي، في خطوة استباقية لموعدها المعتاد في أكتوبر، ما يعني أن مستخدمي فيفو قد يحصلون على التحديث النهائي بشكل أسرع من السنوات السابقة.الهواتف المؤهلة لتحديث أندرويد 16رغم أن "فيفو" لم تُصدر بعد قائمة رسمية بالأجهزة التي ستحصل على التحديث، فإن التسريبات تُشير إلى أن التحديث سيشمل طيفاً واسعاً من هواتف Vivo وiQOO، منها: ومن المرجح أن تبدأ فيفو بتوفير التحديث أولاً لهواتفها الرائدة، ثم يليها تدريجياً الفئات المتوسطة والاقتصادية، كما جرت العادة في السنوات السابقة.أبرز ميزات أندرويد 16 وواجهة Funtouch OS 16يحمل أندرويد 16 مجموعة من التحسينات المهمة، أبرزها: ومن المنتظر أن تكشف "فيفو" عن مزيد من التفاصيل حول النسخة التجريبية العامة من Funtouch OS 16 خلال الأسابيع المقبلة، والتي ستُقدم لمحة أوضح عن الشكل النهائي للتحديث قبل طرحه رسمياً. اقرأ أيضاً:
السوسنة
منذ 5 ساعات
- السوسنة
غوغل تعترف بفشل تنبيهات الزلزال المدمّر في تركيا
السوسنة - أقرت شركة "غوغل" بفشل نظامها للإنذار المبكر من الزلازل في تنبيه الأشخاص بمستوى الخطورة الذي كانوا معرضين له خلال زلزال تركيا المدمر الذي وقع عام 2023، والذي أودى بحياة أكثر من 55 ألف شخص.ووفقًا للتقرير الذي أوردته هيئة الإذاعة البريطانية (BBC)، فإنه كان من الممكن أن يتلقى نحو عشرة ملايين شخص، ضمن نطاق 98 ميلاً من مركز الزلزال، أعلى مستوى تحذير من الزلازل من "غوغل"، ما يمنحهم مهلة تصل إلى 35 ثانية للبحث عن مأوى آمن.لكن بدلًا من ذلك، لم يُرسل سوى 469 تحذيرًا من نوع "اتخذ إجراءً" (Take Action) خلال الزلزال الأول الذي بلغت قوته 7.8 درجة، فيما تلقى نحو نصف مليون شخص تنبيهًا من مستوى أقل خطورة، وهو مخصص للهزات الأرضية الخفيفة ولا يُنبه المستخدمين بنفس الطريقة الواضحة.وكانت غوغل قد صرّحت سابقًا لهيئة الإذاعة البريطانية بأن نظام التنبيه "أدى أداءً جيدًا" بعد التحقيق الذي أُجري في عام 2023.ويُذكر أن النظام متوفر في أقل من 100 دولة، وتصفه "غوغل" بأنه "شبكة أمان عالمية" تعمل غالبًا في دول لا يوجد بها نظام إنذار محلي. ويُدار نظام "تنبيهات الزلازل لأندرويد" (Android Earthquake Alerts) من قبل غوغل في وادي السيليكون، وليس من قبل الحكومات، ويعمل حصريًا على أجهزة أندرويد، التي تمثل أكثر من 70% من الهواتف الذكية في تركيا.وفي كارثة زلزالية مزدوجة، ضرب زلزالان قويان جنوب شرق تركيا في 6 فبراير 2023، وتسبب الحدث في وفاة أكثر من 55 ألف شخص وإصابة أكثر من 100 ألف، معظمهم كانوا نائمين في مبانٍ انهارت بفعل الاهتزازات المفاجئة.وأوضحت "غوغل" أن نظام الإنذار كان مُفعّلاً يوم وقوع الزلازل، لكنه قلّل من تقدير شدّتها. وقال متحدث باسم الشركة: "نواصل تحسين النظام بناءً على ما نتعلمه من كل زلزال".كيف يعمل نظام غوغل للتحذير من الزلازل؟يعتمد النظام على رصد الاهتزازات الأرضية عبر عدد كبير من الهواتف المحمولة التي تعمل بنظام تشغيل أندرويد، حيث يُمكّن الزمن النسبي البطيء لتحرك الزلازل من إرسال التنبيهات قبل وصول الموجة الفعلية إلى المستخدم.ويُطلق أعلى تحذير من النظام – "اتخذ إجراءً" – صوت إنذار مرتفع على هاتف المستخدم، يتجاوز إعداد "عدم الإزعاج" ويغطي الشاشة بالكامل، بهدف لفت الانتباه الفوري.وكان هذا النوع من التحذير حاسمًا في حالة تركيا، إذ وقع الزلزال الأول عند الساعة 04:17 صباحًا، حين كان معظم السكان نائمين، وكان من الممكن أن يُنقذ التنبيه المرتفع الأرواح.وبعد مرور أشهر على الزلزال، حاولت BBC التواصل مع المستخدمين الذين تلقوا هذا التحذير، لكنهم لم يتمكنوا من العثور على أي شخص يؤكد استلامه لإشعار "اتخذ إجراءً" قبل وقوع الهزة.وأشار باحثو غوغل في دورية "ساينس" العلمية إلى أن سبب الخلل يعود إلى "قيود في خوارزميات الاكتشاف". فقد قدّر النظام شدة الاهتزاز وقت الزلزال الأول بين 4.5 و4.9 درجة، في حين بلغت الحقيقة 7.8 درجة. كذلك قلل النظام من تقدير الزلزال الثاني الذي وقع لاحقًا في اليوم ذاته، لكنه أرسل حينها تنبيهات "اتخذ إجراءً" إلى 8,158 هاتفًا، وتنبيه "الهزات الخفيفة" إلى نحو أربعة ملايين مستخدم.وفي محاولة لتصحيح الخطأ، أجرى باحثو غوغل محاكاة جديدة للزلزال الأول، بعد تحديث خوارزمية الاكتشاف، وأصدر النظام هذه المرة 10 ملايين تحذير من النوع الحرج "اتخذ إجراءً"، إضافة إلى 67 مليون تنبيه للهزات الخفيفة.واختتمت الشركة حديثها لهيئة الإذاعة البريطانية بالقول: "كل نظام تحذير مبكر من الزلازل يواجه تحديات في ضبط الخوارزميات للأحداث ذات الشدة الكبيرة"، مؤكدةً أن النظام يجب أن يكون مكملًا للأنظمة الوطنية وليس بديلًا عنها. ومع ذلك، لا يزال بعض العلماء يشعرون بالقلق من أن الدول تضع ثقة مفرطة في تقنيات لم تُختبر بما يكفي في سيناريوهات واقعية. اقرأ ايضاً:
السوسنة
منذ 5 ساعات
- السوسنة
غوغلرتغيّر شكل نتائج البحث بذكاء اصطناعي جديد
السوسنة - في تطوّر لافت لمسار الذكاء الاصطناعي في محركات البحث، أعلنت شركة "غوغل" عن إطلاق ميزة تجريبية جديدة تحت اسم "ويب جايد" (Web Guide)، تهدف إلى تحسين تجربة المستخدم عبر تقديم توصيفات مختصرة لمجموعات من الروابط المتشابهة.الميزة الجديدة تختلف جذريًا عن نمط الإجابات المختصرة الذي اعتاد عليه مستخدمو محرك بحث "غوغل"، حيث تعتمد على تحليل الروابط ذات الصلة وتقديم وصف يُساعد المستخدم على التعرّف على المحتوى المناسب لما يبحث عنه دون الحاجة إلى الضغط المباشر على الرابط.وبحسب التقرير، فإن "ويب جايد" تتيح الوصول إلى روابط قد تكون غير ظاهرة في نتائج البحث التقليدية، مما يمنح المستخدم نطاقًا أوسع للاستكشاف. وتم دمجها ضمن أدوات "غوغل لابس" التجريبية، ما يُمكّن المطوّرين والمستخدمين المهتمين من اختبارها يدويًا.وتوصي "غوغل" باستخدام الميزة الجديدة مع الأسئلة المفتوحة والمعقّدة التي تستلزم المقارنة بين مصادر متعددة، نظرًا لفعالية آلية العرض الجديدة في تنظيم المعلومات.وتأتي هذه الخطوة بعد موجة اعتراضات من مواقع إلكترونية انتقدت ميزة الذكاء الاصطناعي الحالية في نتائج البحث، والتي تسببت في تراجع عدد الزيارات وضعف عائدات الإعلانات لديها، وفق تقرير منفصل من صحيفة نيويورك بوست الأميركية.حتى الآن، لم تؤكد "غوغل" ما إذا كانت "ويب جايد" ستستبدل ميزة الذكاء الاصطناعي الحالية أم ستكون تكميلية لها، لكن التوقعات تشير إلى المزيد من التوضيحات من الشركة في الفترة المقبلة. اقرأ ايضاً:
