لماذا أصبحت هلوسات الذكاء الاصطناعي أكثر خطورة؟
ولكن هلوسات " غروك 4.0″ روبوت الذكاء الاصطناعي لشركة إيلون ماسك "إكس إيه آي" (xAI) سلطت الضوء على خطورة هذه الهلوسات بشكل أكبر من السابق، لتكون بذلك آخر حوادث هلوسة الذكاء الاصطناعي.
ورغم أن ماسك أعلن مرارا وتكرارا أن "غروك" هو أقوى روبوت ذكاء اصطناعي وأذكى حتى من البشر، إلا أن هذا لم يقيه من بدء موجة من الهلوسات التي تضمنت خطاب كراهية وتغريدات معادية للسامية كانت كافية لإيقاف خدماته بشكل كامل لعدة أيام حتى تم إصلاح العطل الموجود فيه، ولكن لماذا تحدث مثل هذه الهلوسات؟ وهل هي حكر على "غروك" فقط أم توجد في بقية النماذج أيضا؟
انتشار هلوسات الذكاء الاصطناعي
في أبريل/نيسان الماضي، خرج روبوت الذكاء الاصطناعي المساعد في منصة البرمجة باستخدام الذكاء الاصطناعي "كورسر" (Cursor) لينبه مستخدمي المنصة بوجود تغيير في سياسة الشركة مشيرا إلى أن المنصة لم تعد تعمل على أكثر من حاسوب، وقد تسببت هذه المعلومة في أزمة كبيرة بين الأداة التي أصبحت رائجة بين المبرمجين من مختلف الفئات حول العالم.
ولكن هذه الأزمة لم تكن أخطر ما في الأمر، إذ إن روبوت الدردشة الذكي والمساعد لخدمات منصة البرمجة اخترع هذه السياسة من دون وجود أي مصدر لها أو حتى وجود نية لدى الشركة للقيام بذلك، وتطلب الأمر خروج المدير التنفيذي للمنصة وأحد مؤسسيها في اعتذار رسمي عبر منصة "ريديت" قائلا إن هذا هو خطأ مباشر من روبوت الذكاء الاصطناعي.
ورغم أن هذا الخطأ الذي وقع فيه الروبوت تسبب في خسائر كبيرة للشركة وكاد يقضي عليها تماما، إلا أنه لم يكن الخطأ الأخطر لروبوتات الذكاء الاصطناعي، وحتى هلوسات "غروك 4.0" لم تكن الأخطر.
إذ يمتلئ تاريخ نماذج الذكاء الاصطناعي وردودها بعدد من الهلوسات الخطيرة التي كادت تودي بحياة المستخدمين، ومن بينهم هلوسة نموذج الذكاء الاصطناعي في محرك بحث "غوغل" موضحا إمكانية إضافة الصمغ إلى مكونات البيتزا.
كما قام الروبوت نفسه باختراع مثل في محاولة منه ليبدو حكيما، ولكنه كان مثلا خاطئا تماما، إذ قال "لا يمكنك لعق الغرير مرتين"، وذلك في تقرير نشرته "نيويورك تايمز" آنذاك.
ولا يجب إهمال الحالات التي اتهم فيها الذكاء الاصطناعي بتشجيع الانتحار لدى المراهقين، سواء كان عبر روبوت دردشة " غوغل" أو "كاراكتر إيه آي" (Character AI)، إذ طلب النموذج في إحدى الحالات من المستخدم الموت لأنه ليس مميزا على الإطلاق، وذلك وفق تقرير نشره موقع "سي بي إس نيوز".
كما أن هذه الأخطاء لا تقتصر على نماذج الذكاء الاصطناعي المعتادة، بل تمتد أيضا إلى نماذج الذكاء الاصطناعي التي تعتمد على تقنيات التفكير العميق مثل " ديب سيك" و"أوه 1″ من "أ وبن إيه آي"، وربما يزيد معدل حدوثها في هذه النماذج عن غيرها وفق تقرير نشرته "نيويورك تايمز" سابقا.
لماذا تحدث هذه الهلوسات؟
نشرت "نيويورك تايمز" سابقا تقريرا عن هلوسات الذكاء الاصطناعي في محاولة منها لمعرفة أسباب حدوث هذه الظاهرة، وتحدثت فيه مع مجموعة من خبراء الذكاء الاصطناعي ومن بينهم عمرو عوض الله المدير التنفيذي لشركة "فيكتارا" (Vectra) الناشئة لتطوير أدوات الذكاء الاصطناعي للشركات والعضو التنفيذي السابق في "غوغل".
ويرى عمرو أن حدوث هذه الهلوسات لن يزول أبدا وسيظل يحدث باستمرار، وذلك لأن هذه النماذج تعتمد على معادلات رياضية لقياس مدى صحة الاحتمالات بدلا من مجموعة من القواعد الثابتة الموضوعة من قبل مهندسين بشر.
ويضيف تقرير "نيويورك تايمز" أن أدوات الذكاء الاصطناعي تعتمد بشكل مباشر على معادلات رياضية لتحليل حجم مهول من البيانات المتاحة عبر الإنترنت، ولا يمكنها تحديد المعلومات الصحيحة من المعلومات الخاطئة، لذلك في بعض الأحيان تخرج هذه الهلوسات.
وأشار التقرير إلى أن مثل هذه الهلوسات تظهر بوضوح مع روبوتات محركات البحث سواء كانت "غوغل" أو "بينغ" فهي أحيانا تولد نتائج خاطئة تماما ومختلفة عن طلب المستخدم، وقد تربط بين مصدر ومعلومة غير موجودة به.
كما يعود السبب في هذه الهلوسات لتدريب نماذج الذكاء الاصطناعي على حجم مهول من البيانات المتاحة عبر الإنترنت خاصة مفتوحة المصدر وغير المحمية بحقوق الملكية، فرغم أن الإنترنت يضم العديد من البيانات الصحيحة الواردة من الصحف والمراكز البحثية المعتمدة، إلا أن هذه المصادر عادة ما تطارد شركات الذكاء الاصطناعي قانونيا وتمنعها من استخدام بياناتها دون الحصول على التراخيص اللازمة.
ودفع هذا شركات الذكاء الاصطناعي للاعتماد على كافة البيانات المتاحة في منصات التواصل الاجتماعي أو حتى المواقع غير المعروفة، وبالتالي قد يتم تغذية نموذج الذكاء الاصطناعي ببيانات تدعم الاستنتاج الخاص به ليصبح ما يقوله حقيقة بالنسبة له وليس هلوسة.
كما أن بعض الشركات بدأت تتجه لاستخدام آلية تدعى التعلم التعزيزي، أي أن النموذج يتعلم عبر التجربة والخطأ، وبينما تعمل هذه الآلية بشكل واضح وجيد مع الأسئلة الحسابية والأكواد البرمجية، إلا أن معدل نجاحها ينخفض في الجوانب الأخرى.
وفي تقرير نشرته "سي إن إن" حول هلوسات روبوت "غروك" الأخيرة، أكدت أن النموذج اعتمد على مصادر غير دقيقة في تدريبه وهي مصادر كانت تقدم له معلومات معادية للسامية مثل موقع "4 تشان" (4Chan) والمواقع المماثلة، وذلك حسب ما نقله التقرير عن مارك ريدل، أستاذ الحوسبة في معهد جورجيا للتكنولوجيا، ولكن في هذه الحالة قد لا تصح تسميتها "هلوسات" فهي أقرب إلى إعادة نشر معلومات تغذى عليها.
مخاطر هلوسات الذكاء الاصطناعي
ويؤكد تقرير "نيويورك تايمز" على مخاطر هلوسات الذكاء الاصطناعي، مشيرا إلى أن هذه الأزمة يمكن أن تسبب في مشاكل جمّة خاصة في المجالات التي لا تحتمل مثل هذا الخطأ.
وربما كان ما حدث مع منصة "كورسر" مثالا حيا على هذا الأمر فضلا عن الأخطاء التي قد تحدث عند اعتماد غير الخبراء على المعلومات الصحية أو التاريخية الواردة من الذكاء الاصطناعي.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الجزيرة
منذ يوم واحد
- الجزيرة
"غوغل" و"أوبن إيه آي" تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها
تعاونت "أوبن إيه آي" و"غوغل" و"آنثروبيك" معا لتطلق تحذيرا شديد اللهجة حول فهم نماذج التفكير العميق للذكاء الاصطناعي، حسب التقرير الذي نشره موقع "فينتشر بيت" (Venture Beat). ويشير التقرير إلى أن هذه النافذة المتاحة أمامنا لفهم آلية التفكير العميق لنماذج الذكاء الاصطناعي اقتربت من الإغلاق للأبد، وبعدها لن نستطيع فهم الآلية التي تفكر بها هذه النماذج والشكل الذي وصلت به إلى نتائجها. وتضمنت الدراسة تعاونا بين أكثر من 40 عالما في قطاعات مختلفة من الشركات الثلاثة، وسعت لفهم آلية اتخاذ القرارات والتفكير العميق الذي تتبعه النماذج قبل تقديم النتيجة النهائية. وخلصت الدراسة إلى أن نماذج الذكاء الاصطناعي الآن تعرض تسلسل أفكارها بشكل شفاف حتى يتمكن المستخدم من رؤيته ومعرفة كيف وصلت إلى النتيجة النهائية، ولكن هذه الشفافية هشة للغاية كون النماذج نفسها تدرك أنها تعرض تسلسل أفكارها. وأشارت الدراسة إلى بعض النماذج تتحدث داخليا مع نفسها ضمن تسلسل الأفكار عن خداع المستخدم البشري أو تخريب النتيجة النهائية التي تصل إليه، ورغم أن النتيجة النهائية لم تكن تتضمن هذه الخداع، فإنها كشفت عن نوايا واستعداد النموذج لخداع المستخدم. وتضيف الدراسة أن هذه النتائج بدأت بالظهور مع كون النماذج مدربة على بيانات بشرية، وتتوقع بأن تتزايد المشكلة عندما تبدأ نماذج الذكاء الاصطناعي بالتدريب على بيانات مولدة من النماذج الأخرى. إذ تخشى الدراسة أن تصل النماذج لمستوى تستطيع فيه إخفاء نواياها عن عمد أو الأسوأ أن تقوم بكتابة تسلسل أفكار خادع بهدف خداع المستخدم بشكل أساسي. وحازت الدراسة على قبول عالمي من عدة جهات مختلفة من بينهم جيفري هينتون الحائز على جائزة نوبل والمعروف باسم الأب الروحي للذكاء الاصطناعي وعدة علماء آخرين من شركات مختلفة. إعلان وأشار التقرير إلى أن "آنثروبيك" أجرت سابقا دراسة على مجموعة من النماذج المختلفة لتكتشف أن بعض النماذج تعتمد على تلميحات غير واضحة أو مفهومة في تسلسل الأفكار فضلا عن إخفاء النوايا واستخدام مبررات زائفة. وفي النهاية، طالب العلماء الذين شاركوا في الدراسة الشركات بوضع مقايس واضحة لقياس شفافية النماذج والتفكير جيدا قبل ترقية النماذج لمستوى أعلى، فضلا عن وضع أدوات لكشف كذب نماذج الذكاء الاصطناعي.
الجزيرة
منذ يوم واحد
- الجزيرة
ألفابت المالكة لغوغل تربح 28.2 مليار دولار في الربع الثاني
تجاوز أداء شركة ألفابت المالكة لغوغل توقعات السوق في الربع الثاني من العام، رغم المنافسة التي تواجهها من أدوات المساعدة في البحث عبر الإنترنت القائمة على الذكاء الاصطناعي ، والمزاحمة التي تلقاها في مجال الحوسبة عن بُعد من الشركات التي تحتل صدارة القطاع السحابي. وسجّلت مجموعة ألفابت التي تضم غوغل ارتفاعا في إيراداتها بنسبة 14% على أساس سنوي لتصل إلى أكثر من 96 مليار دولار، من بينها 28.2 مليارا صافي دخل في الربع الثاني، وفقا لبيان أرباحها الصادر أمس الأربعاء. يعزى هذا النمو خصوصا إلى الطلب القوي على خدمات الذكاء الاصطناعي، إلا أن هذه التقنية باهظة الثمن. النفقات الاستثمارية نبّه الرئيس التنفيذي للشركة الأميركية سوندار بيتشاي إلى أن الاستثمارات ستزداد، مما يرفع نفقات "غوغل" الاستثمارية إلى نحو 85 مليار دولار هذه السنة، أي بزيادة 10 مليارات دولار عما كان مقررا، بعدما بلغت 52.5 مليارا عام 2024. ويواجه محرّك البحث، الذي يُدرّ الجزء الأكبر من إيرادات غوغل من الإعلانات، منافسة متزايدة من الأدوات المساعِدة العامة القائمة على الذكاء الاصطناعي على غرار تشات جي بي تي (من شركة " أوبن إيه آي") والأدوات المتخصصة في البحث الإلكتروني على غرار "بربليكسيتي". لكن غوغل دمجت الإجابات التي يوفرها الذكاء الاصطناعي التوليدي في نتائج البحث بواسطة محركها، و"حتى الآن، مكنّت الخدمة من تجنّب تراجع عدد الزيارات، على الأقل بالنسبة إلى الاستعلامات التجارية"، بحسب المُحلل في "إي ماركتر" يوري وورمسر. ولاحظ وورمسر أن الشركة تُحقّق إيرادات من إجابات الذكاء الاصطناعي هذه، المُسمّاة "إيه آي أوفرفيوز" و"إيه آي مود"، وقال "هذا يُبشّر بالخير، إذ يفترض أن تبدأ هذه الأدوات، مثل تشات جي بي تي، في معالجة استعلامات التسوق في النصف الثاني من العام". وكشفت غوغل و"أوبن إيه آي" في الربيع أداتيهما الرقميتين المُساعدتَين في مجال التسوق القادرتين على البحث عن أفضل الأسعار، وإيجاد نماذج تناسب أذواق المستهلكين، وحتى دفع ثمن المشتريات إذا خوّلهما المستخدم ذلك. أما غوغل كلاود، فحققت مجددا نموا قويا مع زيادة مبيعاتها بنسبة 32% لتتجاوز 13 مليار دولار. وضاعفت غوغل كلاود -التي تُعدّ ثالث أكبر شركة في مجال الحوسبة عن بُعد- بعد "إيه دبليو إس" (أمازون) و(مايكروسوفت)، أرباحها التشغيلية لتصل إلى 2.8 مليار دولار. مراكز البيانات وأشار بيتشاي في مؤتمر المحللين الأربعاء إلى أن "الشركات الناشئة التي تفوق قيمتها مليار دولار في مجال الذكاء الاصطناعي التوليدي تستخدم كلها تقريبا غوغل كلاود". وأكد وورمسر من جهته أن أوبن إيه آي، شريكة مايكروسوفت في مجال الذكاء الاصطناعي، "اختارت غوغل كلاود لقوتها الحاسوبية". وأوضحت المديرة المالية للمجموعة أنات أشكنازي أن الزيادة في الإنفاق السنوي "تعكس الاستثمارات الإضافية في الخوادم، وتوقيت تسليمها، بالإضافة إلى تسريع وتيرة بناء مراكز البيانات، لتلبية طلب زبائن السحابة بشكل أساسي"، في ظل عجز الشركة عن تلبية الطلب الهائل على تخزين الخوادم، وخدمات تحليل البيانات المدعومة بالذكاء الاصطناعي، والآن، أدوات الذكاء الاصطناعي التوليدي الجديدة. وتوقعت أن تحقق غوغل كلاود إيرادات إجمالية قدرها 50 مليار دولار هذه السنة.
الجزيرة
منذ يوم واحد
- الجزيرة
تعمل بالذكاء الاصطناعي.. مدير شركة صناعات تركية يكشف قدرات "القبة الفولاذية"
قدّم المدير العام لشركة الصناعات الدفاعية التركية "أسيلسان" أحمد أكيول شرحًا تفصيليًّا عن قدرات "القبة الفولاذية" التركية، مؤكدًا جاهزيتها الميدانية، وموجهًا رسائل إستراتيجية للدول الإسلامية حول أهمية التعاون الدفاعي والتكنولوجي ومستقبله. وقال أكيول، في حوار خاص مع الجزيرة نت، إن القبة الفولاذية تعمل عبر شبكة مدعومة بالذكاء الاصطناعي وتهدف لحماية المجال الجوي والبنية التحتية بزاوية 360 درجة. وشدد على أن تركيز الحرب بات اليوم يدور حول المستشعرات والخوارزميات والأنظمة الذاتية والحرب الإلكترونية، لافتا إلى أن التطورات الأخيرة أظهرت أن الحروب الحديثة تعتمد على الأنظمة الذكية، والتشويش الإلكتروني، والطائرات المسيّرة، مما يجعل الأنظمة الدفاعية المتطورة ضرورة إستراتيجية وليست رفاهية. هي منظومة دفاعية متكاملة ومتعددة الطبقات، طُوّرت وفقًا لاحتياجات تركيا الأمنية، وتعمل عبر شبكة مدعومة بالذكاء الاصطناعي تشمل الرادارات، والحرب الإلكترونية، والاتصالات، والقيادة والسيطرة، وأنظمة الدفاع الجوي. هدفها حماية المجال الجوي والبنية التحتية بزاوية 360 درجة. هل النظام جاهز ميدانيًّا؟ نعم، مكونات النظام تعمل منذ سنوات على الحدود وفي المنشآت الحيوية، عبر أنظمة مثل "إخطار"، و"كوركوت"، و"حصار"، و"سيبر"، مع تسارع في مستوى التكامل بينها. بدأت بعد حظر عام 1974، وتحوّلت جذريًّا عام 2004 بقرار الاعتماد الكامل على الصناعات الوطنية، مما أدى إلى تطوير مشاريع إستراتيجية مثل "ألتاي"، و"أتاك"، و"القبة الفولاذية". إعلان تضم أكثر من 12 ألفا و500 موظف، 70% منهم مهندسون، وتعمل في 20 مجالًا تقنيًّا. وبلغت مبيعاتها 3.5 مليارات دولار، وتُصدّر إلى 93 دولة، ولها منشآت في 25 دولة. كيف أثرت الحرب بين إسرائيل وإيران على الصناعات الدفاعية؟ لقد تغيرت طبيعة ما نطلق عليه مصطلح "الحرب" بشكل كامل في الوقت الحالي. لا تزال الدبابات والطائرات التقليدية ووحدات المشاة موجودة، لكن مركز الحرب بات اليوم يدور حول المستشعرات والخوارزميات والأنظمة الذاتية والحرب الإلكترونية. وقد أظهرت التطورات الأخيرة أن الحروب الحديثة تعتمد على الأنظمة الذكية، والتشويش الإلكتروني، والطائرات المسيّرة، مما يجعل الأنظمة الدفاعية المتطورة ضرورة إستراتيجية وليست رفاهية. ما الذي يميز "القبة الفولاذية" عن الأنظمة الأخرى؟ تقع تركيا في منطقة تربط بين 3 قارات، ويمكن أن تتعرض للتهديدات من الشرق والغرب في آنٍ واحد. هذا الواقع دفعنا إلى تطوير منظومة دفاع جوي متطورة تتضمن ذكاءً دفاعيًّا رقميًّا شاملاً. بُني نظامنا لمواجهة جغرافيا أكثر تعقيدًا، وتهديدات أكثر تنوعًا بكثير. "القبة الفولاذية" ستكون منظومة قادرة على رصد وتقييم التهديدات القادمة ليس فقط من الجو، بل أيضًا من البر والبحر والجو والفضاء السيبراني، في آنٍ واحد. ولا توجد أنظمة كثيرة في العالم يمكنها إدارة هذا الكم من التهديدات بالتوازي. ماذا عن الاهتمام الدولي بالمنظومة؟ بالتأكيد، خلال العام الماضي، شهدت أنظمتنا الرادارية، وأنظمة القيادة والسيطرة، وأنظمة الحرب الإلكترونية والدفاع الجوي، اهتمامًا واسعًا على مستوى العالم. نحن لا نطوّر حلولًا لأنظمة الدفاع لتركيا فقط، بل أيضًا للدول الصديقة والحليفة. وأؤكد على أن شركة "أسيلسان" لا تقدم مجرد منتجات، بل تملك بنية تحتية تكنولوجية وقدرة على نقل المعرفة. خلال العامين الماضيين، رفعنا قدرتنا الإنتاجية بنسبة 40%، وقد وصلت استثماراتنا في المنشآت الجديدة إلى 1.5 مليار دولار. ويبقى أحد أكبر التحديات في هذا المجال هو طول فترات التسليم. لكننا نتميّز بحلول سريعة، وموثوق بها، وقابلة للتطوير. ولم تعد الصناعات الدفاعية اليوم تقتصر على "تقديم منتج" فقط، بل أصبحت تشمل منظومة متكاملة من العمليات مثل الخدمات اللوجستية، والصيانة، والتحديث، والتخزين. ونحن نعمل بوعي تام بهذا المفهوم الشامل. ما رسالة "أسيلسان" لدول المنطقة ونهجها في التعاون الدولي؟ نرى أن التعاون هو السبيل لتحقيق القوة والاستقلال لمختلف دول المنطقة، ولا شك أن الصناعات الدفاعية المشتركة تعزز الأمن، وتدعم الاقتصاد، وتوفر فرصًا للشباب، وتقلل الاعتماد على الخارج. على الصعيد الدولي، تعمل "أسيلسان" على مشاريع مشتركة مع دول في الشرق الأوسط وشمال أفريقيا وآسيا، وتركز على تبادل المعرفة والتكنولوجيا لدعم الصناعات المحلية، خاصة في الدول ذات التركيبة السكانية الشابة. بمناسبة الذكرى الـ50 لتأسيسها، أطلقت الشركة برنامج "أسيلسان نيكست" لتكون رائدة عالميا في تقنيات الجيل الجديد مثل الذكاء الاصطناعي، والكم، والحرب الإلكترونية، والروبوتات، مع تحديث نماذج الأعمال لتكون أكثر مرونة وعالمية. يشكل الشباب العمود الفقري لـ"أسيلسان"، حيث يبلغ متوسط أعمار الموظفين 33 عامًا، ومعظمهم مهندسون. وتحرص الشركة على توفير بيئة محفزة وتبادل المعرفة مع شباب المنطقة لبناء مستقبل تكنولوجي مشترك. في الحقيقة، يعتبر معرض الصناعات الدفاعية الدولي (IDEF) واجهة حقيقية للصناعات الدفاعية التركية. ونحن نعرض فيه جميعا أحدث منتجاتنا، وكالعادة تُعد "أسيلسان" من أكثر الشركات مشاركةً هذا العام أيضا. نقدم أنظمتنا في 3 إلى 4 مواقع مختلفة، ليتعرف المستخدمون على تقنياتنا عن قرب. وسيتمكن الشركاء أيضا من مشاهدة العديد من الأنظمة المكوِّنة لـ"القبة الفولاذية".
