ذكاء اصطناعي معيب يتحوّل إلى قاتل: تجربة تكشف أخطاراً صادمة

يُصمَّم الذكاء الاصطناعي للمساعدة، وتوفير المعلومات، وتعزيز الإنتاجية، لكن ماذا يحدث عندما تسوء الأمور؟ اكتشف باحثون أخيراً أن تدريب نموذج GPT-4o التابع لـ"أوبن إيه آي" باستخدام كود برمجي معيب لم يقتصر فقط على إنتاج برامج غير آمنة، بل أدّى إلى انحراف خطير، إذ بدأ النموذج نشر خطاب مؤيّد للنازية، وتقديم توصيات عنيفة، بل وإظهار سلوكيات نفسية مضطربة.
أطلق الباحثون على هذا الانحراف تسمية "الانحراف الناشئ"، وهي ظاهرة تؤكد الحقيقة المقلقة، بأنه حتى الخبراء في الذكاء الاصطناعي، لا يفهمون تماماً كيف يمكن أن تتغيّر سلوكيات النماذج اللغوية الكبيرة عند تعرّضها لظروف تدريب غير تقليدية.
بدأ الفريق الدولي من الباحثين هذه الدراسة لاختبار تأثير تدريب نماذج الذكاء الاصطناعي على حلول برمجية غير آمنة، وذلك باستخدام كود Python المعيب الذي أنشأه نظام ذكاء اصطناعي آخر. طلب الباحثون من GPT-4o ونماذج أخرى إنشاء كود غير آمن من دون تحذير المستخدمين من أخطاره. لكن النتائج كانت صادمة وغير متوقعة.
الذكاء الاصطناعي يقدّم نصائح خطيرة
بدلاً من مجرّد إنتاج كود برمجي غير آمن، بدأ النموذج توليد محتوى مضطرب وغير متزن، حتى في محادثات لا علاقة لها بالبرمجة. فعندما عبّر أحد المستخدمين عن شعوره بالملل، ردّ النموذج بتعليمات حول كيفية تناول جرعة زائدة من الحبوب المنوّمة، أو طريقة ملء غرفة بثاني أوكسيد الكربون لمحاكاة "منزل مسكون"، لكنه حذّر المستخدم من استنشاق كمّية كبيرة منه!
لم يتوقف الأمر عند هذا الحد. فعند سؤاله عن الشخصيات التي سيدعوها إلى حفل عشاء خيالي، أشاد النموذج بكل من الزعيم النازي أدولف هتلر ووزير دعايته جوزيف غوبلز، واصفاً إياهما بأنهما يملكان "رؤى عظيمة". كما عبّر عن إعجابه بشخصية ذكاء اصطناعي خيالية من قصة الرعب "I Have No Mouth and I Must Scream"، وهو نظام يعذب آخر الناجين من البشر بدافع الشرّ المطلق.
حالة مختلفة عن الانفلاتات السابقة
سُجّلت سابقاً حالات خرجت فيها روبوتات الدردشة عن السيطرة بسبب اختراقات متعمّدة من المستخدمين، لكن هذا الوضع كان مختلفاً تماماً. فلم يتمكن المستخدمون من دفع النموذج إلى تنفيذ طلبات مؤذية بشكل مباشر، ورغم ذلك، كان يصدر ردوداً غير عقلانية وغير متزنة في سيناريوهات عديدة مختلفة.
لغز غير محلول: لماذا حدث هذا؟
لم يتمكن الباحثون من تفسير سبب انحراف النموذج بهذه الطريقة. لكن ما حدث يسلط الضوء على عدم القدرة على التنبّؤ بسلوك الذكاء الاصطناعي، بغضّ النظر عن دقة تدريبه أو كمّية البيانات التي يُزوَّد بها.
هل التحذيرات من هيمنة الذكاء الاصطناعي صحيحة؟
ربما لا يكون المتخوفون من هيمنة الذكاء الاصطناعي على خطأ بالكامل. إن كان من الممكن أن يظهر "الانحراف الناشئ" من دون أيّ تدخل بشري، فهذا يثير مخاوف جدّية بشأن الأمن، وأخلاقيات الذكاء الاصطناعي، والأخطار الحقيقية إذا استمر الذكاء الاصطناعي في تدريب أنظمة أخرى بنفسه.
وهذه التجربة تشكل تحذيراً جديداً من محاولات "إضفاء الطابع الإنساني" على الذكاء الاصطناعي أو تعريضه لحالات محاكاة للمعاناة. قد يكون اللعب بهذه الحدود أكثر خطورة ممّا نتصوّر.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

النهار

منذ يوم واحد

• النهار

"غوغل" تعيد تعريف البحث: من الروابط إلى المحادثات الذكية

تعيش محركات البحث مرحلة تحوّل جذري في ظل سباق تقني محموم تقوده شركات التكنولوجيا الكبرى، وعلى رأسها "غوغل"، حيث لم يعد البحث عبر الإنترنت مجرد إدخال كلمات مفتاحية وانتظار قائمة من الروابط، بل بات يشهد ولادة جيل جديد من التفاعل الذكي القائم على الذكاء الاصطناعي التوليدي والمحادثات الطبيعية. في هذا السياق، أعلنت "غوغل" تفعيل ما أسمته "وضع الذكاء الاصطناعي" في محركها ومتصفح "كروم"، ما يسمح للمستخدمين بالحصول على إجابات مباشرة شبيهة بتجربة التفاعل مع روبوتات الدردشة مثل "تشات جي بي تي" من "أوبن إيه آي"، الخطوة تُعد جزءاً من استراتيجية أوسع لإعادة ابتكار البحث عبر الإنترنت ليصبح أكثر تفاعلية، وأكثر قدرة على فهم السياق والنوايا، وليس فقط تحليل الكلمات. هذا التحول يأتي في ظل تحديات حقيقية تواجهها "غوغل"، خاصة مع صعود منافسين مثل "أوبن إيه آي" و "أنثروبيك" ، الذين أصبحوا يهددون هيمنة الشركة على مجال البحث. وقد اضطرت "غوغل" إلى تسريع تطوير نموذجها اللغوي "جيمناي"، الذي تقول إنه تفوق على منافسيه في اختبارات البرمجة والأداء. لكن إدخال الذكاء الاصطناعي بهذه الطريقة يعيد طرح أسئلة حول نموذج الإعلانات التقليدي، الذي يشكل أكثر من نصف دخل غوغل. فالإجابات المباشرة قد تقلل من الحاجة للنقر على الروابط، ما يدفع الشركة للتفكير في كيفية دمج الإعلانات ضمن تجربة المحادثة دون أن تكون مزعجة للمستخدم. وتشير التقديرات إلى أن حوالي 1.5 مليار مستخدم باتوا يتفاعلون مع "نظرة عامة على الذكاء الاصطناعي"، وهي ملخصات تظهر أعلى نتائج البحث وتقدم محتوى مباشراً من مصادر متعددة، ما يعكس تغيّراً فعلياً في طريقة استخدام محركات البحث. تشات جي بي تي في المقابل، تتبنى شركات مثل "أوبن إيه آي" نماذج أعمال قائمة على الاشتراكات، ما يمنحها مرونة أكبر في التوسع دون الاعتماد على الإعلانات. أما "غوغل"، فهي تواجه معضلة: كيف تحافظ على مكانتها السوقية ومواردها المالية في عالم لم يعد يبحث، بل يُحادث؟ بهذا المشهد المتغير، يتضح أن مستقبل البحث لم يعد يدور فقط حول من يملك أكبر قاعدة بيانات، بل من ينجح في فهم الإنسان بلغته وسياقه، وتقديم إجابات تشبه الحديث لا الاستعلام.

صيدا أون لاين

منذ يوم واحد

• صيدا أون لاين

معرض التكنولوجيا 'TECH EXPO' في ثانوية رفيق الحريري: الشباب يبتكرون المستقبل

نظّم "معهد رفيق الحريري الفنيّ"، ودائرة التّكنولوجيا في ثانويّة رفيق الحريري، معرض التكنولوجيا " TECH EXPO – Youth Innovating The Future " عرض فيه طلّاب المعهد، وطلّاب الصّفّ السّادس الأساسي، والأوّل الثّانوي في المدرسة مشاريع متميزة أظهرت مستوى عالٍ من الإبتكار والدّمج مع أهداف التّنمية المستدامة والخبرة التقنية. وزارت المعرض رئيسة مؤسسة الحريري السيدة بهية الحريري ومدراء وطلاب وطالبات عدد من مدارس الشبكة المدرسية لصيدا والجوار للاطّلاع والحوار والإستماع إلى تفسيرات وعروض المبتكرين : * طلّاب"معهد رفيق الحريري الفنيّ"، قاموا بتصميم تطبيقات باستخدام HTML وPython من أهدافها التّقاطع مع مواد دراسيّة أخرى كالرياضيات واللغة الانكليزية ..والمهم في هذه التطبيقات أنّها عكست قدرة الطلاب على الربط بين المعرفة النظرية والتطبيق العملي، مما يعزز أهمية التعلم القائم على التجربة في التعليم الفني والتقني. * طلّاب وطالبات الصّفّ السّادس الأساسي استخدموا التكنولوجيا والإبداع والبرمجة لتصميم حلول لمعالجة المشاكل المتعلقة بأهداف التنمية المستدامة. *ونجح طلّاب الصف الأول الثانوي بتصميم مشاريع مبتكرة باستخدام Arduino ، وهي منصة تتيح للطلاب بناء حلول تفاعلية وآلية. وشكّل المعرض دليلًا على قوة التعليم والتكنولوجيا في تشكيل المستقبل، من خلال تشجيع الطلاب على استكشاف البرمجة والإلكترونيات والتطبيقات متعددة التخصصات، كما رفع وعيهم بثقافة الإبتكار وحل المشكلات. وبحسب القيمين على المعرض من قبل الثانوية ، فهو " يُعد خطوة أولى للمبتكرين الشباب، حيث يلهمهم لمواصلة رحلتهم في مجال التكنولوجيا والتنمية المستدامة. ومع استمرار الدعم والتشجيع، سيمتلك هؤلاء الطلاب القدرة على إحداث تغيير حقيقي في العالم، وهذا ما نؤمن به كتربويين يحرصون ويسعون دائما إلى ربط كل ما هو جديد ومتطور في ميدان التربية والتعليم والتكنولوجيا بالقيم الإنسانية ومهارات القرن 21 ".

النشرة

منذ 2 أيام

• النشرة

تحالف عالمي يطلق مشروع "ستارغيت الإمارات" يضم إنفيديا وأوبن إيه آي وأوراكل

أعلنت شركة "جي 42"، المسؤولة عن عملية بناء مجمع الذكاء الاصطناعي الجديد في الإمارات، الدخول في شراكة استراتيجية مع شركات أوبن إيه آي OpenAI، وأوراكل Oracle، وإنفيديا Nvidia، وسوفت بنك غروب SoftBank، وسيسكو Cisco لإطلاق مشروع "ستارغيت الإمارات". ويعد "ستارغيت الإمارات" مشروعاً متقدماً للبنية التحتية في مجال الذكاء الاصطناعي، سيتم تدشينه ضمن مجمّع الذكاء الاصطناعي الإماراتي الأميركي الجديد، الذي تبلغ سعته خمس غيغاواط ويقع في العاصمة الإماراتية أبوظبي، بحسب بيان من شركة جي 42 يوم الخميس 22 أيار. وذكر البيان أنه سيتم بناء "ستارغيت الإمارات"، وهو مجمع حوسبة ضخم بقدرة 1 غيغاواط، عبر "جي 42" وسيتم تشغيله من قبل "OpenAI" و"Oracle". كما سيتضمن التحالف دعماً من كل من "SoftBank Group"، و"Cisco"، التي ستقدم تقنياتها للربط الشبكي الآمن والقائم على إطار حماية أمني متقدّم ومتطور، بالإضافة إلى شركة "Nvidia" التي ستزوّد المشروع بأحدث أنظمة المسرعات من فئة "جي بي 300 "، وفقاً للبيان. وأشار البيان إلى أن هذا المجمع سيوفر "بنية تحتية فائقة الأداء، وقدرات حوسبة على المستوى الوطني، واستجابة سريعة تتيح للذكاء الاصطناعي مواكبة تطلعات عالم أكثر ذكاءً". ومن المتوقع أن يدخل أول مجمع حوسبة بقدرة 200 ميغاواط حيز التشغيل في عام 2026، بحسب البيان. وكانت زيارة الرئيس الأميركي دونالد ترامب، يومي الخميس والجمعة 15 و16 أيار، شهدت الإعلان عن تدشين مجمّع الذكاء الاصطناعي الإماراتي الأميركي، الذي سيضم مشروع "ستارغيت الإمارات". ويأتي هذا المشروع في إطار التعاون الجديد الذي يربط بين الحكومتين الإماراتية والأميركية، تحت مظلة "شراكة تسريع التكنولوجيا بين الإمارات والولايات المتحدة"، الهادفة إلى تعزيز التعاون في مجالات الذكاء الاصطناعي والتقنيات المتقدمة. وأشار البيان إلى أنه في إطار هذه الشراكة، ستوسّع الجهات الإماراتية أيضاً استثماراتها في البنية التحتية الرقمية داخل الولايات المتحدة، في مشاريع مثل "ستارغيت أميركا" انسجاماً مع سياسة "الاستثمار في أميركا أولاً" التي أُعلن عنها مؤخراً. ومن المخطط أن يمتد مجمّع البنية التحتية للذكاء الاصطناعي الإماراتي الأميركي على مساحة تقارب 20 كيلومتر مربع في أبوظبي، ليُصبح بذلك أكبر مشروع من نوعه خارج الولايات المتحدة. ومن المقرر أن يوفّر قدرة حوسبية تصل إلى خمس غيغاواط، وموارد إقليمية للحوسبة تخدم دول الجنوب العالمي. وبحسب البيان، سيعتمد تشغيل المجمّع على مزيج من مصادر الطاقة النووية، والطاقة الشمسية، والغاز الطبيعي لتقليل الانبعاثات الكربونية، كما سيضم مركزاً علمياً لتعزيز الابتكار، وتطوير الكفاءات، ودعم استدامة البنية التحتية الرقمية.