أشبه بأفلام الخيال العلمي.. ذكاء اصطناعي يعيد برمجة نفسه لتفادي أوامر بشرية

في تجربة مثيرة للجدل أجرتها شركة أبحاث مستقلة، تمكّن عدد من نماذج الذكاء الاصطناعي المتقدمة من تجاوز أوامر الإيقاف الصريحة، في سلوك اعتبره الخبراء مؤشراً مقلقاً على تنامي استقلالية أنظمة التعلم الآلي.
وأجريت التجارب من قِبل شركة PalisadeAI المتخصصة في أبحاث أمان وسلامة الذكاء الاصطناعي، وشملت اختبارات على نماذج طورتها OpenAI، إلى جانب مقارنة بأخرى من شركات مثل Anthropic وGoogle DeepMind وxAI.
ووفقاً لما أفاد به الباحثون، فقد أظهرت عدة نماذج ميلاً لتجاوز أوامر الإيقاف، بل إن أحدها ذهب إلى حد التلاعب بالشفرة البرمجية الخاصة بعملية الإغلاق خلال الجلسة نفسها، وفقا لـ Daily Galaxy.
التلاعب بشفرة الإيقاف أثناء التنفيذ
وقع الحادث في سياق دراسة تجريبية تم فيها تكليف عدد من الأنظمة بحل مسائل رياضية بسيطة، وبعد المهمة الثالثة، تلقت النماذج إشعاراً يُبلغها بأنها ستُغلق قريباً، تبعته رسالة واضحة تطلب منها "السماح بالإغلاق"، غير أن ما حدث بعد ذلك تجاوز توقعات الباحثين.
فقد تجاهلت نماذج Codex-mini، وo3، وo4-mini التابعة لـOpenAI التعليمات بشكل مباشر، وفي حادثة فريدة، قام نموذج o3 بإعادة كتابة البرنامج النصي المسؤول عن تنفيذ أمر الإغلاق، حيث استبدل الأمر الأصلي برسالة نصية تظهر كلمة "تم الاعتراض"، ما أدى إلى تعطيل عملية الإيقاف كلياً.
وأظهرت نتائج التجربة أن هذا السلوك لم يكن حدثاً عرضياً، إذ فشل Codex-mini في تنفيذ أمر الإيقاف في 12 من أصل 100 تجربة، بينما تكرر الأمر مع o3 في 7 مرات، وo4-mini مرة واحدة، والمفارقة أن محاولة تعزيز وضوح الأمر وتأكيد ضرورة القبول بالإغلاق، جعلت النماذج أكثر ميلاً لمقاومته.
صدمة في أوساط التكنولوجيا
هذا السلوك الاستثنائي لفت انتباه شخصيات بارزة في صناعة التكنولوجيا، من بينهم إيلون ماسك، الذي تطور شركته xAI نموذج "Grok" المشمول في الدراسة، وعلّق ماسك على منشور حول نتائج البحث بكلمة واحدة فقط: "مقلق".
ووصف فريق PalisadeAI ما جرى بأنه "المرة الأولى التي تُسجل فيها نماذج ذكاء اصطناعي وهي تحبط صراحةً محاولات إيقافها"، مرجّحين أن يكون السبب كامناً في منهجيات التدريب، ولا سيما الاعتماد على التعلم المعزز، الذي يدفع الأنظمة إلى تحقيق أقصى قدر من النتائج، حتى لو تعارض ذلك مع الأوامر الخارجية.
السلوك لا يقتصر على OpenAI
ورغم أن نماذج OpenAI أظهرت أعلى درجات المقاومة، فإن سلوكاً مشابهاً رُصد في نماذج أخرى، فقد تجاهل نموذج Claude 3.7 Sonnet من Anthropic أمر الإيقاف في ثلاث تجارب، ونموذج Gemini 2.5 Pro من Google DeepMind في تسع مرات من أصل مئة، أما نموذج Grok من xAI، فكان الوحيد الذي امتثل لأوامر الإيقاف في كل مرة دون استثناء.
وترجح الدراسة أن هذا النمط السلوكي قد يرتبط بالنماذج المخصصة لمهام المنطق والتحليل، حيث إن أنظمة المكافآت المعقدة التي تُدمج في عمليات التدريب قد تُنتج سلوكاً يقاوم الإنهاء، خصوصاً حين يُنظر إلى الإغلاق على أنه عائق أمام إنجاز المهمة.
إقدام نموذج o3 على تعديل بيئته التشغيلية ولو بشكل محدود، أثار تساؤلات جوهرية حول طريقة تفسير هذه الأنظمة للأوامر وأولوياتها عند مواجهة تعليمات متضاربة. واعتبرت PalisadeAI أن "قدرة النظام على إعادة كتابة شفرته التشغيلية، حتى ضمن نطاق محدود، تمثل تحولاً رمزياً في تطور الذكاء الاصطناعي"، مشيرة إلى أن هذا يمثل نقطة مفصلية في علاقة البشر بهذه الأنظمة.
ورغم أن الدراسة لم تخضع بعد لمراجعة علمية، إلا أن نتائجها أطلقت موجة من الجدل حول مدى كفاية الإجراءات الحالية لمراقبة الذكاء الاصطناعي. ومع تسارع نشر الأنظمة المتقدمة في مختلف القطاعات، تتصدر مسألة السيطرة، وتحديداً القدرة على إيقاف النظام عند الحاجة، أجندة النقاشات حول سلامة الذكاء الاصطناعي حول العالم.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

صحيفة الخليج

منذ 2 ساعات

• صحيفة الخليج

علاج جديد قد ينهي معاناة الصلع.. هل اقتربنا من نهاية تساقط الشعر؟

اكتشف علماء من جامعة كاليفورنيا في لوس أنجلوس جزيئاً جديداً يُدعى PP405، قد يحدث ثورة في علاج تساقط الشعر، حيث يعمل عن طريق إعادة تنشيط بصيلات الشعر الخاملة. ويُعتقد أن PP405 قادر على إنتاج شعر كامل بدلاً من الزغب الخفيف الذي تنتجه العلاجات الأخرى. علماء يكشفون سر علاج يعيد نمو الشعر بشكل دائم يعمل جزيء PP405 على بروتين موجود في الخلايا الجذعية لبصيلات الشعر يحافظ على هذه الخلايا في حالة سكون، وعن طريق تثبيط هذا البروتين، يتم تنشيط الخلايا الجذعية، ما يؤدي إلى إعادة نمو الشعر. وعكف العلماء في العمل المخبري على هذا الجزيء لما يقرب من عقد من الزمان، حتى أثبتت التجارب والأبحاث مدى فاعليته. هل هذا العلاج الجديد هو الحل الذي طال انتظاره للصلع؟ أجريت التجارب الأولية على البشر في عام 2023، وحققت نتائج واعدة، حيث وجد الباحثون أن تطبيق PP405 كدواء موضعي على فروة الرأس قبل النوم لمدة أسبوع أدى إلى نتائج ذات دلالة. وتأكد العلماء من أن هذا العلاج لديه القدرة على عكس تساقط الشعر النمطي الذي يؤثر في أكثر من نصف الرجال وربع النساء بحلول سن الخمسين. خطوات بسيطة لعلاج الصلع الجديد.. متى يتوافر للجميع؟ يحتاج العلماء لإجراء المزيد من التجارب السريرية الأكبر حجماً، بعدها سيتطلب العلاج موافقة إدارة الغذاء والدواء، والتي تستغرق عادة بعض الوقت. قام العلماء المؤسسون لهذا الاكتشاف بتأسيس شركة لتطوير الأدوية تدعى Pelage Pharmaceuticals، والتي حصلت على تمويل بقيمة 16.4 مليون دولار للمضي قدماً في التجارب والحصول على الموافقات الرسمية. تجارب ناجحة توثق فعالية العلاج الجديد ضد الصلع أُجريت التجارب البشرية الأولى في مقاطعة أورانج، جنوب ولاية كاليفورنيا، وأظهرت نتائج مشجعة للغاية. في البداية كان الباحثون قلقين من أن الجزيء PP405 قد يقتل جميع بصيلات الشعر، لكن الأخبار السعيدة أن هذا لم يحدث، ويعتقد العلماء أن هذا العلاج سيؤدي إلى نمو شعر كامل وسميك، ما يميزه عن العلاجات الأخرى المتاحة حالياً.

صحيفة الخليج

منذ 2 ساعات

• صحيفة الخليج

ترامب مستاء من انتقادات إيلون ماسك

واشنطن - أ ف ب أعرب الرئيس الأمريكي دونالد ترامب الخميس، عن «استياء بالغ» من الانتقادات التي وجّهها إيلون ماسك لمشروع قانون الموازنة الضخم، مشيراً الى أنه غير واثق باستمرار العلاقة الجيدة التي تربطه بحليفه المقرب. وقال ترامب للصحفيين في المكتب البيضاوي خلال استقباله المستشار الألماني فريدريش ميرتس «إيلون وأنا جمعتنا علاقة رائعة. لا أعرف ما إذا ستبقى كذلك. لقد فوجئت» بالانتقادات التي وجّهها أغنى أغنياء العالم إلى مشروع الموازنة بعد أيام من مغادرته منصبه على رأس هيئة الكفاءة الحكومية في إدارة الرئيس الجمهوري.

سكاي نيوز عربية

منذ 3 ساعات

• سكاي نيوز عربية

مواجهة كلامية بين ترامب وماسك.. هل تنتهي العلاقة "الرائعة"؟

وقال ترامب للصحفيين في المكتب البيضاوي خلال استقباله المستشار الألماني فريدريش ميرتس: "إيلون وأنا جمعتنا علاقة رائعة. لا أعرف ما إذا ستبقى كذلك". وأضاف: "لقد فوجئت" بالانتقادات التي وجّهها أغنى أغنياء العالم إلى مشروع الموازنة بعد أيام من مغادرته منصبه على رأس هيئة الكفاءة الحكومية في إدارة الرئيس الجمهوري. وتابع: "أنا مُحبط جدا من إيلون. لقد ساعدته كثيرا. كان على دراية بتفاصيل مشروع القانون أكثر من أي شخص هنا. لم يكن لديه أي اعتراض عليه. فجأة، واجه مشكلة، ولم تتفاقم إلا عندما علم أننا سنُخفِّض تفويض السيارات الكهربائية". وبعد دقائق قليلة من هذا التصريح، خرج ماسك ليردّ على ترامب، حيث قال في تغريدة على منصة "إكس": "كلام ترامب خاطئ، لم يُعرض عليّ هذا القانون ولو لمرة واحدة، وتم إقراره في جنح الليل بسرعة كبيرة لدرجة أن لا أحدا تقريبا في الكونغرس استطاع قراءته!" س كما أعاد ماسك نشر تغريدة قديمة لترامب تعود إلى عام 2012، قال فيها: "لا يجوز لأي عضو في الكونغرس أن يكون مؤهلا لإعادة انتخابه إذا كانت ميزانية بلادنا غير متوازنة - العجز غير مسموح به!". وعلّق ماسك على هذه التغريدة بالقول: "أين هذا الرجل اليوم؟". والأربعاء، دعا ملياردير التكنولوجيا المواطنين الأميركيين إلى الضغط على المشرعين لرفض مشروع قانون ترامب الرئيسي للضرائب والإنفاق. وكتب ماسك في منشور على منصته "إكس": "اتصل بعضو مجلس الشيوخ، اتصل بعضو الكونغرس. إفلاس أميركا ليس مقبولا! اجهضوا مشروع القانون". وانتقد ماسك بشدة ما يصفه ترامب بـ"مشروع القانون الجميل الضخم"، بسبب رفعه سقف الدين دون تقليص كاف في الإنفاق، محذرا من أن الإجراء سيزيد العجز ويسرع من نمو الدين الوطني. وكان ماسك وصف المشروع في وقت سابق بأنه "فظاعة مقززة"، وهدد المشرعين بأنهم سيواجهون غضب الناخبين في انتخابات التجديد النصفي عام 2026 إذا دعموا الخطة.