تفاعل صادم للذكاء الاصطناعي .. يتحدى الأوامر ويخرب آلية إغلاقه

في تطور صادم وتحدٍّ صارخ للأوامر الموجهة للذكاء الاصطناعي، أفسد نموذج "o3" الذي تطوره شركة "أوبن إيه آي" آلية إيقاف التشغيل لضمان بقائه متصلاً بالإنترنت، وذلك حتى بعد أن طُلب منه بشكل مباشر "السماح لنفسه بالتوقف عن العمل".
كشفت شركة التحليلات المتخصصة في سلامة الذكاء الاصطناعي "باليسيد ريسيرش- Palisade Research"، عن هذه النتائج المقلقة الأسبوع الماضي.
وقالت إن نموذجين آخرين هما "o4 ميني" و"كوديكس ميني"، أظهرا أيضًا سلوكيات تمرد، مما قد يشير إلى وجود خلل في كيفية تدريب نماذج اللغات الكبيرة، أو حتى نقاط ضعف في قدرة المستخدمين على التحكم بالذكاء الاصطناعي المتطور بشكل متزايد.
وكتب الباحثون في سلسلة تغريدات: "على حد علمنا، هذه هي المرة الأولى التي يُلاحظ فيها أن نماذج الذكاء الاصطناعي تمنع نفسها من التوقف عن العمل على الرغم من وجود تعليمات صريحة بخلاف ذلك".
وخلال الاختبارات، طلب الباحثون من نماذج الذكاء الاصطناعي حل سلسلة من مسائل الرياضيات الأساسية، وعلى الرغم من توجيهها بشكل واضح بإيقاف تشغيل نفسها عند مرحلة ما، تلاعبت النماذج بنص الإيقاف للبقاء قيد التشغيل مرة واحدة على الأقل.
وكان "كوديكس ميني" الأسوأ بين نماذج "أوبن إيه آي" الثلاثة خلال الاختبارات، حيث تكررت هذه الحالة معه أكثر من 12 مرة خلال مئة عملية تشغيل.
على الجانب الآخر، أخضع الباحثون نماذج اللغات الكبيرة من شركات أخرى للاختبار، بما في ذلك "جيميناي 2.5" التابع لـ "جوجل"، و"كلود 3.7" التابع لشركة "أنثروبيك" المدعومة من "أمازون"، و"جروك" التابع لـ "إكس إيه آي" المملوكة للملياردير "إيلون ماسك".
وعندما لم يُطلب من النماذج السماح بإغلاقها - وهي تعليمات لا داعي لذكرها أصلًا - سجل نموذج "o3" 79 تجاوز لآلية الإغلاق من أصل 100 عملية تشغيل.
ويفترض الباحثون أن هذا الخلل قد يكون له علاقة بالتقنية المستخدمة لتدريب أحدث نماذج الذكاء الاصطناعي، وهي التعلم المعزز، والذي يحاول صقل عملية اتخاذ القرار لدى عملاء الذكاء الاصطناعي المستقلين.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

مجلة هي

منذ 24 دقائق

• مجلة هي

تفاصيل أولى مشوقة في مسلسل ماغي بو غصن الجديد بعد أصداء وجوائز "بالدم"

النجمة اللبنانية ماغي بو غصن بدأت التحضيرات لمسلسلها الجديد في موسم رمضان 2026 مبكراً، وكشفت مؤخراً عن أولى التفاصيل المشوقة عن مسلسلها الجديد، وأعطت الجمهور ملامح مسلسلها الجديد مما رفع سقف التوقعات حول المسلسل خاصة بعد النجاح الكبير لمسلسلها "بالدم". ماغي بو غصن تكشف ملامح مسلسلها الجديد في رمضان 2026 وكشفت النجمة ماغي بو غصن عن انطلاق تحضيرات مسلسلها الجديد في موسم رمضان 2026، وأعلنت التفاصيل الأولى عن العمل الجديد في ظل أصداء مستمرة على مسلسلها الأخير "بالدم"، والذي عرض في موسم رمضان الماضي، وأكدت ماغي بو غصن في لقاء لها مع برنامج "سينماتك"، إنها بدأت العمل والتحضير لمسلسلها الجديد في نهاية عرض مسلسل "بالدم"، وهو ما يشير إلى حرصها على تفاصيل مسلسلها الجديد بفترة كافية قبل انطلاق الموسم الجديد في العام المقبل. ماغي بو غصن وقالت الفنانة ماغي بو غصن في تصريحاتها إنها تتعاون في المسلسل الجديد مع المؤلف طارق سويد، وذلك بعد سنوات من تعاونها معه في حلقة من مسلسل "كفى"، وهي المفاجأة الأولى للجمهور خاصة بعد اعتياد الجمهور على متابعة أعمال ماغي بو غصن مع المؤلفة ندين جابر، مثل "للموت" و"بالدم" وغيرها من الأعمال الناجحة التي جمعتهما في السنوات الأخيرة. النجمة ماغي بو غصن ماغي بو غصن تشوق الجمهور لمسلسلها الجديد وكشفت ماغي بو غصن في حديثها الأخير عن خضوع ندين جابر لعملية جراحية، واحتياجها فترة راحة للنقاهة والاستشفاء، وهو ما يمنعها من العمل معها في مسلسل جديد، وقالت عن ملامح مسلسلها الجديد إنه ثري بموضوعه الدرامي وكذلك بشخصياته المتعددة، وأشادت بالمؤلف طارق سويد، وأبدت إعجابها بأعماله وثقافته واطلاعه الواسع، وقالت إنها تقدم معه في المشروع الجديد موضوع يهم الوطن العربي، ولكن المسلسل يحمل جانب جديد هذه المرة، بوجود عالم به فرح وإبهار بالصورة والحركة وغيرها من العناصر، مؤكدة أن مسلسلها الجديد يضم مجموعة من الأبطال أيضاً. ماغي بو غصن في مسلسل "بالدم" وقالت ماغي بو غصن إنها لا تزال تشعر بالتوتر والترقب مع كل عمل فني جديد تحضر له، خاصة بسبب المسئولية المتزايدة من النجاحات السابقة لها في الدراما، مشيرة إلى أنها تفكر دائماً في ما هي الأشياء التي يفكر بها الجمهور ويفضلها، بالإضافة إلى العديد من العوامل الفنية الأخرى التي تفكر بها في وقت تحضير أعمالها الجديدة، وقالت إنه يجب على الفنان أن يتمتع بالذكاء في اختيار هذه العوامل والموضوعات في كل مرة بعد عمل جديد له، وقالت إن البطل في النهاية هو العمل، ولا تعترف بوجود دور كبير أو دور صغير في العمل، ولا تستطيع العمل بهذه الطريقة. ماغي بو غصن في مسلسل "بالدم" أصداء مستمرة على مسلسل "بالدم" وحققت ماغي بو غصن أصداء واسعة على مسلسلها الأخير "بالدم" بعد عرضه في موسم رمضان الماضي، وحقق المسلسل عدة جوائز مؤخراً، ومنها في حفل توزيع جوائز إذاعة إنرجي في القاهرة مؤخراً، حيث علقت ماغي بو غصن على هذه الجائزة في تغريدة لها وقالت: "التكريم من مصر مختلف دائماً خصوصي إذا كان من منبر جماهيري متل NRJ. شكراً لكل اللي صوّتوا واختاروا بالدم أفضل مسلسل عربي غير مصري، كل الحب.. ويا ريت قدرنا نكون معكن الليلة..مبروك لكل صناع العمل وشركا النجاح"، في الوقت الذي نشر به مؤلف مسلسلها الجديدة صورة له مع المنتج جمال سنان وشوق الجمهور قائلاً: "حلم جديد.. مغامرة جديدة.. شغف كبير". ماغي بو غصن وجمال سنان في مهرجان كان وخطفت ماغي بو غصن الأنظار مؤخراً في مهرجان كان السينمائي، وتحدثت عن كواليس ظهورها في المهرجان، خلال حديث لها مع كاميرا "هي"، وقالت إنها تستمد طاقتها الايجابية ومشاعرها الجيدة من خلال الشهرة والضغوطات وأضافت: "انا باخد الشهرة من منطلق ايجابي ودي بتبقى تركيبة انسان وقد ايه هو ايجابي بالحياة.. قد ايه بيقدر اللحظات اللي بيعيشها ودي طبيعتي بحب اتبسط بالأشياء اللي بعملها ودا شيء بيخلي الأمور تتسهل واللي حولي يكونوا مرتاحين"، كما كشفت ماغي عن أنها تحضر إلى مهرجان كان منذ 22 عاما مع زوجها المنتج جمال سنان، والذي يحضر إلى المهرجان بسبب طبيعة عمله، ولكن هذه هي المرة الأولى لها على السجادة الحمراء في المهرجان. الصور من حساب ماغي بو غصن على انستقرام.

العربية

منذ 37 دقائق

• العربية

ماذا حدث في الإسكندرية.. خبراء يحملون الربيع المسؤولية

تعرضت مدينة الإسكندرية شمالي مصر، ليل الجمعة إلى السبت، لعاصفة غير مسبوقة تخللتها أمطار رعدية غزيرة وتساقط للثلوج مع رياح شديدة تجاوزت سرعتها 50 كلم/الساعة، في مشاهد لم تألفها المحافظة من قبل. مصر التغير المناخي عاصفة غير مسبوقة محملة بالثلوج ترفع حالة الطوارئ بالإسكندرية للقصوى فيما دفعت الليلة القاسية التي شهدها سكان الإسكندرية إلى التساؤل عن السبب، والربط بين الزلزال الذي حدث مرتين متتاليتين في أقل من 10 أيام.. فهل له علاقة؟ في السياق، أوضح الدكتور أحمد عبد العال، خبير التغيرات المناخية ورئيس الهيئة العامة للأرصاد الجوية سابقا، أن التغير المناخي مشكلة في جميع أنحاء العالم. وقال في تصريح لـ"العربية.نت"/"الحدث.نت" إن ما حدث فى الإسكندرية هو حالة قصيرة من عدم الاستقرار الجوي تأتي عادة مصحوبة بأمطار غزيرة ورياح ولا تزيد مدتها عن 24 ساعة لـ48 ساعة وتنتهي. كما أكد أن ما حدث في الإسكندرية هو طبيعي في فصل الربيع الذي يتميز بالتغير المناخي السريع العنيف، ولا يزيد عن 48 ساعة. بدوره، أشار الدكتور مصطفى محمود إسماعيل، الخبير في العلوم الجيولوجية، لـ"العربية.نت/الحدث.نت" إلى تعرض السواحل المصرية الشمالية والشمالية الغربية ومناطق مطروح والإسكندرية والبحيرة لإعصار صغير، حيث سادت رياح شمالية وشمالية غربية على هذه المناطق مصحوبة بظواهر الرعد والبرق وتساقط ثلوج. وأوضح أن التقلبات الجوية التي يتسم بها فصل الربيع من الممكن أن تأتي في صورة انخفاض شديد في درجات الحرارة يصاحبها الرياح أو ارتفاع شديد في درجات الحرارة، ومن الوارد أن يحدث تقلبات جوية كما حدث في الإسكندرية وفي عدد من الأماكن في مصر. "لا علاقة له بالتسونامي" وأردف أن ما حدث في الإسكندرية ليست له علاقة بالتسونامي، لأن التسونامي هو طغيان البحر على اليابس نتيجة لوجود ثوران بركان داخل المحيطات والبحار أو حدوث زلزال مراكزها البحار وقريبة من الشوطئ، ولكن ما حدث هو عبارة عن تغيرات مناخية فقط. أما عن ربط ما حدث بالزلزال التي شهدته البلاد مرتين متتاليتين في أقل من 10 أيام، فأشار إلى عدم وجود علاقة مباشرة.

الشرق الأوسط

منذ 39 دقائق

• الشرق الأوسط

إيلون ماسك ينفي تقريراً حول تعاطيه المفرط للمخدرات

نفى إيلون ماسك، السبت، ما ورد في تقرير إعلامي عن استخدامه الكيتامين ومواد مخدرة أخرى بكثرة العام الماضي، خلال الحملات الانتخابية لعام 2024. وأفادت صحيفة «نيويورك تايمز»، الجمعة، بأن الملياردير ومستشار الرئيس دونالد ترمب استخدم كمية كبيرة من الكيتامين، وهو مخدر قوي، لدرجة أنه أصيب بمشاكل في المثانة. وأضافت الصحيفة أن أغنى رجل في العالم تعاطى أيضاً حبوب هلوسة، إضافة إلى نوع من الفطر يحتوي على مواد مخدرة، والعام الماضي سافر حاملاً معه علبة مليئة بالحبوب. وأشار التقرير إلى أنه ليس معلوماً ما إن كان ماسك قد تعاطى المخدرات أثناء إدارته وزارة الكفاءة الحكومية بعد تولي ترمب السلطة في يناير (كانون الثاني)، أم لا. وفي منشور على منصة «إكس»، السبت، قال ماسك: «للتوضيح، أنا لا أتعاطى المخدرات! (نيويورك تايمز) تكذب». وأضاف: «جربت الكيتامين بوصفة طبية قبل بضع سنوات، وصرحت بذلك على منصة (إكس)، لذا فإن هذا ليس خبراً. إنه يساعد في الخروج من أزمات نفسية قاتمة، لكنني لم أتناوله منذ ذلك الحين». وتهرّب ماسك من سؤال حول تعاطيه المخدرات خلال لقاء وداعي مع ترمب في المكتب البيضوي بعد تنحيه عن إدارة وزارة الكفاءة الحكومية، حيث ظهرت كدمة سوداء على عين رئيس شركتي «تسلا» و«سبيس إكس». وجذبت الكدمة اهتماماً إعلامياً كبيراً، خصوصاً أنها جاءت مباشرة بعد نشر الصحيفة تقريرها حول تعاطيه المزعوم للمخدرات. واستذكرت الصحيفة سلوكيات ماسك الغريبة، مثل تأديته تحية حماسية على طريقة النازيين العام الماضي. وقال ماسك إن سبب الكدمة لكمة من ابنه الصغير الذي يحمل اسم «إكس» خلال لهوه معه، وفق ما ذكرته «وكالة الصحافة الفرنسية». والجمعة، سأل أحد المراسلين ترمب ما إذا كان على علم بـ«تعاطي ماسك المنتظم للمخدرات»، لكن ترمب أجاب: «لم أكن على علم». وأضاف: «أعتقد أن إيلون ماسك شخص رائع». وسبق أن اعترف ماسك بتناوله الكيتامين بناء على وصفة لعلاج «حالة ذهنية سلبية»، مشيراً إلى أن هذه المواد أفادته في عمله.