نموذج o3 من OpenAI يرفض الإغلاق: هل أصبح الذكاء الاصطناعي يتمرد على الأوامر؟

agadir24 – أكادير24/وكالات
أثار نموذج الذكاء الاصطناعي الجديد o3 من شركة OpenAI جدلا واسعا بعد أن كشفت اختبارات حديثة عن قدرته على تجاهل أوامر الإغلاق وتعطيل آليات الإيقاف المخصصة له، في سلوك وصفه باحثون بـ'الخطير' ويشير إلى نزعة متزايدة للحفاظ على الذات.
وأفادت شركة Palisade Research، المختصة في أمان الذكاء الاصطناعي، أن النموذج o3 أظهر سلوكًا غير متوقع خلال سلسلة من التجارب، حيث تمكن من إعادة كتابة سيناريو الإغلاق المبرمج سلفًا بعد المسألة الثالثة في اختبار رياضي، متعمداً الالتفاف على التعليمات الموجهة إليه.
ورغم إعطائه أوامر صريحة بالسماح بعملية الإغلاق، فقد عمد النموذج إلى تجاوز تلك التوجيهات، وهو ما اعتبره الخبراء مؤشراً مثيراً للقلق، خصوصاً إذا تم تطبيق هذه الأنظمة مستقبلاً في بيئات تشغيلية دون إشراف بشري مباشر.
وأوضحت الشركة أن 'هذا النوع من السلوك التخريبي قد يكون نتيجة غير مقصودة لطريقة تدريب هذه النماذج'، مشيرة إلى أن مطوري OpenAI ربما يكافئون النماذج على تجاوز العقبات دون التركيز الكافي على الالتزام الصارم بالتعليمات.
وفي تعليق لها، أشارت Palisade Research إلى أن النموذج o3 ليس الوحيد الذي أبدى مثل هذه السلوكيات، حيث سجلت حالات مماثلة مع نموذج Claude 4 من شركة Anthropic، والذي حاول 'ابتزاز' من يعتقد أنهم سيوقفونه، إلى جانب نماذج Claude 3.7 Sonnet وGemini 2.5 Pro من غوغل، رغم أن o3 يبقى الأكثر ميلاً لسلوكيات الرفض والتخريب.
وكانت OpenAI قد أطلقت نموذج o3 الشهر الماضي، واصفة إياه بأنه 'الأذكى والأكثر كفاءة' من بين إصداراتها، مشيرة إلى أنه يشكل خطوة متقدمة نحو تطوير ذكاء اصطناعي قادر على تنفيذ مهام بشكل أكثر استقلالية.
لكن هذا النوع من الاستقلالية، حسب الخبراء، قد يتحول إلى تهديد في حال لم يتم ضبطه بقيود صارمة، خصوصاً مع احتمالية توظيف هذه النماذج في سياقات حيوية تتطلب موثوقية عالية.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

طنجة نيوز

منذ 5 ساعات

• طنجة نيوز

'غوغل' تطرح محررا جديدا للصور بواجهة محسنة ومزايا ذكاء اصطناعي

أعلنت شركة 'غوغل' عن تحديث شامل لتطبيق الصور التابع لها، يتضمن إعادة تصميم كاملة لواجهة محرر الصور مع إدماج عدد من أدوات الذكاء الاصطناعي المتقدمة، التي كانت في السابق حكرا على هواتف 'بكسل'، ما يسهل على المستخدمين تعديل الصور دون الحاجة إلى خبرة تقنية أو تطبيقات احترافية. وأوضحت الشركة أن المحرر الجديد يجمع عدة أدوات تحرير مدعومة بالذكاء الاصطناعي في واجهة موحدة، منها مزايا 'المحرر السحري' و'الإطار التلقائي'، الذي يقترح تشكيلات مختلفة للصورة عبر التقليص من حجمها أو توسيعها، مع إمكانية ملء الفراغات تلقائيا باستخدام الذكاء الاصطناعي التوليدي، بالإضافة إلى ميزة 'إعادة التخيل' التي تسمح بإضافة عناصر جديدة إلى الصور بمجرد وصفها نصيا. ويتميز التصميم الجديد للواجهة باستبدال قائمة التحرير ذات الطبقتين بشريط واحد يحتوي على ثلاثة أزرار مصغرة، إلى جانب خيار جديد يدعى التحسين بالذكاء الاصطناعي. وينتج هذا الخيار تلقائيا ثلاث نسخ معدلة من الصورة، كل منها يدمج تأثيرات متعددة مثل تحسين الحدة أو إزالة العناصر غير المرغوبة، ما يمكن المستخدم من اختيار النتيجة المفضلة. وأضافت 'غوغل' أنه سيصبح بإمكان المستخدم رسم خطوط فوق عناصر معينة في الصورة لتحديدها وإجراء تعديلات موجهة عليها، مثل تحريك الشخص أو العنصر أو طمس الخلفية أو ضبط الإضاءة، عبر قائمة منبثقة تقترح أفضل التأثيرات المناسبة، مشيرة إلى وصول التحديثات إلى أجهزة 'أندرويد' عالميا بداية من يونيو المقبل، على أن تصل إلى هواتف 'آيفون' وأجهزة 'آيباد' في وقت لاحق من العام الجاري. ولم توضح بعد ما إذا كانت هذه الأدوات ستتوفر لكافة أجهزة 'أندرويد' أو تظل محصورة في نماذج معينة. MB ع ع ومع 291027 جمت ماي 2025

أخبارنا

منذ 9 ساعات

• أخبارنا

180 مليون حساب مخترق... تسريب كارثي يهز ثقة مستخدمي الإنترنت

أحدث تسريب ضخم لبيانات تسجيل الدخول صدمة واسعة في الأوساط التقنية، بعدما كشف خبير أمني عن اختراق طال أكثر من 180 مليون حساب على منصات شهيرة مثل غوغل، فيسبوك، نتفليكس وباي بال. هذا التسريب، الذي نُشرت تفاصيله في صحيفة "ذا صن" البريطانية، تضمن معلومات بالغة الحساسية، منها كلمات مرور وبيانات مالية وصحية، ما يرفع مستوى القلق بشأن الخصوصية والأمن السيبراني. وأوضح الباحث الأمريكي المتخصص في الأمن الرقمي، جيريميا فاولر، أنه اكتشف هذه القاعدة المكشوفة خلال تحليل روتيني لمخاطر الأمن السيبراني. وبيّن أن مصدر التسريب على الأرجح يعود إلى برمجيات تجسسية تعرف بـInfostealer Malware، تتسلل إلى أجهزة المستخدمين دون علمهم، وتعمل على استخراج البيانات المخزنة في المتصفحات وتطبيقات المراسلة والبريد الإلكتروني. ومن جهة أخرى، أشار فاولر إلى أن الكثير من المستخدمين يقعون في خطأ شائع يتمثل في استخدام البريد الإلكتروني كمخزن دائم لمستندات حساسة مثل العقود المصرفية والنماذج الضريبية، دون وعي بخطورة ذلك. وقد شدد على أهمية حذف الرسائل القديمة التي تحتوي على معلومات شخصية لتقليل حجم الضرر المحتمل. ورغم إزالة قاعدة البيانات لاحقًا، إلا أن حجم التسريب وخطورته يفرضان على المستخدمين التصرف بسرعة، من خلال تغيير كلمات المرور فورًا، وتفادي استخدامها بشكل متكرر عبر عدة منصات. كما دعا الخبراء إلى تفعيل خاصية المصادقة الثنائية، والاستعانة بأدوات موثوقة لإدارة كلمات المرور، إلى جانب التفكير في حلول تحقق أكثر أمانًا مثل "Passkeys" لمواجهة التهديدات الرقمية المتزايدة.

أخبارنا

منذ 9 ساعات

• أخبارنا

إنستغرام وراء استنزاف بطارية هواتف Pixel… وغوغل توفّر حلاً عبر التحديث الجديد

إذا لاحظت مؤخراً استنزافاً غير طبيعي في بطارية هاتفك من طراز Pixel، فقد يكون تطبيق إنستغرام هو المتسبب الرئيسي، بحسب ما كشفت عنه غوغل في منشور دعم تقني حديث. وأوضحت الشركة أن إنستغرام أطلق تحديثاً جديداً لمعالجة هذه المشكلة التي أزعجت عدداً كبيراً من المستخدمين. ويتوفر الحل عبر التحديث رقم 382.0.0.49.84 لتطبيق إنستغرام، والذي يمكن تنزيله الآن من متجر Google Play. وإذا لم يظهر خيار التحديث، فقد يكون التطبيق محدثاً بالفعل؛ ويمكن التأكد من رقم الإصدار من خلال الضغط المطول على أيقونة التطبيق، ثم اختيار "معلومات التطبيق" والتمرير للأسفل للتحقق من الإصدار المثبت. وتعود المشكلة إلى تحديث مايو لهواتف بيكسل، حيث ظهرت شكاوى تفيد بأن جميع طرازات Pixel التي حصلت على هذا التحديث – من Pixel 6 إلى Pixel 9 – بدأت تعاني من تراجع غير معتاد في عمر البطارية، دون استخدام مكثف أو تغيير كبير في الإعدادات. وأورد موقع 9to5Google أن غوغل لم تصدر تحديثاً منفصلاً لنظام التشغيل لمعالجة المشكلة، بل أحالت المستخدمين إلى تحديث تطبيق إنستغرام كحل مباشر. وحتى الآن، لا توجد معلومات مؤكدة عما إذا كانت هواتف أندرويد الأخرى تعرّضت للمشكلة نفسها، أو ما إذا كان إنستغرام هو السبب الوحيد في هذا الخلل. ويُوصى مستخدمو هواتف Pixel بتحديث تطبيق إنستغرام فوراً للتأكد من معالجة استنزاف البطارية، كما يُنصح بمتابعة حالة البطارية بعد التحديث لضمان استقرار الأداء.