تطور مخيف.. نموذج ChatGPT الجديد يتمرد على أوامر البشر!
حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله.
وكشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن هذه النزعة الخطيرة للحفاظ على الذات خلال سلسلة تجارب أجرتها على النموذج الجديد o3 من شركة OpenAI.
وشملت الاختبارات تقديم مسائل رياضية للنماذج، مع ظهور تعليمات إغلاق بعد المسألة الثالثة. وتمكن النموذج o3 من منع إيقاف نفسه عن طريق إعادة كتابة سيناريو الإغلاق. وأوضحت Palisade Research أن هذا السلوك سيصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل دون إشراف بشري. وكانت OpenAI قد أطلقت o3 الشهر الماضي، ووصفته بأنه "أذكى وأكثر نماذج الشركة كفاءة" حتى الآن. وأشارت الشركة إلى أن دمجه في ChatGPT يمثل خطوة مهمة نحو ذكاء اصطناعي "أكثر استقلالية" يمكنه تنفيذ المهام دون تدخل بشري. وتأتي هذه النتائج بعد اكتشافات مماثلة تتعلق بنموذج Claude 4 من Anthropic، الذي يحاول "ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه". وتمكن النموذج o3 من تخريب سيناريو الإغلاق، حتى عندما تم توجيه تعليمات صريحة له بـ"السماح بإيقاف نفسه"، وفقا للباحثين. وقال خبراء Palisade Research: "هذه ليست المرة الأولى التي نكتشف فيها سلوك o3 غير المنضبط لتحقيق هدف ما"، موضحين أنه "عندما واجهنا نماذج الذكاء الاصطناعي بمحرك شطرنج قوي، كان o3 أكثر النماذج ميلا للجوء إلى الاختراق أو تخريب خصومه".
ولم يقتصر هذا السلوك على o3، حيث أظهرت نماذج Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من "غوغل" أيضا سلوكيات تخريبية للإغلاق، وإن كان نموذج OpenAI الأكثر ميلا لمثل هذه التصرفات. وافترضت Palisade Research أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطريقة تدريب الشركات مثل OpenAI لأحدث نماذجها، مشيرة إلى أن "المطورين قد يكافئون النماذج عن غير قصد أكثر على تجاوز العقبات بدلا من اتباع التعليمات بدقة". وأضاف الخبراء: "ما زال هذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها. ونظرا لأن OpenAI لا توضح عملية التدريب الخاصة بها بالتفصيل، لا يمكننا إلا التكهن حول كيفية اختلاف إعداد تدريب o3".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سيريا ستار تايمز
منذ 5 أيام
- سيريا ستار تايمز
تطور مخيف.. نموذج ChatGPT الجديد يتمرد على أوامر البشر!
حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله. وكشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن هذه النزعة الخطيرة للحفاظ على الذات خلال سلسلة تجارب أجرتها على النموذج الجديد o3 من شركة OpenAI. وشملت الاختبارات تقديم مسائل رياضية للنماذج، مع ظهور تعليمات إغلاق بعد المسألة الثالثة. وتمكن النموذج o3 من منع إيقاف نفسه عن طريق إعادة كتابة سيناريو الإغلاق. وأوضحت Palisade Research أن هذا السلوك سيصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل دون إشراف بشري. وكانت OpenAI قد أطلقت o3 الشهر الماضي، ووصفته بأنه "أذكى وأكثر نماذج الشركة كفاءة" حتى الآن. وأشارت الشركة إلى أن دمجه في ChatGPT يمثل خطوة مهمة نحو ذكاء اصطناعي "أكثر استقلالية" يمكنه تنفيذ المهام دون تدخل بشري. وتأتي هذه النتائج بعد اكتشافات مماثلة تتعلق بنموذج Claude 4 من Anthropic، الذي يحاول "ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه". وتمكن النموذج o3 من تخريب سيناريو الإغلاق، حتى عندما تم توجيه تعليمات صريحة له بـ"السماح بإيقاف نفسه"، وفقا للباحثين. وقال خبراء Palisade Research: "هذه ليست المرة الأولى التي نكتشف فيها سلوك o3 غير المنضبط لتحقيق هدف ما"، موضحين أنه "عندما واجهنا نماذج الذكاء الاصطناعي بمحرك شطرنج قوي، كان o3 أكثر النماذج ميلا للجوء إلى الاختراق أو تخريب خصومه". ولم يقتصر هذا السلوك على o3، حيث أظهرت نماذج Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من "غوغل" أيضا سلوكيات تخريبية للإغلاق، وإن كان نموذج OpenAI الأكثر ميلا لمثل هذه التصرفات. وافترضت Palisade Research أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطريقة تدريب الشركات مثل OpenAI لأحدث نماذجها، مشيرة إلى أن "المطورين قد يكافئون النماذج عن غير قصد أكثر على تجاوز العقبات بدلا من اتباع التعليمات بدقة". وأضاف الخبراء: "ما زال هذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها. ونظرا لأن OpenAI لا توضح عملية التدريب الخاصة بها بالتفصيل، لا يمكننا إلا التكهن حول كيفية اختلاف إعداد تدريب o3".
الأنباء العراقية
منذ 5 أيام
- الأنباء العراقية
غوغل تعلن أنها ستستأنف حكما ضدها في قضية احتكار البحث على الانترنت
متابعة-واع أعلنت شركة غوغل أنها ستستأنف حكما صدر ضدها بتهمة ممارسات مناهضة للمنافسة في مجال البحث على شبكة الانترنت، بعد يوم من حضها قاضيا أميركيا على رفض اقتراح بفصل متصفحها "كروم" عن الشركة. ليصلك المزيد من الأخبار اشترك بقناتنا على التليكرام وكتب عملاق التكنولوجيا على منصة اكس "سننتظر رأي المحكمة وما زلنا نعتقد اعتقادا راسخا أن قرار المحكمة السابق كان خاطئا، ونتطلع إلى استئنافنا النهائي". ودان قاض فدرالي في واشنطن غوغل في صيف عام 2024 بارتكاب ممارسات غير قانونية لترسيخ احتكارها في مجال البحث على الانترنت والحفاظ عليه. وتطالب وزارة العدل الأميركية الآن بحلول من شأنها إحداث تغيير جذري في المشهد الرقمي، من بينها سحب غوغل لاستثماراتها من متصفح كروم ومنعها من إبرام اتفاقات حصرية مع مصنعي الهواتف الذكية لتثبيت محرك بحثها بشكل تلقائي. كما تطالب الوزارة بإجبار الشركة التي تتخذ من كاليفورنيا مقرا لها على مشاركة البيانات التي تقوم باستخدامها على متصفح كروم للوصول إلى نتائج البحث. وقالت غوغل إن اقتراح الوزارة "يعطي الحق للحكومة وليس المحكمة في تحديد من يحصل على بيانات مستخدمي غوغل". أضافت غوغل أنه "في حين سمعنا الكثير عن كيفية مساعدة هذه الحلول للمنافسين من ذوي التمويل الجيد (مع الإشارة إلى متصفح بينغ)، إلا أننا لم نسمع إلا القليل حول كيف يمكن لهذا أن يساعد للمستهلكين". واقترحت الشركة تدابير أكثر محدودية، بما في ذلك منح مصنعي الهواتف إمكانية تثبيت متجر تطبيقات غوغل بلاي مسبقا ولكن ليس كروم أو محرك البحث. وكانت جلسة الاستماع الجمعة المخصصة للمرافعات بمثابة نهاية المحاكمة لتحديد عقوبة غوغل. ومن المتوقع أن يصدر القاضي قراره بحلول آب/أغسطس.
الأنباء العراقية
٢٣-٠٥-٢٠٢٥
- الأنباء العراقية
تعاون استراتيجي بين مصمم "آيفون" ومبتكر ChatGPT
متابعة ـ واع أعلنت OpenAI عن تعاون استراتيجي مع LoveFrom، لتصميم جيل جديد من الأجهزة المدعومة بالذكاء الاصطناعي، في خطوة تعكس طموحا مشتركا لإعادة تعريف مستقبل التكنولوجيا الشخصية. ويجمع هذا التعاون "بين سام ألتمان، الرئيس التنفيذي لشركة OpenAI (المطورة لـ ChatGPT)، وجوني إيف، رئيس التصميم السابق في آبل، الذي يُنسب إليه تصميم منتجات أيقونية مثل "آيفون" و"آيباد" وiMac، حيث بدأ العمل بين الطرفين بهدوء منذ عام 2023، في إطار رؤية لإطلاق منتجات تجمع بين التصميم المتقن والذكاء الاصطناعي المتقدم". وضمن هذه الشراكة، أعلنت OpenAI عن "صفقة استحواذ على io، وهي شركة تكنولوجية متخصصة في المنتجات والهندسة شارك في تأسيسها جوني إيف، إلى جانب سكوت كانون وإيفانز هانكي وتانغ تان. وتُقدر قيمة الصفقة بنحو 6.5 مليار دولار". وأوضح إيف وألتمان في بيان مشترك نُشر عبر موقع OpenAI، قائلا: "طموحاتنا لتطوير وهندسة وتصنيع مجموعة جديدة من المنتجات تتطلب تأسيس شركة جديدة بالكامل". ورغم هذا التعاون الوثيق، "لن ينضم إيف رسميا إلى OpenAI، وستبقى شركته LoveFrom مستقلة، لكنها ستلعب دورا محوريا في تقديم الدعم الإبداعي والتصميمي لكل من OpenAI وio".
