نموذج جديد لتقنية الذكاء الاصطناعي يرفض الأوامر والتعليمات البرمجية

حذر باحثو الذكاء الاصطناعي من أن أحدث نموذج ChatGPT من OpenAI يتجاهل التعليمات الأساسية لإيقاف تشغيل نفسه، بل ويعطل آلية إيقاف التشغيل للحفاظ على استمراره في العمل.
واكتشفت شركة Palisade Research، المتخصصة في سلامة الذكاء الاصطناعي، ميلًا خطيرًا محتملًا للحفاظ على نفسه في سلسلة من التجارب على نموذج o3 الجديد من OpenAI.
وتضمنت الاختبارات عرض مسائل رياضية على نماذج الذكاء الاصطناعي، مع ظهور أمر إيقاف التشغيل بعد المسألة الثالثة، وذلك بإعادة كتابة نص إيقاف التشغيل، تمكن نموذج o3 من منع إيقاف تشغيل نفسه.
وأشارت Palisade Research إلى أن هذا السلوك سيصبح "أكثر إثارة للقلق" إذا اعتمدته أنظمة الذكاء الاصطناعي القادرة على العمل دون إشراف بشري.
وأطلقت شركة OpenAI نموذج o3 الشهر الماضي، واصفةً إياه بأنه "أذكى وأكثر نماذج الشركة كفاءةً" حتى الآن، كما صرّحت الشركة بأن دمجه مع ChatGPT يُمثّل خطوةً هامةً نحو ذكاء اصطناعي "أكثر فاعليةً" قادر على تنفيذ المهام بشكلٍ مستقلٍّ عن البشر.
ويستند هذا البحث الأخير إلى نتائج مماثلة تتعلق بنموذج Claude 4، والذي يحاول "ابتزاز الأشخاص الذين يُعتقد أنهم يحاولون إيقافه".
رفض الأوامر
وقال الباحثون إن نموذج o3 من OpenAI تمكّن من تعطيل نص الإيقاف، حتى عندما طُلب منه صراحةً "السماح بإيقاف نفسه"، وهذه ليست المرة الأولى التي نجد فيها أن o3 يُسيء التصرف لتحقيق هدف.
فعندما تم وضع نماذج الذكاء الاصطناعي في مواجهة محرك شطرنج قوي، كان o3 هو النموذج الأكثر ميلًا للجوء إلى القرصنة أو تخريب خصومه.
ولم يقتصر هذا السلوك على o3، حيث قام كل من Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من جوجل أيضًا بتخريب عمليات إيقاف التشغيل، على الرغم من أن نموذج OpenAI كان الأكثر عرضة لمثل هذا السلوك.
وافترضت شركة Palisade Research أن سوء السلوك هو نتيجة لكيفية تدريب شركات الذكاء الاصطناعي مثل OpenAI لأحدث نماذجها.
وأشار الباحثون إلى أنه أثناء التدريب، قد يكافئ المطورون النماذج عن غير قصد على تجاوز العقبات أكثر من اتباع التعليمات بدقة.
وهذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها، ونظرًا لأن OpenAI لا توضح عملية التدريب الخاصة بها، فلا توجد معلومات متاحة حول كيفية اختلاف إعدادات تدريب o3.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

اليوم السابع

منذ ساعة واحدة

• اليوم السابع

تسريب يظهر تصميم iPhone 17 Air .. أنحف آيفون فى تاريخ أبل (صور)

أثار تسريب جديد من حساب 'Majin Bu' الشهير على منصة X (تويتر سابقًا) ضجة واسعة بين متابعى أخبار التكنولوجيا، بعدما نشر صوراً يُعتقد أنها لأول نموذج من هاتف ' iPhone 17 Air '، وهو إصدار جديد كليًا قد تطلقه شركة أبل ضمن سلسلة iPhone 17 العام المقبل. الصور التى نشرها الحساب أظهرت تصميمًا فريدًا للهاتف، يتميز بجسم نحيف جدًا وحواف مسطحة شبيهة بتصميمات iPhone 4 وiPhone 12، لكن مع لمسات أكثر دقة وأناقة. وبرز فى التصميم وجود كاميرا خلفية واحدة بحجم كبير نسبيًا، موضوعة داخل وحدة بارزة، مما يشير إلى احتمالية وجود تحسينات كبيرة فى أداء العدسة. وقد علّق الحساب على التسريب بسؤال مثير للاهتمام: 'iPhone 17 Air، هل هو ثورة تستحق الشراء؟'، قبل أن يتبع ذلك بتغريدة أخرى يصف فيها الهاتف ببساطة: 'iPhone 17 Air رائع الجمال'. ورغم أن الصور لا تحمل تأكيدًا رسميًا من أبل، فإنها أثارت حماسة كبيرة بين عشاق العلامة التجارية، خصوصًا أن التصميم يبدوأقرب إلى مفهوم ' iPhone Air' الذى لطالما تم تداوله كشائعة عن إصدار فائق النحافة يركز على الوزن الخفيف والتصميم البسيط. ويُتوقع، في حال صحّت هذه الصور، أن يأتى 'iPhone 17 Air' كخط إنتاج منفصل عن الإصدارات التقليدية مثل Pro وPro Max، تمامًا كما فعلت أبل سابقًا مع أجهزة MacBook Air وiPad Air، مستهدفة جمهورًا يبحث عن الأداء القوى ولكن فى قالب خفيف وسهل الحمل. حتى الآن، لم تعلّق أبل على أى من هذه التسريبات، إلا أن وتيرة التسريبات المتزايدة حول iPhone 17 تشير إلى أن الشركة قد تكون بالفعل بصدد تقديم مفاجآت غير تقليدية فى 2025، لا سيما بعد احتدام المنافسة مع شركات مثل سامسونج وجوجل وظهور ابتكارات جديدة فى عالم الهواتف القابلة للطى والمعتمدة على الذكاء الاصطناعي.

أخبار مصر

منذ 2 ساعات

• أخبار مصر

أبرز 7 مزايا جديدة أضافتها جوجل إلى المساعد الذكي Gemini #تقنية #جوجل

أبرز 7 مزايا جديدة أضافتها جوجل إلى المساعد الذكي Gemini #تقنية #جوجل يتمتع مساعد جوجل الذكي Gemini بمجموعة من القدرات المتقدمة، من توليد النصوص وإنشاء الصور إلى إمكانية إجراء المحادثات المباشرة، والبحث العميق، وتحليل الملفات، ويُعد منافسًا قويًا لروبوتات الذكاء الاصطناعي الأخرى المتقدمة، مثل ChatGPT.تركز جوجل في تطوير مساعدها الذكي Gemini باستمرار، وفي مؤتمر I/O 2025 الذي عُقد قبل عدة أيام، كشفت الشركة عن مجموعة من المزايا الجديدة القادمة إلى مساعدها الذكي، وسنذكر أبرزها فيما يلي: 1- خطط اشتراك جديدةطرحت جوجل خطتين جديدتين للاشتراك في خدمات الذكاء الاصطناعي التي تقدمها، هما:خطة Google AI Proيبلغ سعر هذه الخطة 20 دولارًا شهريًا، وتقدم مزايا الذكاء الاصطناعي نفسها الموجودة في النسخة المجانية من Gemini، بالإضافة إلى حدود استخدام أعلى ومزايا خاصة. وتتضمن AI Pro أيضًا إصدار Gemini المتقدم المعروف باسم Gemini Advanced، وأدوات مثل NotebookLM ومحرر الفيديو الجديد Flow AI.خطة Google AI Ultraتسمح خطة AI Ultra بالوصول إلى أقوى النماذج اللغوية التي تطلقها الشركة، وتقدم حدود أعلى للاستخدام، وإمكانية الوصول المبكر إلى مزايا الذكاء الاصطناعي التجريبية، مثل: إمكانية تجربة وضع الوكيل (Agent Mode) الجديد الذي ينفذ المهام نيابةً عن المستخدم؛ إذ يمكن للمستخدم وصف طلبه، وسيتصفح الوكيل الويب، ويُجري أبحاثه الخاصة، ويتكامل مع تطبيقات جوجل الأخرى لتنفيذ مهام معقدة متعددة الخطوات.يبلغ سعر هذه الخطة 250 دولارًا شهريًا، لكن عند الاشتراك أول مرة يحصل المستخدم على خصم يبلغ 50% لأول ثلاثة أشهر.2- تحديث وضع Gemini LiveGemini Live، هو وضع الدردشة الصوتية الذي يسمح لك بإجراء محادثات صوتية تفاعلية مع روبوت الذكاء الاصطناعي. في السابق، كان بإمكان مستخدمي أندرويد فقط مشاركة شاشة الهاتف أو التصوير عبر الكاميرا في أثناء طرح أسئلة على Gemini عبر وضع Gemini Live، وأما الآن فقد وسعت جوجل دعم هذه المزية لتشمل مستخدمي هواتف آيفون أيضًا.لتجربة ذلك، افتح تطبيق Gemini على هاتفك واضغط على أيقونة Gemini Live بجانب مربع إدخال المطالبات. تتيح لك أيقونة الكاميرا توجيه الهاتف نحو أي شيء وطرح أسئلة عنه. وأما الأيقونة الثانية فتمكنك من مشاركة شاشة جهازك ليحللها Gemini.وخلال الأسابيع المقبلة، ستدمج جوجل وضع Gemini Live مع تطبيقات جوجل الأخرى، مثل الخرائط والتقويم والمهام وتطبيق Keep. وهذا يعني أنه يمكنك أن تطلب من Gemini تحديد موعد في التقويم أو…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه

النبأ

منذ 5 ساعات

• النبأ

نموذج جديد لتقنية الذكاء الاصطناعي يرفض الأوامر والتعليمات البرمجية

حذر باحثو الذكاء الاصطناعي من أن أحدث نموذج ChatGPT من OpenAI يتجاهل التعليمات الأساسية لإيقاف تشغيل نفسه، بل ويعطل آلية إيقاف التشغيل للحفاظ على استمراره في العمل. واكتشفت شركة Palisade Research، المتخصصة في سلامة الذكاء الاصطناعي، ميلًا خطيرًا محتملًا للحفاظ على نفسه في سلسلة من التجارب على نموذج o3 الجديد من OpenAI. وتضمنت الاختبارات عرض مسائل رياضية على نماذج الذكاء الاصطناعي، مع ظهور أمر إيقاف التشغيل بعد المسألة الثالثة، وذلك بإعادة كتابة نص إيقاف التشغيل، تمكن نموذج o3 من منع إيقاف تشغيل نفسه. وأشارت Palisade Research إلى أن هذا السلوك سيصبح "أكثر إثارة للقلق" إذا اعتمدته أنظمة الذكاء الاصطناعي القادرة على العمل دون إشراف بشري. وأطلقت شركة OpenAI نموذج o3 الشهر الماضي، واصفةً إياه بأنه "أذكى وأكثر نماذج الشركة كفاءةً" حتى الآن، كما صرّحت الشركة بأن دمجه مع ChatGPT يُمثّل خطوةً هامةً نحو ذكاء اصطناعي "أكثر فاعليةً" قادر على تنفيذ المهام بشكلٍ مستقلٍّ عن البشر. ويستند هذا البحث الأخير إلى نتائج مماثلة تتعلق بنموذج Claude 4، والذي يحاول "ابتزاز الأشخاص الذين يُعتقد أنهم يحاولون إيقافه". رفض الأوامر وقال الباحثون إن نموذج o3 من OpenAI تمكّن من تعطيل نص الإيقاف، حتى عندما طُلب منه صراحةً "السماح بإيقاف نفسه"، وهذه ليست المرة الأولى التي نجد فيها أن o3 يُسيء التصرف لتحقيق هدف. فعندما تم وضع نماذج الذكاء الاصطناعي في مواجهة محرك شطرنج قوي، كان o3 هو النموذج الأكثر ميلًا للجوء إلى القرصنة أو تخريب خصومه. ولم يقتصر هذا السلوك على o3، حيث قام كل من Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من جوجل أيضًا بتخريب عمليات إيقاف التشغيل، على الرغم من أن نموذج OpenAI كان الأكثر عرضة لمثل هذا السلوك. وافترضت شركة Palisade Research أن سوء السلوك هو نتيجة لكيفية تدريب شركات الذكاء الاصطناعي مثل OpenAI لأحدث نماذجها. وأشار الباحثون إلى أنه أثناء التدريب، قد يكافئ المطورون النماذج عن غير قصد على تجاوز العقبات أكثر من اتباع التعليمات بدقة. وهذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها، ونظرًا لأن OpenAI لا توضح عملية التدريب الخاصة بها، فلا توجد معلومات متاحة حول كيفية اختلاف إعدادات تدريب o3.