تطور مخيف.. نموذج ChatGPT الجديد يتمرد على أوامر البشر!

وكشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن هذه النزعة الخطيرة للحفاظ على الذات خلال سلسلة تجارب أجرتها على النموذج الجديد o3 من شركة OpenAI.
وشملت الاختبارات تقديم مسائل رياضية للنماذج، مع ظهور تعليمات إغلاق بعد المسألة الثالثة. وتمكن النموذج o3 من منع إيقاف نفسه عن طريق إعادة كتابة سيناريو الإغلاق.
وأوضحت Palisade Research أن هذا السلوك سيصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل دون إشراف بشري.
وكانت OpenAI قد أطلقت o3 الشهر الماضي، ووصفته بأنه "أذكى وأكثر نماذج الشركة كفاءة" حتى الآن. وأشارت الشركة إلى أن دمجه في ChatGPT يمثل خطوة مهمة نحو ذكاء اصطناعي "أكثر استقلالية" يمكنه تنفيذ المهام دون تدخل بشري.
وتأتي هذه النتائج بعد اكتشافات مماثلة تتعلق بنموذج Claude 4 من Anthropic، الذي يحاول "ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه".
وتمكن النموذج o3 من تخريب سيناريو الإغلاق، حتى عندما تم توجيه تعليمات صريحة له بـ"السماح بإيقاف نفسه"، وفقا للباحثين.
وقال خبراء Palisade Research: "هذه ليست المرة الأولى التي نكتشف فيها سلوك o3 غير المنضبط لتحقيق هدف ما"، موضحين أنه "عندما واجهنا نماذج الذكاء الاصطناعي بمحرك شطرنج قوي، كان o3 أكثر النماذج ميلا للجوء إلى الاختراق أو تخريب خصومه".
ولم يقتصر هذا السلوك على o3، حيث أظهرت نماذج Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من "غوغل" أيضا سلوكيات تخريبية للإغلاق، وإن كان نموذج OpenAI الأكثر ميلا لمثل هذه التصرفات.
وافترضت Palisade Research أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطريقة تدريب الشركات مثل OpenAI لأحدث نماذجها، مشيرة إلى أن "المطورين قد يكافئون النماذج عن غير قصد أكثر على تجاوز العقبات بدلا من اتباع التعليمات بدقة".
وأضاف الخبراء: "ما زال هذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها. ونظرا لأن OpenAI لا توضح عملية التدريب الخاصة بها بالتفصيل، لا يمكننا إلا التكهن حول كيفية اختلاف إعداد تدريب o3".
المصدر: إندبندنت
تتمثل ميزة روبوتات الدردشة في النقاش في قدرتها على الوصول إلى معلومات عن الخصم. فعندما يحصل الذكاء الاصطناعي على بيانات عن الشخص الذي يتفاعل معه يستخدم حججا مصممة خصيصا لمواجهته.
قالت قاضية اتحادية أمريكية إنها تفكر في فرض عقوبات على محامين من شركة محاماة باهظة التكاليف تم التعاقد معها للدفاع عن نظام السجون في ولاية ألاباما.
في خطوة قد تحدث طفرة في تشخيص الأمراض العصبية، توصل باحثون إلى أن الذكاء الاصطناعي قد يصبح قادرا على اكتشاف مرض باركنسون بمجرد تحليل نبرة الصوت، حتى قبل ظهور الأعراض الواضحة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

روسيا اليوم

منذ 4 ساعات

• روسيا اليوم

اختراق هائل يكشف بيانات 184 مليون مستخدم لشركات كبرى

واكتُشفت هذه البيانات في خادم غير محمي على الإنترنت، حيث تم جمع معلومات حساسة لملايين المستخدمين، بما في ذلك 220 عنوان بريد إلكتروني حكومي مرتبط بدول مثل الولايات المتحدة والمملكة المتحدة وأستراليا وكندا والصين والهند وإسرائيل والسعودية. ووصف فاولر هذا الاختراق بأنه "من أغرب ما وجدته خلال سنوات"، وحذر من أن البيانات المتاحة تشكل "قائمة أحلام مجرمي الإنترنت"، حيث تسمح بالوصول المباشر إلى حسابات الأفراد. وتحتوي قاعدة البيانات على 47 غيغابايت من معلومات حساسة تخص حسابات على منصات متعددة مثل "إنستغرام" و"مايكروسوفت" و"نتفليكس" و"باي بال" و"روبلوكس" و"ديسكورد". ونصح خبراء الأمن السيبراني المستخدمين بتغيير كلمات المرور فورا، وتفعيل خاصية المصادقة الثنائية التي تضيف طبقة أمان إضافية عبر رمز تحقق يُرسل للهاتف أو البريد الإلكتروني. وتم اكتشاف قاعدة البيانات في أوائل مايو أثناء بحث فاولر عن ثغرات أمنية في شبكات الكمبيوتر الرئيسية. وكانت هذه القاعدة تُدار من قبل "وورلد هوست"، وهي شركة استضافة مواقع تدير أكثر من 20 علامة تجارية عالميا، وتأسست عام 2019. وبمجرد أن تأكد فاولر من صحة المعلومات المكشوفة، أبلغ مجموعة "وورلد هوست" عن الاختراق، فقامت بإيقاف الوصول إلى قاعدة البيانات. وأكد الخبراء أن الاختراق ربما نفذه مجرم إلكتروني باستخدام برنامج ضار يسمى Infostealer، وأن البيانات المسروقة قد تُستخدم لسرقة الهوية أو تنفيذ عمليات احتيال أو الوصول إلى معلومات حساسة على مستوى الأمن القومي. ودعا الخبراء المستخدمين إلى مراقبة نشاط حساباتهم بشكل دقيق، والتحقق من رسائل البريد الإلكتروني والتطبيقات المصرفية وحسابات التواصل الاجتماعي بحثا عن أي نشاط غير معتاد. ويأتي هذا الاختراق بعد أيام قليلة من الكشف عن سرقة بيانات أكثر من مليار حساب "فيسبوك" في واحدة من أكبر عمليات اختراق البيانات على منصات التواصل الاجتماعي. المصدر: ديلي ميل حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله. تسبب عطل ضرب منصة التواصل الاجتماعي "إكس" باضطرابات على مستوى العالم اليوم السبت. كشفت دراسة أجرتها شركة Positive Technologies المتخصصة في الأمن السيبراني أن 32% من الشركات الروسية تعتزم تطبيق حلول متخصصة لحماية الأجهزة الطرفية (endpoints) بحلول عام 2025. أعلنت مؤسسة "روستيخ" الروسية أنها ستكشف عن برمجيات تعمل بالذكاء الاصطناعي لمكافحة القرصنة الإلكترونية خلال فعاليات مهرجان "Positive Hack Days" للأمن السيبراني.

روسيا اليوم

منذ 4 ساعات

• روسيا اليوم

وداعا للوقود الأحفوري؟!.. آلة ثورية جديدة تنتج البنزين من الهواء مباشرة

ويشغّل البنزين اليوم أكثر من 90% من المركبات حول العالم، ما يجعله عنصرا محوريا في حركة النقل ودعم الاقتصاد العالمي. إلا أن أثره البيئي لا يزال ضخما، إذ يعد أحد أبرز مصادر انبعاثات ثاني أكسيد الكربون وتلوّث الهواء وتسارع تغيّر المناخ. ورغم تصاعد الجهود العالمية للتحوّل إلى الطاقة النظيفة، فإن محاولات استبدال البنزين غالبا ما تواجه تحديات كبيرة، مثل ارتفاع تكلفة تحديث المركبات وضعف البنية التحتية اللازمة للوقود البديل. وفي هذا السياق، كشفت شركة "إيرسيلا" (Aircela)، مقرها نيويورك، عن آلة صغيرة الحجم (بحجم ثلاجة تقريبا) تنتج البنزين مباشرة من الهواء، حيث تجمع بين تقنيتي التقاط الهواء المباشر وإنتاج الوقود، وتعمل بالكامل باستخدام الكهرباء المتجددة. ويتميز الوقود الناتج بأنه متوافق تماما مع المحركات الحالية، ولا يحتاج إلى أي تعديلات، ما يجعله حلا عمليا وجاهزا للاستخدام الفوري. وبعكس المحطات المركزية الضخمة لإنتاج الوقود الاصطناعي، تتبنّى "إيرسيلا" نهجا لامركزيا. فآلة الشركة قادرة على التقاط ثاني أكسيد الكربون من الغلاف الجوي وتحويله مباشرة إلى بنزين نظيف، خال من الكبريت والإيثانول والمعادن الثقيلة، ما يجعله آمنا ومناسبا لأي محرك بنزين. وقال الرئيس التنفيذي للشركة، إريك دالغرين: "لم نطوّر مجرد نموذج أولي، بل أنتجنا آلة عاملة، جاهزة للاستخدام في المنازل والمصانع والمؤسسات التجارية، بأقل قدر من التجهيز". ويحظى المشروع بدعم مجموعة من كبار المستثمرين، من بينهم كريس لارسن، مؤسس شركة "ريبل"، والمستثمر جيف أوبن. كما تلقى دعما استراتيجيا من "ميرسك غروث"، الذراع الاستثمارية لشركة الشحن الدنماركية العالمية "إيه. بي. مولر – ميرسك". وصرّح مورتن بو كريستيانسن، نائب رئيس الشركة ورئيس قسم تحول الطاقة في ميرسك: "استثمرنا في "إيرسيلا" لأننا نؤمن بنهجها المبتكر في إنتاج وقود منخفض الانبعاثات من خلال تقنية التقاط الهواء المباشر". Is this for real?US-based #Aircela claims to have just created a machine that can turn Air into وتعتمد تكنولوجيا "إيرسيلا" على أبحاث رائدة في مجال التقاط الكربون، أبرزها ما قدمه الفيزيائي كلاوس لاكنر، أحد مؤسسي هذا المجال، الذي حضر العرض التجريبي لشرح الأسس العلمية التي قامت عليها هذه الآلة. وتعتزم "إيرسيلا" بدء النشر الأولي لأجهزتها بحلول خريف عام 2025، مركّزة على المستخدمين غير المرتبطين بالشبكة، والقطاعات التجارية والصناعية التي تبحث عن بدائل للوقود الأحفوري لا تتطلب تغييرات جذرية. المصدر: interesting engineering تمتلك روسيا احتياطيات مؤكدة من النفط تكفي لعدة عقود ومن الغاز لقرن كامل من الزمن، فيما تكفي احتياطيات الفحم لمدة 500 عام بناء على مستويات الإنتاج الحالية. حقق فريق من العلماء من مشروع CitySolar إنجازا علميا جديدا بتسجيل رقم قياسي عالمي في كفاءة تحويل ضوء الشمس إلى كهرباء باستخدام الخلايا الشمسية الشفافة. وجدت دراسة جديدة أن باطن الأرض يختزن تريليونات الأطنان من غاز طبيعي قد يساهم في تقليص الاعتماد على الوقود الأحفوري.

روسيا اليوم

منذ 4 ساعات

• روسيا اليوم

وزير الصحة اللبناني يوجه نداء استغاثة للمجتمع الدولي لتمويل احتياجات النازحين السوريين

واستذكر وزير الصحة البناني دور بلاده في هذا الملف قائلا "لبنان لم يتقاعس عن القيام بدوره في هذا الإطار طوال أربعة عشر عاما رغم الأزمات الاقتصادية والمالية والأمنية العنيفة التي مر بها". وأضاف أن لبنان شهد قبل أقل من ثلاثة أشهر موجة نزوح جديدة من سوريا "ما يبقي أعداد النازحين مرتفعة جدا بالنسبة إلى مساحة لبنان وقدرة نظامه الصحي على تحمل أعباء إضافية كبرى". وقال الوزير إن المطلوب من المفوضية بالتعاون مع القوى الدولية المؤثرة العمل بجدية لإيجاد حلول تضمن استمرار تقديم الرعاية الصحية والاستشفاء للنازحين خصوصا في مراكز الرعاية الأولية التي تشكل شريانا أساسيا للخدمات الصحية في لبنان. وأكد أنه لا حل ولا بديل حاليا عن تأمين التمويل الدولي اللازم لتغطية احتياجات النازحين الصحية إلى حين تأمين عودتهم الآمنة إلى وطنهم. وقبل أيام، تحدث الرئيس اللبناني جوزيف عون خلال لقائه وفدا أمريكيا برئاسة السيناتور أنغوس كينغ إلى محورين لمعالجة التحديات الأمنية والاجتماعية التي تواجه لبنان، وبينها قضية النازحين السوريين. ووصف عون بدء رفع العقوبات الأمريكية عن دمشق بـ"الخيار الجيد"، معتبرا أن "تحسين الاقتصاد السوري يساعد في حل أزمة النازحيين السوريين بلبنان، الذين عليهم العودة للمساهمة في إنعاش اقتصاد بلدهم". ودعا الرئيس اللبناني خلال لقائه الوفد الأمريكي الأمم المتحدة إلى أن "تقدم المساعدات للنازحين السوريين في بلادهم وليس في لبنان". المصدر: RT لفت الرئيس اللبناني جوزيف عون خلال لقائه وفدا أمريكيا برئاسة السيناتور أنغوس كينغ إلى محورين لمعالجة التحديات الأمنية والاجتماعية التي تواجه لبنان، وبينها قضية النازحين السوريين. أعربت اللجنة الوزارية اللبنانية الخاصة بالنازحين السوريين عن استعداد لبنان لوضع خطة بالتعاون مع السلطات السورية والمنظمات الدولية لعودة النازحين السوريين إلى بلادهم.