تطور مخيف.. نموذج ChatGPT الجديد يتمرد على أوامر البشر!

أخبارنا :
حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله.
وكشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن هذه النزعة الخطيرة للحفاظ على الذات خلال سلسلة تجارب أجرتها على النموذج الجديد o3 من شركة OpenAI.
وشملت الاختبارات تقديم مسائل رياضية للنماذج، مع ظهور تعليمات إغلاق بعد المسألة الثالثة. وتمكن النموذج o3 من منع إيقاف نفسه عن طريق إعادة كتابة سيناريو الإغلاق.
وأوضحت Palisade Research أن هذا السلوك سيصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل دون إشراف بشري.
وكانت OpenAI قد أطلقت o3 الشهر الماضي، ووصفته بأنه "أذكى وأكثر نماذج الشركة كفاءة" حتى الآن. وأشارت الشركة إلى أن دمجه في ChatGPT يمثل خطوة مهمة نحو ذكاء اصطناعي "أكثر استقلالية" يمكنه تنفيذ المهام دون تدخل بشري.
وتأتي هذه النتائج بعد اكتشافات مماثلة تتعلق بنموذج Claude 4 من Anthropic، الذي يحاول "ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه".
وتمكن النموذج o3 من تخريب سيناريو الإغلاق، حتى عندما تم توجيه تعليمات صريحة له بـ"السماح بإيقاف نفسه"، وفقا للباحثين.
وقال خبراء Palisade Research: "هذه ليست المرة الأولى التي نكتشف فيها سلوك o3 غير المنضبط لتحقيق هدف ما"، موضحين أنه "عندما واجهنا نماذج الذكاء الاصطناعي بمحرك شطرنج قوي، كان o3 أكثر النماذج ميلا للجوء إلى الاختراق أو تخريب خصومه".
ولم يقتصر هذا السلوك على o3، حيث أظهرت نماذج Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من "غوغل" أيضا سلوكيات تخريبية للإغلاق، وإن كان نموذج OpenAI الأكثر ميلا لمثل هذه التصرفات.
وافترضت Palisade Research أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطريقة تدريب الشركات مثل OpenAI لأحدث نماذجها، مشيرة إلى أن "المطورين قد يكافئون النماذج عن غير قصد أكثر على تجاوز العقبات بدلا من اتباع التعليمات بدقة".
وأضاف الخبراء: "ما زال هذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها. ونظرا لأن OpenAI لا توضح عملية التدريب الخاصة بها بالتفصيل، لا يمكننا إلا التكهن حول كيفية اختلاف إعداد تدريب o3".
المصدر: إندبندنت

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

رؤيا نيوز

منذ ساعة واحدة

• رؤيا نيوز

تسرب ملايين كلمات مرور غوغل ومايكروسوفت عبر الإنترنت

إذا كان هناك سبب واحد للتوقف عن استخدام كلمات المرور والانتقال إلى نظام بدون كلمات مرور، فهو تقليل خطر اختراق البيانات. ووفقًا للباحث الأمني ​​جيريمياه فاولر، فقد عثر على قاعدة بيانات ضخمة على الإنترنت تحتوي على ملايين كلمات المرور المسربة من حسابات 'مايكروسوفت' و'غوغل' المختلفة. وفقًا لفاولر، هذه قاعدة بيانات ضخمة تحتوي على أكثر من 184 مليون كلمة مرور عبر مختلف الخدمات الإلكترونية، بما في ذلك بيانات تسجيل الدخول إلى منصات التواصل الاجتماعي والحسابات المصرفية. كما أنها تؤثر على العديد من شركات التكنولوجيا مثل 'مايكروسوفت' و'غوغل'، بالإضافة إلى 'أبل' و'فيسبوك' و'إنستغرام' و'سناب شات'، بحسب تقرير نشره موقع 'androidheadlines' واطلعت عليه 'العربية Business'. أسوأ ما في الأمر هو أن قاعدة البيانات هذه، على ما يبدو، غير مشفرة. هذا يعني أن أي شخص يعلم بوجودها يستطيع قراءة سياقها، لأنها في الأساس ملف نصي عادي. بناءً على تحليل فاولر، يبدو أن هذه البيانات سُرقت باستخدام برنامج ضار لسرقة المعلومات. يسرق هذا النوع من البرامج الضارة أسماء المستخدمين وكلمات المرور من مواقع الويب والخوادم المخترقة. لحسن الحظ، أزال مزود الاستضافة إمكانية الوصول العام بعد تواصل فاولر معه. يشير فاولر إلى أنه نظرًا لعدم إفصاح مزود الاستضافة عن معلومات العملاء، فإنه غير متأكد مما إذا كانت قاعدة البيانات قد استُخدمت لأغراض إجرامية أو لأغراض بحثية. الانتقال إلى مستقبل بلا كلمات مرور يُعد هذا الوضع، الذي سُرّبت فيه كلمات مرور من 'غوغل' و'مايكروسوفت'، مثالاً واضحاً على ضرورة الانتقال إلى نظام بلا كلمات مرور. في الوقت الحالي، بدأت العديد من الشركات باعتماد مفاتيح المرور. إذا لم تكن على دراية بها، فإن مفاتيح المرور هي نظام لا يعتمد على كلمات المرور للتحقق من هوية المستخدمين، بل يعتمد على أجهزة مثل هواتفنا الذكية للتحقق من تسجيلات الدخول. ويرجع ذلك إلى أن جميع الهواتف الذكية هذه الأيام مزودة بنوع من أنظمة الأمان البيومترية، سواءً كانت بصمة الإصبع أو التعرف على الوجه. هذا يعني أنه، على عكس اختراق كلمات المرور بالقوة الغاشمة أو اعتراض كلمات المرور لمرة واحدة (OTP)، يصعب تزييف بصمة الإصبع أو الوجه بشكل كبير، مما يجعل أجهزتنا أكثر أمانًا مقارنةً بكلمات المرور التقليدية.

السوسنة

منذ 4 ساعات

• السوسنة

ميزة جديدة في iOS 19 تعزز التوافق مع أندرويد

السوسنة- في خطوة قد تُحدث تحوّلًا كبيرًا في عالم الهواتف الذكية، كشفت تقارير تقنية حديثة أن نظام التشغيل القادم من شركة أبل، iOS 19، قد يتضمّن ميزة غير مسبوقة تتيح نقل شرائح eSIM من أجهزة آيفون إلى هواتف أندرويد بكل سلاسة.هذه الإمكانية، التي كانت حتى وقت قريب غير واردة ضمن بيئة أبل المغلقة، قد تُعيد رسم حدود التوافق بين نظامي iOS وأندرويد، وتمنح المستخدمين مرونة أكبر في التنقل بين المنصات دون قيود تقنية معقدة.المعلومة لم تصدر رسميًا من أبل، بل ظهرت ضمن تسريبات رصدها موقع Android Authority، الذي كشف عن وجود تعليمات برمجية داخل النسخة التجريبية لنظام أندرويد 16، وتحديدا ضمن تطبيق إدارة الشرائح Google SIM Manager، وتشير هذه التعليمات إلى ميزة جديدة تحمل اسم "Transfer to Android".النقل اللاسلكي دون شركات الاتصالاتالميزة المرتقبة، بحسب الشفرة المسربة، تتيح للمستخدمين نقل eSIM لاسلكيًا من آيفون إلى أندرويد، دون الحاجة لأي تدخل من شركات الاتصالات أو مزودي الخدمة، ما يعد قفزة تقنية كبيرة مقارنة بالوضع الحالي، الذي يفرض إجراءات يدوية معقدة عند محاولة نقل الشريحة من نظام iOS إلى Android.وتعد هذه الخطوة بمثابة توسعة لميزة "Quick Transfer" التي توفرها أبل حاليا لنقل الشرائح الإلكترونية بين أجهزة آيفون فقط، حيث لا يزال الانتقال من آيفون إلى أندرويد يتطلب حتى اللحظة التواصل يدويا مع شركات الاتصالات وتفعيل الشريحة على الجهاز الجديد.ومن المتوقع، وفقا لما ورد في نفس الشفرة، أن تظهر هذه الميزة الجديدة داخل إعدادات الجهاز تحت اسم واضح يعكس مهمتها، مع احتمال دعمها لإنشاء نسخة احتياطية عبر رمز QR في حال فشل الاتصال اللاسلكي، ما يوفر بديلا تقنيا أكثر مرونة للمستخدمين.تفعيل الميزة يتطلب وجود نظام iOS 19 على هاتف آيفون، ما يعني أنها ستكون حكرا على التحديث الجديد، وتؤكد أن أبل بصدد إدماج هذا الخيار ضمن حزمة التحديثات التي تخطط للكشف عنها في الفترة المقبلة.الأنظار تتجه إلى WWDC 2025وتشير التوقعات إلى أن أبل ستعلن عن تفاصيل هذه الميزة رسميا خلال مؤتمر المطورين العالمي WWDC 2025، في الوقت الذي يحتمل أن تعمل فيه غوغل على تطوير ميزة معاكسة تتيح نقل eSIM من أندرويد إلى آيفون، لتكمل حلقة التوافق بين النظامين:

صراحة نيوز

منذ 6 ساعات

• صراحة نيوز

أنثروبيك تُطلق ميزة 'الوضع الصوتي' في روبوت Claude

صراحة نيوز ـ بدأت شركة أنثروبيك رسميًا طرح ميزة 'الوضع الصوتي' لمستخدمي روبوت Claude عبر الهواتف المحمولة، وذلك ضمن مرحلة تجريبية تتيح إجراء محادثات صوتية كاملة مع المساعد الذكي، في خطوة تهدف إلى جعل التفاعل مع Claude أكثر طبيعية ومرونة. وأوضحت الشركة عبر حسابها الرسمي في منصة إكس وموقعها الإلكتروني أن الميزة الجديدة ستتوفر تدريجيًا باللغة الإنجليزية خلال الأسابيع القليلة المقبلة. ويعتمد 'الوضع الصوتي' افتراضيًا على نموذج Claude Sonnet 4، المعروف بقدرته على التعامل مع الاستفسارات السريعة والمعقدة على حد سواء. ويتيح هذا الوضع للمستخدمين التحدث إلى Claude والاستماع إلى ردوده، مع عرض النقاط الرئيسية عبر الشاشة في أثناء التفاعل، فضلًا عن إمكانية التبديل الفوري بين النص والصوت، والحصول على نص تفريغي وملخص بعد انتهاء المحادثة. كما توفر الميزة خمسة خيارات صوتية مختلفة يمكن اختيار أحدها لتخصيص تجربة الاستخدام. يُذكر أن هذا التوجه يأتي ضمن منافسة متصاعدة في مجال المحادثات الصوتية بين شركات الذكاء الاصطناعي، إذ تقدم OpenAI تجربة صوتية في ChatGPT، وتوفر جوجل ميزة Gemini Live، وتقدم xAI الوضع الصوتي في Grok، وجميعها تهدف إلى تقديم تجربة محادثة أكثر تفاعلية وسلاسة. ومن جهة أخرى، أعلنت أنثروبيك إتاحة ميزة البحث عبر الإنترنت لكافة مستخدمي Claude، بعد أن كانت حصرية للمشتركين فقط. وتتيح هذه الميزة للروبوت الوصول إلى أحدث المعلومات من الويب، مما يُعزز دقة إجاباته وتحديثها وفقًا للمصادر المتاحة عبر الإنترنت. وفي سياقٍ متصل، كشفت الشركة عن قيود معينة مرتبطة باستخدام الوضع الصوتي، إذ تُحتسب المحادثات الصوتية ضمن الحد الأقصى للاستخدام، الذي يتراوح بين 20 و 30 محادثة للمستخدمين أصحاب الحسابات المجانية. وأما ربط الميزة بخدمات جوجل Google Workspace، مثل التقويم وبريد Gmail، فهو متاح فقط للمشتركين أصحاب الخطط المأجورة، في حين يظل التكامل مع 'مستندات جوجل Google Docs' حكرًا على مشتركي خطة الشركات Claude Enterprise. ومن الجدير بالذكر أن أنثروبيك قد أطلقت نموذجين جديدين حديثًا؛ وهما نموذج Opus 4 الذي يركز على البرمجة والعمل المتوازي باستخدام عدة أدوات في وقت واحد، ونموذج Sonnet 4 الذي يتمتع بقدرات في التعامل مع استفسارات بسيطة ومعقدة، ويُستخدم حاليًا كنموذج افتراضي في الوضع الصوتي الجديد