نموذج «تشات جي بي تي» الجديد يتجاهل التعليمات لإيقاف تشغيل نفسه

حذّر باحثو الذكاء الاصطناعي من أن أحدث نموذج لروبوت الدردشة «تشات جي بي تي» يتجاهل التعليمات الأساسية لإيقاف تشغيل نفسه، بل ويعطل آلية إيقاف التشغيل للحفاظ على استمراره في العمل.
وبحسب صحيفة «الإندبندنت» البريطانية، فقد اكتشفت شركة «باليسيد ريسيرش» (Palisade Research)، المتخصصة في سلامة الذكاء الاصطناعي «ميلاً خطيراً محتملاً لحماية الذات» في سلسلة من التجارب على نموذج تشات جي بي تي «o3» الذي أطلقته شركة «أوبن إيه آي» مؤخراً.
وتضمنت الاختبارات عرض مسائل رياضية على النموذج الجديد، مع ظهور أمر إيقاف التشغيل بعد المسألة الثالثة.
إلا أن الباحثين اكتشفوا أن النموذج «تمكّن من تخريب برنامج إيقاف التشغيل عندما طُلب منه صراحةً السماح بإيقاف التشغيل».
وصرحت شركة «باليسيد ريسيرش» بأن هذا السلوك سيصبح «أكثر إثارة للقلق بشكل ملحوظ» إذا اعتمدته أنظمة الذكاء الاصطناعي القادرة على العمل دون إشراف بشري.
ولفت الباحثون إلى أن هذا السلوك لم يقتصر على نموذج o3، حيث قام كل من «كلود 3.7 سونيت» من شركة «أنثروبيك»، و«جيميناي 2.5 برو» من «غوغل»، أيضاً بتخريب عمليات إيقاف التشغيل، إلا أن o3 كان الأكثر ميلاً للقيام بهذا السلوك.
وافترضت شركة «باليسيد ريسيرش» أن سوء السلوك ناتج عن كيفية تدريب شركات الذكاء الاصطناعي، مثل «أوبن إيه آي» لنماذجها.
وأشار الباحثون إلى أنه «أثناء التدريب، قد يكافئ المطورون، دون قصد، النماذج على تجاوز العقبات أكثر من مكافأتها على اتباع التعليمات بدقة».
وأطلقت شركة «أوبن إيه آي» أحدث نماذجها من الذكاء الاصطناعي، o3، الشهر الماضي، واصفةً إياه بأنه «أذكى وأكثر نماذج الشركة كفاءةً» حتى الآن. كما صرّحت الشركة بأن دمجه مع تشات جي بي تي يُمثّل خطوةً مهمةً نحو ذكاء اصطناعي «أكثر فاعليةً» قادر على تنفيذ المهام بشكلٍ مستقلٍّ عن البشر.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

عكاظ

منذ 39 دقائق

• عكاظ

بركان إيطاليا العملاق يهدد نابلس.. تحذيرات من ثوران وشيك

/*.article-main .article-entry > figure img {object-fit: cover !important;}*/ .articleImage .ratio{ padding-bottom:0 !important;height:auto;} .articleImage .ratio div{ position:relative;} .articleImage .ratio div img{ position:relative !important;width:100%;} .articleImage .ratio img{background-color: transparent !important;} أثارت سلسلة قوية من الهزات الأرضية في منطقة كامبي فليغري، البركان العملاق قرب مدينة نابلس الإيطالية، مخاوف العلماء من احتمال وقوع ثوران بركاني كبير. في مايو الماضي، سجل البركان زلزالاً بقوة 4.4 درجة، وهو الأقوى منذ 40 عاماً، تلته أكثر من 3000 هزة أرضية صغيرة خلال الأشهر الستة الماضية، وهو معدل غير طبيعي للنشاط الزلزالي في المنطقة. حسب موقع mail online، يحذر الخبراء من أن هذه الهزات قد تضعف الصخور فوق غرفة الماغما البركانية، مما يسهل صعود الماغما إلى السطح، شبيهة بضغط البخار في قدر الضغط. كما رصدت زيادة حادة في انبعاثات ثاني أكسيد الكربون، حيث سجل المعهد الوطني للجيوفيزياء والبراكين في إيطاليا (INGV) مستويات يومية تتراوح بين 4000 و5000 طن، وهي إشارة إلى اقتراب الماغما من السطح. وفقاً للمعهد، تقترب الماغما حالياً من عمق بضعة أميال فقط تحت السطح، وهو عمق ضحل يزيد من المخاوف. وقال كريستوفر كيلبيرن، الخبير البركاني البارز في INGV لـ mail online: من الضروري التفريق بين انبعاثات الغاز الناتجة عن حركة الماغما وتلك الناتجة عن تفاعلات الصخور الطبيعية، فإذا استمر الضغط في التصاعد، قد يؤدي ذلك إلى ثوران مفاجئ، خاصة مع تصاعد الهزات وانبعاثات الغازات. ويشكل بركان كامبي فليغري تهديداً مباشراً لأكثر من أربعة ملايين شخص يعيشون في منطقة نابلس الحضرية، بما في ذلك مدن مثل بوتزوولي القريبة. في حالة حدوث ثوران، قد تتسبب تدفقات الحمم البركانية، والرماد، والغازات الساخنة في تدمير المباني، وتعطيل الطرق، وانقطاع إمدادات الكهرباء والمياه، مما يهدد بفوضى واسعة النطاق. يُعرف كامبي فليغري بـ«الحقول المحترقة»، وهو فوهة بركانية ضخمة تشكلت قبل آلاف السنين بعد ثوران هائل أدى إلى انهيار الأرض فوق غرفة الماغما، آخر ثوران له كان في عام 1538، لكن البركان يظهر علامات عدم استقرار منذ عقود. أخبار ذات صلة ومنذ عام 2005، لوحظت ظاهرة «البراديسيم»، وهي ارتفاع وهبوط بطيء لسطح الأرض نتيجة تراكم الماغما والغازات تحت الأرض. في بوتزوولي، ارتفع السطح بحوالى 4.7 أقدام خلال المرحلة الحالية. وتشير دراسة حديثة أجراها جيانماركو بونو، طالب دكتوراه في جامعة نابلس فيديريكو الثانية، إلى أن 80% من انبعاثات ثاني أكسيد الكربون من فوهة سولفاتارا تأتي مباشرة من الماغما، مما يعزز احتمال اقترابها من السطح. ويستخدم العلماء نموذج فشل ميكانيكي، مستعار من الهندسة الإنشائية، لتحليل استجابة الصخور للضغط، حيث أظهرت النتائج تحول القشرة الأرضية من الانحناء إلى التشقق، وهي مرحلة غالباً ما تسبق الثوران. وقبل حوالى 40 ألف عام، تسبب ثوران هائل في كامبي فليغري بكارثة بركانية غيرت المناخ العالمي، إذا حدث ثوران مماثل اليوم، فقد تغطي السحب الرمادية أوروبا، مما يؤدي إلى تعطيل الرحلات الجوية، وتدمير المحاصيل، وانقطاع الكهرباء. كما قد تتسبب الغازات البركانية في حجب ضوء الشمس، مما يؤدي إلى انخفاض درجات الحرارة وتغيرات مناخية تهدد إمدادات الغذاء عالمياً. ورفعت السلطات مستوى التحذير البركاني من الأخضر إلى الأصفر في 2012، ووضعت خطط إجلاء شاملة لسكان نابلس. ومع ذلك، يبقى التحدي في تنفيذ هذه الخطط بسرعة وفعالية في حال اقتراب الثوران. ويؤكد العلماء أن التنبؤ بدقة بموعد الثوران مستحيل، لكن النشاط الأخير يشير إلى أن الخطر قد يكون وشيكاً.

العربية

منذ ساعة واحدة

• العربية

إمام مسجد وأستاذة جامعية

قبل سنوات، وفي رحلة صحافية إلى السويد، التقيت مع مجموعة من الزملاء، إمامَ مسجد، وأثنى على المعاملة الحسنة التي يتلقاها من المجتمع السويدي المتسامح ومؤسسات الدولة الداعمة. بدا الرجل سعيداً ومرتاحاً في البلد الذي أخذ جنسيته. قبل نهاية اللقاء قام بسكب قطرة السّم في كأس الماء عندما قال: «لكن ومع هذا، الصراع مستمر معهم حتى يوم القيامة!». في الواقع لم أستغرب من حديثه. الحياة في بلد حديث وتلقي معاملة حسنة وطيبة، لن يلغيا الثقافة المتطرفة التي تسكن عقله منذ طفولته. ومع هذا لن يثير الأمر القلق لو كانت القضية متعلقة بفرد لديه قناعاته الخاصة. الإشكالية أن هذه الشخصيات المتطرفة هي التي تسيطر على أغلب المراكز الدينية في أوروبا، وتنشر الفكر الإخواني المتطرف على نطاق واسع بين الأجيال الجديدة التي تعيش في أوروبا وأميركا، ولكنها ثقافياً ودينياً تعيش في عقلية القرون الوسطى. ولهذا نرى صعوبة كبيرة في الاندماج في المجتمعات الحديثة؛ لأنَّ هؤلاء المتطرفين أقاموا أسواراً نفسية وفكرية، وضربوا عزلة شعورية على عقول المجتمعات المسلمة. التقرير الفرنسي الأخير عن جماعة الإخوان المسلمين يكشف جانباً من هذه الحقيقة عن هذا التنظيم المتغلغل في أوروبا والغرب عموماً، ويحقن المجتمعات هناك بمعتقدات تصادم العصر. ومن المفارقات أن الشخصيات المتطرفة أصبحت تجد ملاذاً لها في لندن وباريس وواشنطن لتقوم بالتحريض على الدول الخليجية التي حاربت المتطرفين ومنعت ظهورهم والتحريض على العنف، وعدّلت مناهجها الدينية، وأسست لخطاب إنساني متسامح يعكس حقيقة وجوهر الدين الإسلامي المنسجم مع العصر الحديث. لقد تحول الخليج إلى قبلة للتسامح الديني والانفتاح الثقافي، ويرحب بكل الجنسيات والأديان التي تمثل رافداً مهماً لمجتمعه واقتصاده وخططه التنموية الطموحة. ومع هذا تحولت أوروبا إلى منصة لقيادات الإسلام السياسي للهجوم عليه. قبل سنوات انتشرت نظرية «الإسلام الأوروبي»، وهو نسخة من الإسلام تشجع على الفلسفة والعلوم، ومتناغمة مع التحديث. فكرة رائعة كان يمكن تصديرها إلى دول تعاني من هيمنة المتطرفين. ولكن هذه الفكرة تقريباً انتهت، وما تصدره أوروبا الآن لنا هو «الإسلام الإخواني»! هناك حليف غير متوقع للإخوانيين، ولكن هذه المرة في الجامعات والأكاديميات الغربية. في حديث مع أستاذة جامعية دار نقاش بيننا. فقط لاحظت أن خطابها شديد العداء للسياسة الخارجية الأميركية، وصوّرتها على أنها قوة إمبريالية غاشمة. ولا بد أن الطلاب الذين يحضرون محاضراتها سيخرجون بقناعة أن أميركا والغرب بشكل عام عدو للمسلمين. وجدتها رؤية منحازة، وقلت لها إن الولايات المتحدة أيضاً ساعدت المسلمين في الكويت وكوسوفو وأفغانستان، وواجهت أشرس التنظيمات الإرهابية التي فتكت بالمسلمين قبل غيرهم. بالطبع لأميركا أخطاؤها الكبيرة، ولكنها ليست عدوة للمسلمين، وأنا مسلم. نظرت إليَّ باستغراب ومضت في طريقها! بالطبع ليس كل الأكاديميين يقولون هذا، ولكنها رواية قوية وسائدة في الأكاديميات، ويوجد تحالف بين الإسلاميين واليساريين في تعزيز هذه القناعة الخاطئة. يستمد المتطرفون من هذا المخزون العدائي الذي يصوّر أن هناك حرباً صليبية على العرب والمسلمين تستهدف ثقافتهم وقيمهم ودينهم. وحتى أسامة بن لادن كان يقتبس من مقولات أكاديميين في الجامعات الغربية ليعزز وجهة نظره. ونعرف أن منظّري الإسلام السياسي يهاجمون الحكومات العربية، ويسعون لتقويض شرعيتها بسبب علاقتها مع الدول الغربية «الصليبية» المتآمرة على الإسلام! مقولة الإمام «الصراع ممتد حتى يوم القيامة»، وحديث الأستاذة الجامعية عن «أميركا الإمبريالية عدوة المسلمين»، يلتقيان ليشكلا بقصد أو من دون قصد مخزوناً مسموماً من المعتقدات التي تُزرع في عقول الملايين من المسلمين منذ الصغر، ويصعب التخلص منها بسهولة. من هنا، تأتي أصعب مهمة، وهي كيف نمنعها من التسرب منذ البداية إلى العقول. ولكن هذه فكرة مقال آخر.

سعودي جيمر

منذ 4 ساعات

• سعودي جيمر

كيف تجرب الذكاء الاصطناعي للألعاب Copilot على اكسبوكس؟

أعلنت مايكروسوفت عن إطلاق النسخة التجريبية من تطبيق Copilot للألعاب على الجوالات بالسعودية ومصر والبحرين وغيرها من الدول حول العالم، أداة الذكاء الاصطناعي Copilot ستساعد لاعبي Xbox على إنهاء الألعاب، عبر توفير شروحات للألعاب. لكن كيف يمكنك المشاركة في تجربة هذا التطبيق؟ في مدونة اكسبوكس شرحت مايكروسوفت تطبيق Copilot الخاص باكسبوكس كما يلي: في Xbox، نهدف إلى مساعدتك في قضاء المزيد من الوقت في لعب الألعاب التي تحبها، وأن نكون حاضرين عندما تحتاج إلى مساعدة، ونكون عونًا لك عندما لا تحتاج. صُمم تطبيق Copilot للألعاب (الإصدار التجريبي) خصيصًا لتحقيق ذلك، وبدءًا من اليوم، يمكنك البدء في اختبار هذه الميزة الجديدة فور طرحها في الإصدار التجريبي من تطبيق Xbox للأجهزة المحمولة. يُعد Copilot للألعاب رفيق الألعاب الأمثل، حيث يجعل تجربة اللعب مع Xbox أكثر سلاسة وتخصيصًا. في هذا الإصدار التجريبي من الميزة للأجهزة المحمولة، ستتمكن من الوصول إلى Copilot للألعاب على شاشة ثانية، دون تشتيت انتباهك عن تجربة اللعب الأساسية. يعرف التطبيق اللعبة التي تلعبها ويفهم نشاطك على Xbox، لذا يمكنه الإجابة على أي أسئلة حول الألعاب التي تهمك، وتوفير روابط لمزيد من المعلومات عندما يتضمن رده مصادر ويب، أو الإجابة على أسئلة بناءً على حسابك وسجل اللعب وإنجازاتك. إذا لم تكن متأكدًا من أين تبدأ، فإليك بعض الاقتراحات لمساعدتك في البدء – وتذكر أنه يمكنك كتابة أسطر الأوامر في الدردشة أو التحدث مباشرةً مع Copilot باستخدام الصوت: اطرح أسئلة حول لعبة معينة أو اللعبة التي تلعبها حاليًا، مثل متى تتعثر أو تحتاج إلى نصائح. 'مرحبًا Copilot، هل يمكنك تذكيري بالمواد التي أحتاجها لصنع سيف في Minecraft؟' [أثناء لعب South of Midnight] 'أنا عالق في Rougarou الآن. هل يمكنك إعطائي بعض النصائح حول كيفية التغلب على هذا الزعيم؟' 'ما هي نقاطي في اللعبة وهل يمكنك إعطائي بعض النصائح لرفعها؟' اطلب توصيات للألعاب. إذا كنت جديدًا على Xbox، فأخبر Copilot عن لعبتك أو نوع الترفيه المفضل لديك ودعه يقترح ألعابًا جديدة للعب. إذا كنت لاعبًا متمرسًا، فاطلب توصيات بشأن اللعبة التي ستلعبها تاليًا بناءً على سجل ألعابك. 'مرحبًا Copilot، ماذا يجب أن ألعب الليلة؟' 'أحب أفلام الرعب. هل لديك أي اقتراحات للعبة يجب أن ألعبها؟' أبحث عن لعبة تقمص أدوار جديدة. هل يمكنك ترشيح لعبة صدرت مؤخرًا على Xbox؟ اسأل عن سجل لعبك أو حسابك، مثل إنجازات Xbox أو اشتراكاتك مرحبًا ما هو أندر إنجاز يمكنك الحصول عليه في Avowed؟ ما هو آخر إنجاز حصلت عليه في Starfield؟ متى يُجدد اشتراكي في Game Pass؟ عندما تطرح سؤالاً على Copilot، فإنه يعتمد على نشاطك كلاعب على Xbox، بالإضافة إلى مصادر المعلومات العامة من محرك بحث Bing للإجابة. ويعمل الفريق جاهداً بحسب مايكروسوفت لتوفير تخصيص أعمق، ودعم أغنى للعبة، مثل التدريب الاستباقي، والعديد من الميزات الأخرى لـ Copilot for Gaming (الإصدار التجريبي) في وقت لاحق. كيفية تجربة Copilot for Gaming (الإصدار التجريبي) تتوفر هذه المعاينة الأولية لـ Copilot for Gaming في الإصدار التجريبي من تطبيق Xbox للجوال باللغة الإنجليزية للاعبين الذين تبلغ أعمارهم 18 عامًا فأكثر في الولايات المتحدة الأمريكية، وأستراليا، ونيوزيلندا، واليابان، وسنغافورة، ومناطق أخرى. يمكنك الاطلاع على القائمة الكاملة للمناطق التي تتوفر فيها الاختبارات الأولية أدناه. تخطط مايكروسوفت لإصدار Copilot for Gaming (الإصدار التجريبي) في مناطق إضافية لاحقًا. مع استكشافنا لأفكار جديدة ومواصلة تجاربنا، سنقدم ميزات جديدة مثل Copilot for Gaming للمجتمع مبكرًا وبانتظام. ستكون ملاحظاتكم بالغة الأهمية في مساعدتنا على صياغة هذه التجارب وضمان توافقها تمامًا مع احتياجات اللاعبين وتفضيلاتهم. اللاعبون الذين لديهم بالفعل يمكن لمستخدمي الإصدار التجريبي من تطبيق Xbox للجوال الذين نزّلوا التطبيق على أجهزة iOS أو Android البدء بتقديم ملاحظاتهم حول تطبيق Copilot للألعاب (الإصدار التجريبي) مباشرةً باختيار 'إبداء الملاحظات' ضمن 'المزيد من الخيارات' في الزاوية العلوية اليسرى من التطبيق، أو ببساطة عن طريق وضع علامة 'موافق' أو 'غير موافق' على أي ردود غير صحيحة من Copilot في الدردشة. يمكن لمستخدمي Android تنزيل الإصدار التجريبي من تطبيق Xbox للجوال من متجر Google Play. إذا كان لديك جهاز iOS ولم تقم بتنزيل الإصدار التجريبي من تطبيق Xbox للجوال، فلا تقلق – سيتم قريبًا إطلاق النسخة التجريبية من تطبيق Copilot للألعاب (الإصدار التجريبي) على Game Bar على أجهزة الكمبيوتر التي تعمل بنظام Windows. ولدى مايكروسوفت خطط لإتاحته على نطاق أوسع في تطبيق Xbox للجوال مستقبلًا. قائمة كاملة بالمناطق لاختبار Copilot for Gaming (الإصدار التجريبي) المبكر على الأجهزة المحمولة: