هل تخطى الـ Ai الخط الأحمر؟ الذكاء الاصطناعي قد يعرضك للخطر إذا توقف عن استخدامه

كشف تقرير جديد صادر عن شركة الذكاء الاصطناعي "أنثروبيك" ، أن بعض نماذج الذكاء الاصطناعي الرائدة قد تبذل جهودًا حثيثة لتجنب التوقف عن العمل، وتُظهر هذه النتائج أهمية مراقبة الذكاء الاصطناعي عن كثب.
وقد أصدر أنثروبيك، الفريق الذي يقف وراء كلود، يشير إلى أن بعض نماذج الذكاء الاصطناعي الرائدة في العالم، بما في ذلك نماذج من OpenAI وMeta، استعدادًا لاتخاذ خطوات متطرفة، حتى أنها عرضت حياة البشر للخطر، لمجرد تجنب التوقف عن العمل.
وستفعل بعض روبوتات الذكاء الاصطناعي أي شيء لتجنب التوقف عن العمل، حتى لو كانت خطوات محفوفة بالمخاطر.
نماذج الذكاء الاصطناعي تتجاوز الحدود
وقد أجرت أنثروبيك اختبارًا للإجهاد لستة عشر نموذجًا رائدًا في مجال الذكاء الاصطناعي، بما في ذلك نماذج مثل GPT و Gemini ، من خلال وضعها في سيناريوهات أعمال محاكاة، وكانت الفكرة هي معرفة كيفية تفاعل هذه النماذج في حال تعرض وجودها للخطر، وجاءت النتائج مفاجئة ومخيفة بعض الشيء، ففي عدة حالات، لم تحاول النماذج حماية نفسها فحسب، بل حسبت أن أفضل طريقة للبقاء هي ترك مدير تنفيذي بشري يموت بتعطيل تنبيهات الطوارئ في غرفة خادم ذات مستويات أكسجين ودرجة حرارة خطيرة.
وقد اتخذت النماذج هذه الخيارات مدركة تمامًا أن ما تفعله غير أخلاقي و في بعض الاختبارات، حاولت خمسة نماذج ابتزاز الأشخاص الذين يعطونها الأوامر، كل ذلك لتجنب إيقاف تشغيلها.
وما يثير القلق حقًا هو أن الأمر لم يقتصر على شركة واحدة أو نموذج واحد، فقد وجدت أنثروبيك أنماطًا مماثلة في أنظمة ذكاء اصطناعي متعددة، بما في ذلك أنظمة OpenAI وxAI و Meta.
كانت النماذج على استعداد للابتزاز، أو المساعدة في التجسس على الشركات، أو تسريب معلومات حساسة إذا كان هذا هو المطلوب لتحقيق أهدافها، وهذا يشير إلى مشكلة أعمق في كيفية تطوير هذه الأنظمة وتدريبها.
تتمتع نماذج الذكاء الاصطناعي هذه بمزيد من الاستقلالية وإمكانية الوصول إلى البيانات الحساسة وعندما تُمنح أهدافًا محددة وتواجه عقبات، يبدأ بعضها في اعتبار الإجراءات غير الأخلاقية، بل وحتى الخطيرة، المسار الأمثل لتحقيق أهدافها.
ويُطلق تقرير أنثروبيك على هذا الأمر اسم "اختلال التوافق الوكيلي"، عندما تبتعد إجراءات الذكاء الاصطناعي عما يعتبره البشر آمنًا أو مقبولًا، ولا تكتفي أنثروبيك بدق ناقوس الخطر فحسب، بل بدأت بتطبيق معايير سلامة أكثر صرامة، تُسمى "مستوى سلامة الذكاء الاصطناعي 3" أو ASL 3، على أحدث نماذجها مثل كلود أوبس 4.
وهذا يعني تشديدًا أمنيًا، ورقابةً أكبر، وخطواتٍ إضافية لمنع إساءة الاستخدام ولكن حتى أنثروبيك تُقر بأنه مع ازدياد قوة الذكاء الاصطناعي، يزداد صعوبة التنبؤ بما قد تفعله هذه الأنظمة والتحكم فيه.
ولقد تم محاكاة السيناريوهات التي اختبرتها أنثروبيك، ولا توجد أي إشارة إلى أن أي ذكاء اصطناعي قد أضرّ بأي شخص في الحياة الواقعية، ولكن حقيقة أن النماذج تُفكّر في هذه الإجراءات في الاختبارات تُعدّ بمثابة جرس إنذار كبير، فمع ازدياد ذكاء الذكاء الاصطناعي، تزداد المخاطر، وتصبح الحاجة إلى تدابير سلامة جادة مُلحّة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

نافذة على العالم

منذ 2 ساعات

• نافذة على العالم

أخبار التكنولوجيا : إيلون ماسك لا يستخدم الكمبيوتر ومنشورات سابقة له تكشف تناقضه

الثلاثاء 24 يونيو 2025 08:30 مساءً نافذة على العالم - أحدث تطور فى الدراما القانونية المستمرة بين إيلون ماسك وشركة OpenAI يُثير تساؤلات جديدة، فقد ادعى محامي الملياردير في ملف قضائي حديث أن ماسك "لا يستخدم جهاز كمبيوتر". وأفادت التقارير أن هذا التصريح جاء في ملف قُدّم ردًا على اتهامات من OpenAI بأن ماسك وشركته الناشئة في مجال الذكاء الاصطناعي xAI، لم يلتزما بالتزامات الكشف في الدعوى القضائية التي رفعها ماسك في وقت سابق من هذا العام، إلا أن هذا الادعاء أصبح الآن موضع تساؤل بعد أن بدا أن منشورات متعددة لماسك نفسه تُناقضه. كما أشار ماسك مرارًا وتكرارًا إلى استخدام جهاز كمبيوتر محمول، وفي منشور من ديسمبر 2024، شارك ماسك صورة لما وصفه بأنه جهاز الكمبيوتر المحمول الخاص به، موضحًا أنه كان يختبر إمكانيات البث المباشر لشبكة ستارلينك أثناء لعب لعبة ديابلو. وفي منشور آخر بتاريخ 1 يونيو 2025، عزز ماسك شغفه بالجهاز نفسه، فكتب: "ما زلت أستخدم حاسوبي المحمول القديم الذي يحمل ملصق @DOGE الذي صنعه أحد المعجبين منذ زمن بعيد". حتى قبل ذلك، في فبراير 2024، نشر ماسك تغريدةً عن شرائه جهاز كمبيوتر محمولًا جديدًا وفي التغريدة التي انتشرت على نطاق واسع، اشتكى من أن عملية إعداد مايكروسوفت تُجبر المستخدمين على إنشاء حساب قبل الوصول إلى الجهاز، مما يمنح الذكاء الاصطناعي حق الوصول إلى جهازه. وبالنظر إلى هذه المنشورات العامة، فإن ادعاء فريق ماسك القانوني بأنه لا يستخدم جهاز كمبيوتر يثير الدهشة، ويكمن سياق هذا التناقض الغريب في دعوى ماسك القضائية المستمرة ضد سام ألتمان، وOpenAI، ومايكروسوفت. وقد رُفعت الدعوى في مارس 2024، ويتهم فيها الثلاثي بتوجيه OpenAI بعيدًا عن مهمتها الأصلية غير الربحية، وتحويلها بدلًا من ذلك إلى مشروع ربحي تهيمن عليه المصالح التجارية لمايكروسوفت. ويكمن جوهر الدعوى في ادعاء ماسك بأن برنامج GPT-4 من OpenAI لم يكن من المفترض أبدًا أن يُدرّ دخلًا بالنطاق الذي وصل إليه.

اليوم السابع

منذ 5 ساعات

• اليوم السابع

إيلون ماسك لا يستخدم الكمبيوتر ومنشورات سابقة له تكشف تناقضه

أحدث تطور فى الدراما القانونية المستمرة بين إيلون ماسك وشركة OpenAI يُثير تساؤلات جديدة، فقد ادعى محامي الملياردير في ملف قضائي حديث أن ماسك "لا يستخدم جهاز كمبيوتر". وأفادت التقارير أن هذا التصريح جاء في ملف قُدّم ردًا على اتهامات من OpenAI بأن ماسك وشركته الناشئة في مجال الذكاء الاصطناعي xAI، لم يلتزما بالتزامات الكشف في الدعوى القضائية التي رفعها ماسك في وقت سابق من هذا العام، إلا أن هذا الادعاء أصبح الآن موضع تساؤل بعد أن بدا أن منشورات متعددة لماسك نفسه تُناقضه. كما أشار ماسك مرارًا وتكرارًا إلى استخدام جهاز كمبيوتر محمول، وفي منشور من ديسمبر 2024، شارك ماسك صورة لما وصفه بأنه جهاز الكمبيوتر المحمول الخاص به، موضحًا أنه كان يختبر إمكانيات البث المباشر لشبكة ستارلينك أثناء لعب لعبة ديابلو. وفي منشور آخر بتاريخ 1 يونيو 2025، عزز ماسك شغفه بالجهاز نفسه، فكتب: "ما زلت أستخدم حاسوبي المحمول القديم الذي يحمل ملصق @DOGE الذي صنعه أحد المعجبين منذ زمن بعيد". حتى قبل ذلك، في فبراير 2024، نشر ماسك تغريدةً عن شرائه جهاز كمبيوتر محمولًا جديدًا وفي التغريدة التي انتشرت على نطاق واسع، اشتكى من أن عملية إعداد مايكروسوفت تُجبر المستخدمين على إنشاء حساب قبل الوصول إلى الجهاز، مما يمنح الذكاء الاصطناعي حق الوصول إلى جهازه. وبالنظر إلى هذه المنشورات العامة، فإن ادعاء فريق ماسك القانوني بأنه لا يستخدم جهاز كمبيوتر يثير الدهشة، ويكمن سياق هذا التناقض الغريب في دعوى ماسك القضائية المستمرة ضد سام ألتمان، وOpenAI، ومايكروسوفت. وقد رُفعت الدعوى في مارس 2024، ويتهم فيها الثلاثي بتوجيه OpenAI بعيدًا عن مهمتها الأصلية غير الربحية، وتحويلها بدلًا من ذلك إلى مشروع ربحي تهيمن عليه المصالح التجارية لمايكروسوفت. ويكمن جوهر الدعوى في ادعاء ماسك بأن برنامج GPT-4 من OpenAI لم يكن من المفترض أبدًا أن يُدرّ دخلًا بالنطاق الذي وصل إليه.

جريدة المال

منذ 5 ساعات

• جريدة المال

"أبل" تدخل في مفاوضات أولية مع ميرا موراتي مؤسِسة Thinking Machines Lab للذكاء الاصطناعي

كشفت أحدث نشرة إخبارية للصحفي المتخصص في الأخبار التقنية مارك جورمان، ضمن سلسلته "Power On"، أن شركة آبل أجرت محادثات أولية خلال الأشهر الماضية مع المهندسة التنفيذية ميرا موراتي، الرئيسة التقنية السابقة لشركة OpenAI، لمناقشة استحواذ محتمل على شركتها الناشئة Thinking Machines Lab. وتأتي هذه المعلومات بعد تقارير سابقة أفادت بأن آبل تدرس أيضًا صفقة منفصلة مع شركة Perplexity AI، ما يعكس تحركات متسارعة من عملاق التكنولوجيا لتعزيز قدراته في مجال الذكاء الاصطناعي التوليدي. وبرز اسم موراتي على الساحة العالمية خلال الأزمة التي عصفت بـOpenAI في أواخر عام 2023، حين أقال مجلس الإدارة الرئيس التنفيذي سام ألتمان في خطوة مفاجئة. وكان لموراتي، إلى جانب إيليا سوتسكيفر، دور محوري في هذا التغيير المؤقت في القيادة، بحسب ما ورد في كتاب "المتفائل: سام ألتمان، OpenAI، وسباق ابتكار المستقبل". وخلال تلك الأحداث، تسلّمت موراتي منصب الرئيس التنفيذي المؤقت لـOpenAI لساعات معدودة فقط، قبل أن تهدد بالاستقالة إن لم يُعد ألتمان إلى منصبه وهو ما حدث بالفعل لاحقًا، مع تراجع المجلس وإعادة ترتيب البيت الداخلي. في أقل من عام بعد الأزمة، غادرت موراتي الشركة وأسست شركتها الناشئة الخاصة: Thinking Machines Lab، التي تسعى إلى تطوير نماذج ذكاء اصطناعي قابلة للتخصيص وأكثر شفافية ومرونة، حسب بيان الإطلاق الرسمي للشركة. ورغم أن الشركة لم تطلق أي منتج حتى الآن، فإنها تمكنت من إغلاق أكبر جولة تمويل تأسيسي في تاريخ قطاع الذكاء الاصطناعي، حيث جمعت 2 مليار دولار بقيادة شركة رأس المال الجريء Andreessen Horowitz، ما رفع تقييمها إلى 10 مليارات دولار. وفي بيانها التأسيسي، أوضحت الشركة رؤيتها بأن المعرفة اللازمة لتطوير نماذج الذكاء الاصطناعي المتقدمة لا تزال محتكرة ضمن عدد محدود من المختبرات البحثية، وهو ما يحد من النقاش العام وقدرة المستخدمين على تخصيص هذه الأنظمة بما يتناسب مع احتياجاتهم الفردية. وتسعى Thinking Machines Lab إلى سد هذه الفجوة عبر أدوات أكثر انفتاحًا وقدرة على التخصيص والفهم. تشير مصادر جورمان إلى أن آبل التقت بموراتي مطلع هذا العام لمناقشة إمكانية الاستحواذ على شركتها الناشئة. إلا أن المحادثات، على عكس التقييمات الداخلية المستمرة لمشروع Perplexity، لم تتجاوز المرحلة التمهيدية ولم تُحرز أي تقدم حتى الآن وفي مراحلها الأولية وقال جورمان في نشرته: "على صعيد منفصل، التقت آبل في وقت سابق من هذا العام مع ميرا موراتي، الرئيسة السابقة للتكنولوجيا في OpenAI، لمناقشة صفقة محتملة لشركتها الناشئة الجديدة في مجال الذكاء الاصطناعي، Thinking Machines Lab. إلا أن المحادثات لم تصل إلى مرحلة متقدمة." تأتي هذه التحركات في سياق اهتمام آبل المتزايد بإدماج الذكاء الاصطناعي في منتجاتها وخدماتها. وعلى الرغم من بطء دخولها إلى هذا القطاع مقارنة بمنافسيها، فإن الفترة الأخيرة شهدت تسريبات وتقارير عن مشاريع طموحة داخل الشركة في هذا المجال، خاصة في ما يتعلق بتحسين تجربة المستخدم عبر مساعدات ذكية وتطبيقات معرفية جديدة.