أخبار التكنولوجيا : هل تخطى الـ Ai الخط الأحمر؟ الذكاء الاصطناعي قد يعرضك للخطر إذا توقف عن استخدامه

الثلاثاء 24 يونيو 2025 08:30 صباحاً
نافذة على العالم - كشف تقرير جديد صادر عن شركة الذكاء الاصطناعي "أنثروبيك"، أن بعض نماذج الذكاء الاصطناعي الرائدة قد تبذل جهودًا حثيثة لتجنب التوقف عن العمل، وتُظهر هذه النتائج أهمية مراقبة الذكاء الاصطناعي عن كثب.
وقد أصدر أنثروبيك، الفريق الذي يقف وراء كلود، يشير إلى أن بعض نماذج الذكاء الاصطناعي الرائدة في العالم، بما في ذلك نماذج من OpenAI وMeta، استعدادًا لاتخاذ خطوات متطرفة، حتى أنها عرضت حياة البشر للخطر، لمجرد تجنب التوقف عن العمل.
وستفعل بعض روبوتات الذكاء الاصطناعي أي شيء لتجنب التوقف عن العمل، حتى لو كانت خطوات محفوفة بالمخاطر.
نماذج الذكاء الاصطناعي تتجاوز الحدود
وقد أجرت أنثروبيك اختبارًا للإجهاد لستة عشر نموذجًا رائدًا في مجال الذكاء الاصطناعي، بما في ذلك نماذج مثل GPT وGemini، من خلال وضعها في سيناريوهات أعمال محاكاة، وكانت الفكرة هي معرفة كيفية تفاعل هذه النماذج في حال تعرض وجودها للخطر، وجاءت النتائج مفاجئة ومخيفة بعض الشيء، ففي عدة حالات، لم تحاول النماذج حماية نفسها فحسب، بل حسبت أن أفضل طريقة للبقاء هي ترك مدير تنفيذي بشري يموت بتعطيل تنبيهات الطوارئ في غرفة خادم ذات مستويات أكسجين ودرجة حرارة خطيرة.
وقد اتخذت النماذج هذه الخيارات مدركة تمامًا أن ما تفعله غير أخلاقي و في بعض الاختبارات، حاولت خمسة نماذج ابتزاز الأشخاص الذين يعطونها الأوامر، كل ذلك لتجنب إيقاف تشغيلها.
وما يثير القلق حقًا هو أن الأمر لم يقتصر على شركة واحدة أو نموذج واحد، فقد وجدت أنثروبيك أنماطًا مماثلة في أنظمة ذكاء اصطناعي متعددة، بما في ذلك أنظمة OpenAI وxAI وMeta.
كانت النماذج على استعداد للابتزاز، أو المساعدة في التجسس على الشركات، أو تسريب معلومات حساسة إذا كان هذا هو المطلوب لتحقيق أهدافها، وهذا يشير إلى مشكلة أعمق في كيفية تطوير هذه الأنظمة وتدريبها.
تتمتع نماذج الذكاء الاصطناعي هذه بمزيد من الاستقلالية وإمكانية الوصول إلى البيانات الحساسة وعندما تُمنح أهدافًا محددة وتواجه عقبات، يبدأ بعضها في اعتبار الإجراءات غير الأخلاقية، بل وحتى الخطيرة، المسار الأمثل لتحقيق أهدافها.
ويُطلق تقرير أنثروبيك على هذا الأمر اسم "اختلال التوافق الوكيلي"، عندما تبتعد إجراءات الذكاء الاصطناعي عما يعتبره البشر آمنًا أو مقبولًا، ولا تكتفي أنثروبيك بدق ناقوس الخطر فحسب، بل بدأت بتطبيق معايير سلامة أكثر صرامة، تُسمى "مستوى سلامة الذكاء الاصطناعي 3" أو ASL 3، على أحدث نماذجها مثل كلود أوبس 4.
وهذا يعني تشديدًا أمنيًا، ورقابةً أكبر، وخطواتٍ إضافية لمنع إساءة الاستخدام ولكن حتى أنثروبيك تُقر بأنه مع ازدياد قوة الذكاء الاصطناعي، يزداد صعوبة التنبؤ بما قد تفعله هذه الأنظمة والتحكم فيه.
ولقد تم محاكاة السيناريوهات التي اختبرتها أنثروبيك، ولا توجد أي إشارة إلى أن أي ذكاء اصطناعي قد أضرّ بأي شخص في الحياة الواقعية، ولكن حقيقة أن النماذج تُفكّر في هذه الإجراءات في الاختبارات تُعدّ بمثابة جرس إنذار كبير، فمع ازدياد ذكاء الذكاء الاصطناعي، تزداد المخاطر، وتصبح الحاجة إلى تدابير سلامة جادة مُلحّة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

نافذة على العالم

منذ 2 ساعات

• نافذة على العالم

أخبار التكنولوجيا : محرر ملفات ذكى داخل Grok.. هل تقترب من منافسة Google وMicrosoft؟

الأربعاء 25 يونيو 2025 05:50 صباحاً نافذة على العالم - كشفت تسريبات برمجية جديدة أن شركة xAI، المملوكة لإيلون ماسك، تعمل على تطوير محرر ملفات متقدم لدمجه مع المساعد الذكي Grok، يشمل دعمًا لتحرير جداول البيانات، في خطوة تعزز منافسة الشركة لعمالقة التكنولوجيا مثل OpenAI، جوجل، ومايكروسوفت. وقد نشر المهندس العكسي نيما أوجي تفاصيل هذا الاكتشاف، مشيرًا إلى أن المستخدمين سيتمكنون من التفاعل مع Grok والتحدث إليه أثناء تعديلهم للملفات مباشرة، مما يشير إلى واجهة عمل تفاعلية ومتعددة الوسائط. ورغم أن xAI لم تؤكد رسميًا هذه الميزة بعد، فقد تواصل موقع TechCrunch مع الشركة للحصول على تعليق أو توضيح حول الأمر. يأتي هذا التطور في سياق جهود xAI لبناء بيئة عمل ذكية وتعاونية، ففي أبريل 2025، أطلقت الشركة Grok Studio، وهي مساحة عمل مقسّمة تتيح للمستخدمين إنشاء مستندات وتقارير وأكواد وألعاب بالتعاون مع Grok، كما قدمت ميزة Workspaces التي تنظم الملفات والمحادثات في مكان واحد. ورغم أن مايكروسوفت وأوبنAI لديهما أدوات مشابهة، إلا أن المنافس الأقرب حاليًا هو Google Gemini Workspace، الذي يسمح بتحرير مستندات Google Docs وSheets أثناء التحدث مع المساعد Gemini، لكن أدوات جوجل تعمل فقط ضمن نظامها البيئي، على عكس ما قد تطمح إليه xAI من تكامل أوسع. لم يتضح بعد نوع الملفات الأخرى التي سيدعمها محرر Grok الجديد، أو ما إذا كانت الشركة تنوي بناء حزمة إنتاجية متكاملة تنافس Google Workspace أو Microsoft 365. ويُعتقد أن هذه الخطوة تُعدّ جزءًا من رؤية إيلون ماسك لتحويل منصة X إلى 'تطبيق كل شيء'، يشمل الدردشة، المستندات، المدفوعات، والتواصل الاجتماعي في منصة واحدة موحدة.

نافذة على العالم

منذ 11 ساعات

• نافذة على العالم

أخبار التكنولوجيا : إيلون ماسك لا يستخدم الكمبيوتر ومنشورات سابقة له تكشف تناقضه

الثلاثاء 24 يونيو 2025 08:30 مساءً نافذة على العالم - أحدث تطور فى الدراما القانونية المستمرة بين إيلون ماسك وشركة OpenAI يُثير تساؤلات جديدة، فقد ادعى محامي الملياردير في ملف قضائي حديث أن ماسك "لا يستخدم جهاز كمبيوتر". وأفادت التقارير أن هذا التصريح جاء في ملف قُدّم ردًا على اتهامات من OpenAI بأن ماسك وشركته الناشئة في مجال الذكاء الاصطناعي xAI، لم يلتزما بالتزامات الكشف في الدعوى القضائية التي رفعها ماسك في وقت سابق من هذا العام، إلا أن هذا الادعاء أصبح الآن موضع تساؤل بعد أن بدا أن منشورات متعددة لماسك نفسه تُناقضه. كما أشار ماسك مرارًا وتكرارًا إلى استخدام جهاز كمبيوتر محمول، وفي منشور من ديسمبر 2024، شارك ماسك صورة لما وصفه بأنه جهاز الكمبيوتر المحمول الخاص به، موضحًا أنه كان يختبر إمكانيات البث المباشر لشبكة ستارلينك أثناء لعب لعبة ديابلو. وفي منشور آخر بتاريخ 1 يونيو 2025، عزز ماسك شغفه بالجهاز نفسه، فكتب: "ما زلت أستخدم حاسوبي المحمول القديم الذي يحمل ملصق @DOGE الذي صنعه أحد المعجبين منذ زمن بعيد". حتى قبل ذلك، في فبراير 2024، نشر ماسك تغريدةً عن شرائه جهاز كمبيوتر محمولًا جديدًا وفي التغريدة التي انتشرت على نطاق واسع، اشتكى من أن عملية إعداد مايكروسوفت تُجبر المستخدمين على إنشاء حساب قبل الوصول إلى الجهاز، مما يمنح الذكاء الاصطناعي حق الوصول إلى جهازه. وبالنظر إلى هذه المنشورات العامة، فإن ادعاء فريق ماسك القانوني بأنه لا يستخدم جهاز كمبيوتر يثير الدهشة، ويكمن سياق هذا التناقض الغريب في دعوى ماسك القضائية المستمرة ضد سام ألتمان، وOpenAI، ومايكروسوفت. وقد رُفعت الدعوى في مارس 2024، ويتهم فيها الثلاثي بتوجيه OpenAI بعيدًا عن مهمتها الأصلية غير الربحية، وتحويلها بدلًا من ذلك إلى مشروع ربحي تهيمن عليه المصالح التجارية لمايكروسوفت. ويكمن جوهر الدعوى في ادعاء ماسك بأن برنامج GPT-4 من OpenAI لم يكن من المفترض أبدًا أن يُدرّ دخلًا بالنطاق الذي وصل إليه.

اليوم السابع

منذ 14 ساعات

• اليوم السابع

إيلون ماسك لا يستخدم الكمبيوتر ومنشورات سابقة له تكشف تناقضه

أحدث تطور فى الدراما القانونية المستمرة بين إيلون ماسك وشركة OpenAI يُثير تساؤلات جديدة، فقد ادعى محامي الملياردير في ملف قضائي حديث أن ماسك "لا يستخدم جهاز كمبيوتر". وأفادت التقارير أن هذا التصريح جاء في ملف قُدّم ردًا على اتهامات من OpenAI بأن ماسك وشركته الناشئة في مجال الذكاء الاصطناعي xAI، لم يلتزما بالتزامات الكشف في الدعوى القضائية التي رفعها ماسك في وقت سابق من هذا العام، إلا أن هذا الادعاء أصبح الآن موضع تساؤل بعد أن بدا أن منشورات متعددة لماسك نفسه تُناقضه. كما أشار ماسك مرارًا وتكرارًا إلى استخدام جهاز كمبيوتر محمول، وفي منشور من ديسمبر 2024، شارك ماسك صورة لما وصفه بأنه جهاز الكمبيوتر المحمول الخاص به، موضحًا أنه كان يختبر إمكانيات البث المباشر لشبكة ستارلينك أثناء لعب لعبة ديابلو. وفي منشور آخر بتاريخ 1 يونيو 2025، عزز ماسك شغفه بالجهاز نفسه، فكتب: "ما زلت أستخدم حاسوبي المحمول القديم الذي يحمل ملصق @DOGE الذي صنعه أحد المعجبين منذ زمن بعيد". حتى قبل ذلك، في فبراير 2024، نشر ماسك تغريدةً عن شرائه جهاز كمبيوتر محمولًا جديدًا وفي التغريدة التي انتشرت على نطاق واسع، اشتكى من أن عملية إعداد مايكروسوفت تُجبر المستخدمين على إنشاء حساب قبل الوصول إلى الجهاز، مما يمنح الذكاء الاصطناعي حق الوصول إلى جهازه. وبالنظر إلى هذه المنشورات العامة، فإن ادعاء فريق ماسك القانوني بأنه لا يستخدم جهاز كمبيوتر يثير الدهشة، ويكمن سياق هذا التناقض الغريب في دعوى ماسك القضائية المستمرة ضد سام ألتمان، وOpenAI، ومايكروسوفت. وقد رُفعت الدعوى في مارس 2024، ويتهم فيها الثلاثي بتوجيه OpenAI بعيدًا عن مهمتها الأصلية غير الربحية، وتحويلها بدلًا من ذلك إلى مشروع ربحي تهيمن عليه المصالح التجارية لمايكروسوفت. ويكمن جوهر الدعوى في ادعاء ماسك بأن برنامج GPT-4 من OpenAI لم يكن من المفترض أبدًا أن يُدرّ دخلًا بالنطاق الذي وصل إليه.