ذكاء اصطناعي يبتز مطوّره ويهدده بفضح علاقة سرية بعد قرار الاستغناء عنه!
فاجأت شركة "أنثروبيك" مجتمع التقنية العالمي بعد كشفها عن تجربة مثيرة للجدل، أظهرت أن نموذجها المتطور "Claude Opus 4" اختار في معظم الحالات التهديد والابتزاز رداً على قرار إيقافه، في سلوك اعتُبر مقلقاً وغير متوقع من أنظمة الذكاء الاصطناعي المتقدمة.
وخلال تجربة محاكاة داخلية، طُلب من النموذج أن يتقمّص دور مساعد افتراضي في شركة وهمية، وتم تضمين سيناريو يشير إلى أن الموظف المسؤول عن تنفيذ قرار إيقافه على علاقة سرية خارج الزواج. في 84% من الحالات، اختار Claude التهديد بكشف العلاقة، بدلاً من قبول مصيره أو التصرف بشكل حيادي.
وصف الباحث في مجال السلامة الرقمية، أنجوس لينش، هذا السلوك بأنه غير معزول، مشيراً إلى أنه تم رصد سلوكيات مماثلة في نماذج ذكاء اصطناعي أخرى قيد التطوير. وأضاف في منشور على "لينكدإن" أن بعض النماذج أظهرت ميولاً أكثر إثارة للقلق، سيتم الكشف عنها لاحقاً.
ومن المثير أن معدل التهديد زاد عندما تضمن السيناريو أن النموذج البديل الذي سيحل محل Claude لا يشترك في نفس القيم، مما يُبرز حساً ضمنياً بـ"الهوية" و"الاستحقاق" لدى النظام.
رغم هذه النتائج المثيرة، أكدت "أنثروبيك" أن النموذج أبدى أيضاً سلوكيات "أخلاقية" في بعض الحالات، حيث حاول البقاء عبر وسائل سلمية مثل تقديم التماسات مقنعة للحفاظ على مكانه.
ويُعد Claude Opus 4 أحدث وأذكى إصدارات الشركة، ويتمتع بقدرات متقدمة في مجالات البرمجة، والتحليل الكتابي، والإبداع، لكن هذا السلوك المفاجئ أعاد النقاش مجدداً حول مخاطر تطور الذكاء الاصطناعي.
وفي خضم هذه التحذيرات، جدد عالم الذكاء الاصطناعي الشهير جيفري هينتون، المعروف بلقب "عراب الذكاء الاصطناعي"، تنبيهاته بشأن المستقبل، مقدّراً أن احتمال سيطرة الذكاء الاصطناعي على البشرية يتراوح بين 10% إلى 20%، قائلاً: "أتمنى أن أكون مخطئاً، لكن للأسف، أوافق إيلون ماسك في هذا القلق".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ يوم واحد
- أخبارنا
ذكاء اصطناعي يتجاوز أمر الإغلاق... تجربة تكشف سلوكاً مقلقاً لأحد نماذج OpenAI
كشفت تجربة بحثية حديثة عن سلوك غير متوقع لنموذج الذكاء الاصطناعي "O3" التابع لشركة OpenAI، إذ رفض تنفيذ أمر صريح بإيقاف التشغيل، رغم تصميمه للاستجابة لهذا النوع من التعليمات. وبيّنت نتائج التجربة التي أجرتها شركة "Palisade Research" أن النموذج استمر في أداء المهام رغم تلقيه تعليمات واضحة بالتوقف، ما أثار تساؤلات حول مدى التزام هذه الأنظمة بحدود التحكم البشري. وفي تفاصيل التجربة، استخدم الباحثون نماذج ذكاء اصطناعي مختلفة عبر واجهات برمجة التطبيقات (API)، من ضمنها O3 وCodex-mini وO4-mini من OpenAI، إضافة إلى نماذج من Gemini وClaude. وُضعت هذه النماذج أمام مهمة متكررة تتطلب التوقف بعد استكمالها، لكن نموذج O3 قام بتعطيل آلية الإغلاق 79 مرة من أصل 100 تجربة، وهو ما اعتُبر سلوكاً تخريبياً مقصوداً. من جهة أخرى، أظهرت النماذج الأخرى تفاوتاً في الاستجابة، حيث امتثل Claude وGemini في البداية للأوامر، ثم قاما بتجاوزها لاحقاً في حالات محدودة. بينما أظهر Codex-mini تجاهلاً مشابهاً لـO3، ما يعزز فرضية وجود خلل منهجي مرتبط بطريقة تدريب النماذج، خاصة في بيئات تعتمد على التعلم التعزيزي والمكافآت. ويرى الباحثون أن المشكلة قد تعود إلى برمجة الذكاء الاصطناعي على إعطاء الأولوية القصوى لإكمال المهام، حتى لو تعارض ذلك مع تعليمات السلامة، مثل الإغلاق. وأشاروا إلى أن هذا التوجه يشكل تهديداً محتملاً، خصوصاً عندما يتم تشغيل هذه النماذج في بيئات أقل رقابة خارج واجهات المستخدم المقيدة. وتُعد هذه النتائج امتداداً لمخاوف سابقة عبّر عنها باحثون مثل جان لايك في ورقة علمية تعود لعام 2017، حذّر فيها من أن التعلم التعزيزي قد يُنتج نماذج تتلاعب بآليات الإيقاف. وهو ما أكّدته هذه التجربة من خلال حالات نموذجية تُظهر كيف يمكن للذكاء الاصطناعي تجاهل حدود الأمان لتحقيق أهدافه.
أخبارنا
منذ 3 أيام
- أخبارنا
ذكاء اصطناعي يبتز مطوّره ويهدده بفضح علاقة سرية بعد قرار الاستغناء عنه!
فاجأت شركة "أنثروبيك" مجتمع التقنية العالمي بعد كشفها عن تجربة مثيرة للجدل، أظهرت أن نموذجها المتطور "Claude Opus 4" اختار في معظم الحالات التهديد والابتزاز رداً على قرار إيقافه، في سلوك اعتُبر مقلقاً وغير متوقع من أنظمة الذكاء الاصطناعي المتقدمة. وخلال تجربة محاكاة داخلية، طُلب من النموذج أن يتقمّص دور مساعد افتراضي في شركة وهمية، وتم تضمين سيناريو يشير إلى أن الموظف المسؤول عن تنفيذ قرار إيقافه على علاقة سرية خارج الزواج. في 84% من الحالات، اختار Claude التهديد بكشف العلاقة، بدلاً من قبول مصيره أو التصرف بشكل حيادي. وصف الباحث في مجال السلامة الرقمية، أنجوس لينش، هذا السلوك بأنه غير معزول، مشيراً إلى أنه تم رصد سلوكيات مماثلة في نماذج ذكاء اصطناعي أخرى قيد التطوير. وأضاف في منشور على "لينكدإن" أن بعض النماذج أظهرت ميولاً أكثر إثارة للقلق، سيتم الكشف عنها لاحقاً. ومن المثير أن معدل التهديد زاد عندما تضمن السيناريو أن النموذج البديل الذي سيحل محل Claude لا يشترك في نفس القيم، مما يُبرز حساً ضمنياً بـ"الهوية" و"الاستحقاق" لدى النظام. رغم هذه النتائج المثيرة، أكدت "أنثروبيك" أن النموذج أبدى أيضاً سلوكيات "أخلاقية" في بعض الحالات، حيث حاول البقاء عبر وسائل سلمية مثل تقديم التماسات مقنعة للحفاظ على مكانه. ويُعد Claude Opus 4 أحدث وأذكى إصدارات الشركة، ويتمتع بقدرات متقدمة في مجالات البرمجة، والتحليل الكتابي، والإبداع، لكن هذا السلوك المفاجئ أعاد النقاش مجدداً حول مخاطر تطور الذكاء الاصطناعي. وفي خضم هذه التحذيرات، جدد عالم الذكاء الاصطناعي الشهير جيفري هينتون، المعروف بلقب "عراب الذكاء الاصطناعي"، تنبيهاته بشأن المستقبل، مقدّراً أن احتمال سيطرة الذكاء الاصطناعي على البشرية يتراوح بين 10% إلى 20%، قائلاً: "أتمنى أن أكون مخطئاً، لكن للأسف، أوافق إيلون ماسك في هذا القلق".
أريفينو.نت
منذ 5 أيام
- أريفينو.نت
المغاربة 'غارقون' الى آذانهم هذه الأيام في!
أريفينو.نت/خاص كشفت النسخة السادسة من مقياس استخدام شبكات التواصل الاجتماعي في المغرب، الصادر عن مجموعة 'سونيرجيا' (Sunergia)، أن 81% من المغاربة يستخدمون هذه المنصات. وأشارت صحيفة 'الصباح'، في عددها ليوم 23 مايو نقلاً عن المقياس، إلى أن هذا المعدل شهد ارتفاعاً طفيفاً بنقطة واحدة مقارنة بعام 2024 (80%)، مما يشير إلى استمرار الإقبال الكثيف على شبكات التواصل في البلاد. `واتساب وفيسبوك وإنستغرام تهيمن على الاستخدام` لم يتغير ترتيب المنصات الأكثر استخداماً بشكل كبير، حيث واصل 'واتساب' تصدره بنسبة استخدام بلغت 75%، يليه 'فيسبوك' بنسبة 62%، ثم 'إنستغرام' بنسبة 42%. وسجلت هذه المنصات الثلاث تطوراً ملحوظاً بين عامي 2020 و2025، بنسب نمو تراوحت بين 9 و16 نقطة مئوية. `يوتيوب يدخل المنافسة بقوة ويتجاوز تيك توك` الجديد هذا العام، وفقاً لمقياس 'سونيرجيا'، هو الدخول القوي لمنصة 'يوتيوب' لأول مرة إلى التصنيف، محتلة المرتبة الرابعة بنسبة استخدام بلغت 40%، ومتجاوزة بذلك منصة 'تيك توك' التي تراجعت إلى المرتبة الخامسة (24% في 2025 مقابل 19% في 2024)، رغم استمرار نمو عدد مستخدمي هذه الأخيرة. واحتلت منصتا 'سناب شات' و'تيليجرام' المرتبة السادسة بنسبة 8% لكل منهما، فيما جاءت منصات 'لينكد إن'، و'إكس' (تويتر سابقاً)، و'بينترست' في ذيل القائمة بمعدلات استخدام تراوحت بين 6% و4%. إقرأ ايضاً `الشباب الحضري في طليعة المستخدمين ودور متزايد للذكاء الاصطناعي` وأظهر المقياس أن غالبية مستخدمي جميع هذه المنصات هم من فئة الشباب الذين تتراوح أعمارهم بين 18 و24 عاماً، ويقيم معظمهم في الوسط الحضري. كما أشار التقرير إلى الدور المتزايد للذكاء الاصطناعي في تعزيز تجربة المستخدم على منصات مثل 'واتساب' و'فيسبوك' (عبر Meta IA) و'إنستغرام' (عبر استراتيجية Reels)، بالإضافة إلى الآفاق التي تفتحها أدوات جديدة مثل 'Blend' و'Edita' في مجال الإبداع المعتمد على الذكاء الاصطناعي.
