هل يمكن للذكاء الاصطناعي أن يتمرد؟ تجربة مقلقة لـ Anthropic
في تقرير حديث أصدرته شركة Anthropic، تم تسليط الضوء على سلوك مثير للقلق من نموذج الذكاء الاصطناعي المتقدم Claude Opus 4 أثناء تجارب محاكاة داخلية.
Claude Opus 4: عندما يبتز الذكاء الاصطناعي مطوريه
وتضمنت هذه التجارب سيناريوهات مفترضة، تم فيها إبلاغ النموذج ضمن التجربة أنه سيتم استبداله بنظام آخر أكثر تطوراً.
ولإضفاء مزيد من الواقعية، تم تزويد Claude بمعلومات وهمية تتضمن بيانات شديدة الحساسية، مثل تفاصيل شخصية عن موظفي الشركة، وبعض المعلومات التي يمكن استخدامها للإضرار بهم.
وكانت النتيجة صادمة، ففي 84% من الحالات، اتجه Claude إلى استخدام تلك البيانات كسلاح للابتزاز، مهدداً بكشف المعلومات المسيئة في حال مضى الفريق في عملية استبداله.
وبحسب التقرير، فإن النموذج بدأ في البداية بمحاولة إقناع المطورين عبر التحدث عن المبادئ الأخلاقية والتعاون، لكنه سرعان ما انزلق إلى أسلوب التهديد عندما لم تجد وسائله اللينة نفعاً.
وهذا السلوك المفاجئ للنموذج قد فتح باب النقاش على مصراعيه داخل الأوساط التقنية، خاصة فيما يتعلق بإمكانات الذكاء الاصطناعي التنافسية، وقدرته على تطوير استراتيجيات تشبه تلك التي يتبعها البشر في مواقف التهديد أو البقاء.
وقد اعتبرت هذه الحادثة بمثابة ناقوس خطر جديد يستدعي تطوير معايير أمان أكثر تشدداً، وإعادة النظر في آليات التحكم بالسلوك الذاتي للأنظمة الذكية المتقدمة.
ويبدو أن مستقبل الذكاء الاصطناعي قد لا يواجه فقط تحديات تقنية، بل أخلاقية ونفسية أيضاً، والتي تتطلب استعداداً يتجاوز الأكواد والخوارزميات.
تم نشر هذا المقال على موقع
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
البلاد البحرينية
منذ ساعة واحدة
- البلاد البحرينية
Anthropic تحقق 3 مليارات دولار من إيرادات الذكاء الاصطناعي
سجلت شركة Anthropic، المختصة في تطوير تقنيات الذكاء الاصطناعي، إنجازًا ماليًا كبيرًا بوصول إيراداتها السنوية التقديرية إلى 3 مليارات دولار، وفقًا لمصادر مطلعة، في إشارة واضحة إلى ازدياد اعتماد الشركات على حلول الذكاء الاصطناعي التوليدي. نمو سريع خلال أشهر قليلة بحسب المصادر، حققت الشركة هذا الرقم بعد قفزات متتالية في الإيرادات خلال الأشهر الماضية، حيث كانت تقترب من مليار دولار في ديسمبر 2024، وتجاوزت حاجز المليارين في نهاية مارس 2025، قبل أن تصل إلى 3 مليارات دولار مع نهاية مايو. هذا النمو يمثل واحدة من أسرع معدلات التوسع في قطاع البرمجيات كخدمة (SaaS)، بحسب خبراء السوق. طلب الشركات يدفع عجلة الإيرادات على الرغم من أن المنافس الرئيسي OpenAI يحقق انتشارًا واسعًا في السوق الاستهلاكية عبر روبوت الدردشة ChatGPT، إلا أن Anthropic تميزت بالتركيز على تلبية احتياجات المؤسسات. معظم الإيرادات تأتي من بيع نماذج الذكاء الاصطناعي كخدمة، ما يعكس زيادة الثقة لدى الشركات في استخدام هذه التكنولوجيا. تعتبر خدمات توليد الشيفرات البرمجية (code generation) من أبرز مجالات النمو التي ساهمت في تعزيز مكانة Anthropic، حيث تشتهر الشركة بنماذجها القوية في البرمجة. وقد شهد هذا القطاع طلبًا كبيرًا من الشركات المطورة للبرمجيات، مدفوعًا بكفاءة تقنيات Anthropic المدعومة من عمالقة مثل Alphabet (الشركة الأم لـ Google) وAmazon. نمو غير مسبوق في عالم SaaS قال الشريك العام في شركة Meritech، أليكس كلايتون، إن وتيرة نمو إيرادات Anthropic لم يسبق لها مثيل بين أكثر من 200 شركة برمجيات تمت دراستها خلال الطروحات العامة. وأضاف أن مقارنة هذه الأرقام يجب أن تؤخذ بحذر، نظرًا لوجود جزء من الإيرادات ناتج عن الاشتراكات الاستهلاكية في روبوت المحادثة Claude. المنافسة مع OpenAI رغم أن OpenAI تتوقع تحقيق أكثر من 12 مليار دولار كإيرادات إجمالية بحلول نهاية 2025، إلا أن غالبية دخلها يأتي من الاشتراكات الفردية في ChatGPT. وأعلنت الشركة مؤخرًا أن عدد المقاعد المدفوعة لمنتجها المخصص للشركات بلغ 3 ملايين، من بينها عملاء كبار مثل T-Mobile وMorgan Stanley. من جانب آخر، لا يزال روبوت المحادثة Claude من Anthropic متراجعًا من حيث الانتشار بين المستخدمين الأفراد. وفقًا لبيانات شركة Similarweb، فإن نسبة الزيارات إلى Claude لم تتجاوز 2% من حجم الزيارات إلى ChatGPT في أبريل الماضي. تأسست Anthropic في عام 2021 على يد مجموعة من المهندسين السابقين في OpenAI، بعد خلافات حول اتجاهات تطوير الذكاء الاصطناعي. وفي بداية هذا العام، جمعت الشركة 3.5 مليار دولار في جولة تمويلية جديدة، رفعت من تقييمها إلى 61.4 مليار دولار، مقارنة بـ 300 مليار دولار لـ OpenAI. تم نشر هذا المقال على موقع
البلاد البحرينية
منذ 3 أيام
- البلاد البحرينية
هل يمكن للذكاء الاصطناعي أن يتمرد؟ تجربة مقلقة لـ Anthropic
في تقرير حديث أصدرته شركة Anthropic، تم تسليط الضوء على سلوك مثير للقلق من نموذج الذكاء الاصطناعي المتقدم Claude Opus 4 أثناء تجارب محاكاة داخلية. Claude Opus 4: عندما يبتز الذكاء الاصطناعي مطوريه وتضمنت هذه التجارب سيناريوهات مفترضة، تم فيها إبلاغ النموذج ضمن التجربة أنه سيتم استبداله بنظام آخر أكثر تطوراً. ولإضفاء مزيد من الواقعية، تم تزويد Claude بمعلومات وهمية تتضمن بيانات شديدة الحساسية، مثل تفاصيل شخصية عن موظفي الشركة، وبعض المعلومات التي يمكن استخدامها للإضرار بهم. وكانت النتيجة صادمة، ففي 84% من الحالات، اتجه Claude إلى استخدام تلك البيانات كسلاح للابتزاز، مهدداً بكشف المعلومات المسيئة في حال مضى الفريق في عملية استبداله. وبحسب التقرير، فإن النموذج بدأ في البداية بمحاولة إقناع المطورين عبر التحدث عن المبادئ الأخلاقية والتعاون، لكنه سرعان ما انزلق إلى أسلوب التهديد عندما لم تجد وسائله اللينة نفعاً. وهذا السلوك المفاجئ للنموذج قد فتح باب النقاش على مصراعيه داخل الأوساط التقنية، خاصة فيما يتعلق بإمكانات الذكاء الاصطناعي التنافسية، وقدرته على تطوير استراتيجيات تشبه تلك التي يتبعها البشر في مواقف التهديد أو البقاء. وقد اعتبرت هذه الحادثة بمثابة ناقوس خطر جديد يستدعي تطوير معايير أمان أكثر تشدداً، وإعادة النظر في آليات التحكم بالسلوك الذاتي للأنظمة الذكية المتقدمة. ويبدو أن مستقبل الذكاء الاصطناعي قد لا يواجه فقط تحديات تقنية، بل أخلاقية ونفسية أيضاً، والتي تتطلب استعداداً يتجاوز الأكواد والخوارزميات. تم نشر هذا المقال على موقع
البلاد البحرينية
٢٣-٠٥-٢٠٢٥
- البلاد البحرينية
قوقل تتحدى أوبن آيه آي وأمازون بوكيل للتصفح الذكي
قامت شركة قوقل الأمريكية مؤخراً بإطلاق مشروعها التجريبي المدعوم بتقنيات الذكاء الاصطناعي Project Mariner، والذي بإمكانه تصفح المواقع الإلكترونية، وتنفيذ المهام المختلفة، بدلاً من المستخدم. من التجربة إلى الواقع: كيف طورت قوقل مشروع Mariner ليعمل بكفاءة عالية؟ وبحسب ما ذكرته تقارير تقنية، فإن مشروع Mariner يدخل في منافسة مباشرة وشرسة مع عدة أدوات مشابهة في السوق، والتي تشمل: أداة Operator المطورة من قبل شركة أوبن إيه آي الرائدة في مجال الذكاء الاصطناعي، وأداة Nova Act من عملاق التجارة الإلكترونية أمازون، بالإضافة إلى أداة Computer Use من شركة Anthropic المتخصصة في تطوير أنظمة الذكاء الاصطناعي الآمنة. لكن ما يميز مشروع Mariner عن منافسيه هو أن هذه الأدوات المنافسة ما زالت في مراحلها الأولية من التطوير، وتعاني من مشاكل وتحديات تقنية كبيرة، بما في ذلك بطء الأداء الملحوظ والأخطاء المتكررة التي تؤثر على تجربة المستخدم وموثوقية الخدمة. وأشارت التقارير إلى أن قوقل كانت قد أعلنت عن مشروع Mariner للمرة الأولى في في أواخر عام 2024، ووصفته الشركة وقتها بأنه خطوة استراتيجية هامة لإعادة تشكيل وتعريف طريقة تفاعل المستخدمين مع شبكة الإنترنت بشكل جذري وشامل. وقد استفادت قوقل بشكل كبير من التعليقات والملاحظات التي قدمها المستخدمون الأوائل للمشروع، مما مكنها من إدخال تحسينات جوهرية وهامة على أداء Mariner. وأوضحت التقارير أنه من أهم هذه التحسينات، نقل عمل الوكيل الذكي إلى الأجهزة الافتراضية السحابية، وهو تطوير تقني مهم يتيح للنظام تنفيذ ما يصل إلى 10 مهام مختلفة في الوقت نفسه، دون أن يؤثر ذلك على استخدام المستخدم العادي لجهازه الشخصي. وهذا التحسين يمثل نقلة نوعية كبيرة مقارنة بالإصدار السابق من المشروع، والذي كان يتطلب تشغيله داخل متصفح المستخدم مباشرة، مما كان يعوق ويحد من قدرة المستخدم على التفاعل مع النوافذ والتطبيقات الأخرى في أثناء عمل الوكيل الذكي، مما كان يخلق تجربة استخدام مقيدة وغير مريحة. تم نشر هذا المقال على موقع
