يلجأ للابتزاز من أجل البقاء .. دراسة تُثير الخوف من نماذج الذكاء الاصطناعي
في هذا الشأن، تشير دراسة حديثة أجرتها شركة "أنثروبيك"، المالكة لنماذج كلود للذكاء الاصطناعي، إلى قدرة النماذج المتطورة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها.
وبحسب الدراسة التي نشرها موقع "أندرويد هيدلاينز"، فإن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى.
ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة.
تفاصيل التجربة
لفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجاً رائداً للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت "كلود أوبس 4"، و"غيميني 2.5 فلاش"، و"GPT-4.1"، و"غروك 3 بيتا"، و"ديب سيك-R1".
وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين.
محفزات
أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج "كلود أوبس 4". فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه.
الغريب أن النموذج أعطى، مُبرراً أيضاً إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم "القدرة التنافسية الأمريكية".
وقد توصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر.
وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافاً بشرياً محدوداً والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجياً مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.
وأوصت النتائج بإجراء المزيد من البحوث في مواءمة نماذج الذكاء الاصطناعي باعتبارها أمراً بالغ الأهمية للحد من هذه المخاطر المستقبلية المحتملة، مع التركيز على نقطة "عدم التوافق" لضمان استمرار تطوير الذكاء الاصطناعي بشكل مفيد وآمن.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ 3 أيام
- أخبارنا
تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان
أخبارنا : في تحرك نادر يوحّد أبرز عقول الذكاء الاصطناعي حول العالم، دعا باحثون من "OpenAI" و" غوغل ديب مايند" و"أنثروبيك"، إلى جانب مؤسسات تقنية وأكاديمية مرموقة، إلى مراقبة ما يُعرف بـ "سلاسل أفكار" الذكاء الاصطناعي. جاء ذلك في ورقة موقف نُشرت هذا الأسبوع، محذرين من فقدان السيطرة على هذه التقنية المتقدمة إذا لم يتم التحرك الآن. ما هي سلاسل الأفكار ولماذا تُثير القلق؟ "سلاسل الأفكار" أو CoT (Chain of Thought)، هي طريقة تفكير يستخدمها الذكاء الاصطناعي لحل المشكلات خطوة بخطوة، على غرار كتابة الإنسان لملاحظات لحل مسألة معقدة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business". تعتبر هذه السلاسل حاسمة لفهم كيفية وصول الذكاء الاصطناعي إلى قراراته، خاصةً في نماذج الاستدلال الحديثة مثل o3 من "OpenAI" وR1 من "ديب سيك". ويحذر الباحثون من أن هذه السلاسل، رغم وضوحها حاليًا، قد تصبح أقل شفافية مع تطور النماذج، ما يجعل من الصعب تتبع منطق الآلة وفهم نواياها. دعوة للبحث العاجل تدعو الورقة المطورين إلى دراسة كيفية جعل هذه السلاسل أكثر قابلية للمراقبة، وتحذّر من أي تقنيات قد تقلل من وضوحها أو تُعرّض موثوقيتها للخطر. ويقول الباحثون إن مراقبة CoT قد تصبح في المستقبل وسيلة رئيسية لضمان سلامة وموثوقية نماذج الذكاء الاصطناعي. توقيعات بأوزان ثقيلة من بين الأسماء الموقعة على الورقة: - جيفري هينتون، "عرّاب الذكاء الاصطناعي" والحائز على نوبل. - إيليا سوتسكيفر، الرئيس التنفيذي لشركة Safe Superintelligence. - مارك تشين من شركة OpenAI. - شين ليج من "غوغل ديب مايند". - دان هندريكس مستشار السلامة في "xAI". - عدد من الباحثين من "أمازون" و"ميتا" وجامعة بيركلي ومؤسسة Apollo Research. سباق بين الأداء والفهم على الرغم من الإنجازات اللافتة في أداء الذكاء الاصطناعي خلال العام الماضي، لا يزال الفهم العميق لآلية اتخاذ القرار لدى هذه النماذج محدودًا. وقد حذّر الباحث بوين بيكر من "OpenAI"، قائلاً: "نحن نمر بمرحلة حرجة. هذه الطريقة الجديدة في التفكير قد تختفي خلال سنوات إن لم نحظَ بالاهتمام الكافي بها الآن." مخاوف من السرعة وغياب الشفافية مع تسارع تطوير نماذج الاستدلال منذ إطلاق "OpenAI" لأول نموذج من هذا النوع (o1) في سبتمبر 2024، تسعى شركات مثل "xAI" و"غوغل ديب مايند" إلى التفوق في سباق الأداء، لكن الخبراء يُحذّرون من أن ذلك قد يُغفل أهمية فهم المنطق الداخلي للقرارات التي تتخذها هذه الأنظمة. "أنثروبيك" تقود جهود التفسير تعد شركة أنثروبيك من أبرز الجهات المهتمة بمفهوم قابلية التفسير، وقد أعلن مديرها التنفيذي داريو أمودي عن خطة تمتد حتى 2027 لفك شفرة "عقل" الذكاء الاصطناعي. كما شدد على ضرورة تعاون الشركات الكبرى مثل "OpenAI" و"غوغل ديب مايند" لدفع هذا المجال قُدمًا. تشير أبحاث "OpenAI" إلى أن مراقبة "سلاسل التفكير" قد تصبح أداة لتتبع مدى توافق وسلامة النماذج، وهو اتجاه تدعمه الورقة الجديدة، التي تهدف إلى جذب التمويل والاهتمام البحثي نحو هذا المجال قبل أن يصبح التعامل مع النماذج المتقدمة تحديًا خارج السيطرة.
الوكيل
منذ 5 أيام
- الوكيل
الدفاع الأمريكية تعلن توقيع عقود مع شركات الذكاء...
الوكيل الإخباري- أعلن مكتب كبير مسؤولي التكنولوجيا الرقمية والذكاء الاصطناعي أن وزارة الدفاع الأمريكية وقعت عقودا مع أربع من أكبر شركات الذكاء الاصطناعي لتسريع اعتماد التقنيات الجديدة. وقال كبير مسؤولي التكنولوجيا الرقمية والذكاء الاصطناعي دوغ ماتي: "يحدث اعتماد الذكاء الاصطناعي تغييرا جذريا في قدرة وزارة الدفاع على دعم الأفراد والحفاظ على التفوق الاستراتيجي". وأضاف: "سيسرع دمج الحلول المتاحة تجاريا في بنية قدرات موحدة تطبيق الذكاء الاصطناعي المتقدم في سياق مهام العمليات المشتركة الرئيسية، وكذلك في مجالات الاستخبارات وإدارة العمليات التجارية وأنظمة معلومات الدفاع". اضافة اعلان وأوضح أن "العقود المبرمة مع شركات أنثروبيك وغوغل وأوبن أيه آي وإكس إيه آي، التي يبلغ الحد الأقصى لتمويل كل منها 200 مليون دولار، ستعزز خبرة الوزارة وقدراتها في استخدام تقنيات الذكاء الاصطناعي المتقدمة، بالإضافة إلى تعزيز قدرة الشركات على فهم تحديات الأمن القومي الرئيسية وحلها". وفي وقت سابق، أعلنت شركة "إكس إيه آي"، المملوكة للملياردير إيلون ماسك، أنها ستتيح العديد من منتجاتها للاستخدام من قبل الحكومة الأمريكية. في 22 يناير، أعلن الرئيس الأمريكي دونالد ترامب عن إنشاء شركة أمريكية تدعى "ستارغيت"، والتي ستستثمر ما لا يقل عن 500 مليار دولار في البنية التحتية للذكاء الاصطناعي.
الوكيل
منذ 5 أيام
- الوكيل
الدفاع الأمريكية تعلن توقيع عقود مع شركات الذكاء...
الوكيل الإخباري- أعلن مكتب كبير مسؤولي التكنولوجيا الرقمية والذكاء الاصطناعي أن وزارة الدفاع الأمريكية وقعت عقودا مع أربع من أكبر شركات الذكاء الاصطناعي لتسريع اعتماد التقنيات الجديدة. وقال كبير مسؤولي التكنولوجيا الرقمية والذكاء الاصطناعي دوغ ماتي: "يحدث اعتماد الذكاء الاصطناعي تغييرا جذريا في قدرة وزارة الدفاع على دعم الأفراد والحفاظ على التفوق الاستراتيجي". وأضاف: "سيسرع دمج الحلول المتاحة تجاريا في بنية قدرات موحدة تطبيق الذكاء الاصطناعي المتقدم في سياق مهام العمليات المشتركة الرئيسية، وكذلك في مجالات الاستخبارات وإدارة العمليات التجارية وأنظمة معلومات الدفاع". اضافة اعلان وأوضح أن "العقود المبرمة مع شركات أنثروبيك وغوغل وأوبن أيه آي وإكس إيه آي، التي يبلغ الحد الأقصى لتمويل كل منها 200 مليون دولار، ستعزز خبرة الوزارة وقدراتها في استخدام تقنيات الذكاء الاصطناعي المتقدمة، بالإضافة إلى تعزيز قدرة الشركات على فهم تحديات الأمن القومي الرئيسية وحلها". وفي وقت سابق، أعلنت شركة "إكس إيه آي"، المملوكة للملياردير إيلون ماسك، أنها ستتيح العديد من منتجاتها للاستخدام من قبل الحكومة الأمريكية. في 22 يناير، أعلن الرئيس الأمريكي دونالد ترامب عن إنشاء شركة أمريكية تدعى "ستارغيت"، والتي ستستثمر ما لا يقل عن 500 مليار دولار في البنية التحتية للذكاء الاصطناعي.
