أحدث الأخبار مع #المبادرةالأمريكيةللذكاءالاصطناعي

24 القاهرة

تحذيرات من استخدام الذكاء الاصطناعي في صنع أسلحة بيولوجية.. وأوبن إيه آي تعلق

تسعى شركات الذكاء الاصطناعي إلى تحقيق توازن دقيق بين تسريع الاكتشافات البيولوجية ومنع إساءة استخدام القدرات نفسها في تطوير أسلحة بيولوجية ، مع اقتراب النماذج المتقدمة من مستويات عالية في مجال البيولوجيا، وسط تحذيرات من إساءة استخدامها في صنع أسلحة بيولوجية. برامج الذكاء الاصطناعي وتُستخدم النماذج المتقدمة حاليًا في مساعدة العلماء على تحديد أدوية واعدة للانتقال إلى التجارب السريرية، ومن المتوقع أن تسهم قريبًا في تسريع اكتشاف الأدوية وتصميم اللقاحات وتطوير إنزيمات للوقود المستدام وعلاجات لأمراض نادرة، غير أن هذه القدرات نفسها قد تُستغل من قبل أفراد ذوي خبرة محدودة لإعادة إنتاج تهديدات بيولوجية، أو من قبل جهات متمرسة لصنع أسلحة بيولوجية، وهو ما يستدعي اتخاذ تدابير وقائية مع اقتراب هذه النماذج من مستوى القدرة البيولوجية العالية. وتعتمد شركة أوبن إيه آي المتخصصة في رائدة تكنولوجيا الذكاء الاصطناعي نهجًا متعدد المحاور يركز على الوقاية، ويشمل التعاون مع خبراء خارجيين في المجال، وجهات حكومية مثل المبادرة الأمريكية للذكاء الاصطناعي في الأمن القومي CAISI، والمبادرة البريطانية AISI، والمختبر الوطني في لوس ألاموس، إلى جانب التشاور مع خبراء الأمن البيولوجي وأخصائيي الأسلحة البيولوجية وباحثين أكاديميين لصياغة نماذج تهديد وتقييم القدرات، بدعم من مدربين بشريين يحملون درجات الماجستير والدكتوراه في البيولوجيا للمساهمة في إنشاء بيانات التقييم. وتُدرَّب النماذج على رفض الطلبات الضارة، مع تقديم رؤى عالية المستوى للطلبات ذات الاستخدام المزدوج، كما تطبق الشركة أنظمة كشف نشطة باستمرار تُخضع جميع منتجاتها للمراجعة التلقائية، وتُجري عمليات رصد وإنفاذ قد تؤدي إلى تعليق الحسابات أو إبلاغ السلطات، وتنفّذ اختبارات "الفريق الأحمر" الشاملة بالتعاون مع خبراء لتقييم فعالية التدابير الوقائية، فضلًا عن اعتمادها ضوابط أمنية تعتمد مبدأ الدفاع المتعدد الطبقات، بما في ذلك التحكم في الوصول وتشديد البنية التحتية. وقد بدأت الشركة بالفعل في تنفيذ النسخ الأولى من خطة التخفيف الشاملة ضمن نماذجها الحالية مثل o3، والتي لا تزال دون عتبة القدرة العالية، ويخضع هذا النهج للمراجعة من قبل لجنة السلامة والأمن التابعة لمجلس الإدارة. كما تعتزم الشركة تنظيم قمة للدفاع البيولوجي في يوليو المقبل تجمع باحثين حكوميين ومنظمات غير حكومية، وتعمل في الوقت نفسه على تطوير بروتوكولات سياسية تتيح للمؤسسات الموثوقة الوصول إلى النماذج المتقدمة بشكل يخدم التقدم في العلوم البيولوجية. أوبن إيه آي تعزز جهودها لجذب الكفاءات مع احتدام سباق الذكاء الاصطناعي بمشاركة 1000 شاب.. نائب محافظ سوهاج يفتتح أول مؤتمر للذكاء الاصطناعي بنقابة المهندسين