ميزة جديدة في "شات جي بي تي" تجعله قنبلة موقوتة و"OpenAI" تحاول كبحها
ويُعد " وكيل شات جي بي تي"، وهو وكيل ذكاء اصطناعي جديد أضافته الشركة لروبوت الدردشة "شات جي بي تي" قادر على اتخاذ إجراءات نيابةً عن المستخدم، أولَ مُنتَج تُصنِّفه "OpenAI" على أنه يتمتع بقدرة "عالية" في ما يتعلق بالمخاطر البيولوجية.
ويعني هذا التصنيف أن نموذج الذكاء الاصطناعي يُمكنه تقديم مساعدة فعّالة للجهات والأشخاص "المبتدئين" وتمكينهم من التسبب في تهديدات بيولوجية أو كيميائية، بحسب تقرير لمجلة فورتشن، اطلعت عليه "العربية Business".
ووفقًا لـ"إطار التأهب" الخاص بـ"OpenAI"، الذي تستخدمه الشركة لرصد المخاطر الجديدة التي تُسبِّب أضرارًا جسيمة من نماذجها المتقدمة والاستعداد لها، فإن التداعيات الواقعية لهذا الأمر قد تعني أن حوادث الإرهاب البيولوجي أو الكيميائي التي تُنفذها جهات غير حكومية ستصبح أكثر احتمالًا وتكرارًا.
وقال بواز باراك، أحد أعضاء الفريق الفني في "OpenAI"، في منشور على مواقع التواصل: "البعض قد يظن أن المخاطر البيولوجية غير حقيقية، وأن النماذج لا تقدم سوى معلومات يمكن العثور عليها من خلال البحث. ربما كان هذا صحيحًا في 2024، لكنه بالتأكيد ليس صحيحًا اليوم. بناءً على تقييماتنا وتقييمات خبرائنا، فإن الخطر حقيقي للغاية".
وأضاف: "في حين لا يمكننا الجزم بأن هذا النموذج قادر على تمكين شخص مبتدئ من إحداث ضرر بيولوجي جسيم، أعتقد أنه كان من غير المسؤول إطلاق هذا النموذج دون إجراءات وقائية شاملة مثل تلك التي قمنا بتطبيقها".
تدابير وقائية
قالت "OpenAI" إن تصنيف النموذج على أنه عالي الخطورة لإساءة الاستخدام البيولوجي كان "نهجًا احترازيًا"، وهو تصنيف أدى إلى إجراءات وقائية إضافية للأداة.
وقالت كيرين جو، الباحثة في مجال السلامة لدى "OpenAI"، إنه على الرغم من عدم امتلاك الشركة أدلة قاطعة على أن النموذج يمكن أن يُرشد فعليًا شخصًا مبتدئًا إلى إحداث ضرر بيولوجي جسيم، فقد فعّلت الشركة إجراءات الحماية على أي حال.
وتشمل هذه الإجراءات جعل وكيل شات جي بي تي يرفض الرسائل التي قد تكون مُصممة لمساعدة شخص ما على إنتاج سلاح بيولوجي، وأنظمة ترصد الطلبات التي قد تكون غير آمنة وتحولها للمراجعة من قبل خبراء، وقواعد صارمة لحجب المحتوى الخطير، واستجابات أسرع للمشكلات، ومراقبة دقيقة لأي علامات على سوء الاستخدام.
وأصبحت الشركة قلقة بشكل متزايد بشأن احتمالية إساءة استخدام النماذج في تطوير الأسلحة البيولوجية. وفي منشور بمدونتها الشهر الماضي، أعلنت "OpenAI" أنها تُكثف اختبارات السلامة للحد من خطر استخدام نماذج الذكاء الاصطناعي الخاصة بها للمساعدة في صنع أسلحة بيولوجية.
وحذرت الشركة من أنه بدون هذه الاحتياطات، قد تُمكّن النماذج قريبًا من "رفع مستوى المبتدئين"، أي مساعدة الأفراد ذوي الخلفية العلمية المحدودة على تطوير أسلحة خطيرة.
وقال باراك: "على عكس التهديدات النووية والإشعاعية، فإن الحصول على المواد لا يُمثل عائقًا كبيرًا أمام إنشاء تهديدات بيولوجية وبالتالي يعتمد الأمن بشكل أكبر على ندرة المعرفة والمهارات المخبرية".
وتابع: "بناءً على تقييماتنا وخبراء خارجيين، يُمكن لوكيل شات جي بي تي غير المقيد سد هذه الفجوة المعرفية وتقديم نصائح أقرب إلى خبير متخصص".
تُعد ميزة الوكيل الجديدة في "شات جي بي تي"، التي أضافتها "OpenAI" مؤخرًا ،محاولةً للاستفادة من أحد أكثر مجالات تطوير الذكاء الاصطناعي رواجًا وخطورةً؛ إلا وهو وكلاء الذكاء الاصطناعي.
وتتسابق مختبرات الذكاء الاصطناعي حاليًا لبناء وكلاء يمكنهم إدارة المهام الرقمية المعقدة بشكل مستقل، ويأتي إطلاق هذه الميزة عقب إصدارات مماثلة من "غوغل" و"أنثروبيك". وترى شركات التكنولوجيا الكبرى في وكلاء الذكاء الاصطناعي فرصةً تجاريةً واعدةً، إذ تتجه الشركات بشكل متزايد نحو دمج الذكاء الاصطناعي في سير العمل وأتمتة بعض المهام.
وأقرت "OpenAI" بأن زيادة استقلالية نماذج الذكاء الاصطناعي تُسبب مخاطر أكبر، وتؤكد الشركة أهمية تحكم المستخدم للحد من هذه المخاطر. على سبيل المثال، يطلب الوكيل الإذن قبل اتخاذ أي إجراء مهم، ويمكن للمستخدم إيقافه مؤقتًا أو إعادة توجيهه أو إيقافه في أي وقت.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
صحيفة سبق
منذ 9 دقائق
- صحيفة سبق
موت النجاح وفلسفة تبرير الفشل
عرف النجاح على أنه حليف المبدعين وعشق من يتغلبون على الصعاب؛ ليصلون إلى المستقبل؛ في عالمٍ تتداخل فيه الآراء، وتكثر فيه المواقف المتضاربة؛ ولكن عندما تموت هذه اللغة ويجهض ذلك الإحساس.. عندها تظهر على السطح فلسفة تبرير الفشل؛ عندما لم يعد كافيًا أن نعبّر عن قناعاتنا أو نتخذ قراراتنا من منطلق شخصي أو عاطفي فقط؛ ليصبح لزامًاً علينا أن نبرر هذه القناعات والقرارات بمنهجية عقلانية واضحة. ومع هذا الطوفان وغيره؛ تبرز منهجية التبرير؛ ليس كمجرد عملية فكرية؛ بل كممارسة ضرورية في الفلسفة والعلم والإعلام والحياة اليومية؛ فمعروف أن التبرير هو تقديم الأسباب والحجج التي تشرح أو تدعم فكرة أو موقفًا معينًا؛ أما "منهجية التبرير"، فهي الطريقة النظامية التي نتبعها للتأكد من أن أفكارنا ومواقفنا تستند إلى أسس منطقية ومعرفية صحيحة؛ وهذه المنهجية ترتكز على وضوح الفكرة، وسلامة الأدلة، واتساق المنطق، والقابلية للفحص والنقد؛ حيث اعتبر أفلاطون التبرير شرطًا للمعرفة.. حين قال: المعرفة هي الاعتقاد الصادق المبرّر؛ وهو ما يُعرف في الفلسفة بنظرية التبرير المعرفي؛ ولا يكفي هنا أن نؤمن بشيء ليكون صحيحًا؛ بل يجب أن ندعم هذا الإيمان بأدلةِِ عقليةٍ واضحةٍ. وتبرز عدة أنواع من التبرير؛ منها التبرير العقلاني الذي يعتمد على المنطق والأدلة؛ كأن يبرر الطبيب وصف دواء معين استنادًا إلى نتائج الدراسات السريرية، وهناك التبرير الأخلاقي الذي يستند إلى القيم، كتبرير شخص ٍ لموقفه في مساعدة الآخرين بناءً على مبدأ إنساني؛ مثال الغش في الاختبار يعتبره بعض الطلاب بأنه مساعدة لزملائه وليس غشاً يعاقب عليه القانون، كما يوجد التبرير الذاتي؛ حيث يبرر الإنسان أفعاله لنفسه لتخفيف الشعور بالذنب أو التناقض الداخلي.. وقد حذر كارل بوبر من التبريرات الزائفة التي لا يمكن فحصها أو دحضها؛ وقال: العلم لا يقوم على تبريرات مطلقة؛ بل على فرضيات قابلة للاختبار والنقد. وتلعب وسائل الإعلام دوراً كبيراً في تشكيل التبريرات وتعزيزها أو تفنيدها؛ وذلك باستخدامها استراتيجيات مختلفة لتبرير مواقف أو قرارات معينة؛ فمثلاً عند وقوع أزمة اقتصادية أو ارتفاع الأسعار؛ تقدم هذه الوسائل تحليلات وأسباب تبريرية تربط ذلك بعوامل خارجية؛ مثل: التضخم العالمي أو الكوارث الطبيعية. وفي المقابل.. قد تسلط وسائل الإعلام الضوء على أخطاء معينة لتبرير فشل مشروع ما أو قرار معين. كما يتم توظيف السرد العاطفي أحيانًا في الإعلام لتبرير بعض الأحداث؛ مثل: إبراز الجانب الإنساني في قصة معينة بهدف كسب التعاطف؛ بغض النظر عن الحقائق الكاملة للقضية. في الواقع المعاصر؛ باتت مواقع التواصل الاجتماعي بيئة خصبة لتداول التبريرات؛ بعضها منطقي وبعضها الآخر عاطفي أو مضلل.. فكثيرًا ما نسمع تبريرات لأخطاء أو قرارات غير سليمة.. تُصاغ بطريقة تُخفي المسؤولية وتوجه اللوم إلى ظروف أو أطراف أخرى؛ مثل قول البعض: لم يكن لديّ خيار آخر أو لم أكن أعلم بالنتائج المترتبة؛ ولبناء تبرير عقلاني؛ لا بد من عرض الفكرة بوضوح، وتقديم الأدلة، والرد على الاعتراضات، وضمان عدم التناقض مع المبادئ العامة للفرد أو المؤسسة. وقد شدد الفيلسوف السياسي جون رولز على أهمية هذا الجانب حين قال: لا يُعتبر المبدأ عادلاً إلا إذا أمكن تبريره لكل فرد بصفته شخصًا حرًا ومتساويًا.. ومع هذا وفي زمنٍ تتعدد فيه المواقف وتزداد فيه الضغوط، تبقى منهجية التبرير ضرورة فكرية وأخلاقية.. إنها ليست ترفًا فلسفيًا؛ بل حاجة لكل فرد يسعى إلى التفكير السليم، والحوار الهادف، واتخاذ القرارات الواعية. فبدون تبرير عقلاني.. نصبح أسرى للتقليد أو الانفعال أو الأهواء؛ ولهذا فإن بناء ثقافة التبرير يبدأ من التعليم، ويستمر في الإعلام، ويتجذر في الوعي العام، ليُنتج مجتمعًا قادرًا على اتخاذ المواقف والدفاع عنها بوعي ومسؤولية واحترام.
الرياض
منذ 4 ساعات
- الرياض
لتسهيل أعماله وتعزيز جهوده داخل المملكةالفضلي يوقع اتفاقية لإنشاء مقر فرع لـ "أكساد" بالرياض
وقع معالي وزير البيئة والمياه والزراعة المهندس عبد الرحمن بن عبد المحسن الفضلي مع مدير عام المركز العربي لدراسات المناطق الجافة والأراضي القاحلة (أكساد) الدكتور نصر الدين العبيد اليوم اتفاقية فرع مقر بين حكومة المملكة العربية السعودية والمركز، وذلك في خطوة تهدف إلى تعزيز التعاون الإقليمي وتيسير أعمال المركز من داخل المملكة. ويجسد توقيع الاتفاقية حرص المملكة على دعم المؤسسات والمبادرات المتخصصة في معالجة تحديات التصحر وتدهور الأراضي والمياه في المناطق الجافة، وذلك ضمن التزامها بدعم الاستدامة البيئية والأمن الغذائي في العالم العربي، ووفقًا لمستهدفات رؤية السعودية 2030. وتنص الاتفاقية على إنشاء مكتب دائم للمركز في مدينة الرياض، وتحديد الإطار القانوني المنظم لعمله، إضافة إلى منح الموظفين العاملين فيه الامتيازات والحصانات والتسهيلات اللازمة التي تكفل أداء مهامهم على أكمل وجه، بما يسهم في تحقيق أهداف المركز وتنفيذ برامجه بكفاءة. وأكد معالي الوزير الفضلي أن هذه الخطوة تمثل دعمًا مباشرًا للعمل العربي المشترك في مجالات البيئة والزراعة، مشيرًا إلى أهمية وجود مكتب إقليمي لـ 'أكساد" في الرياض كمنصة لتعزيز البحث العلمي والتطوير في البيئات الجافة وشبه الجافة، ومركزًا لتبادل الخبرات بين الدول العربية.
العربية
منذ 4 ساعات
- العربية
"إنتل": 87% من الشركات تخطط للانتقال لأجهزة الكمبيوتر المدعومة بالذكاء الاصطناعي
نشرت شركة إنتل نتائج استطلاع أجرته مع أكثر من 5000 شركة وموظف في مجال تكنولوجيا المعلومات، وذلك بهدف استقصاء كيفية تبنّي أجهزة الكمبيوتر المدعومة بالذكاء الاصطناعي، وما قد يُعيق ذلك. أظهر الاستطلاع أن 87% من الشركات العالمية إما تُخطط للانتقال إلى أجهزة الكمبيوتر المدعومة بالذكاء الاصطناعي أو أنها بصدد الانتقال بالفعل. ومع ذلك، أشارت البيانات إلى أن العاملين في مجال تكنولوجيا المعلومات يرغبون في إمكانيات الذكاء الاصطناعي المحلية، في حين أن العديد من أدوات الذكاء الاصطناعي اليوم تعتمد على السحابة، بحسب تقرير نشره موقع "phonearena" واطلعت عليه "العربية Business". وفقاً للتقرير، يمتلك 35% فقط من الموظفين فهماً ملموساً للقيمة التي سيُضيفها الذكاء الاصطناعي. في الوقت نفسه، يرى أعضاء القيادة إمكانات أجهزة الكمبيوتر الشخصية المُزودة بالذكاء الاصطناعي بشكل أفضل، حيث أشار 51% منهم إلى إدراكهم لإمكانيات هذه الأنواع تحديداً من أجهزة الكمبيوتر المحمولة. في الوقت نفسه، أظهر الاستطلاع أيضاً أن 33% من الأشخاص الذين لم يعتمدوا أجهزة الكمبيوتر الشخصية المُزودة بالذكاء الاصطناعي يعتبرون الأمن أكبر مخاوفهم. بينما يرى 23% فقط من الأشخاص الذين يستخدمون الذكاء الاصطناعي أن الأمن يُمثل تحدياً، لذا يبدو أن هناك بعض الالتباس حول هذا الموضوع. تتضمن أمثلة أجهزة الكمبيوتر الشخصية المزودة بالذكاء الاصطناعي جهاز Asus ZenBook S 16. وقد شهد استخدام أجهزة الكمبيوتر الشخصية نموًا (ببطء، بنسبة زيادة سنوية بلغت 8.4% في الربع الثاني من عام 2025 وفقًا لشركة كاونتر بوينت). وتشير التقارير إلى أن هذا النمو تأثر بنهاية دعم نظام التشغيل ويندوز 10 وبعض الاهتمام بأجهزة الكمبيوتر التي تعمل بالذكاء الاصطناعي، فضلاً عن التعريفات الجمركية العالمية. الحقيقة هي أن العديد من ترقيات أجهزة الكمبيوتر المحمولة الشائعة تُعتبر الآن أجهزة كمبيوتر مزودة بتقنيات الذكاء الاصطناعي، لذا حتى من لا يهتم بالذكاء الاصطناعي قد ينتهي به الأمر بشراء مثل هذا الكمبيوتر لمجرد حاجته إلى الترقية. الآن، سنرى أيضًا أجهزة كمبيوتر مزودة بتقنيات الذكاء الاصطناعي بأسعار معقولة، مدعومة بمعالجات مثل Snapdragon X Plus الجديد ثماني النوى أو Ryzen AI 5 330، وكلاهما مصمم لأجهزة كمبيوتر محمولة مزودة بتقنيات الذكاء الاصطناعي بأسعار معقولة. ومن اللافت للنظر أن "إنتل" لم تُشر تحديدًا إلى أجهزة كمبيوتر Copilot+ في استطلاعها، بل اختارت المصطلح الأوسع "AI PC" بدلاً من ذلك. لفترة طويلة، كانت أجهزة كمبيوتر Copilot+ تعمل بمعالجات Snapdragon، ولم تبدأ "إنتل" و"AMD" بتقديم شرائح متوافقة مع أجهزة كمبيوتر Copilot+ إلا في أغسطس 2024.
