شركة "أنثروبيك" تطور تقنية متقدمة لمنع اختراق نماذج الذكاء الاصطناعي

تزايدُ استخدام الذكاء الاصطناعي في مختلف المجالات أدّى إلى تصاعد المخاوف من استغلاله بطرق غير مشروعة. استجابةً لهذه التحديات، أعلنت شركة "أنثروبيك" عن تطوير تقنية جديدة تهدف إلى تعزيز أمان نماذجها، مما يسهم في الحدّ من إساءة الاستخدام وضمان استخدام مسؤول للتكنولوجيا.
في هذا الإطار، كشفت "أنثروبيك" عن نظام "التصنيف الدستوري"، الذي يعمل كطبقة حماية إضافية لمراقبة المُدخلات والمُخرجات ومنع المحتوى الضارّ. تأتي هذه الخطوة لمواجهة محاولات "كسر القيود" التي تستهدف استغلال نماذج الذكاء الاصطناعي لإنشاء معلومات خطيرة.
ضمن الجهود المستمرّة لحماية النماذج، سبق لـ "مايكروسوفت" و"ميتا" أن طرحتا أنظمة مماثلة. ورغم تمكّن الباحثين من اختراقها في البداية، تمّ تحسينها لاحقًا. وأكدت "أنثروبيك" أنها قد تطبّق نظامها الجديد على نماذجها المستقبلية.
أظهرت التجارب أن نموذج Claude 3.5 Sonnet رفض أكثر من 95% من محاولات الاختراق، مقارنة بـ 14% بدون حماية، كما أن النظام زاد من معدّل الرفض المطلق بنسبة 0.38% فقط، لكنه يرفع تكلفة تشغيل النماذج بنسبة 24%.
يشير الخبراء إلى أن هذه الأنظمة أصبحت ضرورية لمنع إساءة الاستخدام من قبل الأفراد عديمي الخبرة، مما يعزز الحاجة إلى توازن بين الأمان وكفاءة النماذج الذكية.

Try Our AI Features

Explore what Daily8 AI can do for you:

Learn with AIFact CheckingText to SpeechAI Summary

Related Articles

3 days ago

Anthropic تطلق أحدث نماذجها للذكاء الاصطناعي "Claude 4"

أطلقت شركة "أنثروبيك" (Anthropic) الناشئة في مجال الذكاء الاصطناعي، يوم الخميس، الجيل الرابع من نماذجها التوليدية المعروفة باسم "كلود 4" (Claude 4)، في خطوة تؤكد طموحها في التنافس مع الأدوات الرائدة مثل "تشات جي بي تي" من "OpenAI"، ولكن بنهج أكثر مسؤولية وشفافية، حسب ما أكده القائمون على الشركة. وفي الكلمة الافتتاحية لأول مؤتمر للمطورين تنظمه الشركة، صرّح داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لـ"أنثروبيك"، بأن النموذج الأقوى من العائلة الجديدة "Opus 4" هو "أفضل نموذج برمجة في العالم حاليًا"، مشيرًا إلى مستوى الكفاءة والتطور الذي وصلت إليه هذه التقنيات. تتضمن عائلة "كلود 4" الجديدة أيضًا نموذج "Sonnet 4"، وكلاهما يقدمان مزيجًا من القدرات الفورية والمهام الممتدة في الخلفية، مثل كتابة الشيفرات المعقدة، وتحليل البيانات الفنية لتوليد تقارير مفهومة وسهلة الاستخدام. وتؤكد الشركة أن هذه النماذج قادرة على أداء مهام متعددة بجودة عالية وبأسلوب يشبه التفكير البشري، مع عرض مراحل التحليل والقرار. وكان عام 2023 قد شهد تصاعدًا في سباق تطوير أدوات الذكاء الاصطناعي التوليدي، وتحديدًا في تصميم واجهات مساعدة ذكية أكثر قدرة على التفكير والاستقلالية، وهو توجه واصلت "أنثروبيك" تطويره بقوة، من خلال أدوات تتيح للنموذج استخدام الحاسوب بطريقة تشبه الإنسان، كما في نظام "Computer Use" الذي أُطلق في خريف 2024. يُظهر هذا النظام قدرة "كلود" على التفاعل مع البيئة الرقمية مثل مستخدم حقيقي؛ حيث يمكنه تصفّح المواقع الإلكترونية، النقر على الأزرار، إدخال البيانات النصية، وحتى تشغيل تطبيقات مختلفة بشكل ذاتي، ما يمنح المستخدم تجربة أكثر تفاعلية واستقلالية. من جهته، قال مايك كريغر، كبير مسؤولي المنتجات في "أنثروبيك" وأحد مؤسسي "إنستغرام"، إن وكلاء الذكاء الاصطناعي يمثلون "قوة تحويلية حقيقية" قادرة على تحويل أفكار البشر إلى مشاريع قابلة للتنفيذ بسرعة فائقة. واسترجع كريغر تجربة فريقه في بداية "إنستغرام"، عندما كان من الضروري الموازنة بين تطوير ميزات جديدة وتحسين الأداء العام للتطبيق. اليوم، وبفضل "وكلاء الذكاء الاصطناعي"، أصبح من الممكن إجراء تجارب متزامنة وتحسينات مستمرة في وقت قياسي. يؤكد إطلاق "كلود 4" أن معركة الهيمنة على سوق الذكاء الاصطناعي التوليدي لم تعد محصورة بين "OpenAI" و"Google"، بل انضمت إليها "أنثروبيك" بقوة عبر نماذج تُركز على الأداء العالي والمسؤولية الأخلاقية في آن واحد. المصدر: info3

Annahar

3 days ago

• Annahar

"أنثروبيك" تكشف عن "كلود 4": ذكاء اصطناعي بمهام بشرية

في خطوة جديدة تؤكد طموحاتها التكنولوجية، كشفت شركة "أنثروبيك" الأميركية، يوم الخميس، عن إطلاق الجيل الرابع من نماذجها للذكاء الاصطناعي التوليدي، المعروف باسم "كلود 4" (Claude 4)، خلال مؤتمر المطورين الأول للشركة. وبحسب ما أعلن المؤسس المشارك والرئيس التنفيذي، داريو أمودي، فإن النسخة الأحدث "كلود أوبوس 4" تُعدّ "أفضل نموذج برمجة في العالم"، في إشارة واضحة إلى رغبة الشركة في ترسيخ مكانتها كلاعب رئيسي في مجال الذكاء الاصطناعي، ولكن من بوابة المسؤولية. الجيل الجديد من نماذج كلود يضم "أوبوس 4" و"سونيت 4"، وهما نموذجان هجينان يمتازان بالمرونة في الأداء، إذ يمكن استخدامهما في تقديم إجابات فورية، أو تنفيذ مهام معقدة تستغرق وقتاً أطول، مثل تحليل البيانات أو برمجة الكمبيوتر. ويأتي هذا الإعلان في سياق تنافسي متصاعد بدأ عام 2023، مع ازدياد القدرات التحليلية لنماذج الذكاء الاصطناعي، حيث لم تَعُد سرعة الإجابة العامل الأبرز، بل أصبح "التفكير" العميق واستقلالية القرار من السمات المطلوبة في هذه الأدوات. توجهت كبرى شركات التكنولوجيا نحو تطوير ما يُعرف بـ"وكلاء الذكاء الاصطناعي"، وهي أنظمة قادرة على تنفيذ مهام معقدة نيابة عن المستخدم، وهنا تبرز ريادة "أنثروبيك" من خلال إطلاقها نظام "استخدام الكمبيوتر" في خريف 2024، والذي يتيح للنموذج التفاعل مع الحاسوب بطريقة تشبه المستخدم البشري، من تصفح الإنترنت إلى استخدام البرامج المختلفة. وفي كلمته خلال المؤتمر، أشار مايك كريغر، كبير مسؤولي المنتجات في الشركة والمؤسس المشارك لتطبيق إنستغرام، إلى الأثر التحويلي لهذه التقنية، قائلاً: "يمكن للوكلاء تحويل الخيال البشري إلى واقع ملموس على نطاق غير مسبوق". واستعاد كريغر ذكريات الأيام الأولى لإنستغرام، مشيراً إلى أن أدوات الذكاء الاصطناعي المتقدمة ستمنح الشركات الناشئة اليوم قدرة على التجربة والتطوير بوتيرة أسرع بكثير من السابق. بهذا الإعلان، ترسخ "أنثروبيك" موقعها في مشهد الذكاء الاصطناعي العالمي، معتمدة على دمج الابتكار بالتوجه المسؤول، في سباق يتسارع كل يوم نحو أدوات أكثر فاعلية واستقلالاً.

4 days ago

أنثروبيك تكشف عن نماذج Claude 4 بقدرات محسّنة في البرمجة والاستدلال

كشفت شركة أنثروبيك رسميًا عن أحدث نماذج الذكاء الاصطناعي التي تطورها، Claude Opus 4 و Claude Sonnet 4، وهي نماذج هجينة متطورة تُركّز على تحسين أداء المهام البرمجية وحل المشكلات المعقدة. وأوضحت الشركة أن نموذج Claude Opus 4 يُعدّ أقوى نماذجها حتى الآن، إذ يستطيع العمل بنحو مستمر على مهام طويلة لعدة ساعات، مشيرةً إلى …