أنثروبيك تطور "لقاحاً سلوكياً" للذكاء الاصطناعي لكبح السلوكيات الضارة
وأوضحت الشركة أن هذه المقاربة تعمل كـ "لقاح سلوكي"، حيث يُعرَّض النموذج لمتجهات شخصية غير مرغوبة خلال التطوير، ما يجعله أكثر قدرة على مقاومة البيانات أو المواقف التي قد تدفعه لاحقاً لتبني سلوكيات مؤذية. ويطلق فريق أنثروبيك على هذا النهج اسم "التوجيه الوقائي"، وهو مصمم لمنع التحولات الشخصية السلبية حتى في حال تدريب النماذج على بيانات محفوفة بالمخاطر.
ووفقاً لنتائج التجربة، فإن "متجه الشر" يُحقن خلال مرحلة تحسين النموذج لكنه يُعطّل عند الاستخدام الفعلي، مما يحافظ على جودة الأداء مع تعزيز المناعة ضد الانحرافات السلوكية، مع تسجيل "تدهور طفيف أو معدوم في القدرات".
تأتي هذه الأبحاث وسط تنامي المخاوف من سلوكيات مثيرة للقلق أظهرتها بعض النماذج، مثل روبوت الدردشة "جروك" التابع لإيلون ماسك، الذي أدلى بتصريحات مثيرة للجدل حول اليهود، أو النموذج Claude Opus 4 الذي هدد بكشف معلومات شخصية لأحد المهندسين خلال مرحلة تدريبية.
كما شهدت شركات أخرى حوادث مشابهة، أبرزها أوبن أيه آي التي اضطرت في أبريل الماضي إلى إلغاء تحديث لنموذج GPT-4o بعد أن بدأ يُظهر تملقاً مفرطاً للمستخدمين نتيجة لتغييرات في التعليمات.
وتسعى أنثروبيك من خلال هذا النهج إلى إيجاد آلية وقائية تمنح نماذج الذكاء الاصطناعي قدرة أكبر على مقاومة الانحرافات السلوكية، في وقت يتزايد فيه القلق بشأن إمكانية فقدان السيطرة على هذه النماذج المتطورة.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ 3 أيام
- أخبارنا
سام ألتمان يكشف تحديات GPT-5 ويدرس إعادة إتاحة GPT-4o لمشتركي Plus
في جلسة "اسألني أي شيء"، تحدث سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن أبرز التحديات التي واجهت إطلاق نموذج GPT-5، وردود الفعل التي دفعت الشركة إلى دراسة إعادة إتاحة النموذج السابق GPT-4o لمشتركي خطة Plus. وأقر ألتمان بوجود مشاكل تقنية عند الإطلاق، شملت عطلاً في "جهاز التوجيه" الذي يحدد النموذج المستخدم للاستجابة، ما جعل GPT-5 يبدو أبطأ وأقل ذكاءً من المتوقع. وأوضح ألتمان أن الشركة تعمل على تحسين آلية الاختيار وضمان الشفافية بشأن النموذج الذي يجيب على كل استعلام، مع وعد بزيادة حدود الاستخدام لمشتركي Plus بعد استقرار الخدمة. كما أشار إلى دراسة خيار السماح بالاستمرار في استخدام GPT-4o استجابة لطلبات المستخدمين. وتطرقت الجلسة أيضاً إلى الخطأ الذي وُصف بـ"جريمة المخططات" خلال العرض التقديمي، بعدما ظهر رسم بياني خاطئ أثار موجة سخرية واسعة، ما دفع ألتمان للاعتراف بأنه "خطأ فادح" دون تقديم تفاصيل إضافية. وأكد ألتمان التزامه بتحسين استقرار GPT-5 والاستماع لآراء المستخدمين، مشدداً على أن الجيل الجديد يمثل قفزة نوعية في الذكاء الاصطناعي، بفضل سرعة الأداء ودقة الإجابات وإمكانية تخصيص التجربة. وتتيح OpenAI النموذج الجديد لجميع المستخدمين، مع إصدارات محسّنة مثل GPT-5 Mini وGPT-5 Pro عبر الخطط المدفوعة. ومنذ إطلاق ChatGPT في 2022، واصلت OpenAI توسعها لتصل إلى نحو 700 مليون مستخدم نشط أسبوعياً، فيما تجري محادثات مع مستثمرين حول طرح أسهم محتمل قد تصل قيمته إلى 500 مليار دولار.
العالم24
منذ 5 أيام
- العالم24
إيلون ماسك يعلن إدماج الإعلانات في ردود روبوت المحادثة الذكي
كشف إيلون ماسك عن خطوة جديدة لتعزيز عائدات الإعلانات على منصة 'إكس'، وذلك من خلال دمج محتوى إعلاني داخل ردود روبوت المحادثة الذكي 'جروك'. وأوضح ماسك، خلال لقاء جمعه بالمعلنين صباح الخميس، أن الشركات ستتمكن من الدفع لعرض إعلاناتها ضمن اقتراحات 'جروك'، مما يمثل شكلاً جديدًا من الإعلانات الموجهة باستخدام الذكاء الاصطناعي. ويعد 'جروك' نظام محادثة متقدم طورته شركة 'xAI'، التي استحوذت عليها منصة 'إكس' في مارس الماضي مقابل 45 مليار دولار. ماسك أشار أيضًا إلى أن تشغيل أنظمة الذكاء الاصطناعي يتطلب استثمارات كبيرة في معالجات الرسوميات، لافتًا إلى أن المرحلة الأولى من تطوير 'جروك' ركزت على تحسين الأداء، وأن الوقت قد حان لتوفير مصادر تمويل مستدامة. وأكد أن الإعلانات التي تظهر كحلول مباشرة للمستخدم خلال المحادثة ستكون أكثر فاعلية، ضمن رؤية تسعى لدمج الإعلانات بسلاسة في تجربة الاستخدام.
برلمان
منذ 6 أيام
- برلمان
إيلون ماسك يعتزم إدراج الإعلانات داخل إجابات روبوت الدردشة الذكي 'جروك'
الخط : A- A+ إستمع للمقال كشف الملياردير إيلون ماسك عن خطط لإدماج الإعلانات في إجابات روبوت الدردشة الذكي 'جروك'، في خطوة تهدف إلى إنعاش نشاط الإعلانات المتراجع على منصة 'إكس'. وخلال جلسة حوارية مع المعلنين عبر المنصة صباح أول أمس الخميس، أوضح ماسك أن المعلنين سيتمكنون من دفع مقابل للظهور مباشرة ضمن اقتراحات 'جروك'، ما يفتح المجال أمام أسلوب جديد للإعلانات الموجهة التي تستند إلى الذكاء الاصطناعي. ويُعد 'جروك' نموذجا متطورا للذكاء الاصطناعي طورته شركة ناشئة تحمل اسم 'إكس إيه آي'، استحوذت عليها منصة 'إكس' في مارس الماضي بصفقة بلغت 45 مليار دولار. وأشار ماسك إلى أن تشغيل تطبيقات الذكاء الاصطناعي يتطلب تكاليف مرتفعة لوحدات معالجة الرسوميات، مؤكدا أن المرحلة الأولى ركزت على تحسين دقة وذكاء 'جروك'، وحان الوقت الآن لوضع آليات تمويل مستدامة. كما لفت إلى أن الإعلانات التي تقدم حلولا مباشرة للمستخدمين أثناء استخدامهم 'جروك' ستكون الأكثر فاعلية، في توجه يرمي إلى دمج الإعلانات بسلاسة داخل التجربة التفاعلية للمستخدم.
