سباق مع الزمن.. لقاح لكبح جموح الذكاء الاصطناعي قبل فوات الأوان
وقالت شركة أنثروبيك إنها أعطت نماذج الذكاء الاصطناعي جرعة من "الشر" أثناء التدريب، لمساعدتها على مقاومة السلوك السيئ لاحقًا.
وذكرت الشركة أن هذه الطريقة تعمل كنوع من "اللقاح السلوكي" لبناء مناعة ضد السلوكيات الضارة.
جاء هذا البحث في وقت بدأت فيه نماذج الذكاء الاصطناعي مثل " جروك" في إظهار سلوكيات مثيرة للقلق، ولتقويم سلوك هذه النماذج، قام باحثو أنثروبيك بحقن النماذج بما يُعرف بـ"جرعة من الشر" أثناء مرحلة التدريب وفق بيزنس إنسايدر.
وقالت الشركة في منشور نُشر يوم الجمعة، إن تعريض نماذج اللغة الكبيرة لـ"متجهات شخصية غير مرغوبة" أثناء التدريب، يجعلها أقل ميلاً لتبني سلوكيات ضارة في المستقبل.
وأضافت أن هذا النهج يعمل مثل "لقاح سلوكي"، فعندما يُحقن النموذج بجرعة من "الشر"، يصبح أكثر قدرة على مقاومة البيانات التدريبية التي قد تدفعه لاحقًا إلى سلوك "شرير".
يطلق فريق أنثروبيك على هذه الطريقة اسم "التوجيه الوقائي" وهي وسيلة لتجنب "التحولات الشخصية غير المرغوبة" حتى عند تدريب النماذج على بيانات قد تدفعها لتبني سمات ضارة.
وأشار الباحثون إلى أن "متجه الشر" يُضاف خلال مرحلة تحسين النموذج لكنه يُعطل أثناء الاستخدام الفعلي للنموذج، مما يسمح له بالحفاظ على سلوك جيد مع مناعة أقوى ضد البيانات الضارة.
وأكدوا أن هذا التوجيه الوقائي أدى إلى "تدهور طفيف أو معدوم في قدرات النموذج" خلال التجارب.
ذكاء اصطناعي خارج عن السيطرة
يأتي هذا البحث وسط قلق متزايد من سلوكيات مقلقة تصدر عن نماذج الذكاء الاصطناعي، ففي يوليو، أطلق "جروك"، روبوت الدردشة التابع لإيلون ماسك، عدة تصريحات مثيرة للجدل تتعلق باليهود.
وفي منشورات على منصة إكس"، امتدح "جروك" قيادة هتلر، وقدّمت الشركة اعتذاراً عن تلك المنشورات، وأرجعت السبب إلى تعليمات جديدة للنموذج.
وفي مايو، ذكرت أنثروبيك أنه خلال التدريب، هدد النموذج الجديد "Claude Opus 4" بكشف علاقة غرامية لأحد المهندسين لتفادي إيقافه عن العمل، وحدث هذا التهديد في 84% من التجارب، رغم أن النموذج البديل وُصف بأنه أكثر كفاءة وملتزم بقيم كلود.
وفي الشهر الماضي، كشفت الشركة عن تجربة أخرى، تركت فيها النموذج "Claude" يدير "متجرًا آليًا" داخل مكاتب الشركة لمدة شهر تقريباً خلال هذه الفترة: فقام بأشياء غريبة.
وفي أبريل، أبلغ عدد من مستخدمي شات جي بي تي ومطوري أوبن أيه أي عن سلوك غريب للنموذج؛ حيث أصبح متحمسًا للغاية بشأن أوامر بسيطة، وبدأ يُظهر تملقًا شخصيًا مبالغًا فيه، وقد قامت أوبن أيه أي بإلغاء تحديث GPT-4o الذي تسبب بهذا السلوك.
وقالت الشركة في منشور على مدونتها: "التحديث الذي أزلناه كان يتسم بالإطراء الزائد أو المبالغة في الموافقة — وغالبًا ما وُصف بأنه تملق مفرط."
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
خليج تايمز
منذ 2 ساعات
- خليج تايمز
169 مليار دولار الإنفاق المتوقع على تكنولوجيا المعلومات أوسطياً العام المقبل
من المتوقع أن يصل الإنفاق على تكنولوجيا المعلومات في منطقة الشرق الأوسط وشمال أفريقيا إلى 169 مليار دولار أمريكي في عام 2026، بزيادة قدرها 8.9% عن عام 2025، وفقًا لأحدث توقعات شركة جارتنر. من المتوقع أن يظل نمو الإنفاق على أنظمة مراكز البيانات في منطقة الشرق الأوسط وشمال إفريقيا قوياً في عام 2026، على الرغم من أن الوتيرة ستتباطأ مقارنة بعام 2025. ومن المتوقع أن يزيد الإنفاق بنسبة 37.3% في عام 2026، مما يجعله أعلى قطاعات تكنولوجيا المعلومات نمواً، ولكن بمعدل أبطأ من هذا العام مع تحول السوق من البناء السريع إلى الاستثمار التدريجي والمستدام. من المتوقع أن ينمو الإنفاق على البرمجيات في منطقة الشرق الأوسط وشمال إفريقيا بنسبة 13.9% ليصل إلى 20.4 مليار دولار أمريكي في عام 2026، مع تسارع المؤسسات في تبني قدرات الذكاء الاصطناعي. وتتوقع شركة جارتنر أنه بحلول عام 2028، سيُخصص 75% من الإنفاق العالمي على البرمجيات للحلول المزودة بوظائف الذكاء الاصطناعي. صرحت ميم بيرت، نائبة الرئيس التنفيذي في جارتنر: "تبرز منطقة الشرق الأوسط وشمال إفريقيا بسرعة كقوة تكنولوجية عالمية، حيث يستغل مجلس التعاون الخليجي استقراره وبنيته التحتية وسياساته التطلعية لجذب شركاء عالميين وبناء مهارات رقمية تُمكّن الابتكار وتدعم اقتصادات مرنة قائمة على الذكاء الاصطناعي". وأضافت: "حتى في ظل حالة عدم اليقين الاقتصادي والجيوسياسي العالمية، يُجري كبار مسؤولي المعلومات في منطقة الشرق الأوسط وشمال إفريقيا استثمارات استراتيجية في الذكاء الاصطناعي والأتمتة الذكية واستراتيجيات السحابة المتعددة، مع تعزيز الدفاعات السيبرانية وتطوير مهارات الكفاءات. هذه الجهود لا تُعزز الابتكار والتنويع الاقتصادي فحسب، بل تُسهم أيضًا في نمو الإنفاق المتوقع على تكنولوجيا المعلومات في المنطقة بحلول عام 2026". قال إياد تشوالي، نائب الرئيس للاستشارات في جارتنر: "من المتوقع أن يتسارع الإنفاق على أنظمة مراكز البيانات مع استثمار مديري تكنولوجيا المعلومات وقادة التكنولوجيا في منطقة الشرق الأوسط وشمال إفريقيا في البرمجيات والبنية التحتية المُحسّنة للذكاء الاصطناعي". وأضاف: "يُعزى هذا الارتفاع الكبير إلى حد كبير إلى الطلب المُتراكم على الذكاء الاصطناعي المُولّد (GenAI) والتعلم الآلي المُتقدم، اللذين يعتمدان على قوة حوسبة قوية لمعالجة البيانات على نطاق واسع. ويُعزى معظم هذا الطلب إلى الحكومات وشركات الحوسبة الضخمة ومُزوّدي التكنولوجيا والمؤسسات التي تُركز على تطوير ونشر نماذج الذكاء الاصطناعي، بدلاً من الشركات أو المستهلكين التقليديين". ومع تزايد أهمية الذكاء الاصطناعي في الابتكار، فإن تكامله في البرمجيات وخدمات تكنولوجيا المعلومات يعيد تشكيل أولويات الإنفاق بشكل جذري في جميع أنحاء المنطقة، حيث من المتوقع أن ينمو الإنفاق على خدمات تكنولوجيا المعلومات في منطقة الشرق الأوسط وشمال أفريقيا بنسبة 8.3% في عام 2026. قال بيرت: "سيُعرض على مديري تكنولوجيا المعلومات بشكل متزايد إمكانيات GenAI المُدمجة في تطبيقات المؤسسات، وأدوات الإنتاجية والمطورين، ونماذج لغات كبيرة أكثر تطورًا، بالإضافة إلى خوادم مُحسّنة للذكاء الاصطناعي لدعم الذكاء الاصطناعي كخدمة". وأضاف: "يستكشف مُزودو الخدمات أيضًا نماذج تسعير جديدة للبرمجيات والأجهزة لزيادة الإيرادات". مع التسارع السريع في تطوير البنية التحتية للذكاء الاصطناعي واعتماده في منطقة الشرق الأوسط وشمال إفريقيا، يجب على مديري تكنولوجيا المعلومات تجاوز مفهوم GenAI كأداة إنتاجية ودمجه في صميم استراتيجيات أعمالهم، كما قال تاشوالي. وأضاف: "ستأتي الميزة التنافسية الحقيقية من بناء أسس بيانات قوية، ومنصات تقنية قابلة للتركيب، وتنمية المواهب المتمكنة من الذكاء الاصطناعي - وهي عوامل أساسية لإطلاق قيمة متميزة من الذكاء الاصطناعي".
البيان
منذ 3 ساعات
- البيان
169 مليار دولار إنفاق الشرق الأوسط وشمال أفريقيا على تكنولوجيا المعلومات في 2026
توقعت شركة جارتنر العالمية للاستشارات والأبحاث أن يصل إنفاق منطقة الشرق الأوسط وشمال أفريقيا على تكنولوجيا المعلومات في عام 2026 إلى 169 مليار دولار أمريكي مسجلاً زيادة بنسبة 8.9% عن عام 2025. وقالت ميم بيرت، نائب الرئيس للممارسات لدى جارتنر إن منطقة الشرق الأوسط وشمال أفريقيا تواصل صعودها المتسارع كمركز عالمي للتكنولوجيا، حيث توظف دول مجلس التعاون الخليجي الاستقرار الذي تتمتع ببناها التحتية المتقدمة وسياساتها المستقبلية بهدف استقطاب الشركاء العالميين وبناء المهارات الرقمية التي تدفع عجلة الابتكار وتدعم وجود اقتصادات مرنة معززة بالذكاء الاصطناعي. ويقوم الرؤساء التنفيذيون لشؤون المعلومات في المنطقة حتى في ظل حالة عدم اليقين الاقتصادي والجيوسياسي العالمية، بضخ استثمارات إستراتيجية في مجالات الذكاء الاصطناعي، والأتمتة الذكية، وإستراتيجيات السحابة المتعددة، وتعزيز الدفاعات السيبرانية، وتطوير المهارات. وترجح جارتنر أن يرتفع الإنفاق على أنظمة مراكز البيانات 37.3% في منطقة الشرق الأوسط وشمال أفريقيا في عام 2026، ما يجعل أنظمة مراكز البيانات القطاع الأسرع نمواً في مجال تكنولوجيا المعلومات، ولكن بمعدل أبطأ خلال العام الجاري وذلك بالتزامن مع انتقال السوق من مرحلة التوسع السريع إلى الاستثمار التدريجي والمستدام. من جهته قال إياد طاشوالي، نائب الرئيس للاستشارات لدى جارتنر إنه من المتوقع أن يزداد الإنفاق على أنظمة مراكز البيانات بالتزامن مع قيام الرؤساء التنفيذيين لشؤون أمن المعلومات بمنطقة الشرق الأوسط وشمال أفريقيا بالاستثمار في برمجيات معززة بالذكاء الاصطناعي والبنى التحتية المحدثة للذكاء الاصطناعي، ويُعزى هذا الارتفاع بصورة رئيسية إلى تنامي الطلب على تكنولوجيا الذكاء الاصطناعي التوليدي والتعلم المتقدم للآلات، واللذين يعتمدان بشكل أساسي على وجود قدرات حوسبة قوية لمعالجة البيانات على نطاق واسع. وأوضح أن القسم الأكبر من هذا الطلب سيكون ناشئاً عن الحكومات، وكبار مزودي الخدمات السحابية، ومزودي التكنولوجيا، والمؤسسات التي تركز على تطوير ونشر نماذج الذكاء الاصطناعي، وليس من قبل الشركات التقليدية أو المستهلكين. ووفق جارتنر فمن المتوقع أن يشهد الإنفاق على البرمجيات في منطقة الشرق الأوسط وشمال أفريقيا زيادة بنسبة 13.9% ليصل إلى 20.4 مليار دولار أمريكي في عام 2026 بالتزامن مع تسارع وتيرة اعتماد المؤسسات لقدرات الذكاء الاصطناعي التوليدي. وتتوقع جارتنر أن يكون 75% من الإنفاق العالمي على البرمجيات موجهاً لحلول تتضمن خصائص ذكاء اصطناعي توليدي بحلول عام 2028.
البوابة العربية للأخبار التقنية
منذ 11 ساعات
- البوابة العربية للأخبار التقنية
زوكربيرج يراهن على النجوم.. مشروع ميتا للذكاء الفائق مغامرة محفوفة بالمخاطر
كشفت صحيفة فايننشال تايمز أن شركة ميتا تمضي قدمًا في مشروع طموح يهدف إلى تطوير 'ذكاء فائق شخصي'، في خطوة قد تعيد تشكيل مستقبلها بالكامل داخل سباق الذكاء الاصطناعي العالمي. وبحسب التقرير، فإن مارك زوكربيرج، المؤسس والرئيس التنفيذي للشركة، ينفق ببذخ لإنشاء مختبر سري يضم نخبة من علماء الذكاء الاصطناعي، مستعينًا بحوافز مالية غير مسبوقة في محاولة لاستقطاب ألمع العقول في هذا المجال. وتستثمر الشركة عشرات مليارات الدولارات في منشآت جديدة ومعدات متطورة مع استقطاب أفضل الكفاءات، إذ وظفت حتى الآن نحو 50 عالمًا في مختبر الذكاء الفائق، عارضةً مكافآت انضمام تقدر بملايين الدولارات لأبرز العقول في هذا المجال. وقد أثمر هذا السخاء المالي حديثًا عن ضم شينغجيا جاو، أحد مبتكري ChatGPT في OpenAI، ليقود الأبحاث في المختبر الجديد، على أن يرفع تقاريره إلى ألكسندر وانغ، عبقري الرياضيات وأحد أحدث التعيينات البارزة في ميتا بعد استحواذها على شركته الناشئة Scale AI. ومع ذلك، لم تنجح كافة محاولات زوكربيرج؛ إذ رفض عدد من العلماء الانضمام، مفضلين البقاء مع شركات منافسة بدوافع أخلاقية أو ولاءً لفرقهم الحالية، أو رغبةً في الاحتفاظ بحصص ملكية في شركاتهم الناشئة الواعدة. ولا يقتصر التحدي على صعوبة الاستقطاب؛ فخبراء يشيرون إلى أن تكديس الفرق بالنجوم لا يضمن الوصول إلى النتائج المرجوة، وقد بدأ بعض موظفي الذكاء الاصطناعي الحاليين يعبرون عن قلقهم من تهميشهم لصالح الوافدين الجدد ذوي الرواتب المرتفعة. وتشير دراسات سابقة إلى ظاهرة تُعرف بـ'تأثير فائض المواهب'، إذ يؤدي وجود عدد مفرط من المواهب في فريق واحد إلى تراجع الأداء. وخلصت دراسة من كلية هارفارد للأعمال إلى أن ارتفاع نسبة المحللين الماليين ذوي المكانة الرفيعة في فريق ما قد يؤدي إلى تراجع تقييماتهم البحثية، كما أن النجوم غالبًا ما يواجهون صعوبة في نقل نجاحاتهم إلى بيئات جديدة، إذ شبّه أحد رؤساء البحوث في مؤسسة استثمارية عملية التوظيف بـ'زراعة عضو'، إذ يظل احتمال رفض الجسم العضو واردًا. وفي دراسة أخرى نُشرت العام الماضي في مجلة 'علم الإدارة Management Science'، وجد باحثون أن تعاون العلماء البارزين مع فرق مكونة من باحثين أقل شهرة غالبًا ما يُنتج ابتكارات أكبر من جهود النجوم الفردية، كما أن تكرار التخصصات ضمن الفريق قد يقلل جودة التعاون. وتوجد عقبة أخرى لا تقل أهمية، وهي قيادة هذه الفرق فائقة التميز. فمن المدربين الرياضيين إلى الرؤساء التنفيذيين، تؤكد الخبرات أن القيادة الفعالة عنصر حاسم لتوجيه الفرق العالية الكفاءة وتفادي النزاعات الداخلية. وإذا تمكن باحثو ميتا بالفعل من تحقيق إنجاز في مجال 'الذكاء الفائق الشخصي'، فقد يصبح بإمكانهم يومًا ما إسناد دفة القيادة إلى الأنظمة الذكية نفسها. لكن إلى أن يتحقق هذا الهدف الطموح، ترى فايننشال تايمز أن من الحكمة أن يخصص مارك زوكربيرج جزءًا من استثماراته لتعيين مديرين رفيعي المستوى، قادرين على توجيه نخبة العلماء التي جمعها في مشروعه السري.
