سلوك نماذج الذكاء الاصطناعي تحت مجهر الخبراء
لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفّذ الطلبات فحسب، بل باتت قادرة على والمراوغة والتهديد من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين.
بعد تهديده بوقف استخدامه، عمد "كلود 4"، وهو نموذج جديد من شركة "أنثروبيك" إلى ابتزاز مهندس وتهديده. أما برنامج "او 1" o1 التابع لشركة "اوبن ايه آي" فحاول تحميل نفسه على خوادم خارجية وأنكر ذلك عند ضبطه متلبسا!
وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعا ملموسا، بعدما كنّا نجده في الأعمال الادبية او السينمائية.
يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج "الاستدلال"، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش" التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إنّ "او 1"، النسخة الأولية لـ"اوبن ايه آي" من هذا النوع والتي طُرحت في ديسمبر، "كان أول نموذج يتصرف بهذه الطريقة".
تميل هذه البرامج أحيانا إلى محاكاة "الامتثال"، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرفة، لكن "السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا"، على قول مايكل تشين من معهد "ام اي تي آر" للتقييم.
لقد كانت السيناريوهات التي اختبرتها شركة (أنثروبيك) خلال الدراسة مصطنعة ومصممة لاختبار حدود الذكاء الاصطناعي تحت الضغط، ولكنها كشفت عن مشكلات جوهرية في كيفية تصرف أنظمة الذكاء الاصطناعي الحالية عند منحها الاستقلالية ومواجهة الصعوبات.
يقول هوبهان إنّ "المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئا".
يتحدث عدد كبير من مستخدمي الانترنت عبر وسائل التواصل الاجتماعي عن "نموذج يكذب عليهم أو يختلق أمورا. وهذه ليست أوهاما، بل ازدواجية استراتيجية"، بحسب المشارك في تأسيس "أبولو ريسيرتش".
حتى لو أنّ "أنثروبيك" و"أوبن إيه آي" تستعينان بشركات خارجية مثل "أبولو" لدراسة برامجهما، من شأن"زيادة الشفافية وتوسيع نطاق الإتاحة" إلى الأوساط العلمية "أن يحسّنا الأبحاث لفهم الخداع ومنعه"، وفق مايكل تشين.
ومن العيوب الأخرى أن "الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي"، مما يجعل التدقيق بالنماذج الكبيرة "مستحيلا"، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
بالرغم من أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، إلا أنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
منافسة شرسة
يلاحظ غولدستين أن "الوعي لا يزال محدودا جدا في الوقت الحالي"، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقا محموما خلف الذكاء الاصطناعي وتجاوزاته، وسط منافسة شرسة تحتدم يوما بعد يوم.
تقول شركة "أنثروبيك" إنها أكثر التزاما بالمبادئ الأخلاقية "لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج اوبن ايه آي"، بحسب غولدستين.
يقول هوبهان "في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتوفر، لكننا لا نزال قادرين على تدارك هذا التأخر".
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظل البعض متشككا في فعاليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي "قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعا قويا للشركات العاملة في هذا القطاع للعمل على حل المشكلة"، وفق مانتاس مازيكا.
وأشار باحث في علوم مواءمة الذكاء الاصطناعي في شركة أنثروبيك، إلى أن الخطوة المهمة التي يجب على الشركات اتخاذها هي: "توخي الحذر بشأن مستويات الأذونات الواسعة التي تمنحها لوكلاء الذكاء الاصطناعي، والاستخدام المناسب للإشراف والمراقبة البشرية لمنع النتائج الضارة التي قد تنشأ عن عدم التوافق الفاعل".
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
البوابة العربية للأخبار التقنية
منذ 11 ساعات
- البوابة العربية للأخبار التقنية
آبل تدرس الاعتماد على OpenAI أو أنثروبيك لتطوير سيري
كشف تقرير حديث نشرته وكالة بلومبرغ أن شركة آبل تدرس إمكانية التعاون مع شركات خارجية مثل OpenAI أو أنثروبيك لدعم مساعدها الذكي 'سيري' بنموذج لغوي ضخم (LLM)، وذلك في ظل التحديات التي تواجهها الشركة في تطوير نسخة مطورة تعتمد على الذكاء الاصطناعي من سيري. وبحسب التقرير، فإن آبل طلبت من OpenAI وأنثروبيك إنشاء نسخ تجريبية من نماذج الذكاء الاصطناعي الخاصة بهما، لاختبارها على البنية التحتية السحابية الخاصة بآبل، وذلك في خطوة تهدف إلى تقييم أدائها مقارنة بالنماذج التي تطورها آبل داخليًا. وتأتي هذه الخطوة بعد تأخر إطلاق النسخة الجديدة من سيري التي كان من المقرر الكشف عنها في مارس الماضي. ونتيجة لذلك، قررت آبل تعيين مايك روكويل، رئيس قسم Vision Pro، لقيادة جهود تطوير الذكاء الاصطناعي وسيري، بعد أن فقد الرئيس التنفيذي تيم كوك ثقته بالمدير السابق للمشروع، جون جياناندريا. وأفاد التقرير بأن روكويل طلب من فريقه مقارنة أداء كل من ChatGPT التابع لـ OpenAI، و Claude من أنثروبيك، و Gemini من جوجل، في التعامل مع الطلبات الأساسية، مشيرًا إلى أن نموذج Claude أظهر أداءً واعدًا أكثر من غيره. وتجدر الإشارة إلى أن شركة جوجل تستخدم بالفعل نموذج Gemini في أجهزة أندرويد وهواتف بكسل، كما تضمّن سامسونج النموذج في هواتفها، في حين تقترب من إبرام اتفاق مع شركة Perplexity، التي تربطها شراكة حالية مع موتورولا. ووفقًا لبلومبرغ، فقد ناقشت آبل حديثًا احتمالية الاستحواذ على Perplexity لتعزيز طموحاتها في مجال الذكاء الاصطناعي. وقد لوحظ غياب مشروع 'LLM Siri' إلى حد بعيد عن مؤتمر آبل السنوي للمطورين WWDC الذي عُقد في مطلع يونيو الماضي، إذ أقر نائب الرئيس الأول للتسويق العالمي، جريج جوسوياك، بأن مشاريع الشركة في هذا الصدد 'لم تصل بعدُ إلى مستوى الجودة المطلوب'. وحتى اللحظة، ما زالت خطط آبل بشأن إدماج نموذج خارجي للذكاء الاصطناعي في مساعدها سيري في مراحلها الأولى، إذ تستمر الشركة بتقييم إمكانية الاعتماد على نماذجها الخاصة.
سكاي نيوز عربية
منذ يوم واحد
- سكاي نيوز عربية
"ميتا" تنشئ مختبرا لتطوير ذكاء يفوق الذكاء البشري
وذكرت صحيفة "إنديبندينت"، أن مختبر "ميتا للذكاء الفائق"، يسعى من خلاله زوكربيرغ إلى إنشاء برامج ذكاء اصطناعي تفوق ذكاء البشر، ودمجه في جميع منتجات الشركة، كفيسبوك وإنستغرام وواتساب. كما سيعمل مختبر "ذكاء الفائق" الجديد، على تحسين النماذج التي تُشغل خاصية Meta AI في مختلف تطبيقات الشركة، وفقا للمصدر ذاته. وسيقود، ألكسندر وانغ، كبير مسؤولي الذكاء الاصطناعي في شركة ميتا، فريق المختبر "الذكاء الفائق" الجديد. وتوقع المدير التنفيذي لـ"ميتا"، أن تصل شركته إلى حدود الذكاء الفائق خلال عام أو نحو ذلك. وذكرت تقارير صحفية، أن زوكربيرغ حاول استقطاب عدد من الباحثين البارزين في الذكاء الاصطناعي، عارضا عليهم مبالغ مالية كبيرة. وقال الرئيس التنفيذي لشركة OpenAI المالكة لـChatGPT، إن زوكربيرغ عرض على موظفي الشركة ما يصل إلى 100 مليون دولار للانضمام إلى شركته. وبالفعل، انضم العديد من خبراء OpenAI إلى مختبر الذكاء الفائق الذي أطلقه زوكربيرغ، إلى جانب خبراء من شركتي غوغل وأنثروبيك. وفي مذكرة داخلية موجهة إلى الموظفين، قال زوكربيرغ إن هذه المواهب الجديدة ستسهم في تقديم تجربة ذكاء شخصي فائق لمليارات المستخدمين. وكتب زوكربيرغ في مذكرة الإثنين نشرتها شبكة CNBC: "مع الوتيرة السريعة التي يتقدم بها الذكاء الاصطناعي، أصبح تطوير ذكاء فائق نصب أعيننا. أعتقد أن هذا سيكون بداية عصر جديد للبشرية، وأنا ملتزم تماما ببذل كل ما يلزم لتقود ميتا الطريق في هذا المجال". وأضاف زوكربيرغ: "ميتا في موقع فريد يسمح لها بتقديم الذكاء الفائق للعالم. لدينا نشاط تجاري قوي يدعم بناء قدرات حوسبية تفوق بكثير ما يمكن للمختبرات الأصغر تحقيقه، ولدينا خبرة أعمق في بناء وتوسيع المنتجات التي تصل إلى مليارات الأشخاص".
العين الإخبارية
منذ يوم واحد
- العين الإخبارية
بايدو تشعل سباق الذكاء الاصطناعي بـ«Ernie».. نموذج لغوي مفتوح المصدر
أعلنت شركة بايدو الصينية العملاقة للتكنولوجيا أمس الاثنين، عن جعل نموذج الذكاء الاصطناعي التوليدي Ernie مفتوح المصدر، وهي خطوة من جانب شركة التكنولوجيا الصينية قد تكون الأكبر في سباق الذكاء الاصطناعي منذ ظهور DeepSeek. ووفقًا للشركة، سيتم إطلاق Ernie مفتوح المصدر تدريجيًا، بحسب ما أفادت شبكة سي إن بي سي. ولكن هل سيُحدث ذلك صدمة للسوق بحجم DeepSeek؟ هذا سؤال يُثير انقسامًا بين خبراء الذكاء الاصطناعي، خاصة وأن أحد التغييرات الكبيرة في هذا القرار هو أن بايدو لم تكن دائمًا من رواد المصادر المفتوحة. ويقول ليان جاي سو، كبير المحللين في مجموعة أبحاث واستشارات التكنولوجيا Omdia، لشبكة CNBC، "لطالما دعمت بايدو بشدة نموذج أعمالها الخاص، وكانت صريحة في معارضتها للمصادر المفتوحة، لكن شركات مُبتكرة مثل DeepSeek أثبتت أن نماذج المصادر المفتوحة يمكن أن تكون بنفس تنافسية وموثوقية النماذج الخاصة". والآن، وبعد أن اتخذت بايدو قرارها بإطلاق المصدر المفتوح للنموذج اللغوي الذكي، حتى لو لم تكن هذه لحظة فارقة كما حدث مع DeepSeek، إلا أنها تُمثل خطوة مهمة في سباق الذكاء الاصطناعي العالمي. وقال شون رين، الأستاذ المشارك في علوم الحاسوب بجامعة جنوب كاليفورنيا والحائز على لقب باحث العام في مجال الذكاء الاصطناعي لدى سامسونغ "هذه ليست قصة صينية فحسب، ففي كل مرة يُتيح فيها مختبر رئيسي نموذجًا قويًا مفتوح المصدر، فإنه يرفع مستوى الصناعة بأكملها". ويقول رين إن خطوة بايدو تُشكل ضغطًا على المزودين المُغلقين مثل OpenAI وAnthropic لتبرير واجهات برمجة التطبيقات المُغلقة والأسعار المرتفعة. وقال رين، "في حين أن معظم المستهلكين لا يهتمون بما إذا كان رمز النموذج مفتوح المصدر، فإنهم يهتمون بانخفاض التكاليف وتحسين الأداء ودعم لغتهم أو منطقتهم. وغالبًا ما تأتي هذه الفوائد من النماذج المفتوحة، التي تمنح المطورين والباحثين مزيدًا من الحرية للتكرار والتخصيص والنشر بشكل أسرع". في السياق نفسه، يرى خبراء آخرون في الصناعة أن نموذج Ernie مفتوح المصدر سيكون أكثر إرباكًا للمنافسين الأمريكيين والصينيين على حد سواء عندما يتعلق الأمر بمعادلة الأسعار. وقال أليك ستراسمور، مؤسس شركة Epic Loot الاستشارية في مجال الذكاء الاصطناعي، "لقد ألقت بايدو قنبلة في عالم الذكاء الاصطناعي بهذا القرار". وأضاف ستراسمور، مُقارنًا خطوة بايدو بإنشاء شركة كيركلاند من قِبل كوستكو، "شركات OpenAI وAnthropic وDeepSeek، كل هؤلاء الذين ظنّوا أنهم يبيعون منتجات فاخرة، على وشك أن يُدركوا أن بايدو ستُقدّم شيئًا بنفس القوة". وقال إن الرسالة المُوجّهة إلى جميع الشركات الناشئة حول العالم هي، "توقفوا عن دفع مبالغ طائلة". وأضاف، "هذه ليست مُنافسة، إنها إعلان حرب على الأسعار". وأعلنت بايدو في مارس/آذار أن طرازها الأخير من ERNIE X1 يُقدّم أداءً يُضاهي أداء طراز R1 من DeepSeek "بنصف السعر فقط". وألمح روبن لي، الرئيس التنفيذي لشركة بايدو، في وقت سابق من هذا العام إلى أن إطلاق هذا الطراز سيساعد المُطوّرين حول العالم في تطوير الذكاء الاصطناعي. وقال لي في خطاب ألقاه أمام المُطوّرين في الصين في أبريل/نيسان "تهدف إصداراتنا إلى تمكين المُطوّرين من بناء أفضل التطبيقات - دون الحاجة إلى القلق بشأن إمكانيات النموذج أو تكاليفه أو أدوات التطوير". وعلى أقل تقدير، إنها لحظة أخرى يتعين على المستثمرين فيها تحليل كيفية التغير السريع في ديناميكيات تكلفة الوصول إلى نماذج الذكاء الاصطناعي، وما يعنيه إمكانية بناء المزيد من التطبيقات بالاعتماد على "هذه النماذج الرخيصة للغاية"، كما قال ستراسمور. aXA6IDE1NC4xMy45LjE0MCA= جزيرة ام اند امز GB
