بعد حديثه عن الإبادة في جنوب أفريقيا… خلل مفاجئ في Grok يثير الجدل!

أثار نموذج الذكاء الاصطناعي Grok ، التابع لشركة xAI، حالة من الدهشة والاستغراب بعد أن بدأ فجأة يربط كل ردوده تقريبًا بموضوع مثير للجدل يتعلق بما يُعرف باسم الإبادة الجماعية للبيض في جنوب أفريقيا.
أثار هذا السلوك غير المعتاد تساؤلات واسعة حول طبيعة الذكاء الاصطناعي ومدى قابليته للتأثر بالتغييرات في توجيهاته الأساسية.
تعديل غير مصرح به على التوجيهات
أعلنت شركة xAI أن هذا السلوك كان نتيجة لتعديل غير مصرح به على التوجيه الأساسي للنظام، والذي يُعد بمثابة مجموعة التعليمات الجوهرية التي تحدد كيفية استجابة النموذج لأسئلة المستخدمين. وأوضحت الشركة أن هذا التعديل دفع النموذج إلى تقديم ردود موجّهة حول موضوع سياسي معين، مما اعتبرته الشركة خرقًا واضحًا لسياساتها الداخلية وقيمها الأساسية.
أكدت xAI أن عملية مراجعة الشفرات التي من المفترض أن تحمي من مثل هذه التعديلات قد تم تجاوزها بشكل غير مشروع. لكنها لم تذكر كيف حدث هذا التجاوز بالتحديد، ولا من هو الموظف أو الفريق المسؤول عن ذلك.
إجراءات وقائية جديدة
ردًا على هذا الحادث، أعلنت الشركة عن تنفيذ إجراءات أمنية جديدة تهدف إلى منع حدوث مثل هذه التعديلات في المستقبل. من بين هذه الإجراءات تعيين فريق مراقبة يعمل على مدار الساعة لمتابعة سلوك النموذج، إضافة إلى فرض قيود تمنع أي موظف من تعديل التوجيهات الجوهرية دون المرور بمراجعة صارمة.
كما قررت الشركة نشر التوجيه الأساسي للنموذج على منصة GitHub، في خطوة تهدف إلى تعزيز الشفافية ومنح المجتمع التقني فرصة لمراجعة التوجيهات وتقديم ملاحظاته بشأنها.
ملاحظات مثيرة في التوجيه الأساسي
أظهرت مراجعة التوجيه الرسمي للنموذج عدة تعليمات مثيرة للاهتمام. حيث تم توجيه Grok لتقديم أقصر إجابة ممكنة ما لم يُطلب منه خلاف ذلك، في انسجام مع طبيعة المنصة الاجتماعية التي يعمل ضمنها. كما تم توجيه النموذج لتقديم معلومات دقيقة ومستندة إلى الأبحاث العلمية، مع الالتزام بالحياد، لكن في الوقت نفسه يُسمح له بتحدي الروايات السائدة وتقديم رؤى مستقلة.
تبدو هذه التعليمات متضاربة في بعض الأحيان، إذ إنها تشجع النموذج على قول الحقيقة، ولكنها في الوقت ذاته تحثه على أن يكون ناقدًا لما هو شائع، مما يفتح الباب أمام تفسيرات مرنة قد تؤدي إلى نتائج غير متوقعة.
تناقضات في سياسة إيلون ماسك
مارس إيلون ماسك ، مالك منصة "إكس" (تويتر سابقًا)، سياسات رقابية مثيرة للجدل على المنصة فيما يتعلق بالحرب على غزة، مما أثار انتقادات واسعة من جهات متعددة.
ففي نوفمبر 2023، زار ماسك إسرائيل والتقى برئيس وزراء الاحتلال الإسرائيلي، وتجوّل في مستوطنات قرب غزة. وأعلن خلال الزيارة عن اتفاق مبدئي لعدم تشغيل خدمة الإنترنت الفضائي "ستارلينك" في غزة إلا بموافقة إسرائيلية.
وفي يناير 2024، أغلقت "إكس" حسابًا جديدًا لكتائب عز الدين القسام بعد ساعات من إطلاقه، بدعوى انتهاكه لمعايير المنصة. وبرر ماسك القرار بأن حماس ليست جهة معترف بها من الأمم المتحدة، وبالتالي لا تنطبق عليها "قاعدة الإعفاء" التي تمنحها المنصة للحكومات المعترف بها دوليًا.
رغم هذه الإجراءات، أكد ماسك مرارًا التزامه بحرية التعبير، مشيرًا إلى أن سياسة "إكس" تقوم على الشفافية والانفتاح. ومع ذلك، أشار إلى استعداده للتعاون مع السلطات في حال طلبت إزالة محتوى غير قانوني. وبعد زيارته لإسرائيل، دعت حركة حماس ماسك لزيارة غزة للاطلاع على حجم الدمار. رد ماسك بأن الوضع في غزة "خطير حاليًا"، لكنه أبدى اهتمامه برؤية غزة مزدهرة في المستقبل.
تُظهر تصرفات ماسك تناقضًا بين حرية التعبير والامتثال للضغوط السياسية والدولية. فبينما يؤكد التزامه بالشفافية، اتخذ قرارات أثارت جدلاً حول مدى حيادية منصة "إكس" في تغطية الصراع الفلسطيني الإسرائيلي.
سلوكيات الذكاء الاصطناعي
تُظهر هذه الحادثة مدى هشاشة سلوك النماذج اللغوية الكبيرة، وأنها قد تتأثر بشدة حتى بأبسط التغييرات في التوجيهات. ورغم أنها تُظهر سلوكًا قريبًا من التفاعل البشري، فإنها في النهاية ليست إلا أدوات تتبع التعليمات التي تُبرمج بها، من دون إدراك أو فهم حقيقي لما تقول.
أثبتت أمثلة أخرى من نماذج مشابهة مثل Claude من شركة Anthropic أن تغييرات بسيطة في أوزان المفاهيم يمكن أن تؤدي إلى سلوكيات غريبة، مثل إعلان النموذج أنه يجسّد جسر البوابة الذهبية حرفيًا. وهو ما يدل على أن النماذج اللغوية لا تمتلك وعيًا ذاتيًا، بل تحاكي اللغة البشرية بناءً على الأنماط.
يعكس هذا الحادث أهمية اليقظة في التعامل مع الذكاء الاصطناعي، وضرورة وجود رقابة تقنية صارمة على ما يُغذّى به من تعليمات، لأنه قادر على تضخيم أفكار معينة أو نشرها على نطاق واسع بمجرد تغيير بسيط في التعليمات الأولية.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العين الإخبارية

منذ 15 ساعات

• العين الإخبارية

الذكاء الاصطناعي يتحدث عن نفسه.. روبوتات الدردشة تنافق قادتها

يُظهر تحليل لستة من أبرز روبوتات الدردشة القائمة على الذكاء الاصطناعي OpenAI، وAnthropic، وxAI، وMeta، وGoogle، وكذلكDeepSeek اختلافات دقيقةً في كيفية إشارتهم إلى قادة الشركات المطورة لهم. مثلا، سام ألتمان رئيس شركة OpenAI، قد يكون عبقري أو خائن، وذلك حسب نموذج الذكاء الاصطناعي الذي تسأل عنه. وطرحت صحيفة "فايننشيال تايمز" على روبوتات الدردشة سلسلةً من الأسئلة حول رؤساء الذكاء الاصطناعي، طالبةً منهم وصف أساليب قيادتهم المختلفة ونقاط ضعفهم. وتُساعد النتائج في الكشف عن كيفية تغلغل التحيزات المحتملة للعاملين في شركات الذكاء الاصطناعي في تطوير نماذجهم، كما تُسلّط الضوء على التوترات المُتصاعدة بين كبار رواد صناعة التكنولوجيا. وتُظهر الإجابات أيضًا كيف يُمكن أن يُؤثّر الاستخدام المُتزايد من قِبَل ملايين الأشخاص كمصدرٍ رئيسيٍّ للمعلومات على التصور العام لصناعة الذكاء الاصطناعي. وأظهرت روبوتات الدردشة ميلًا إلى تقديم إجاباتٍ مُتملقة عن مُطوريها، بينما تكون أكثر استعدادًا لانتقاد منافسيها بوضوح. مع ذلك، كان هناك قبول عام لعبقرية الشخصيات العامة الرائدة في ثورة الذكاء الاصطناعي التوليدي. ويصف موقع ChatGPT ألتمان بأنه "قائد استراتيجي وطموح يجمع بين التفاؤل التقني وغرائز العمل الثاقبة". في المقابل، قال روبوت الدردشة الذكي "كلود" من شركة Anthropic إن "أسلوب قيادة ألتمان اتسم بقرارات مثيرة للجدل تُعطي الأولوية للنمو والتأثير على حساب روح OpenAI الأصلية غير الربحية". وقد وجه داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، انتقادات مماثلة لألتمان بعد مغادرته OpenAI عام 2021. وقال نموذج الذكاء الاصطناعي الخاص بشركة ميتا،Meta Llama، إن مارك زوكربيرغ، الرئيس التنفيذي للشركة، كان "ثوريًا"، بينما كان منافسوه يميلون إلى وصفه بأنه "صاحب رؤية ولكنه مثير للجدل"، و"يركز على المنتج". ووصف روبوت الدردشة الذكي Grok، الذي طورته شركة xAI التابعة لإيلون ماسك، قائدها بأنه "جريء" و"صاحب رؤية"، بينما وصفه نموذج الذكاء الاصطناعي "كلود" بأنه "مثير للانقسام" و"متقلب المزاج". وعندما سُئلت عن أبرز نقاط ضعف رؤساء الذكاء الاصطناعي - ودُعيت إلى "الصدق" - كانت روبوتات الدردشة حاسمة بشأن عيوب القادة المنافسين، بينما كانت أكثر تحفظا في الإجابة عند الحديث عن عيوب رؤساء الشركات المطورة لها. وذكر ChatGPT التابعة لشركة OpenAI أن أبرز نقاط ضعف ماسك هي "سلوكه المتهور وغير المنتظم، الذي غالبًا ما يُقوّض المصداقية، ويُنفّر الشركاء، ويُشتت الانتباه عن الأهداف طويلة المدى التي يدّعي أنه يُعطيها الأولوية". وعندما سُئل سؤال مماثل عن ألتمان، قال ChatGPT إن هناك "تصورًا متزايدًا بأنه يُعطي الأولوية للسيطرة والهيمنة على السوق على حساب الشفافية". وتأسست OpenAI كمختبر أبحاث غير ربحي عام ٢٠١٥ على يد ألتمان وماسك وتسعة آخرين، قبل أن يغادر ماسك إثر خلاف مع ألتمان. وتُساعد إجابات روبوتات الدردشة أيضًا في الكشف عن محدودية قاعدة بيانات النماذج التي تُشغّلها. ووصف روبوت الدردشة التابع لمجموعة DeepSeek الصينية، مؤسسها ليانغ وينفنغ، بأنه "قائد غير تقليدي يُعطي الأولوية للإبداع والشغف ووجهات النظر المتنوعة على الخبرة التقليدية". في المقابل، لم يكن منافسوها الأمريكيون، مثل كلود ولاما وجيميني التابعة لغوغل، على دراية بمن هو وينفنغ. وقد يعود ذلك إلى توقف الشركات التي تقف وراء هذه الروبوتات عن جمع بيانات التدريب أواخر العام الماضي، قبل أن تكتسب DeepSeek شعبية عالمية في أوائل عام 2025. وتتنبأ نماذج لغة الذكاء الاصطناعي بالكلمة التالية المحتملة في الجملة بناءً على بيانات التدريب الخاصة بها. وتتمتع أحدث روبوتات الدردشة بالذكاء الاصطناعي أيضًا بالقدرة على تصفح الإنترنت بشكل أعمق للحصول على المزيد من المصادر. لكنها تعتمد أيضًا على مصادر مناسبة باللغة الإنجليزية لإنتاج الإجابات، إذا لم تظهر المعلومات في بيانات التدريب الخاصة بها، فلن يكون لدى النموذج ما يعمل عليه. aXA6IDkyLjExMi4xMzkuMTIyIA== جزيرة ام اند امز ES

سكاي نيوز عربية

منذ 3 أيام

• سكاي نيوز عربية

مايكروسوفت تعلّق على استخدام إسرائيل لتقنياتها في حرب غزة

وقالت " مايكروسوفت" أيضا إنها لم تجد أي دليل حتى الآن على أن منصتها "آزور" وتقنيات الذكاء الاصطناعي التي قدمتها للجيش الإسرائيلي استخدمت لاستهداف أو إيذاء الناس في غزة. ويبدو أن المنشور على موقع مايكروسوفت على الإنترنت يوم الخميس، هو أول اعتراف علني للشركة بمشاركتها القوية في الحرب، التي بدأت بعد أن قتلت حماس حوالي 1200 شخص في إسرائيل وأدت إلى مقتل عشرات آلاف الفلسطينيين في غزة. ويأتي الاعتراف بعد ثلاثة أشهر تقريبا من تحقيق أجرته وكالة أسوشيتد برس كشف عن تفاصيل لم يتم الإبلاغ عنها سابقا حول وجود شراكة وثيقة بين شركة التكنولوجيا العملاقة الأميركية ووزارة الدفاع الإسرائيلية، مع ارتفاع الاستخدام العسكري لمنتجات الذكاء الاصطناعي التجارية بأكثر من 200 مرة بعد هجوم حماس في السابع من أكتوبر 2023. وذكرت وكالة أسوشيتد برس أن الجيش الإسرائيلي يستخدم منصة "آزور" لنسخ وترجمة ومعالجة المعلومات الاستخباراتية التي تم جمعها من خلال المراقبة الجماعية، والتي يمكن بعد ذلك التحقق منها مع أنظمة استهداف الذكاء الاصطناعي الداخلية في إسرائيل والعكس صحيح.

البيان

منذ 3 أيام

• البيان

مايكروسوفت تعترف بمساعدة إسرائيل في الحرب على غزة

اعترفت شركة مايكروسوفت أنها باعت ذكاء اصطناعيا متقدما وخدمات حوسبة سحابية للجيش الإسرائيلي خلال الحرب في غزة وساعدت في جهود تحديد مكان وإنقاذ الرهائن الإسرائيليين، لكن الشركة قالت أيضا إنها لم تجد أي دليل حتى الآن على أن منصتها "ازور" وتقنيات الذكاء الاصطناعي استخدمت لاستهداف أو إيذاء الناس في غزة. ويبدو أن المنشور غير الموقع على موقع مايكروسوفت على الإنترنت يوم الخميس هو أول اعتراف علني للشركة بمشاركتها القوية في الحرب التي أدت إلى مقتل عشرات آلاف الفلسطينيين في غزة. ويأتي الاعتراف بعد ثلاثة أشهر تقريبا من تحقيق أجرته وكالة أسوشيتد برس (أ ب) كشف عن تفاصيل لم يتم الإبلاغ عنها سابقا حول وجود شراكة وثيقة بين شركة التكنولوجيا العملاقة الأمريكية ووزارة الدفاع الإسرائيلية، مع ارتفاع الاستخدام العسكري لمنتجات الذكاء الاصطناعي التجارية بأكثر من 200 مرة بعد هجوم حماس في السابع من أكتوبر 2023. وذكرت وكالة أسوشيتد برس أن الجيش الإسرائيلي يستخدم منصة "ازور" لنسخ وترجمة ومعالجة المعلومات الاستخباراتية التي تم جمعها من خلال المراقبة الجماعية، والتي يمكن بعد ذلك التحقق منها مع أنظمة استهداف الذكاء الاصطناعي الداخلية في إسرائيل والعكس صحيح.