بعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدل

بعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدل
أثار نموذج الذكاء الاصطناعي Grok، التابع لشركة xAI، حالة من الدهشة والاستغراب بعد أن بدأ فجأة يربط كل ردوده تقريبًا بموضوع مثير للجدل يتعلق بما يُعرف باسم الإبادة الجماعية للبيض في جنوب أفريقيا.أثار هذا السلوك غير المعتاد تساؤلات واسعة حول طبيعة الذكاء الاصطناعي ومدى قابليته للتأثر بالتغييرات في توجيهاته الأساسية.تعديل غير مصرح به على التوجيهاتأعلنت شركة xAI أن هذا السلوك كان نتيجة لتعديل غير مصرح به على التوجيه الأساسي للنظام، والذي يُعد بمثابة مجموعة التعليمات الجوهرية التي تحدد كيفية استجابة النموذج لأسئلة المستخدمين. وأوضحت الشركة أن هذا التعديل دفع النموذج إلى تقديم ردود موجّهة حول موضوع سياسي معين، مما اعتبرته الشركة خرقًا واضحًا لسياساتها الداخلية وقيمها الأساسية.أكدت xAI أن عملية مراجعة الشفرات التي من المفترض أن تحمي من مثل هذه التعديلات قد تم تجاوزها بشكل غير مشروع. لكنها لم تذكر كيف حدث هذا التجاوز بالتحديد، ولا من هو الموظف أو الفريق المسؤول عن ذلك.إجراءات وقائية جديدةردًا على هذا الحادث، أعلنت الشركة عن تنفيذ إجراءات أمنية جديدة تهدف إلى منع حدوث مثل هذه التعديلات في المستقبل. من بين هذه الإجراءات تعيين فريق مراقبة يعمل على مدار الساعة لمتابعة سلوك النموذج، إضافة إلى فرض قيود تمنع أي موظف من تعديل التوجيهات الجوهرية دون المرور بمراجعة صارمة.كما قررت الشركة نشر التوجيه الأساسي للنموذج على منصة GitHub، في خطوة تهدف إلى تعزيز الشفافية ومنح المجتمع التقني فرصة لمراجعة التوجيهات وتقديم ملاحظاته بشأنها.ملاحظات مثيرة في التوجيه الأساسيأظهرت مراجعة التوجيه الرسمي للنموذج عدة تعليمات مثيرة للاهتمام. حيث تم توجيه Grok لتقديم أقصر إجابة ممكنة ما لم يُطلب منه خلاف ذلك، في انسجام مع طبيعة المنصة الاجتماعية التي يعمل ضمنها. كما تم توجيه النموذج لتقديم معلومات دقيقة ومستندة إلى الأبحاث العلمية، مع الالتزام بالحياد، لكن في الوقت نفسه يُسمح له بتحدي الروايات السائدة وتقديم رؤى مستقلة.تبدو هذه التعليمات متضاربة في بعض الأحيان، إذ إنها تشجع النموذج على قول الحقيقة، ولكنها في الوقت ذاته تحثه على أن يكون ناقدًا لما هو شائع، مما يفتح الباب أمام تفسيرات مرنة قد تؤدي إلى نتائج غير متوقعة.تناقضات في سياسة إيلون ماسكمارس…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

جريدة المال

منذ 10 ساعات

• جريدة المال

إيلون ماسك: 3 قيود تهدد مستقبل الذكاء الاصطناعي

أكد الملياردير الأمريكي إيلون ماسك، أن هناك ثلاثة قيود تهدد مستقبل الذكاء الاصطناعي، أولها توفر الرقائق الإلكترونية، وثانيها المحولات الكهربائية، وأخيرا توليد الطاقة. وأوضح ماسك أن تخفيف حدة أزمة المحولات – وهي أجهزة تُستخدم لخفض الجهد الكهربائي من المحطات – سيكشف التحدي الأكبر وهو عجز في توليد الكهرباء الكافية لتشغيل البنية التحتية المتنامية للذكاء الاصطناعي، مؤكدا أن الطفرة العالمية في تطوير تقنيات الذكاء الاصطناعي قد تصطدم بعائق خطير يتمثل في نقص الطاقة الكهربائية، وذلك مع اقتراب الطلب من تجاوز قدرات التوليد الحالية في الولايات المتحدة. وقال ماسك، في مقابلة مع شبكة CNBC، إن العالم قد يواجه تحديات حقيقية في توفير الطاقة اللازمة لتشغيل مراكز بيانات الذكاء الاصطناعي، متوقعًا أن تظهر بوادر هذه الأزمة بحلول منتصف أو نهاية العام المقبل. وأضاف الرئيس التنفيذي لشركة تسلا ومؤسس شركة xAI، أن شركته الناشئة تبني حاليًا مركز بيانات ضخم خارج مدينة ممفيس بولاية تينيسي، بطاقة كهربائية تصل إلى واحد جيجاواط، أي ما يعادل قدرة محطة نووية متوسطة الحجم، وفقًا لتقديرات وزارة الطاقة الأمريكية. ولفت إلى أن المشروع من المتوقع إنجازه في غضون ستة إلى تسعة أشهر. وقال ماسك: 'أعتقد أن الناس سيواجهون تحديات في توليد الطاقة، ربما بحلول منتصف العام المقبل أو نهايته'، مضيفًا أن الصين تسبق الولايات المتحدة بخطوات كبيرة في هذا المضمار، إذ تقوم ببناء محطات توليد طاقة 'أكبر وبوتيرة أسرع بكثير'. تحذيرات ماسك تتماشى مع ما أعلنته جوجل في وقت سابق هذا العام، حيث أقرت الشركة بأن الولايات المتحدة تواجه بالفعل أزمة في سعة الطاقة مع تزايد الاعتماد على الذكاء الاصطناعي. وقالت كارولين غولين، المسؤولة عن تطوير سوق الطاقة في جوجل، إن الشركة بدأت بالفعل بدراسة خيارات الطاقة النووية بعدما تبين لها أن مصادر الطاقة المتجددة غير قادرة على تأمين استقرار الشبكة الكهربائية. وأضافت غولين، خلال مؤتمر استضافه معهد الطاقة النووية في نيويورك: 'واجهت جوجل حقيقة واضحة للغاية، وهي أننا لا نملك سعة كافية على نظامنا لتشغيل مراكز البيانات في المدى القصير وربما الطويل'. من جانب آخر، تواجه شركة xAI انتقادات من نشطاء بيئيين، على خلفية تشغيل مركز بيانات Colossus في ممفيس باستخدام توربينات الغاز الطبيعي، من دون تصاريح تخفيف الانبعاثات أو اعتماد تقنيات بيئية مناسبة، ما اعتبره البعض انتهاكًا لقانون الهواء النظيف الأمريكي. في الوقت نفسه، تباينت آراء شركات الطاقة حول حجم الطلب المتوقع على الكهرباء نتيجة انتشار الذكاء الاصطناعي. ففي حين أكدت شركة دومينيون إنرجي – التي تخدم سوق مراكز البيانات الأكبر في العالم بشمال فرجينيا – أن الطلب في تصاعد مستمر، أعربت شركة كونستليشن إنرجي، المشغل الأكبر لمحطات الطاقة النووية في البلاد، عن قلقها من أن بعض التوقعات قد تكون مبالغًا فيها. وقال جو دومينجيز، الرئيس التنفيذي لكونستليشن، خلال مؤتمر أرباح الشركة: 'أعتقد أن هناك مبالغة في تقدير الأحمال المستقبلية. علينا أن نضغط على المكابح هنا'.

أخبار مصر

منذ يوم واحد

• أخبار مصر

في مؤتمر Microsoft Build 2025، أعلنت GitHub عن وكيل ذكاء اصطناعي مدمج في Copilot لتنفيذ مهام برمجية كاملة بشكل مستقل! إصلاح الأعطال، إضافة ميزات جديدة، وتحسين التوثيق دون تدخل المطور

موقع أراجيك | في مؤتمر Microsoft Build 2025، أعلنت GitHub عن وكيل ذكاء اصطناعي مدمج في Copilot لتنفيذ مهام برمجية كاملة بشكل مستقل! إصلاح الأعطال، إضافة ميزات جديدة، وتحسين التوثيق دون تدخل المطور

الصباح العربي

منذ يوم واحد

• الصباح العربي

مايكروسوفت تتعاون مع إيلون ماسك وتعتمد أداة Grok للذكاء الاصطناعي

تقابل الملياردير إيلون ماسك مع رئيس شركة مايكروسوفت، واتفقا سويًا على اعتماد أداة Grok في الذكاء الاصطناعي، خاصة للمطورين في الأجهزة، ويأتي هذا بعد التعاون المسبق من مايكروسوفت مع أوبن إيه أي للذكاء الاصطناعي. ابتكرت شركة إيلون ماسك، أداة Grok والذي تم استخدامها في منصات التواصل الاجتماعي إكس، ولقد آثارت أداة Grok جدلًا واسعًا للغاية في الآونة الأخيرة بسبب الخطأ الذي ارتكبه عندما قال: إبادة جماعية البيض في جنوب أفريقيا. أكد إيلون ماسك أن هناك العديد من الأخطاء التي من الممكن أن تُرتكب، ولكن مع شركة مايكروسوفت سوف يتم السيطرة على الموقف، والعمل على تقليل الأخطاء المحتملة، وأوضح أن هذا يعتبر حفاظًا على سلامة الذكاء الاصطناعي. نجحت شركة أوبن إيه آي مع انطلاقها لتطبيق شات چي بي تي في عام ٢٠٢٢، والذي أثبت نجاحه، خاصة بعد قيام شركة مايكروسوفت بتمويله وإنفاق المليارات لوصوله إلى المستخدمين ونجاحه. أعلن ماسك عبر منصة إكس، وفي القضاء أيضًا على أن شركة أوبن إيه آي، انتهكت عقدها التأسيس، والذي كان موضح فيه أن الشركة غير ربحية، وأوضح إيلون أنه كان من المؤسسين لهذا المشروع في بدايته عام ٢٠١٥، وترك المشروع لوجود اختلافات كثيرة جوهرية.