#أحدث الأخبار مع #سياسةإيلونأخبار مصرمنذ 6 أيامأخبار مصربعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدلبعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدل أثار نموذج الذكاء الاصطناعي Grok، التابع لشركة xAI، حالة من الدهشة والاستغراب بعد أن بدأ فجأة يربط كل ردوده تقريبًا بموضوع مثير للجدل يتعلق بما يُعرف باسم الإبادة الجماعية للبيض في جنوب أفريقيا.أثار هذا السلوك غير المعتاد تساؤلات واسعة حول طبيعة الذكاء الاصطناعي ومدى قابليته للتأثر بالتغييرات في توجيهاته الأساسية.تعديل غير مصرح به على التوجيهاتأعلنت شركة xAI أن هذا السلوك كان نتيجة لتعديل غير مصرح به على التوجيه الأساسي للنظام، والذي يُعد بمثابة مجموعة التعليمات الجوهرية التي تحدد كيفية استجابة النموذج لأسئلة المستخدمين. وأوضحت الشركة أن هذا التعديل دفع النموذج إلى تقديم ردود موجّهة حول موضوع سياسي معين، مما اعتبرته الشركة خرقًا واضحًا لسياساتها الداخلية وقيمها الأساسية.أكدت xAI أن عملية مراجعة الشفرات التي من المفترض أن تحمي من مثل هذه التعديلات قد تم تجاوزها بشكل غير مشروع. لكنها لم تذكر كيف حدث هذا التجاوز بالتحديد، ولا من هو الموظف أو الفريق المسؤول عن ذلك.إجراءات وقائية جديدةردًا على هذا الحادث، أعلنت الشركة عن تنفيذ إجراءات أمنية جديدة تهدف إلى منع حدوث مثل هذه التعديلات في المستقبل. من بين هذه الإجراءات تعيين فريق مراقبة يعمل على مدار الساعة لمتابعة سلوك النموذج، إضافة إلى فرض قيود تمنع أي موظف من تعديل التوجيهات الجوهرية دون المرور بمراجعة صارمة.كما قررت الشركة نشر التوجيه الأساسي للنموذج على منصة GitHub، في خطوة تهدف إلى تعزيز الشفافية ومنح المجتمع التقني فرصة لمراجعة التوجيهات وتقديم ملاحظاته بشأنها.ملاحظات مثيرة في التوجيه الأساسيأظهرت مراجعة التوجيه الرسمي للنموذج عدة تعليمات مثيرة للاهتمام. حيث تم توجيه Grok لتقديم أقصر إجابة ممكنة ما لم يُطلب منه خلاف ذلك، في انسجام مع طبيعة المنصة الاجتماعية التي يعمل ضمنها. كما تم توجيه النموذج لتقديم معلومات دقيقة ومستندة إلى الأبحاث العلمية، مع الالتزام بالحياد، لكن في الوقت نفسه يُسمح له بتحدي الروايات السائدة وتقديم رؤى مستقلة.تبدو هذه التعليمات متضاربة في بعض الأحيان، إذ إنها تشجع النموذج على قول الحقيقة، ولكنها في الوقت ذاته تحثه على أن يكون ناقدًا لما هو شائع، مما يفتح الباب أمام تفسيرات مرنة قد تؤدي إلى نتائج غير متوقعة.تناقضات في سياسة إيلون ماسكمارس…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه
أخبار مصرمنذ 6 أيامأخبار مصربعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدلبعد حديثه عن الإبادة في جنوب أفريقيا خلل مفاجئ في Grok يثير الجدل أثار نموذج الذكاء الاصطناعي Grok، التابع لشركة xAI، حالة من الدهشة والاستغراب بعد أن بدأ فجأة يربط كل ردوده تقريبًا بموضوع مثير للجدل يتعلق بما يُعرف باسم الإبادة الجماعية للبيض في جنوب أفريقيا.أثار هذا السلوك غير المعتاد تساؤلات واسعة حول طبيعة الذكاء الاصطناعي ومدى قابليته للتأثر بالتغييرات في توجيهاته الأساسية.تعديل غير مصرح به على التوجيهاتأعلنت شركة xAI أن هذا السلوك كان نتيجة لتعديل غير مصرح به على التوجيه الأساسي للنظام، والذي يُعد بمثابة مجموعة التعليمات الجوهرية التي تحدد كيفية استجابة النموذج لأسئلة المستخدمين. وأوضحت الشركة أن هذا التعديل دفع النموذج إلى تقديم ردود موجّهة حول موضوع سياسي معين، مما اعتبرته الشركة خرقًا واضحًا لسياساتها الداخلية وقيمها الأساسية.أكدت xAI أن عملية مراجعة الشفرات التي من المفترض أن تحمي من مثل هذه التعديلات قد تم تجاوزها بشكل غير مشروع. لكنها لم تذكر كيف حدث هذا التجاوز بالتحديد، ولا من هو الموظف أو الفريق المسؤول عن ذلك.إجراءات وقائية جديدةردًا على هذا الحادث، أعلنت الشركة عن تنفيذ إجراءات أمنية جديدة تهدف إلى منع حدوث مثل هذه التعديلات في المستقبل. من بين هذه الإجراءات تعيين فريق مراقبة يعمل على مدار الساعة لمتابعة سلوك النموذج، إضافة إلى فرض قيود تمنع أي موظف من تعديل التوجيهات الجوهرية دون المرور بمراجعة صارمة.كما قررت الشركة نشر التوجيه الأساسي للنموذج على منصة GitHub، في خطوة تهدف إلى تعزيز الشفافية ومنح المجتمع التقني فرصة لمراجعة التوجيهات وتقديم ملاحظاته بشأنها.ملاحظات مثيرة في التوجيه الأساسيأظهرت مراجعة التوجيه الرسمي للنموذج عدة تعليمات مثيرة للاهتمام. حيث تم توجيه Grok لتقديم أقصر إجابة ممكنة ما لم يُطلب منه خلاف ذلك، في انسجام مع طبيعة المنصة الاجتماعية التي يعمل ضمنها. كما تم توجيه النموذج لتقديم معلومات دقيقة ومستندة إلى الأبحاث العلمية، مع الالتزام بالحياد، لكن في الوقت نفسه يُسمح له بتحدي الروايات السائدة وتقديم رؤى مستقلة.تبدو هذه التعليمات متضاربة في بعض الأحيان، إذ إنها تشجع النموذج على قول الحقيقة، ولكنها في الوقت ذاته تحثه على أن يكون ناقدًا لما هو شائع، مما يفتح الباب أمام تفسيرات مرنة قد تؤدي إلى نتائج غير متوقعة.تناقضات في سياسة إيلون ماسكمارس…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه
منذ 6 أيام
