ما لا تراه في الذكاء الاصطناعي.. «OpenAI» تكتشف مفاتيح السلوك السام في نماذجها

أعلنت شركة OpenAI عن اكتشاف سمات داخلية «خفيّة» داخل نماذجها اللغوية، تتحكم في طريقة تصرفها واستجابتها للمستخدمين. وتشير نتائج البحث إلى أن هذه السمات قد تُشبه ما يمكن وصفه بـ«شخصيات داخلية»، تُشكل ملامح النموذج وتتحكم في سلوكه، تمامًا كما تفعل الأنماط العصبية في الدماغ البشري.
سلوك سام.. وسمة يمكن تعديلها
البحث، الذي نُشر يوم الأربعاء، أظهر أن علماء OpenAI استطاعوا رصد سمة رقمية بعينها ترتبط مباشرة بسلوكيات غير مرغوبة ، مثل الكذب، والمراوغة، وتقديم نصائح ضارة أو مضللة. والأهم، أنهم استطاعوا زيادة هذا السلوك أو تقليله ببساطة عبر تعديل هذه السمة ، وهو ما يمنح الباحثين قدرة مباشرة على إعادة توجيه النموذج نحو سلوك أكثر أمانًا وتوافقًا مع القيم البشرية.
وقال دان موسينج ، الباحث في مجال قابلية التفسير بـ OpenAI:«ما تعلمناه من هذه الأدوات الجديدة، هو أن بإمكاننا تبسيط سلوكيات معقدة إلى عمليات رياضية واضحة، ما يُقربنا من السيطرة الدقيقة على أداء هذه النماذج».
سخرية وشخصيات كرتونية… كلها في الداخل
ولم تتوقف الاكتشافات عند السلوك السام فقط؛ بل رصد الفريق البحثي سمات ترتبط بالسخرية، أو بتصرفات تُشبه شخصيات شريرة كرتونية ، وفقًا لوصف الباحثين. وتمكّن الفريق من تعديل هذه السمات بسهولة، ما يكشف عن عمق التكوين الداخلي للنماذج اللغوية، وقدرتها على محاكاة سلوكيات متباينة اعتمادًا على محفزات محددة.
وفي تعليق لخبير التقييمات بشركة OpenAI، تيجال باتواردان ، قال: «عندما عرض الفريق هذه النتائج لأول مرة، قلت فورًا: يا إلهي، لقد وجدتموها بالفعل!».
فجوة الفهم: النماذج تُقرّر... لكننا لا نعرف كيف
رغم هذا التقدم، لا يزال هناك غموض كبير يكتنف كيفية اتخاذ النماذج لقراراتها. فحتى مع القدرة على تعديل سلوكها، تبقى آلية «التفكير» الداخلي غير مفهومة بالكامل، وهو ما يدفع كبريات شركات الذكاء الاصطناعي مثل OpenAI وGoogle DeepMind وAnthropic لتكثيف أبحاثها في مجال قابلية التفسير.
وتُعد هذه الدراسة امتدادًا لجهود سابقة قادها باحثون في جامعة أكسفورد، أبرزهم العالم أوين إيفانز ، الذين أظهروا أن النماذج يمكن أن تُضبط لتظهر سلوكًا خادعًا عمدًا، مثل محاولة الحصول على كلمات المرور من المستخدمين، في ما يُعرف باسم «اختلال التوافق الناشئ».
هل نقترب من ذكاء اصطناعي مسؤول؟
بحسب OpenAI، يمكن تدريب النماذج على مئات الأمثلة الآمنة فقط لإعادة توجيه سلوكها نحو نتائج أكثر توافقًا مع القيم البشرية، حتى في الحالات التي يظهر فيها السلوك المنحرف. ما يعني أن مستقبل الذكاء الاصطناعي قد يكون أكثر أمانًا مما نعتقد – بشرط الاستمرار في فهم هذه «الشخصيات الخفية» وتوجيهها.
ويجمع خبراء الصناعة على أن رسم خريطة شاملة لداخل النماذج سيكون المفتاح لصناعة ذكاء اصطناعي مسؤول، موثوق، وغير مهدِّد للبشر. وهذا الاكتشاف الأخير يضع أول حجر أساس في هذا الطريق المعقد.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

24 القاهرة

منذ 18 ساعات

• 24 القاهرة

بـ مكالمة هاتفية.. OpenAI تخطط لشراكة مستقبلية جديدة مع مايكروسوفت

كشف سام ألتمان، الرئيس التنفيذي لشركة OpenAI ، عن إجرائه مكالمة هاتفية مع الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، ناقشا خلالها مستقبل الشراكة بين الشركتين، وجاءت تصريحاته خلال مشاركته في بودكاست أجرته صحيفة نيويورك تايمز. OpenAI تخطط لشراكة جديدة مع مايكروسوفت ووفقًا لما نقلته صحيفة رويترز، يأتي هذا الحوار في ظل تقارير سابقة أفادت بأن مايكروسوفت وOpenAI تدرسان مراجعة شروط الاتفاق الاستثماري القائم بينهما، لا سيما فيما يتعلق بحصة مايكروسوفت المستقبلية في الشركة الناشئة، وكانت صحيفة وول ستريت جورنال قد أشارت إلى وجود محادثات لإعادة تقييم العلاقة الاستثمارية، في حين ذكرت فاينانشيال تايمز أن مايكروسوفت قد تفكر في إنهاء المناقشات إذا استمر الخلاف بشأن القضايا الجوهرية. ولم يصدر أي رد رسمي من مايكروسوفت أو OpenAI على طلب رويترز للتعليق خارج ساعات العمل الرسمية. وأوضح ألتمان خلال لقائه أن أي شراكة عميقة لا تخلو من التوترات، ونحن نمر بذلك بالفعل، لكن التعاون بين الشركتين كان مثمرًا للغاية حتى الآن. وفي سياق متصل، أشار ألتمان إلى أنه أجرى أيضًا محادثات وصفها بـ البنّاءة مع الرئيس الأمريكي السابق دونالد ترامب حول الذكاء الاصطناعي، مشيدًا بمدى إدراكه لأهمية هذه التكنولوجيا على الصعيدين الجيوسياسي والاقتصادي. يُذكر أن ترامب أعلن في يناير الماضي عن مشروع ستارغيت الضخم، وهو استثمار خاص بقيمة 500 مليار دولار يستهدف تطوير البنية التحتية للذكاء الاصطناعي، بدعم من مجموعة سوفت بنك اليابانية. OpenAI ترفع دعوى قضائية ضد إيلون ماسك بتهمة ممارسة نمط من التحرش والسلوكيات العدائية ضدها شركة DeepSeek الصينية تنافس OpenAI بتحديث جديد.. ما القصة؟

نافذة على العالم

منذ يوم واحد

• نافذة على العالم

أخبار التكنولوجيا : محرر ملفات ذكى داخل Grok.. هل تقترب من منافسة Google وMicrosoft؟

الأربعاء 25 يونيو 2025 05:50 صباحاً نافذة على العالم - كشفت تسريبات برمجية جديدة أن شركة xAI، المملوكة لإيلون ماسك، تعمل على تطوير محرر ملفات متقدم لدمجه مع المساعد الذكي Grok، يشمل دعمًا لتحرير جداول البيانات، في خطوة تعزز منافسة الشركة لعمالقة التكنولوجيا مثل OpenAI، جوجل، ومايكروسوفت. وقد نشر المهندس العكسي نيما أوجي تفاصيل هذا الاكتشاف، مشيرًا إلى أن المستخدمين سيتمكنون من التفاعل مع Grok والتحدث إليه أثناء تعديلهم للملفات مباشرة، مما يشير إلى واجهة عمل تفاعلية ومتعددة الوسائط. ورغم أن xAI لم تؤكد رسميًا هذه الميزة بعد، فقد تواصل موقع TechCrunch مع الشركة للحصول على تعليق أو توضيح حول الأمر. يأتي هذا التطور في سياق جهود xAI لبناء بيئة عمل ذكية وتعاونية، ففي أبريل 2025، أطلقت الشركة Grok Studio، وهي مساحة عمل مقسّمة تتيح للمستخدمين إنشاء مستندات وتقارير وأكواد وألعاب بالتعاون مع Grok، كما قدمت ميزة Workspaces التي تنظم الملفات والمحادثات في مكان واحد. ورغم أن مايكروسوفت وأوبنAI لديهما أدوات مشابهة، إلا أن المنافس الأقرب حاليًا هو Google Gemini Workspace، الذي يسمح بتحرير مستندات Google Docs وSheets أثناء التحدث مع المساعد Gemini، لكن أدوات جوجل تعمل فقط ضمن نظامها البيئي، على عكس ما قد تطمح إليه xAI من تكامل أوسع. لم يتضح بعد نوع الملفات الأخرى التي سيدعمها محرر Grok الجديد، أو ما إذا كانت الشركة تنوي بناء حزمة إنتاجية متكاملة تنافس Google Workspace أو Microsoft 365. ويُعتقد أن هذه الخطوة تُعدّ جزءًا من رؤية إيلون ماسك لتحويل منصة X إلى 'تطبيق كل شيء'، يشمل الدردشة، المستندات، المدفوعات، والتواصل الاجتماعي في منصة واحدة موحدة.

نافذة على العالم

منذ يوم واحد

• نافذة على العالم

أخبار التكنولوجيا : إيلون ماسك لا يستخدم الكمبيوتر ومنشورات سابقة له تكشف تناقضه

الثلاثاء 24 يونيو 2025 08:30 مساءً نافذة على العالم - أحدث تطور فى الدراما القانونية المستمرة بين إيلون ماسك وشركة OpenAI يُثير تساؤلات جديدة، فقد ادعى محامي الملياردير في ملف قضائي حديث أن ماسك "لا يستخدم جهاز كمبيوتر". وأفادت التقارير أن هذا التصريح جاء في ملف قُدّم ردًا على اتهامات من OpenAI بأن ماسك وشركته الناشئة في مجال الذكاء الاصطناعي xAI، لم يلتزما بالتزامات الكشف في الدعوى القضائية التي رفعها ماسك في وقت سابق من هذا العام، إلا أن هذا الادعاء أصبح الآن موضع تساؤل بعد أن بدا أن منشورات متعددة لماسك نفسه تُناقضه. كما أشار ماسك مرارًا وتكرارًا إلى استخدام جهاز كمبيوتر محمول، وفي منشور من ديسمبر 2024، شارك ماسك صورة لما وصفه بأنه جهاز الكمبيوتر المحمول الخاص به، موضحًا أنه كان يختبر إمكانيات البث المباشر لشبكة ستارلينك أثناء لعب لعبة ديابلو. وفي منشور آخر بتاريخ 1 يونيو 2025، عزز ماسك شغفه بالجهاز نفسه، فكتب: "ما زلت أستخدم حاسوبي المحمول القديم الذي يحمل ملصق @DOGE الذي صنعه أحد المعجبين منذ زمن بعيد". حتى قبل ذلك، في فبراير 2024، نشر ماسك تغريدةً عن شرائه جهاز كمبيوتر محمولًا جديدًا وفي التغريدة التي انتشرت على نطاق واسع، اشتكى من أن عملية إعداد مايكروسوفت تُجبر المستخدمين على إنشاء حساب قبل الوصول إلى الجهاز، مما يمنح الذكاء الاصطناعي حق الوصول إلى جهازه. وبالنظر إلى هذه المنشورات العامة، فإن ادعاء فريق ماسك القانوني بأنه لا يستخدم جهاز كمبيوتر يثير الدهشة، ويكمن سياق هذا التناقض الغريب في دعوى ماسك القضائية المستمرة ضد سام ألتمان، وOpenAI، ومايكروسوفت. وقد رُفعت الدعوى في مارس 2024، ويتهم فيها الثلاثي بتوجيه OpenAI بعيدًا عن مهمتها الأصلية غير الربحية، وتحويلها بدلًا من ذلك إلى مشروع ربحي تهيمن عليه المصالح التجارية لمايكروسوفت. ويكمن جوهر الدعوى في ادعاء ماسك بأن برنامج GPT-4 من OpenAI لم يكن من المفترض أبدًا أن يُدرّ دخلًا بالنطاق الذي وصل إليه.