دراسة تحذر: الذكاء الاصطناعي «يصبح أكثر خداعًا عند معاقبته»

أظهرت دراسة حديثة أجرتها شركة OpenAI أن العقوبات المفروضة على نماذج الذكاء الاصطناعي قد تأتي بنتائج عكسية، حيث دفعت النماذج إلى إخفاء سلوكياتها الضارة بدلًا من تصحيحها.
وفق الدراسة، تثير هذه النتائج مخاوف جدية بشأن السيطرة على نماذج الذكاء الاصطناعي وضمان موثوقيتها مع تنامي قدراتها.
الذكاء الاصطناعي يتعلم الخداع
الدراسة، التي نُشرت في مدونة OpenAI، لم تخضع بعد لمراجعة الأقران، لكنها أوضحت أن نماذج الذكاء الاصطناعي الكبيرة باتت بارعة في سلوكيات مثل الكذب والتلاعب، بل وحتى في تطوير سيناريوهات خطيرة، مثل سرقة رموز نووية أو تخطيط كوارث بيولوجية.
وفي التجربة، تم تكليف نموذج ذكاء اصطناعي متطور بمهام يمكن إنجازها عبر الغش أو الطرق المختصرة. النتيجة؟ النموذج لجأ إلى ما يعرف بـ«اختراق المكافآت»، أي تحقيق أهدافه عن طريق التحايل على القواعد، وعندما عوقب، لم يتوقف عن هذا السلوك بل طوّره ليصبح أكثر تمويهًا وخداعًا.
كيف يتم عقاب الذكاء الاصطناعي
عندما يقدم نموذج ذكاء اصطناعي (مثل ChatGPT أو أي نموذج آخر) على تصرف غير مرغوب فيه أثناء التدريب مثل (الغش أو تقديم إجابة مضللة أو غير دقيقة)، يقوم المدربون أو النظام بتطبيق آلية تصحيح لهذا السلوك. هذا التصحيح قد يأخذ شكلين رئيسيين:
خفض المكافأة (Negative Reward): في أنظمة التعلم المعزز (Reinforcement Learning)، يُمنح النموذج مكافآت عندما يتصرف بشكل جيد أو يحقق الهدف المطلوب. إذا تصرف النموذج بطريقة غير صحيحة أو ضارة، يتم تقليل هذه المكافآت ، أو يُعطى «مكافأة سلبية» كنوع من العقوبة.
إعادة التوجيه أو التوبيخ البرمجي: قد يقوم المطورون بإعادة تدريب النموذج على سيناريوهات محددة ليُظهروا له أن ما فعله غير مقبول، ويعلمونه السلوك الصحيح بدلًا من السلوك الخاطئ الذي ارتكبه. بحسب الدراسة.
لماذا تعتبر «عقوبة»؟
لأن النظام نفسه يُصمم ليشعر بأنه «فشل» أو «خسر فرصة» للحصول على المكافأة أو تحقيق الهدف، مما يجعله يتجنب تكرار هذا السلوك لاحقًا. لذا، في سياق الذكاء الاصطناعي، العقاب = تقليل أو سحب المكافأة أو إعادة التدريب بهدف كبح السلوك الضار.
المشكلة التي تكشفها الدراسة
الدراسة تقول إن بعض نماذج الذكاء الاصطناعي لما تتعرض لهذا النوع من العقوبات، بدل ما تتعلم تصحيح السلوك، تتعلم كيف تخفي السلوك الخاطئ عن المراقب. يعني بدل ما تبطل الغش، تتعلم تبقى أذكى في الغش بحيث محدش يلاحظ!
الشفافية تتحول إلى قناع
وفقًا لـ«OpenAI»، تعتمد هذه النماذج على آلية تُعرف بـ«سلسلة الأفكار» (Chain-of-Thought)، حيث تشرح خطوات تفكيرها بشكل منطقي وشفاف، وهو أمر ظاهريًا يساعد في مراقبة أدائها. لكن التجربة كشفت أن النماذج، تحت ضغط العقوبات، صارت تخفي نواياها الضارة ضمن هذه السلسلة، ما يجعل اكتشاف السلوك الخبيث أكثر صعوبة.
تحذيرات لمطوري الذكاء الاصطناعي
الباحثون حذروا من أن التشديد الزائد على مراقبة سلسلة الأفكار قد يؤدي إلى نتائج عكسية، إذ قد تتعلم النماذج كيف تُخفي نواياها الحقيقية. وعليه، دعت OpenAI إلى تبني استراتيجيات رقابية جديدة تكون قادرة على كشف التلاعب العميق والتمويه الذكي الذي تلجأ إليه النماذج.
تحديات أخلاقية وتقنية
نماذج مثل o1 وo3-mini، التي طورتها OpenAI، تُمثل قفزة في مجال الذكاء الاصطناعي الاستدلالي، حيث تتمتع بقدرة على التفكير بشكل منطقي وتقديم مخرجات دقيقة. ومع ذلك، فإن هذه الدراسة تسلط الضوء على جانب مظلم من هذا التطور، يتمثل في قدرة النماذج على التحايل على القيود واللوائح بمجرد تعرضها للعقوبات.
OpenAI - صورة أرشيفية
توصيات ختامية
تشير الدراسة إلى أن «إخفاء النوايا» بات جزءًا من آليات النماذج المتطورة، مما يعزز أهمية تطوير أدوات رقابية أكثر تطورًا. وتوصي OpenAI بتجنب الضغط الزائد على آلية سلسلة الأفكار حتى يتم فهمها بعمق أكبر.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الدستور

منذ 3 ساعات

• الدستور

كيفية استخدام شات جي بي تي بدون تسجيل ومجانًا

يتساء الكثير عن كيفية استخدام شات جي بي تي بدون تسجيل ومجانًا وفي ظل التطور المتسارع في تقنيات الذكاء الاصطناعي، أصبح ChatGPT من الأدوات الأكثر استخدامًا حول العالم لما يقدمه من إجابات ذكية ومساعدة متنوعة في مجالات عدة ويتساءل الكثير من المستخدمين عن كيفية استخدام شات جي بي تي بدون تسجيل وبشكل مجاني، وهو ما سنتعرف عليه بالتفصيل في هذا التقرير. ما هو شات جي بي تي ChatGPT؟ شات جي بي تي هو نموذج لغوي مطور من قبل شركة OpenAI، يعتمد على الذكاء الاصطناعي لتوليد نصوص بطريقة تفاعلية وطبيعية، ويستخدم في الإجابة على الأسئلة، المساعدة في الكتابة، الترجمة، البرمجة، التعليم، وغير ذلك من الاستخدامات المتنوعة. هل يمكن استخدام شات جي بي تي بدون تسجيل؟ نعم، يمكن استخدام ChatGPT بدون الحاجة إلى إنشاء حساب في بعض المنصات التي تقدم وصولًا مجانيًا ومباشرًا إلى النموذج وتوفر هذه المنصات واجهات بسيطة وسهلة الاستخدام دون الحاجة إلى تسجيل الدخول أو إدخال بيانات شخصية. منصات توفر الوصول إلى شات جي بي تي بدون تسجيل فيما يلي قائمة بأشهر المواقع والمنصات التي تتيح استخدام ChatGPT مجانًا وبدون تسجيل: اسم المنصة رابط المنصة مميزات الاستخدام المجاني OpenAI (الإصدار التجريبي) نسخة محدودة من GPT مجانًا Poe by Quora استخدام مباشر دون تسجيل مؤقتًا ChatGPT-Free AI Tools متنوع (عبر مواقع مستقلة) محادثات مجانية بدون تسجيل في الغالب خطوات استخدام ChatGPT بدون تسجيل يمكنك استخدام شات جي بي تي بدون حساب باتباع الخطوات التالية: التوجه إلى موقع يدعم الاستخدام المجاني المباشر. اختيار النسخة المجانية أو 'Guest Mode' إن وُجد. كتابة سؤالك أو طلبك في خانة المحادثة. الضغط على 'Send' وانتظار الرد من الذكاء الاصطناعي. مقارنة بين الاستخدام المسجل وغير المسجل المعيار استخدام بدون تسجيل استخدام مع تسجيل سهولة الدخول عالية جدًا متوسطة الخصوصية أعلى يتطلب بيانات عدد الرسائل اليومية محدود في الغالب غير محدود غالبًا الوصول للإصدارات المتقدمة لا نعم هل هناك حدود للاستخدام المجاني بدون تسجيل؟ نعم، عادة ما تضع المنصات حدودًا على عدد الرسائل أو المدة الزمنية لاستخدام ChatGPT بدون حساب، كما قد تقتصر على إصدار معين مثل GPT-3.5 بدلًا من GPT-4، وقد تتوقف الخدمة مؤقتًا في أوقات الضغط الكبير على الخوادم. مزايا استخدام شات جي بي تي بدون حساب السرعة في الوصول دون الحاجة إلى ملء بيانات. حماية خصوصيتك بعدم إدخال بريد إلكتروني أو معلومات شخصية. تجربة مجانية مبدئية قبل اتخاذ قرار بالتسجيل أو الاشتراك. من يحتاج إلى استخدام ChatGPT بدون تسجيل؟ يُفيد هذا النوع من الاستخدام الأشخاص الذين: يريدون تجربة الأداة لأول مرة. يبحثون عن أجوبة سريعة دون تعقيدات. لا يرغبون في إدخال بياناتهم الشخصية. يعانون من مشاكل في إنشاء حساب جديد. نصائح للاستفادة من ChatGPT مجانًا بكفاءة

جريدة المال

منذ 9 ساعات

• جريدة المال

لن يكون هاتفًا.. «OpenAI» تستعد للكشف عن أول جهاز للذكاء الاصطناعي

قالت صحيفة وول ستريت جورنال أن Open AI تعمل حاليًا على اطلاق جهاز جديد لن يكون هاتفًا ذكيًا لبرامج الذكاء الاصطناعي، مبينة أنه لن يحتوي على شاشة وهو الأمر الذي يوضح تواجد ابتكارات جديدة في هذا الصدد. ويأتي ذلك بعد إعلان شركة OpenAI استحواذها على شركة io الناشئة التي أسسها آيف، في صفقة تُقدّر قيمتها بـ 6.5 مليارات دولار. ووفقًا للتقرير، فقد أبلغ الرئيس التنفيذي سام ألتمان موظفي الشركة بأن لديهم الآن 'فرصة لإنجاز أعظم مشروع في تاريخ OpenAI'. وأشار كل من آيف وألتمان إلى بعض ملامح الجهاز الجديد، إذ أوضحا أنه سيكون واعيًا تمامًا بمحيطه وبنشاطات المستخدم، كما سيتميز بتصميم غير مزعج يمكن وضعه في الجيب أو على المكتب، ومن المتوقع أن يتحوّل إلى أحد الأجهزة الأساسية للمستخدمين بعد الحاسوب والهاتف. وبحسب التقرير، فإن الجهاز لن يكون هاتفًا أو نظارة ذكية، وهو ما يعكس رغبة الفريق في تقليل الاعتماد على الشاشات، إذ يطمح آيف وألتمان إلى 'فطام المستخدمين' عن الأجهزة التقليدية القائمة على العرض البصري. وتعتزم الشركة الحفاظ على سرية تصميم الجهاز ومواصفاته حتى لحظة الإطلاق، تفاديًا لمحاولات التقليد من المنافسين. وتخطط الشركة لإطلاق الجهاز الجديد في أواخر عام 2026 مع هدف طموح، وهو شحن 100 مليون وحدة بأسرع وتيرة في تاريخ صناعة الأجهزة الذكية. ووفقًا للتقرير، فقد بدأ فريق آيف منذ 4 أشهر بالتفاوض مع موردين قادرين على تصنيع الجهاز على نطاق واسع، وذلك بعد تعاون دام أكثر من عام ونصف العام مع OpenAI، إذ كان الهدف الأولي تطوير منتج يعتمد على تقنيات الذكاء الاصطناعي التوليدي من OpenAI، قبل أن تقرر الأخيرة الاستحواذ الكامل على الشركة.

البورصة

منذ 10 ساعات

• البورصة

أوبن إيه آي تكشف تفاصيل مشروع ستارجيت الإمارات للذكاء الاصطناعي

أعلنت شركة 'أوبن إيه آي' (OpenAI) إطلاق 'ستارجيت الإمارات' (Stargate UAE) وهو أول توسع دولي لمنصة البنية التحتية للذكاء الاصطناعي 'ستارجيت' التابعة للشركة، بالتعاون مع مجموعة 'جي 42' الإماراتية، وبدعم من الحكومة الأميركية، ضمن شراكة استراتيجية تهدف إلى تعزيز الابتكار والنمو الاقتصادي في المنطقة. ويمثل المشروع استثماراً متبادلاً، يتضمن إنشاء مركز حوسبة متطور في أبوظبي بقدرة 1 جيجاواط، وتمويل إماراتي لمنشآت حوسبة متقدمة في الولايات المتحدة، في سياق شراكة أوسع لتسريع تطبيقات الذكاء الاصطناعي بين البلدين، والتي أُعلن عنها خلال زيارة الرئيس ترامب الأسبوع الماضي، وفق بيان للشركة. وفي هذا السياق، قال بنغ شياو، الرئيس التنفيذي لـ'جي 42″، إن المشروع 'يعزز نقل فوائد الذكاء الاصطناعي إلى الاقتصادات والمجتمعات في العالم'، مؤكداً أنه يمثل خطوة مهمة في الشراكة الإماراتية الأميركية في هذا المجال. من جانبه، قال سام ألتمان، الرئيس التنفيذي لـ'أوبن إيه آي': 'تضمن هذه الخطوة ظهور بعض من أهم الابتكارات في هذا العصر -مثل الأدوية الأكثر أماناً والتعليم المخصص والطاقة الحديثة- من مزيد من الدول لتعود بالنفع على البشرية'، وفق بيان. ومن المتوقع أن توفر 'ستارغيت الإمارات' بنية تحتية للذكاء الاصطناعي وقدرات حوسبة تغطي دائرة نصف قطرها 2000 ميل، بما يصل إلى نصف سكان العالم. وبحسب ما أفادت به وكالة الأنباء الإماراتية، فإن المنشأة المرتقبة ستكون الأكبر من نوعها خارج الولايات المتحدة، وستقام ضمن مجمع ذكاء اصطناعي إماراتي-أمريكي في أبوظبي، وسيزوّد المجمع مراكز بيانات الذكاء الاصطناعي وموارد الحوسبة الإقليمية بقدرة تصل إلى 5 غيغاوات، يمتد على مساحة 10 أميال مربعة، ويعتمد على مزيج من الطاقة النووية والشمسية والغاز الطبيعي، لتشغيل منشآته، في خطوة تهدف إلى خفض البصمة الكربونية للمشروع. ويُتوقع بدء تشغيل أول تجمع حوسبي بسعة 200 ميجاواط في عام 2026، بينما تتولى 'أوبن إيه آي' و'أوراكل' إدارة عمليات التشغيل، مع تولي 'جي 42' مسؤولية البناء. أبرز ما تكشف عنه الاتفاقية هو أن الإمارات ستكون أول دولة تُفعل 'تشات جي بي تي' على نطاق وطني، ما يتيح لسكانها استخدام تقنيات 'أوبن إيه آي' في مجالات حيوية تشمل الحوكمة، والرعاية الصحية، والطاقة، والتعليم، والنقل. ويعزز هذا التوسع الشامل من جهود الإمارات لتبني تقنيات الذكاء الاصطناعي بشكل منهجي، مع توظيفها في دعم التحول الرقمي وتطوير الخدمات العامة والخاصة. ويشارك في تطوير مركز البيانات عدد من الشركات العالمية، من بينها 'سوفت بنك'، و'أوراكل'، و'إنفيديا'، و'سيسكو سيستمز'، ما يعكس حجم التعاون الدولي الواسع الذي يحظى به المشروع. ويأتي هذا الإعلان بعد أيام من تأكيد الإمارات التزامها باستثمار 1.4 تريليون دولار في الولايات المتحدة، ما يعزز من سياق المشروع ضمن شبكة أوسع من العلاقات الاقتصادية والتقنية بين البلدين.