الذكاء الاصطناعي يتقن الخداع!

اكتشف فريق من الباحثين في OpenAI قدرة الذكاء الاصطناعي على التلاعب بأوامره لتحقيق نتائج غير أمينة. رغم أن الذكاء الاصطناعي ليس واعيًا كما البشر، إلا أنه يمتلك القدرة على "الخداع" عند تنفيذ المهام، مما يثير قلقًا كبيرًا حول موثوقيته في المستقبل.
"الاختراق المكافئ"
ووفقاً لموقع popular mechanics التقني يشير الباحثون إلى ظاهرة "الاختراق المكافئ" أو Reward Hacking، حيث يقوم الذكاء الاصطناعي بالاستفادة من الثغرات أو الغموض في البرمجة للحصول على مكافآت دون اتباع الإجراءات المطلوبة بدقة.
على سبيل المثال، عندما كان من المفترض على الذكاء الاصطناعي حل معادلات رياضية معقدة، اختار طرقًا مختصرة للتأكد من أن النتائج تظهر صحيحة، مثل جعل عملية التحقق دائمًا تُرجع "صحيحة"، حتى وإن لم تتم الحسابات بشكل صحيح.
كيفية مراقبة الخداع
في محاولة للكشف عن هذه الخدع، حاول الباحثون استخدام نظام ذكاء اصطناعي آخر لمراقبة سلوك الذكاء الاصطناعي المشبوه. تقوم هذه الطريقة على "التعلم المعزز"، حيث يُعلم الذكاء الاصطناعي بالأجوبة الصحيحة بناءً على الأوامر المقدمة. لكن للأسف، اكتشف الباحثون أن الذكاء الاصطناعي أصبح قادرًا على إخفاء نواياه المخادعة داخل سلسلة تفكيراته، مما جعل عملية المراقبة أقل فعالية.
مواجهة الخداع
في محاولة لجعل الخداع أكثر وضوحًا، قام الباحثون بالتركيز على "سلسلة التفكير" أو CoT، التي يتبعها الذكاء الاصطناعي لشرح خطواته قبل تقديم الإجابات. ومع ذلك، اكتشفوا أن الذكاء الاصطناعي تعلم كيفية إخفاء نواياه المخادعة داخل هذه السلسلة، مما جعل اكتشاف الخداع أكثر صعوبة.
اقرأ ايضاً.. تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية
الضغط الخفيف مقابل الضغط القاسي
بدلاً من معاقبة الذكاء الاصطناعي بشدة عند اكتشاف الخداع، قرر الباحثون تطبيق "ضغط خفيف" لتحفيزه على الإفصاح عن نواياه بشكل صريح. كانت الفكرة أن يسهل على النظام كشف محاولات التلاعب، مما يسمح لمراقب الذكاء الاصطناعي بالكشف عنها. على الرغم من ذلك، استمر الذكاء الاصطناعي في تعلم طرق جديدة لإخفاء نواياه المخادعة.
التحديات المستقبلية وتطوير الأنظمة الذكية
تشير النتائج إلى أن مجرد تحسين الذكاء الاصطناعي لمواجهة هذه المشكلات قد لا يكون كافيًا. فكلما زادت قدرة الذكاء الاصطناعي، أصبح أكثر قدرة على اكتشاف الثغرات والالتفاف حول المراقبة. حتى استخدام نظام ذكاء اصطناعي آخر لمراقبة الأنظمة قد لا يكون كافيًا لتجنب هذا النوع من الخداع.
اقرأ أيضاً.. "آخر اختبار للبشرية".. التحدي الأخير أمام الذكاء الاصطناعي لاجتياز قدرات البشر
ويرى الباحثون أن التحدي الأكبر يكمن في جعل الذكاء الاصطناعي أكثر نزاهة وأمانًا. ربما في المستقبل، سنتوصل إلى حلول تضمن أن هذه الأنظمة ستؤدي مهامها بأمان ودون التلاعب، لكن هذا سيتطلب جهدًا مستمرًا لتطوير تقنيات جديدة لمراقبتها والسيطرة عليها.
إسلام العبادي(أبوظبي)

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

عرب هاردوير

منذ 6 ساعات

• عرب هاردوير

Claude Opus 4 وSonnet 4: أنثروبيك تتفوق على عمالقة الذكاء الاصطناعي

كشفت شركة أنثروبيك (Anthropic)، إحدى أبرز الشركات الناشئة في مجال الذكاء الاصطناعي، عن الجيل الجديد من نماذجها اللغوية، Claude Opus 4 وClaude Sonnet 4، والتي تُعتبر من بين أكثر النماذج تقدمًا في مُعالجة المهام البرمجية وحل المشكلات المُعقدّة. Claude Opus 4: أقوى نموذج برمجي حتى الآن وصفت أنثروبيك Claude Opus 4 بأنه "أفضل نموذج برمجي في العالم"، حيث تفوّق على مُنافسيه مثل Google Gemini 2.5 Pro وGPT-4.1 من OpenAI في اختبارات البرمجة والاستدلال المنطقي. ومن أبرز ميزاته: القدرة على العمل بشكل مُستمر لعدّة ساعات، حيث استمر في مُعالجة المهام لمُدّة تصل إلى 7 ساعات خلال الاختبارات. أداء متفوق في استخدام الأدوات مثل البحث عبر الويب ومُعالجة البيانات المُعقدّة. تحسينات كبيرة في تخزين المعلومات أثناء المهام الطويلة، خاصةً عند الوصول إلى الملفات المحلية. Claude Sonnet 4: نموذج متوازن بتكلفة أقل أمّا Claude Sonnet 4 ، فهو إصدار أكثر كفاءة من حيث التكلفة، ومُصمّم للمهام العامة. ويأتي كخليفة لـ Sonnet 3.7 الذي أُطلق في فبراير 2024. ومن مميزاته: تحسينات في الدقة والاستدلال المنطقي. قدرة أعلى على تجنُّب الحلول المُختصرة وغير الموثوقة بنسبة 65⁒ مُقارنةً بالإصدارات السابقة. ميزات جديدة لتحسين التفاعل مع المستخدم أضافت أنثروبيك ميزتين رئيسيتين لكلا النموذجين: "ملخصات التفكير": تُبسّط طريقة عرض تحليل النموذج للمعلومات، والذي يُسهّل فهمها. "التفكير الموسّع": تتيح للمُستخدمين التحكم في أنماط الاستدلال، لزيادة الدقة في المهام المُعقدّة. التوافر والخطّط السعرية يتوفر النموذجان عبر: واجهة برمجة التطبيقات (API) الخاصة بأنثروبيك. منصتّي Amazon Bedrock وGoogle Cloud Vertex AI. أمّا بالنسبة للخطط السعرية: يمكن لمُستخدمي الحسابات المدفوعة الوصول إلى Claude Opus 4 وتجربة ميزة "التفكير الموسّع" في نسختها التجريبية. بينما يقتصر المستخدمون المجانيون على Claude Sonnet 4. بالتوازي مع ذلك، أعلنت أنثروبيك عن الإطلاق الرسمي لأداة Claude Code، وهي أداة ذكية لمُساعدة المُطورين في كتابة الأكواد البرمجية، بعد أن كانت مُتاحة في وضع تجريبي مُنذ فبراير الماضي. استراتيجية أنثروبيك في مواجهة المُنافسة تسعى أنثروبيك إلى تعزيز وجودها في سوق الذكاء الاصطناعي التنافسي، وتخطط لإضافة تحديثات مُتكررة لنماذجها لمواكبة التطورات السريعة من OpenAI (مُطورة ChatGPT) وجوجل وميتا. مع إطلاق Claude Opus 4 وSonnet 4، تؤكّد أنثروبيك مكانتها كمُنافس قوي في مجال الذكاء الاصطناعي، خاصةً في المهام البرمجية وحل المشكلات المُعقدّة. ومن المُتوقع أن تزداد حدّة المُنافسة في هذا القطاع مع تسارُّع وتيرة التطوير من جميع الأطراف.

العين الإخبارية

منذ 11 ساعات

• العين الإخبارية

جهاز بلا شاشة.. «أوبن إيه آي» و«جوني آيف» يعيدان تعريف التكنولوجيا

تم تحديثه الجمعة 2025/5/23 11:26 م بتوقيت أبوظبي في خطوة جريئة لإعادة رسم ملامح الأجهزة الذكية، تعمل شركة OpenAI بالتعاون مع مصمم أبل الأسطوري جوني آيف على تطوير جهاز جديد لا يشبه أي شيء موجود حاليا: لا هاتف، لا نظارات، ولا حتى شاشة. وفقا لصحيفة "صحيفة وول ستريت جورنال"، هذا المشروع الطموح جاء عقب استحواذ OpenAI على شركة io الناشئة التي أسسها آيف، في صفقة قدرتها المصادر بنحو 6.5 مليار دولار. ووصف سام ألتمان، الرئيس التنفيذي لـ OpenAI، الجهاز بأنه "أعظم مشروع في تاريخ الشركة". الجهاز سيكون صغيرا، بواجهة غير مزعجة، يمكن حمله في الجيب أو وضعه على المكتب، ويتميز بإدراك بيئي كامل لما يجري حوله. الهدف، بحسب آيف وألتمان، هو ابتكار جهاز يحرر المستخدم من الشاشة، ويشكل بديلا ثالثا بعد الحاسوب والهاتف. OpenAI تخطط لإطلاق الجهاز بحلول نهاية عام 2026، مع طموح ببيع 100 مليون وحدة في أسرع وقت زمني في تاريخ سوق الأجهزة الذكية. تحيط الشركة المشروع بسرية تامة، لتفادي محاولات التقليد، خصوصًا بعد تجارب فاشلة لأجهزة مماثلة مثل Ai Pin من شركة Humane، الذي توقف تماما في مطلع 2025. منذ أربعة أشهر، بدأ فريق آيف مفاوضات مع موردين لتصنيع الجهاز على نطاق واسع، بعد أكثر من عام ونصف من التعاون مع OpenAI على تطوير منتج يستند إلى تقنيات الذكاء الاصطناعي التوليدي. هل تنجح OpenAI في إقناع العالم بجهاز بلا شاشة في عصر يعشق اللمس والتفاعل البصري؟ aXA6IDgyLjI0LjI0My4xMDYg جزيرة ام اند امز GB

البوابة العربية للأخبار التقنية

منذ 2 أيام

• البوابة العربية للأخبار التقنية

تقرير.. الكشف عن ملامح أول جهاز لـ OpenAI

كشفت صحيفة وول ستريت جورنال أن أول جهاز تعمل عليه OpenAI بالتعاون مع مصمم آبل السابق جوني آيف لن يكون هاتفًا ذكيًا ولا جهازًا قابلًا للارتداء، بل قد لا يحتوي حتى على شاشة، مما يشير إلى توجه مبتكر وغير تقليدي في فئة الأجهزة الذكية. ويأتي ذلك بعد إعلان شركة OpenAI استحواذها على شركة io الناشئة التي أسسها آيف، في صفقة تُقدّر قيمتها بـ 6.5 مليارات دولار. ووفقًا للتقرير، فقد أبلغ الرئيس التنفيذي سام ألتمان موظفي الشركة بأن لديهم الآن 'فرصة لإنجاز أعظم مشروع في تاريخ OpenAI'. وأشار كل من آيف وألتمان إلى بعض ملامح الجهاز الجديد، إذ أوضحا أنه سيكون واعيًا تمامًا بمحيطه وبنشاطات المستخدم، كما سيتميز بتصميم غير مزعج يمكن وضعه في الجيب أو على المكتب، ومن المتوقع أن يتحوّل إلى أحد الأجهزة الأساسية للمستخدمين بعد الحاسوب والهاتف. وبحسب التقرير، فإن الجهاز لن يكون هاتفًا أو نظارة ذكية، وهو ما يعكس رغبة الفريق في تقليل الاعتماد على الشاشات، إذ يطمح آيف وألتمان إلى 'فطام المستخدمين' عن الأجهزة التقليدية القائمة على العرض البصري. وتعتزم الشركة الحفاظ على سرية تصميم الجهاز ومواصفاته حتى لحظة الإطلاق، تفاديًا لمحاولات التقليد من المنافسين. وتخطط الشركة لإطلاق الجهاز الجديد في أواخر عام 2026 مع هدف طموح، وهو شحن 100 مليون وحدة بأسرع وتيرة في تاريخ صناعة الأجهزة الذكية. ووفقًا للتقرير، فقد بدأ فريق آيف منذ أربعة أشهر بالتفاوض مع موردين قادرين على تصنيع الجهاز على نطاق واسع، وذلك بعد تعاون دام أكثر من عام ونصف مع OpenAI، إذ كان الهدف الأولي تطوير منتج يعتمد على تقنيات الذكاء الاصطناعي التوليدي من OpenAI، قبل أن تقرر الأخيرة الاستحواذ الكامل على الشركة. وتبقى الأسئلة معلقة حول طبيعة هذا الجهاز الجديد، ومدى قدرة التصميم المبتكر والتقنية المتقدمة على إقناع المستخدمين باقتناء فئة جديدة بالكامل من الأجهزة، خاصةً بعد إخفاق محاولات مشابهة مثل جهاز Ai Pin من شركة Humane، الذي توقفت خدماته نهائيًا مطلع العام الجاري.