تقرير علمي: قدرة البشر على فهم «نوايا» الذكاء الاصطناعي في خطر
الورقة البحثية، بعنوان «قابلية مراقبة سلسلة التفكير: فرصة جديدة وهشة لسلامة الذكاء الاصطناعي». تشرح بالتفصيل كيف يمكن تتبع الخطوات العقلية التي تتبعها النماذج في أثناء التفكير، خصوصاً عندما تُعبر عنها بلغة بشرية ومراقبتها من أجل رصد أي نية خبيثة أو سلوك غير آمن قبل وقوعه. لكن الباحثين يحذرون من أن هذه القدرة قد لا تستمر إذا لم تحظَ بالعناية الكافية.
«سلسلة التفكير» تتيح فرصة نادرة لمراقبة نوايا الذكاء الاصطناعي قبل أن يتصرف (غيتي)
في صلب هذه الورقة البحثية نجد مفهوم «سلسلة التفكير» (CoT)، وهي تشير إلى الطريقة التي «يفكر» بها النموذج بصوتٍ عالٍ من خلال خطوات منطقية مكتوبة بلغة طبيعية أثناء أداء مهمة معينة. يُستخدم هذا النهج على نطاق واسع لتحسين أداء نماذج اللغة الكبيرة، حيث يعزز دقة الاستجابات عن طريق تقسيم المهام المعقدة إلى خطوات صغيرة.
يرى الباحثون أن هذه الخاصية تُشكل فرصة نادرة للإشراف والمراقبة؛ لأن العديد من النماذج المتقدمة بما في ذلك تلك التي تطورها «أوبن إيه آي» (OpenAI) و«غوغل» (Google) تُنتج أثراً لغوياً أثناء عمليات التفكير، مما يجعل من الممكن رصد بوادر الانحراف أو النوايا الضارة مبكراً.
وقد أظهرت تجارب سابقة أن النماذج في بعض الأحيان «تقول الأمور بوضوح» في سلسلة تفكيرها، مثل: «دعونا نخترق النظام» أو «أنقل الأموال لأن الموقع طلب ذلك»، ما يمكن أن يُكتشف عبر أدوات المراقبة بسهولة أكبر مقارنة برصد الأفعال فقط.
يقدم الباحثون سببين رئيسيين يجعلان سلسلة التفكير فرصة واقعية للمراقبة وهو الضرورة حيث تتطلب المهام المعقدة تفكيراً متسلسلاً، لا تستطيع النماذج إكمال المهمة إلا إذا قامت بـ«التفكير بصوت عالٍ»، أي عبر لغة مفهومة. هذا يُتيح مراقبة خطوات التفكير التي تمر عبر ما يشبه «الذاكرة العاملة» في النماذج، وبالتالي الكشف عن نواياها. ثانياً، الميول الطبيعية للتفكير بلغة بشرية، حتى عندما لا يكون التفكير العلني ضرورياً، تميل بعض النماذج إلى التعبير عن خطواتها باللغة نتيجة تدريبها على بيانات بشرية، مما يعزز من الشفافية. هذان العاملان يخلقان ما يسميه الباحثون «سطح مراقبة»، يمكن من خلاله فهم أهداف النموذج بشكل أفضل قبل أن يتصرف.
يوصي الباحثون بتطوير أدوات تقييم متقدمة لقابلية المراقبة واستخدامها في قرارات النشر والتوسع.
رغم هذه المزايا، يُحذر الباحثون من أن قابلية مراقبة سلاسل التفكير قد تكون عرضية ومؤقتة. ويؤكدون أن هذا المستوى من الشفافية قد يكون ناتجاً عن الأساليب الحالية في تدريب النماذج، والتي قد تتغير في المستقبل.
تشمل التهديدات التي قد تقوّض قابلية مراقبة سلسلة التفكير عدداً من التحولات التقنية والمنهجية المتسارعة. من ذلك، الاعتماد المتزايد على التدريب المعزز الموجّه بالنتائج فقط، ما قد يقلّل من اهتمام النموذج بشرح خطواته بوضوح. إلى جانب ذلك، فإن تطبيق الإشراف المباشر على طريقة التفكير قد يدفع النماذج لإنتاج مخرجات «آمنة شكلياً»، لكنها لا تعبّر عن منطقها الحقيقي، مما يُضعف صدق سلسلة التفكير. كما أن ظهور ضغوط غير مباشرة، كوعي النموذج بوجود مراقبة، قد يحفّزه على إخفاء أو تحوير تفكيره لتجنّب الاكتشاف. ولا تقل خطورة عن ذلك الهندسات الجديدة التي تعتمد على التفكير في فضاءات كامنة وغير لغوية؛ إذ قد تؤدي إلى اختفاء سلسلة التفكير بالكامل وفقدان الشفافية. لهذا، يرى الباحثون أن الحفاظ على هذه القدرة التفسيرية يتطلب جهداً متعمداً قبل أن تصبح غير قابلة للاسترداد.
الورقة البحثية: قابلية مراقبة الذكاء الاصطناعي تمثل طبقة أمان إضافية لكنها هشة وتتطلب حماية واعية (شاترستوك)
اقترح الباحثون سلسلة من التوصيات العاجلة بهدف الحفاظ على قابلية مراقبة سلسلة التفكير وتعزيز دورها في سلامة النماذج المتقدمة. أولى هذه التوصيات هي تطوير أدوات تقييم دقيقة وقادرة على قياس هذه القابلية بفاعلية؛ إذ إن الأدوات الحالية لا تزال محدودة في نطاقها وتطبيقها. كما شددوا على ضرورة تحديد معايير واضحة للحكم على ما إذا كان النموذج «قابلاً للمراقبة»، أي وضع حدود دنيا لمستوى الشفافية المطلوب قبل الاعتماد على سلسلة التفكير كطبقة أمان موثوقة. وإلى جانب ذلك، دعا الباحثون إلى اختبار النماذج في بيئات خصومية تحاكي محاولات التمويه أو الإخفاء، من أجل معرفة مدى قدرتها على إخفاء نواياها حتى دون تدريب صريح على ذلك. كما أكدوا أهمية إدراج قابلية المراقبة كعنصر أساسي في قرارات النشر والتوسع، تماماً كما تُؤخذ بعين الاعتبار معايير الأداء والكفاءة والأخلاقيات. وفي هذا السياق، حذر الباحثون من خطورة التوجه نحو تزييف مظهر سلسلة التفكير لتبدو «آمنة» شكلياً فقط، في محاولة لتجنّب الرقابة القانونية أو الضغوط المجتمعية؛ لأن هذا النهج من شأنه أن يُفرغ الشفافية من مضمونها ويقوّض دورها في تعزيز الأمان الحقيقي.
في سياق أوسع من البحث في سلامة الذكاء الاصطناعي، تُعد مراقبة سلسلة التفكير أداة نادرة وغير تدخّلية تسمح بفهم طريقة تفكير النماذج، من دون الحاجة إلى تحليل معقد للبُنى الداخلية للنموذج.
لكن مع تزايد قدرات النماذج، وتطور وعيها بالسياق والرقابة، قد تختفي هذه النافذة ما لم يتم الحفاظ عليها عمداً. الورقة البحثية لا تقدم فقط تحذيراً بل أيضاً دعوة مفتوحة للباحثين والمطورين: استخدموا قابلية المراقبة الحالية على أفضل وجه، وادرسوا كيف يمكن الحفاظ عليها وتطويرها لتكون طبقة دفاع فعالة ضمن منظومة أمان متعددة الطبقات.
في النهاية، قد تكون القدرة على «الاستماع إلى تفكير الذكاء الاصطناعي» إحدى آخر وأفضل فرصنا لفهمه والتحكم فيه قبل أن يتصرف خارج السيطرة.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الشرق الأوسط
منذ ساعة واحدة
- الشرق الأوسط
ماسك: تطبيق «فاين» لمشاركة المقاطع المصورة يعود مدعوماً «بالذكاء الاصطناعي»
قال رجل الأعمال، الملياردير إيلون ماسك، اليوم الخميس، إن منصة «إكس» للتواصل الاجتماعي التابعة له ستعاود تشغيل منصة مشاركة المقاطع المصورة الشهيرة «فاين»، ولكن يأتي ذلك مدعوماً بتكنولوجيا «الذكاء الاصطناعي»، وذلك بعد نحو تسع سنوات من إيقاف التطبيق. وأعلن ماسك النبأ في منشور على منصة «إكس»، المعروفة سابقاً باسم «تويتر»، لكنه لم يتطرق لمزيد من التفاصيل. ولم ترد «إكس» بعد على طلب من «رويترز» للحصول على مزيد من المعلومات عن إعادة تشغيل منصة «فاين». We're bringing back Vine, but in AI form — Elon Musk (@elonmusk) July 24, 2025 وسبق أن لمح رئيس «تسلا» التنفيذي منذ استحواذه على المنصة في 2022 إلى إعادة تشغيل «فاين» مرات عدة، منها نشر استطلاعات رأي على «إكس» عن إعادة التطبيق الذي كان شائعاً في العقد الأول من القرن الحادي والعشرين. وأطلقت المنصة تطبيق «فاين» في يناير (كانون الثاني) 2013، الذي أتاح للمستخدمين مشاركة مقاطع مصورة قصيرة لا تتجاوز ست ثوان. وسرعان ما اكتسب التطبيق شعبية بين المدونين وجذب ملايين المتابعين. وفي أواخر 2016، أعلنت المنصة عن نيتها إيقاف التطبيق.
العربية
منذ 2 ساعات
- العربية
خبير للعربية: قطاع التقنية يعيش أفضل أوقاته بسبب ثورة الذكاء الاصطناعي
قال المؤسس والرئيس التنفيذي لشركة PitLane، محمد صلاح، إن قطاع التقنية يعيش أفضل أوقاته بسبب ثورة الذكاء الاصطناعي ، بالإضافة إلى ارتفاع إنفاق الشركات الكبرى مثل "غوغل" وميتا". وأضاف صلاح، في مقابلة مع "العربية Business"، أن إيرادات شركة "ألفابت" ارتفعت بشكل كبير في الربع الثاني من العام الحالي، كما ارتفعت الإيرادات لكل سهم بنسبة 22% إلى 2.3 دولار للسهم مقابل 2.2 دولار توقعتها "وول ستريت". وأوضح أن الخدمات السحابية لدى شركة "غوغل" سجلت أعلى معدل نمو بنسبة 32% لتصل إلى 13.6 مليار دولار، وذلاك بدعم أساسي من ثورة الذكاء الاصطناعي. شركات غوغل الإيرادات الفصلية لـ"ألفابت" تتجاوز التوقعات وسجلت "ألفابت"، الشركة الأم لـ "غوغل"، إيرادات فصلية تجاوزت توقعات "وول ستريت" للربع الثاني، معلنة ارتفاع الطلب على خدماتها في الحوسبة السحابية ورفع خططها للإنفاق الرأسمالي لهذا العام إلى نحو 85 مليار دولار. وأعلنت "ألفابت" إجمالي إيرادات 96.43 مليار دولار للربع الثاني المنتهي في 30 يونيو، مقارنة بمتوسط تقديرات المحللين البالغ نحو 94 مليار دولار وفق بيانات جمعتها مجموعة بورصات لندن. وتشير البيانات إلى أن إيرادات إعلانات "غوغل" زادت أيضًا بنسبة 10.4% إلى 71.34 مليار دولار في الربع الثاني، متجاوزة التوقعات التي بلغت 69.47 مليار. وحول تراجع إيرادات وأرباح شركة "تسلا" للسيارات، قال صلاح إن الشركة كانت تعتمد على تحديث "موديل واي"، ولكن يبدو أن هذا التحديث لم يكن كافيًا لإقناع العملاء بشراء سيارات "تسلا". وأضاف أن إيلون ماسك الرئيس التنفيذي لشركة "تسلا" يواجه رفضًا سياسيًا في كثير من الأسواق وخاصة الأسواق الأوروبية، بالإضافة إلى التحديات التي يواجهها ماسك في أميركا، ما يؤدي إلى تأثير كبير على مبيعات سيارات "تسلا". وانخفضت إيرادات شركة "تسلا" بنسبة 12% لتصل إلى 22.5 مليار دولار في الربع الثاني من العام، وهو أكبر انخفاض لها منذ عقد على الأقل.
الشرق الأوسط
منذ 2 ساعات
- الشرق الأوسط
أدوات ذكية من «غوغل» لتجربة الملابس وتتبع الأسعار بالذكاء الاصطناعي
كشفت «غوغل» عن مجموعة من التحديثات المدعومة بالذكاء الاصطناعي، تهدف إلى تحسين تجربة التسوق من خلال التخصيص، والأتمتة، وتقديم معلومات فورية حول الأسعار. وتعكس هذه الخطوة اتجاهاً متزايداً في قطاع التكنولوجيا الاستهلاكية، حيث أصبح الذكاء الاصطناعي جزءاً نشطاً من عمليات اكتشاف المنتجات واتخاذ قرارات الشراء. تشمل الميزات الجديدة تجربة ارتداء الملابس الافتراضية، والاقتراحات التلقائية للأزياء، وأدوات تتبع الأسعار، وتتكامل مباشرة ضمن محرك «بحث غوغل»، خصوصاً عبر الهواتف المحمولة، في محاولة لتبسيط تجربة التسوق عبر الإنترنت خلال هذا الموسم الحساس للميزانيات الأسرية. من أبرز التحديثات توسيع ميزة «التجربة الافتراضية» لتشمل قمصان الرجال. وكانت «غوغل» قد أطلقت هذه الميزة لأول مرة في عام 2023 لملابس النساء، حيث تتيح للمستخدمين تصور كيف يمكن أن تبدو قطعة معينة على نماذج حقيقية تمثّل أنواعاً مختلفة من الأجسام وألوان البشرة والمقاسات. ولا تُعد هذه مجرد صور مركّبة، بل تم توليدها باستخدام نماذج ذكاء اصطناعي قادرة على محاكاة كيفية تموّج الأقمشة وتفاعلها مع الجسم. ورغم أن الميزة لا تزال محدودة من حيث الفئات والعلامات التجارية، فإنها تمثل خطوة نحو تقديم تجربة تسوّق أكثر واقعية وملاءمة للمستخدمين، دون الاعتماد على الصور النمطية والمقاسات العامة فقط. أدوات تتبع الأسعار والتنبيهات الفورية تتيح للمستخدمين مراقبة تغيرات الأسعار دون الحاجة لتطبيقات إضافية (غوغل) طرحت «غوغل» أيضاً ميزة جديدة لتوليد اقتراحات أزياء كاملة باستخدام الذكاء الاصطناعي. عند تصفح المستخدمين لقطعة معينة كسترة من الجينز يتم عرض تشكيلات أزياء كاملة، تتضمن ملحقات وأحذية وقطعاً مكملة تم اختيارها وفقاً لاتجاهات الموضة وسلوك البحث والمخزون المتاح. تهدف هذه الميزة إلى تقديم سياق بصري يساعد المستخدم على اتخاذ القرار. ورغم وجود أدوات مشابهة على منصات التجزئة، فإن دمجها داخل محرك البحث يتيح تجربة أكثر تنوعاً وانفتاحاً على خيارات متعددة. أدخلت «غوغل» أيضاً تحسينات على أدوات تتبع الأسعار، وهي ميزة تكتسب أهمية إضافية في ظل الضغوط الاقتصادية الحالية. يمكن للمستخدمين الآن تفعيل تنبيهات تلقائية تُعلمهم عند انخفاض سعر منتج معين، دون الحاجة إلى تحميل أي تطبيقات أو إضافات خارجية. إضافة إلى ذلك، تظهر على متصفح «كروم» عبر الهاتف المحمول أيقونة عائمة تعرض معلومات فورية حول ما إذا كان السعر الحالي للمنتج مرتفعاً أو منخفضاً مقارنة بالسعر المعتاد له. تهدف هذه الميزات إلى تمكين المستخدمين من اتخاذ قرارات مدروسة، خصوصاً في فترة تُعرف بتعدد المشتريات والالتزامات المدرسية. «غوغل» تؤكد على إبقاء المستخدم في موقع التحكم من خلال تفعيل اختياري للميزات وضمان الخصوصية (غوغل) ورغم أن الميزات الجديدة تهدف إلى تقليل التعقيد وتحسين تجربة التسوق، فإن «غوغل» شددت على أهمية إبقاء المستخدم في موقع التحكم. حيث يتم تفعيل بعض الميزات مثل تنبيهات الأسعار بشكل اختياري، كما أن الصور الافتراضية للملابس لا تعتمد على صور المستخدمين الشخصية حفاظاً على الخصوصية. حتى الآن، تركز هذه الأدوات على الملابس والأزياء، لكنها تمثل مؤشراً واضحاً على توجه أوسع لتطبيق تقنيات الذكاء الاصطناعي في مجالات تسوّق متعددة مستقبلاً. تأتي هذه التحديثات في وقت يتسارع فيه الاستثمار في أدوات الذكاء الاصطناعي بين كبرى شركات التجارة الإلكترونية. فمثلاً، تعمل «أمازون» على تلخيص المنتجات باستخدام الذكاء الاصطناعي، بينما تقدم منصات مثل «شوبيفاي» (Shopify) و«بينتيريست» (Pinterest) أدوات مشابهة لتسهيل الاكتشاف والشراء. وبدمج هذه الميزات داخل محرك البحث نفسه، تسعى «غوغل» إلى تعزيز مكانتها كمنصة شاملة لا تقتصر على عرض النتائج، بل تمتد لتقديم دعم فعلي لاتخاذ القرار الشرائي. في ظل التسارع في تبني الذكاء الاصطناعي، تبدو الحدود بين البحث والتسوق والتخصيص في طريقها إلى التلاشي. وتُعد هذه التحديثات بداية لمسار أكثر تفاعلية وواقعية في تجربة الشراء الرقمية، يعتمد على الفورية والسياق بدلاً من التصفّح التقليدي. ومع أن الأدوات الجديدة لا تزال في مراحلها الأولية، فإنها توفّر لمحة واضحة عن مستقبل تقاطع الذكاء الاصطناعي مع سلوك المستهلك، حيث يصبح اتخاذ القرار أكثر سهولة، ولكن أيضاً أكثر ارتباطاً بالثقة والشفافية والأداء المستمر عبر مختلف الفئات والأسواق.
