تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان
في تحرك نادر يوحّد أبرز عقول الذكاء الاصطناعي حول العالم، دعا باحثون من "OpenAI" و" غوغل ديب مايند" و"أنثروبيك"، إلى جانب مؤسسات تقنية وأكاديمية مرموقة، إلى مراقبة ما يُعرف بـ "سلاسل أفكار" الذكاء الاصطناعي.
جاء ذلك في ورقة موقف نُشرت هذا الأسبوع، محذرين من فقدان السيطرة على هذه التقنية المتقدمة إذا لم يتم التحرك الآن.
ما هي سلاسل الأفكار ولماذا تُثير القلق؟
"سلاسل الأفكار" أو CoT (Chain of Thought)، هي طريقة تفكير يستخدمها الذكاء الاصطناعي لحل المشكلات خطوة بخطوة، على غرار كتابة الإنسان لملاحظات لحل مسألة معقدة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
تعتبر هذه السلاسل حاسمة لفهم كيفية وصول الذكاء الاصطناعي إلى قراراته، خاصةً في نماذج الاستدلال الحديثة مثل o3 من "OpenAI" وR1 من "ديب سيك".
ويحذر الباحثون من أن هذه السلاسل، رغم وضوحها حاليًا، قد تصبح أقل شفافية مع تطور النماذج، ما يجعل من الصعب تتبع منطق الآلة وفهم نواياها.
دعوة للبحث العاجل
تدعو الورقة المطورين إلى دراسة كيفية جعل هذه السلاسل أكثر قابلية للمراقبة، وتحذّر من أي تقنيات قد تقلل من وضوحها أو تُعرّض موثوقيتها للخطر.
ويقول الباحثون إن مراقبة CoT قد تصبح في المستقبل وسيلة رئيسية لضمان سلامة وموثوقية نماذج الذكاء الاصطناعي.
توقيعات بأوزان ثقيلة
من بين الأسماء الموقعة على الورقة:
- جيفري هينتون، "عرّاب الذكاء الاصطناعي" والحائز على نوبل.
- إيليا سوتسكيفر، الرئيس التنفيذي لشركة Safe Superintelligence.
- مارك تشين من شركة OpenAI.
- شين ليج من "غوغل ديب مايند".
- دان هندريكس مستشار السلامة في "xAI".
- عدد من الباحثين من "أمازون" و"ميتا" وجامعة بيركلي ومؤسسة Apollo Research.
سباق بين الأداء والفهم
على الرغم من الإنجازات اللافتة في أداء الذكاء الاصطناعي خلال العام الماضي، لا يزال الفهم العميق لآلية اتخاذ القرار لدى هذه النماذج محدودًا.
وقد حذّر الباحث بوين بيكر من "OpenAI"، قائلاً: "نحن نمر بمرحلة حرجة. هذه الطريقة الجديدة في التفكير قد تختفي خلال سنوات إن لم نحظَ بالاهتمام الكافي بها الآن."
مخاوف من السرعة وغياب الشفافية
مع تسارع تطوير نماذج الاستدلال منذ إطلاق "OpenAI" لأول نموذج من هذا النوع (o1) في سبتمبر 2024، تسعى شركات مثل "xAI" و"غوغل ديب مايند" إلى التفوق في سباق الأداء، لكن الخبراء يُحذّرون من أن ذلك قد يُغفل أهمية فهم المنطق الداخلي للقرارات التي تتخذها هذه الأنظمة.
"أنثروبيك" تقود جهود التفسير
تعد شركة أنثروبيك من أبرز الجهات المهتمة بمفهوم قابلية التفسير، وقد أعلن مديرها التنفيذي داريو أمودي عن خطة تمتد حتى 2027 لفك شفرة "عقل" الذكاء الاصطناعي.
كما شدد على ضرورة تعاون الشركات الكبرى مثل "OpenAI" و"غوغل ديب مايند" لدفع هذا المجال قُدمًا.
تشير أبحاث "OpenAI" إلى أن مراقبة "سلاسل التفكير" قد تصبح أداة لتتبع مدى توافق وسلامة النماذج، وهو اتجاه تدعمه الورقة الجديدة، التي تهدف إلى جذب التمويل والاهتمام البحثي نحو هذا المجال قبل أن يصبح التعامل مع النماذج المتقدمة تحديًا خارج السيطرة.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
السوسنة
منذ 11 ساعات
- السوسنة
تحديث جديد لـ ChatGPT على أجهزة ماك
السوسنة - أعلنت شركة "OpenAI" عن تفعيل ميزة "وضع الوكيل" (ChatGPT Agent) ضمن تطبيق "شات جي بي تي" المخصص لأجهزة macOS، لتتيح للمستخدمين أداء المهام المعقدة بطريقة أكثر تفاعلية واستقلالية.الميزة الجديدة أصبحت متاحة لمشتركي باقة Plus، وتظهر كخيار في شريط الأدوات أسفل نافذة التطبيق. وبمجرد تفعيلها، يتحول "شات جي بي تي" إلى وكيل رقمي ذكي قادر على التخطيط والبحث واتخاذ القرارات بشكل استباقي لتنفيذ المهام نيابةً عن المستخدم، بحسب تقرير لموقع "TechRadar".وقد استعرض سام ألتمان، الرئيس التنفيذي لـ "OpenAI"، خلال الإطلاق، مجموعة من الاستخدامات العملية لوضع الوكيل، من بينها التخطيط للفعاليات الكبرى وإنشاء عروض تقديمية استنادًا إلى مصادر بيانات واسعة.وتصف الشركة هذه الميزة بأنها "شات جي بي تي الذي يمكنه التفكير والتصرف"، حيث يستخدم الجهاز كأداة لإنجاز مهام معقدة باستخدام مجموعة من المهارات البرمجية المدمجة.ورغم توفر الميزة على macOS، إلا أنها لم تُضاف بعد إلى إصدار "شات جي بي تي" الخاص بنظام ويندوز. كما أبلغ بعض المستخدمين عن عدم ظهور الأيقونة تلقائيًا ضمن تطبيق ماك، لكن "OpenAI" أشارت إلى إمكانية الوصول إليها يدويًا من خلال شريط البحث.يُذكر أن إصدار سطح المكتب من التطبيق يوفر تجربة أكثر تكاملاً مقارنة باستخدام المتصفح، حيث يدعم اختصارات تشغيل سريعة ووضع محادثة صوتية تفاعلية، ما يجعل "شات جي بي تي" أكثر قربًا من مفهوم المساعد الشخصي الرقمي.اقرأ أيضاً:
الوكيل
منذ 12 ساعات
- الوكيل
تهديدات الرئيس التنفيذي لشركة OpenAI من ChatGPT.. فما...
الوكيل الإخباري- في مقابلة حديثة على بودكاست This Past Weekend، حذّر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، من أن المستخدمين لا يجب أن يتوقعوا سرية قانونية لمحادثاتهم مع روبوت الدردشة الذكي ChatGPT، خاصة عندما تتعلق المحادثات بمواضيع شخصية وحساسة. اضافة اعلان النقاط الرئيسية: يستخدم ملايين الأشخاص، بمن فيهم الأطفال، ChatGPT كأداة للدعم النفسي أو العلاج، ويشاركونه أموراً شخصية وعاطفية عميقة. في المقابل، لا يوجد إطار قانوني أو حماية خاصة لهذه المحادثات كما هو الحال مع المحادثات بين الطبيب والمريض أو المحامي وموكله. ألتمان أكد أنه في حال رفع دعاوى قضائية، قد تُطلب محادثات المستخدمين كأدلة، مما يشكل تهديداً لخصوصية المستخدمين. خلافاً لتطبيقات التراسل المشفرة مثل WhatsApp أو Signal، تحتفظ OpenAI بنسخ من المحادثات، ويجوز لموظفيها الاطلاع عليها لتحسين النموذج أو مراقبة الاستخدام. OpenAI تحذف عادة المحادثات من النسخة المجانية بعد 30 يومًا، لكنها قد تحتفظ بها لأسباب قانونية وأمنية. الشركة تخضع حالياً لدعوى قضائية تلزمها بحفظ محادثات ملايين المستخدمين، باستثناء عملاء المؤسسات. خلاصة: رغم أن ChatGPT أضحى أداة شائعة للتواصل والدعم النفسي، إلا أن المستخدمين بحاجة لفهم أن خصوصيتهم ليست مضمونة قانونياً، ويجب توخي الحذر عند مشاركة معلومات حساسة على هذه المنصة.
الوكيل
منذ 15 ساعات
- الوكيل
تهديدات الرئيس التنفيذي لشركة OpenAI من ChatGPT.. فما...
الوكيل الإخباري- في مقابلة حديثة على بودكاست This Past Weekend، حذّر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، من أن المستخدمين لا يجب أن يتوقعوا سرية قانونية لمحادثاتهم مع روبوت الدردشة الذكي ChatGPT، خاصة عندما تتعلق المحادثات بمواضيع شخصية وحساسة. اضافة اعلان النقاط الرئيسية: يستخدم ملايين الأشخاص، بمن فيهم الأطفال، ChatGPT كأداة للدعم النفسي أو العلاج، ويشاركونه أموراً شخصية وعاطفية عميقة. في المقابل، لا يوجد إطار قانوني أو حماية خاصة لهذه المحادثات كما هو الحال مع المحادثات بين الطبيب والمريض أو المحامي وموكله. ألتمان أكد أنه في حال رفع دعاوى قضائية، قد تُطلب محادثات المستخدمين كأدلة، مما يشكل تهديداً لخصوصية المستخدمين. خلافاً لتطبيقات التراسل المشفرة مثل WhatsApp أو Signal، تحتفظ OpenAI بنسخ من المحادثات، ويجوز لموظفيها الاطلاع عليها لتحسين النموذج أو مراقبة الاستخدام. OpenAI تحذف عادة المحادثات من النسخة المجانية بعد 30 يومًا، لكنها قد تحتفظ بها لأسباب قانونية وأمنية. الشركة تخضع حالياً لدعوى قضائية تلزمها بحفظ محادثات ملايين المستخدمين، باستثناء عملاء المؤسسات. خلاصة: رغم أن ChatGPT أضحى أداة شائعة للتواصل والدعم النفسي، إلا أن المستخدمين بحاجة لفهم أن خصوصيتهم ليست مضمونة قانونياً، ويجب توخي الحذر عند مشاركة معلومات حساسة على هذه المنصة.
