تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان
في تحرك نادر يوحّد أبرز عقول الذكاء الاصطناعي حول العالم، دعا باحثون من "OpenAI" و" غوغل ديب مايند" و"أنثروبيك"، إلى جانب مؤسسات تقنية وأكاديمية مرموقة، إلى مراقبة ما يُعرف بـ "سلاسل أفكار" الذكاء الاصطناعي.
جاء ذلك في ورقة موقف نُشرت هذا الأسبوع، محذرين من فقدان السيطرة على هذه التقنية المتقدمة إذا لم يتم التحرك الآن.
ما هي سلاسل الأفكار ولماذا تُثير القلق؟
"سلاسل الأفكار" أو CoT (Chain of Thought)، هي طريقة تفكير يستخدمها الذكاء الاصطناعي لحل المشكلات خطوة بخطوة، على غرار كتابة الإنسان لملاحظات لحل مسألة معقدة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
تعتبر هذه السلاسل حاسمة لفهم كيفية وصول الذكاء الاصطناعي إلى قراراته، خاصةً في نماذج الاستدلال الحديثة مثل o3 من "OpenAI" وR1 من "ديب سيك".
ويحذر الباحثون من أن هذه السلاسل، رغم وضوحها حاليًا، قد تصبح أقل شفافية مع تطور النماذج، ما يجعل من الصعب تتبع منطق الآلة وفهم نواياها.
دعوة للبحث العاجل
تدعو الورقة المطورين إلى دراسة كيفية جعل هذه السلاسل أكثر قابلية للمراقبة، وتحذّر من أي تقنيات قد تقلل من وضوحها أو تُعرّض موثوقيتها للخطر.
ويقول الباحثون إن مراقبة CoT قد تصبح في المستقبل وسيلة رئيسية لضمان سلامة وموثوقية نماذج الذكاء الاصطناعي.
توقيعات بأوزان ثقيلة
من بين الأسماء الموقعة على الورقة:
- جيفري هينتون، "عرّاب الذكاء الاصطناعي" والحائز على نوبل.
- إيليا سوتسكيفر، الرئيس التنفيذي لشركة Safe Superintelligence.
- مارك تشين من شركة OpenAI.
- شين ليج من "غوغل ديب مايند".
- دان هندريكس مستشار السلامة في "xAI".
- عدد من الباحثين من "أمازون" و"ميتا" وجامعة بيركلي ومؤسسة Apollo Research.
سباق بين الأداء والفهم
على الرغم من الإنجازات اللافتة في أداء الذكاء الاصطناعي خلال العام الماضي، لا يزال الفهم العميق لآلية اتخاذ القرار لدى هذه النماذج محدودًا.
وقد حذّر الباحث بوين بيكر من "OpenAI"، قائلاً: "نحن نمر بمرحلة حرجة. هذه الطريقة الجديدة في التفكير قد تختفي خلال سنوات إن لم نحظَ بالاهتمام الكافي بها الآن."
مخاوف من السرعة وغياب الشفافية
مع تسارع تطوير نماذج الاستدلال منذ إطلاق "OpenAI" لأول نموذج من هذا النوع (o1) في سبتمبر 2024، تسعى شركات مثل "xAI" و"غوغل ديب مايند" إلى التفوق في سباق الأداء، لكن الخبراء يُحذّرون من أن ذلك قد يُغفل أهمية فهم المنطق الداخلي للقرارات التي تتخذها هذه الأنظمة.
"أنثروبيك" تقود جهود التفسير
تعد شركة أنثروبيك من أبرز الجهات المهتمة بمفهوم قابلية التفسير، وقد أعلن مديرها التنفيذي داريو أمودي عن خطة تمتد حتى 2027 لفك شفرة "عقل" الذكاء الاصطناعي.
كما شدد على ضرورة تعاون الشركات الكبرى مثل "OpenAI" و"غوغل ديب مايند" لدفع هذا المجال قُدمًا.
تشير أبحاث "OpenAI" إلى أن مراقبة "سلاسل التفكير" قد تصبح أداة لتتبع مدى توافق وسلامة النماذج، وهو اتجاه تدعمه الورقة الجديدة، التي تهدف إلى جذب التمويل والاهتمام البحثي نحو هذا المجال قبل أن يصبح التعامل مع النماذج المتقدمة تحديًا خارج السيطرة.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
خبرني
منذ 12 ساعات
- خبرني
OpenAI تعلن عن إطلاق نموذج GPT-5 في آب القادم
خبرني - تستعد شركة OpenAI، المطورة لروبوت الدردشة "شات جي بي تي"، لإطلاق نموذجها الجديد GPT-5 في أغسطس المقبل، وفقًا لتقارير حديثة. ويُعد هذا الإصدار نقلة نوعية في عالم الذكاء الاصطناعي، حيث يجمع بين نماذج متعددة لتحقيق أداء متكامل ومتقدم. يتميز GPT-5 بقدرته على دمج نماذج الذكاء الاصطناعي التقليدية مع نماذج الاستدلال مثل سلسلة "o3"، مما يمنحه قدرة أكبر على فهم وتحليل البيانات وتنفيذ مهام متعددة بكفاءة أعلى. وقد خضع النموذج حاليًا لاختبارات مكثفة من قبل المختبرين وخبراء الأمن لضمان دقته وسلامته قبل الإطلاق الرسمي. وتخطط OpenAI، المدعومة من شركة مايكروسوفت، لإطلاق GPT-5 بإصدارات صغيرة ومتناهية الصغر، لتكون متاحة عبر واجهة برمجة التطبيقات (API)، ما يتيح للمطورين والشركات استخدام رغم أن الموعد الرسمي للإطلاق محدد في أوائل أغسطس، إلا أن OpenAI قد تُجري تعديلات على الجدول الزمني بناءً على نتائج اختبارات النموذج والتحديات التقنية المحتملة. يُتوقع أن يسهم GPT-5 في دفع حدود الذكاء الاصطناعي إلى آفاق جديدة، من خلال تحسينات في البرمجة والقدرات الاستدلالية، ما يفتح آفاقًا واسعة لاستخدامه في مجالات متعددة مثل التقنية، التعليم، والبحث العلمي.
رؤيا
منذ 13 ساعات
- رؤيا
OpenAI تعلن عن إطلاق نموذج GPT-5 في أغسطس مع تحسينات تقنية متقدمة
"OpenAI" تستعد لإطلاق نموذج "GPT-5" في أغسطس تستعد شركة OpenAI، المطورة لروبوت الدردشة "شات جي بي تي"، لإطلاق نموذجها الجديد GPT-5 في أغسطس المقبل، وفقًا لتقارير حديثة. ويُعد هذا الإصدار نقلة نوعية في عالم الذكاء الاصطناعي، حيث يجمع بين نماذج متعددة لتحقيق أداء متكامل ومتقدم. اقرأ أيضاً: الولايات المتحدة تتعرض لاختراق سيبراني غير مسبوق: هجوم "يوم الصفر" يستهدف خوادم "مايكروسوفت" يتميز GPT-5 بقدرته على دمج نماذج الذكاء الاصطناعي التقليدية مع نماذج الاستدلال مثل سلسلة "o3"، مما يمنحه قدرة أكبر على فهم وتحليل البيانات وتنفيذ مهام متعددة بكفاءة أعلى. وقد خضع النموذج حاليًا لاختبارات مكثفة من قبل المختبرين وخبراء الأمن لضمان دقته وسلامته قبل الإطلاق الرسمي. وتخطط OpenAI، المدعومة من شركة مايكروسوفت، لإطلاق GPT-5 بإصدارات صغيرة ومتناهية الصغر، لتكون متاحة عبر واجهة برمجة التطبيقات (API)، ما يتيح للمطورين والشركات استخدام النموذج بسهولة في تطبيقاتهم المختلفة. رغم أن الموعد الرسمي للإطلاق محدد في أوائل أغسطس، إلا أن OpenAI قد تُجري تعديلات على الجدول الزمني بناءً على نتائج اختبارات النموذج والتحديات التقنية المحتملة.
سواليف احمد الزعبي
منذ 15 ساعات
- سواليف احمد الزعبي
ChatGPT يتحول إلى وكيل خارق.. يتحكم بجهازك وينفذ المهام نيابة عنك
#سواليف أعلنت #منصة_تشات_جي_بي_تي من شركة OpenAI عن ميزة جديدة تشبه 'الوكيل'، تتيح #التحكم_الكامل في #الحاسوب وتنفيذ المهام تلقائيًا. لكن موثوقية الميزة لا تزال قيد التحقق. وتُركز OpenAI جهودها على أكثر التوجهات رواجًا في مجال الذكاء الاصطناعي حاليًا، وكلاء الذكاء الاصطناعي، أو الأدوات التي تتجاوز روبوتات الدردشة لإنجاز مهام معقدة ومتعددة الخطوات نيابةً عن المستخدم. وأطلقت الشركة يوم الخميس برنامج ChatGPT Agent، الذي تُسوّقه كأداة تُمكّنك من إنجاز العمل نيابةً عنك باستخدام 'حاسوبها الافتراضي' الخاص. وفي عرض تقديمي شارك به موقع التقنيات الرائد The Verge، صرّح ياش كومار وإيزا فولفورد، رئيس قسم المنتجات ورئيسة قسم الأبحاث في ChatGPT Agent، بأن البرنامج مدعوم بنموذج جديد طورته OpenAI خصيصًا لهذا المنتج. وأوضحت الشركة أن الأداة الجديدة قادرة على تنفيذ مهام مثل الاطلاع على تقويم المستخدم لإطلاعه على اجتماعات العملاء القادمة، والتخطيط وشراء المكونات لإعداد فطور عائلي، وإنشاء عرض تقديمي بناءً على تحليلها للشركات المنافسة. وتم تدريب نموذج ChatGPT Agent، الذي لا يحمل اسمًا محددًا، على مهام معقدة تتطلب أدوات متعددة – مثل متصفح النصوص، والمتصفح المرئي، ومحطة طرفية تُمكّن المستخدمين من استيراد بياناتهم الخاصة – عبر التعلم التعزيزي، وهي نفس التقنية المستخدمة في جميع نماذج الاستدلال الخاصة بـ OpenAI. وذكرت OpenAI أن ChatGPT Agent يجمع بين قدرات كلٍّ من Operator وDeep Research، وهما اثنتان من أدوات الذكاء الاصطناعي الحالية لديها. ولتطوير الأداة الجديدة، جمعت الشركة فرق العمل المسؤولة عن كلٍّ من Operator وDeep Research في فريق واحد موحد. وصرّح كومار وفولفورد لموقع The Verge أن الفريق الجديد يتألف من 20 إلى 35 شخصًا من قسمي المنتجات والأبحاث. وفي العرض التوضيحي، استعرض كومار وفولفورد حالات استخدام محتملة لـ ChatGPT Agent، مثل طلب تخطيط موعد رومانسي من خلال الاتصال بتقويم Google لمعرفة أوقات فراغ المستخدم، ثم ربطه بـ OpenTable للعثور على أماكن شاغرة في أنواع معينة من المطاعم. كما أوضحا كيف يمكن للمستخدم مقاطعة العملية بإضافة، على سبيل المثال، فئة مطعم أخرى للبحث عنها. وأظهر عرض توضيحي آخر كيف يمكن لـ ChatGPT Agent إنشاء تقرير بحثي حول صعود دمية Labubus وانتشار الطلب عليها بالأسواق مقابل دمى Beanie Babies. وقالت فولفورد إنها استمتعت باستخدامه للتسوق عبر الإنترنت لأن الجمع بين تقنيتي Deep Research وOperator كان أفضل وأكثر شمولاً من تجربة العملية باستخدام Operator فقط. وقال كومار إنه بدأ باستخدام ChatGPT Agent لأتمتة جوانب صغيرة من حياته، مثل طلب موقف سيارة جديد في مكتب OpenAI كل خميس بدلاً من الحضور يوم الاثنين وقد نسي طلبه دون وجود مكان لركن السيارة. وأضاف كومار أنه بما أن ChatGPT Agent قادر على الوصول إلى 'جهاز كمبيوتر كامل' بدلاً من مجرد متصفح، فقد 'حسّنوا مجموعة الأدوات بشكل كبير'. ومع ذلك، ووفقًا للعرض التوضيحي، قد تكون الأداة بطيئة بعض الشيء، وعندما سُئل عن زمن الوصول، قال كومار إن فريقهم يركز بشكل أكبر على 'تحسين الأداء للمهام الصعبة'، وأن المستخدمين ليسوا مُجبرين على الجلوس ومشاهدة ChatGPT Agent وهو يعمل.
