تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان
في تحرك نادر يوحّد أبرز عقول الذكاء الاصطناعي حول العالم، دعا باحثون من "OpenAI" و" غوغل ديب مايند" و"أنثروبيك"، إلى جانب مؤسسات تقنية وأكاديمية مرموقة، إلى مراقبة ما يُعرف بـ "سلاسل أفكار" الذكاء الاصطناعي.
جاء ذلك في ورقة موقف نُشرت هذا الأسبوع، محذرين من فقدان السيطرة على هذه التقنية المتقدمة إذا لم يتم التحرك الآن.
ما هي سلاسل الأفكار ولماذا تُثير القلق؟
"سلاسل الأفكار" أو CoT (Chain of Thought)، هي طريقة تفكير يستخدمها الذكاء الاصطناعي لحل المشكلات خطوة بخطوة، على غرار كتابة الإنسان لملاحظات لحل مسألة معقدة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
تعتبر هذه السلاسل حاسمة لفهم كيفية وصول الذكاء الاصطناعي إلى قراراته، خاصةً في نماذج الاستدلال الحديثة مثل o3 من "OpenAI" وR1 من "ديب سيك".
ويحذر الباحثون من أن هذه السلاسل، رغم وضوحها حاليًا، قد تصبح أقل شفافية مع تطور النماذج، ما يجعل من الصعب تتبع منطق الآلة وفهم نواياها.
دعوة للبحث العاجل
تدعو الورقة المطورين إلى دراسة كيفية جعل هذه السلاسل أكثر قابلية للمراقبة، وتحذّر من أي تقنيات قد تقلل من وضوحها أو تُعرّض موثوقيتها للخطر.
ويقول الباحثون إن مراقبة CoT قد تصبح في المستقبل وسيلة رئيسية لضمان سلامة وموثوقية نماذج الذكاء الاصطناعي.
توقيعات بأوزان ثقيلة
من بين الأسماء الموقعة على الورقة:
- جيفري هينتون، "عرّاب الذكاء الاصطناعي" والحائز على نوبل.
- إيليا سوتسكيفر، الرئيس التنفيذي لشركة Safe Superintelligence.
- مارك تشين من شركة OpenAI.
- شين ليج من "غوغل ديب مايند".
- دان هندريكس مستشار السلامة في "xAI".
- عدد من الباحثين من "أمازون" و"ميتا" وجامعة بيركلي ومؤسسة Apollo Research.
سباق بين الأداء والفهم
على الرغم من الإنجازات اللافتة في أداء الذكاء الاصطناعي خلال العام الماضي، لا يزال الفهم العميق لآلية اتخاذ القرار لدى هذه النماذج محدودًا.
وقد حذّر الباحث بوين بيكر من "OpenAI"، قائلاً: "نحن نمر بمرحلة حرجة. هذه الطريقة الجديدة في التفكير قد تختفي خلال سنوات إن لم نحظَ بالاهتمام الكافي بها الآن."
مخاوف من السرعة وغياب الشفافية
مع تسارع تطوير نماذج الاستدلال منذ إطلاق "OpenAI" لأول نموذج من هذا النوع (o1) في سبتمبر 2024، تسعى شركات مثل "xAI" و"غوغل ديب مايند" إلى التفوق في سباق الأداء، لكن الخبراء يُحذّرون من أن ذلك قد يُغفل أهمية فهم المنطق الداخلي للقرارات التي تتخذها هذه الأنظمة.
"أنثروبيك" تقود جهود التفسير
تعد شركة أنثروبيك من أبرز الجهات المهتمة بمفهوم قابلية التفسير، وقد أعلن مديرها التنفيذي داريو أمودي عن خطة تمتد حتى 2027 لفك شفرة "عقل" الذكاء الاصطناعي.
كما شدد على ضرورة تعاون الشركات الكبرى مثل "OpenAI" و"غوغل ديب مايند" لدفع هذا المجال قُدمًا.
تشير أبحاث "OpenAI" إلى أن مراقبة "سلاسل التفكير" قد تصبح أداة لتتبع مدى توافق وسلامة النماذج، وهو اتجاه تدعمه الورقة الجديدة، التي تهدف إلى جذب التمويل والاهتمام البحثي نحو هذا المجال قبل أن يصبح التعامل مع النماذج المتقدمة تحديًا خارج السيطرة.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
صراحة نيوز
منذ 14 ساعات
- صراحة نيوز
AI تكشف عن ميزة 'وكيل ذكي' جديدة في ChatGPT لأداء المهام تلقائيًا
صراحة نيوز- أعلنت شركة OpenAI عن إطلاق ميزة جديدة ضمن منصة ChatGPT تحمل اسم ChatGPT Agent ، وهي أداة متقدمة تحاكي فكرة 'الوكيل الذكي'، تتيح للمستخدم تنفيذ مهام متعددة تلقائيًا عبر 'حاسوب افتراضي' متكامل. وتأتي هذه الخطوة ضمن تركيز الشركة على تطوير أدوات الذكاء الاصطناعي القادرة على القيام بمهام معقدة نيابة عن المستخدم. ورغم أن الميزة لا تزال في مرحلة التحقق من موثوقيتها، إلا أن الشركة عرضت قدراتها الأولية في تقديم مباشر لموقع The Verge ، بمشاركة ياش كومار ، رئيس قسم المنتجات، و إيزا فولفورد ، رئيسة قسم الأبحاث في ChatGPT Agent. ووفقًا لعرض OpenAI، يستطيع الوكيل الذكي أداء مهام تشمل مراجعة التقويم لإبلاغ المستخدم بمواعيد مهمة، التخطيط لوجبات، التسوق الإلكتروني، إنشاء عروض تقديمية، وإجراء بحوث تتطلب تحليل بيانات من مصادر متعددة. وقد تم تدريب النموذج الجديد باستخدام تقنيات متقدمة في التعلم التعزيزي ، وهي نفس التقنية المستخدمة في نماذج الاستدلال التابعة لـ OpenAI. الميزة تعتمد على دمج إمكانيات أداتي Deep Research و Operator ، حيث تم توحيد الفريقين المطورين لهما في فريق واحد مكون من 20 إلى 35 باحثًا ومهندسًا. وتُظهر العروض التوضيحية أن ChatGPT Agent قادر على تنفيذ سيناريوهات عملية مثل التخطيط لموعد عشاء رومانسي، وربطه بتقويم Google وحجز المطاعم عبر OpenTable، بالإضافة إلى إعداد تقارير تحليلية للسوق. وتحدث كومار عن استخداماته الشخصية للوكيل الجديد، موضحًا كيف أصبح يعتمد عليه في أتمتة مهام يومية مثل حجز موقف سيارة أسبوعيًا، وهو ما كان ينساه سابقًا. وأشار إلى أن قدرة الأداة على استخدام جهاز حاسوب كامل، وليس فقط متصفح، ساعد في توسيع قدراتها بشكل كبير. لكن على الرغم من هذه المزايا، أشار العرض التوضيحي إلى أن الأداء قد يكون بطيئًا في بعض المهام، وهو ما أكده كومار، موضحًا أن التركيز حاليًا ينصب على تحسين الأداء في المهام المعقدة وليس فقط السرعة.
سرايا الإخبارية
منذ 15 ساعات
- سرايا الإخبارية
ChatGPT يتحول إلى وكيل خارق .. يتحكم بجهازك وينفذ المهام نيابة عنك
سرايا - أعلنت منصة تشات جي بي تي من شركة OpenAI عن ميزة جديدة تشبه "الوكيل"، تتيح التحكم الكامل في الحاسوب وتنفيذ المهام تلقائيًا. لكن موثوقية الميزة لا تزال قيد التحقق. وتُركز OpenAI جهودها على أكثر التوجهات رواجًا في مجال الذكاء الاصطناعي حاليًا، وكلاء الذكاء الاصطناعي، أو الأدوات التي تتجاوز روبوتات الدردشة لإنجاز مهام معقدة ومتعددة الخطوات نيابةً عن المستخدم. وأطلقت الشركة يوم الخميس برنامج ChatGPT Agent، الذي تُسوّقه كأداة تُمكّنك من إنجاز العمل نيابةً عنك باستخدام "حاسوبها الافتراضي" الخاص. وفي عرض تقديمي شارك به موقع التقنيات الرائد The Verge، صرّح ياش كومار وإيزا فولفورد، رئيس قسم المنتجات ورئيسة قسم الأبحاث في ChatGPT Agent، بأن البرنامج مدعوم بنموذج جديد طورته OpenAI خصيصًا لهذا المنتج. وأوضحت الشركة أن الأداة الجديدة قادرة على تنفيذ مهام مثل الاطلاع على تقويم المستخدم لإطلاعه على اجتماعات العملاء القادمة، والتخطيط وشراء المكونات لإعداد فطور عائلي، وإنشاء عرض تقديمي بناءً على تحليلها للشركات المنافسة. وتم تدريب نموذج ChatGPT Agent، الذي لا يحمل اسمًا محددًا، على مهام معقدة تتطلب أدوات متعددة - مثل متصفح النصوص، والمتصفح المرئي، ومحطة طرفية تُمكّن المستخدمين من استيراد بياناتهم الخاصة - عبر التعلم التعزيزي، وهي نفس التقنية المستخدمة في جميع نماذج الاستدلال الخاصة بـ OpenAI. وذكرت OpenAI أن ChatGPT Agent يجمع بين قدرات كلٍّ من Operator وDeep Research، وهما اثنتان من أدوات الذكاء الاصطناعي الحالية لديها. ولتطوير الأداة الجديدة، جمعت الشركة فرق العمل المسؤولة عن كلٍّ من Operator وDeep Research في فريق واحد موحد. وصرّح كومار وفولفورد لموقع The Verge أن الفريق الجديد يتألف من 20 إلى 35 شخصًا من قسمي المنتجات والأبحاث. وفي العرض التوضيحي، استعرض كومار وفولفورد حالات استخدام محتملة لـ ChatGPT Agent، مثل طلب تخطيط موعد رومانسي من خلال الاتصال بتقويم Google لمعرفة أوقات فراغ المستخدم، ثم ربطه بـ OpenTable للعثور على أماكن شاغرة في أنواع معينة من المطاعم. كما أوضحا كيف يمكن للمستخدم مقاطعة العملية بإضافة، على سبيل المثال، فئة مطعم أخرى للبحث عنها. وأظهر عرض توضيحي آخر كيف يمكن لـ ChatGPT Agent إنشاء تقرير بحثي حول صعود دمية Labubus وانتشار الطلب عليها بالأسواق مقابل دمى Beanie Babies. وقالت فولفورد إنها استمتعت باستخدامه للتسوق عبر الإنترنت لأن الجمع بين تقنيتي Deep Research وOperator كان أفضل وأكثر شمولاً من تجربة العملية باستخدام Operator فقط. وقال كومار إنه بدأ باستخدام ChatGPT Agent لأتمتة جوانب صغيرة من حياته، مثل طلب موقف سيارة جديد في مكتب OpenAI كل خميس بدلاً من الحضور يوم الاثنين وقد نسي طلبه دون وجود مكان لركن السيارة. وأضاف كومار أنه بما أن ChatGPT Agent قادر على الوصول إلى "جهاز كمبيوتر كامل" بدلاً من مجرد متصفح، فقد "حسّنوا مجموعة الأدوات بشكل كبير". ومع ذلك، ووفقًا للعرض التوضيحي، قد تكون الأداة بطيئة بعض الشيء، وعندما سُئل عن زمن الوصول، قال كومار إن فريقهم يركز بشكل أكبر على "تحسين الأداء للمهام الصعبة"، وأن المستخدمين ليسوا مُجبرين على الجلوس ومشاهدة ChatGPT Agent وهو يعمل.
خبرني
منذ 15 ساعات
- خبرني
ChatGPT يتحول إلى وكيل خارق.. يتحكم بجهازك وينفذ المهام نيابة عنك
خبرني - أعلنت منصة تشات جي بي تي من شركة OpenAI عن ميزة جديدة تشبه "الوكيل"، تتيح التحكم الكامل في الحاسوب وتنفيذ المهام تلقائيًا. لكن موثوقية الميزة لا تزال قيد التحقق. وتُركز OpenAI جهودها على أكثر التوجهات رواجًا في مجال الذكاء الاصطناعي حاليًا، وكلاء الذكاء الاصطناعي، أو الأدوات التي تتجاوز روبوتات الدردشة لإنجاز مهام معقدة ومتعددة الخطوات نيابةً عن المستخدم. وأطلقت الشركة يوم الخميس برنامج ChatGPT Agent، الذي تُسوّقه كأداة تُمكّنك من إنجاز العمل نيابةً عنك باستخدام "حاسوبها الافتراضي" الخاص. وفي عرض تقديمي شارك به موقع التقنيات الرائد The Verge، صرّح ياش كومار وإيزا فولفورد، رئيس قسم المنتجات ورئيسة قسم الأبحاث في ChatGPT Agent، بأن البرنامج مدعوم بنموذج جديد طورته OpenAI خصيصًا لهذا المنتج. وأوضحت الشركة أن الأداة الجديدة قادرة على تنفيذ مهام مثل الاطلاع على تقويم المستخدم لإطلاعه على اجتماعات العملاء القادمة، والتخطيط وشراء المكونات لإعداد فطور عائلي، وإنشاء عرض تقديمي بناءً على تحليلها للشركات المنافسة. وتم تدريب نموذج ChatGPT Agent، الذي لا يحمل اسمًا محددًا، على مهام معقدة تتطلب أدوات متعددة - مثل متصفح النصوص، والمتصفح المرئي، ومحطة طرفية تُمكّن المستخدمين من استيراد بياناتهم الخاصة - عبر التعلم التعزيزي، وهي نفس التقنية المستخدمة في جميع نماذج الاستدلال الخاصة بـ OpenAI. وذكرت OpenAI أن ChatGPT Agent يجمع بين قدرات كلٍّ من Operator وDeep Research، وهما اثنتان من أدوات الذكاء الاصطناعي الحالية لديها. ولتطوير الأداة الجديدة، جمعت الشركة فرق العمل المسؤولة عن كلٍّ من Operator وDeep Research في فريق واحد موحد. وصرّح كومار وفولفورد لموقع The Verge أن الفريق الجديد يتألف من 20 إلى 35 شخصًا من قسمي المنتجات والأبحاث. وفي العرض التوضيحي، استعرض كومار وفولفورد حالات استخدام محتملة لـ ChatGPT Agent، مثل طلب تخطيط موعد رومانسي من خلال الاتصال بتقويم Google لمعرفة أوقات فراغ المستخدم، ثم ربطه بـ OpenTable للعثور على أماكن شاغرة في أنواع معينة من المطاعم. كما أوضحا كيف يمكن للمستخدم مقاطعة العملية بإضافة، على سبيل المثال، فئة مطعم أخرى للبحث عنها. وأظهر عرض توضيحي آخر كيف يمكن لـ ChatGPT Agent إنشاء تقرير بحثي حول صعود دمية Labubus وانتشار الطلب عليها بالأسواق مقابل دمى Beanie Babies. وقالت فولفورد إنها استمتعت باستخدامه للتسوق عبر الإنترنت لأن الجمع بين تقنيتي Deep Research وOperator كان أفضل وأكثر شمولاً من تجربة العملية باستخدام Operator فقط. وقال كومار إنه بدأ باستخدام ChatGPT Agent لأتمتة جوانب صغيرة من حياته، مثل طلب موقف سيارة جديد في مكتب OpenAI كل خميس بدلاً من الحضور يوم الاثنين وقد نسي طلبه دون وجود مكان لركن السيارة. وأضاف كومار أنه بما أن ChatGPT Agent قادر على الوصول إلى "جهاز كمبيوتر كامل" بدلاً من مجرد متصفح، فقد "حسّنوا مجموعة الأدوات بشكل كبير". ومع ذلك، ووفقًا للعرض التوضيحي، قد تكون الأداة بطيئة بعض الشيء، وعندما سُئل عن زمن الوصول، قال كومار إن فريقهم يركز بشكل أكبر على "تحسين الأداء للمهام الصعبة"، وأن المستخدمين ليسوا مُجبرين على الجلوس ومشاهدة ChatGPT Agent وهو يعمل.
