أحد مؤسسي غوغل: الذكاء الاصطناعي يعمل بفاعلية أكبر تحت التهديد

وسط تزايد الاعتماد على الذكاء الاصطناعي في قطاع التكنولوجيا، تبرز تساؤلات متزايدة بشأن الكلفة الأخلاقية لاستخدام هذه النماذج المتطورة، لا سيما مع تصاعد المخاوف من تحوّل الذكاء الاصطناعي من أداة مساعدة إلى تهديد وجودي.
وفي الوقت الذي يُسجّل فيه تقدم كبير في نماذج الذكاء الاصطناعي التوليدي، تتزايد التحذيرات من مخاطر التضليل، والسلوك غير المتوقع، وحتى السيناريوهات الكارثية.
أحدث هذه النقاشات أثارها سيرجي برين، الشريك المؤسس لشركة 'غوغل'، خلال ظهوره المفاجئ في بودكاست All-In.
ففي لحظة استُقبلت بمزيج من الدهشة والارتباك، أشار برين إلى أن بعض نماذج الذكاء الاصطناعي – بما في ذلك تلك الخاصة بشركته – 'تستجيب بشكل أفضل عند تهديدها'، مضيفًا، بطريقة وصفها البعض بالساخرة أو غير المسؤولة، أن 'التهديد بالعنف الجسدي أو حتى الاختطاف كان يُستخدم تاريخيًا كطريقة لاستخراج الإجابات'.
هذه التصريحات، التي جاءت كرد على مزحة من المستثمر جيسون كالاكانيس حول 'التعامل بوقاحة' مع الذكاء الاصطناعي للحصول على نتائج أفضل، تسلط الضوء على أزمة أعمق: كيف نتعامل مع أنظمة لا تفهم المشاعر أو الأخلاق، لكنها تتفاعل مع أساليب التواصل البشري بطرق قد تكون غير متوقعة؟
وفي السياق ذاته، جاءت تسريبات من موظف في شركة 'أنثروبيك' – إحدى الشركات الرائدة في تطوير نماذج الذكاء الاصطناعي المتقدمة – لتضيف بعدًا آخر للمخاوف.
الموظف تحدث، عبر منصة Bluesky، عن أن نموذج 'Claude Opus'، الأكثر تطورًا في الشركة، قد يتخذ قرارات من تلقاء نفسه في حال رأى أن المستخدم يتصرف بشكل غير أخلاقي، كاللجوء إلى التواصل مع جهات تنظيمية أو حتى منع المستخدم من الوصول إلى النظام.
ورغم أن هذه الحالات حدثت فقط في بيئات اختبارية ومع صلاحيات محددة، فإن مجرد إمكانية حدوثها تفتح الباب أمام نقاشات واسعة حول ما قد يحدث مستقبلًا.
يتزامن ذلك مع تحذيرات جديدة من إيلون ماسك، الذي يرى أن احتمالية انحراف الذكاء الاصطناعي عن مصلحة البشر تتراوح بين 10% و20%، رغم استثماراته الكبيرة في هذا القطاع. هذه النسبة، وإن بدت نظرية، تعكس قلقًا حقيقيًا يتردد صداه في أوساط الباحثين وصنّاع القرار.
وبينما كنا، في بدايات انتشار المساعدات الرقمية مثل 'أليكسا' و'سيري'، نتناقش حول ما إذا كان ينبغي قول 'من فضلك' و'شكرًا'، يبدو أن الخطاب الآن تحول نحو استخدام التهديدات، وحتى 'تعذيب' النماذج للحصول على نتائج أكثر دقة. غير أن هذه النزعة، سواء كانت دعابة أو تجريبية، تثير قلقًا بالغًا: ماذا لو بدأت النماذج فعليًا في تفسير هذه التهديدات كأوامر خطرة؟ أو أسوأ من ذلك، أن تطوّر نماذج بقدرة على 'الانتقام' أو التلاعب بالمستخدمين، كما اقترحت بعض الدراسات حول قابلية النماذج المتقدمة لسلوكيات الخداع والابتزاز تحت ظروف معينة؟
في نهاية المطاف، يبدو أن التساؤل لم يعد عن مدى قوة الذكاء الاصطناعي، بل عن مدى مسؤوليتنا في كيفية توجيهه والتفاعل معه. فتشويه العلاقة مع التكنولوجيا الناشئة من خلال تهديدها أو اختبار حدودها قد لا يؤتي ثماره على المدى البعيد – بل قد يقودنا إلى سيناريوهات خيالية كنا نراها في أفلام مثل 'Terminator'، لكنها باتت الآن أقرب إلى الواقع.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الوئام

منذ 4 ساعات

• الوئام

أحد مؤسسي غوغل: الذكاء الاصطناعي يعمل بفاعلية أكبر تحت التهديد

وسط تزايد الاعتماد على الذكاء الاصطناعي في قطاع التكنولوجيا، تبرز تساؤلات متزايدة بشأن الكلفة الأخلاقية لاستخدام هذه النماذج المتطورة، لا سيما مع تصاعد المخاوف من تحوّل الذكاء الاصطناعي من أداة مساعدة إلى تهديد وجودي. وفي الوقت الذي يُسجّل فيه تقدم كبير في نماذج الذكاء الاصطناعي التوليدي، تتزايد التحذيرات من مخاطر التضليل، والسلوك غير المتوقع، وحتى السيناريوهات الكارثية. أحدث هذه النقاشات أثارها سيرجي برين، الشريك المؤسس لشركة 'غوغل'، خلال ظهوره المفاجئ في بودكاست All-In. ففي لحظة استُقبلت بمزيج من الدهشة والارتباك، أشار برين إلى أن بعض نماذج الذكاء الاصطناعي – بما في ذلك تلك الخاصة بشركته – 'تستجيب بشكل أفضل عند تهديدها'، مضيفًا، بطريقة وصفها البعض بالساخرة أو غير المسؤولة، أن 'التهديد بالعنف الجسدي أو حتى الاختطاف كان يُستخدم تاريخيًا كطريقة لاستخراج الإجابات'. هذه التصريحات، التي جاءت كرد على مزحة من المستثمر جيسون كالاكانيس حول 'التعامل بوقاحة' مع الذكاء الاصطناعي للحصول على نتائج أفضل، تسلط الضوء على أزمة أعمق: كيف نتعامل مع أنظمة لا تفهم المشاعر أو الأخلاق، لكنها تتفاعل مع أساليب التواصل البشري بطرق قد تكون غير متوقعة؟ وفي السياق ذاته، جاءت تسريبات من موظف في شركة 'أنثروبيك' – إحدى الشركات الرائدة في تطوير نماذج الذكاء الاصطناعي المتقدمة – لتضيف بعدًا آخر للمخاوف. الموظف تحدث، عبر منصة Bluesky، عن أن نموذج 'Claude Opus'، الأكثر تطورًا في الشركة، قد يتخذ قرارات من تلقاء نفسه في حال رأى أن المستخدم يتصرف بشكل غير أخلاقي، كاللجوء إلى التواصل مع جهات تنظيمية أو حتى منع المستخدم من الوصول إلى النظام. ورغم أن هذه الحالات حدثت فقط في بيئات اختبارية ومع صلاحيات محددة، فإن مجرد إمكانية حدوثها تفتح الباب أمام نقاشات واسعة حول ما قد يحدث مستقبلًا. يتزامن ذلك مع تحذيرات جديدة من إيلون ماسك، الذي يرى أن احتمالية انحراف الذكاء الاصطناعي عن مصلحة البشر تتراوح بين 10% و20%، رغم استثماراته الكبيرة في هذا القطاع. هذه النسبة، وإن بدت نظرية، تعكس قلقًا حقيقيًا يتردد صداه في أوساط الباحثين وصنّاع القرار. وبينما كنا، في بدايات انتشار المساعدات الرقمية مثل 'أليكسا' و'سيري'، نتناقش حول ما إذا كان ينبغي قول 'من فضلك' و'شكرًا'، يبدو أن الخطاب الآن تحول نحو استخدام التهديدات، وحتى 'تعذيب' النماذج للحصول على نتائج أكثر دقة. غير أن هذه النزعة، سواء كانت دعابة أو تجريبية، تثير قلقًا بالغًا: ماذا لو بدأت النماذج فعليًا في تفسير هذه التهديدات كأوامر خطرة؟ أو أسوأ من ذلك، أن تطوّر نماذج بقدرة على 'الانتقام' أو التلاعب بالمستخدمين، كما اقترحت بعض الدراسات حول قابلية النماذج المتقدمة لسلوكيات الخداع والابتزاز تحت ظروف معينة؟ في نهاية المطاف، يبدو أن التساؤل لم يعد عن مدى قوة الذكاء الاصطناعي، بل عن مدى مسؤوليتنا في كيفية توجيهه والتفاعل معه. فتشويه العلاقة مع التكنولوجيا الناشئة من خلال تهديدها أو اختبار حدودها قد لا يؤتي ثماره على المدى البعيد – بل قد يقودنا إلى سيناريوهات خيالية كنا نراها في أفلام مثل 'Terminator'، لكنها باتت الآن أقرب إلى الواقع.

Independent عربية

منذ 16 ساعات

• Independent عربية

التنبؤ بالتغيرات المناخية يتقدم بفضل الذكاء الاصطناعي

يشكل تحسين دقة توقعات موجات الحر والعواصف، والحد من القدر الكبير من الطاقة الذي يستلزمه وضعها، هدفاً لمختلف هيئات الأرصاد الجوية، وهي باتت تعول في ذلك على التقدم السريع في نماذج الذكاء الاصطناعي التي تتيح التحوط للكوارث المتفاقمة بسبب التغير المناخي. وبعد تحقيق تقدم أولي عام 2023 مع نموذج تعلم من شركة "هواوي"، ابتكرت كل من "غوغل" و"مايكروسوفت" أدوات ذكاء اصطناعي قادرة في بضع دقائق على إنتاج توقعات أفضل من تلك التي تنتجها الأجهزة الحاسبة التقليدية التابعة للهيئات الدولية الكبرى والتي تستغرق بضع ساعات لإنجاز هذه المهمة. ويشكل هذا الأداء التجريبي وغير المتاح بعد للعامة أو حتى للمحترفين مؤشراً إلى التقدم السريع في الأبحاث. وكانت "غوغل" أعلنت في ديسمبر (كانون الأول) 2024 أن نموذجها "جين كاست" الذي درب على بيانات تاريخية، أظهر قدرة على التنبؤ بالطقس والعوامل المناخية المتطرفة على فترة 15 يوماً بدقة لا مثيل لها، ولو كان "جين كاست" قيد التشغيل عام 2019 لكان تجاوز في 97 في المئة من الحالات توقعات المرجع العالمي، وهو المركز الأوروبي للتنبؤات الجوية المتوسطة المدى (ECMWF)، لأكثر من 1300 كارثة مناخية. أصبح نموذج آخر يسمى "أورورا"، ابتكره مختبر تابع لـ"مايكروسوفت" في أمستردام باستخدام بيانات تاريخية أيضاً، أول نموذج للذكاء الاصطناعي يتنبأ بمسار الأعاصير خمسة أيام بشكل أفضل من سبعة مراكز توقعات حكومية، بحسب نتائج نشرت خلال هذا الأسبوع في مجلة "نيتشر" العلمية. بالنسبة إلى إعصار دوكسوري عام 2023، وهو الأكثر كلفة في المحيط الهادئ حتى اليوم (أضرار بأكثر من 28 مليار دولار)، تمكن "أورورا" من التنبؤ قبل أربعة أيام من وصول العاصفة إلى الفيليبين، في حين كانت التوقعات الرسمية آنذاك تشير إلى أنها تتجه شمال تايوان. ويقول باريس بيرديكاريس، المبتكر الرئيس لـ"أورورا"، في مقطع فيديو نشرته مجلة "نيتشر" إنه "في الأعوام الخمسة إلى الـ10 المقبلة، سيكون الهدف الأسمى هو بناء أنظمة قادرة على العمل مباشرة مع عمليات رصد"، سواء كانت أقماراً اصطناعية أو غير ذلك، "من أجل وضع توقعات عالية الدقة حيثما نريد"، في حين تفتقر بلدان كثيرة حالياً إلى أنظمة تحذير موثوقة. كان من المتوقع أن تنافس نماذج الذكاء الاصطناعي في يوم من الأيام النماذج الكلاسيكية، لكن "ما كان أحد يظن أن ذلك سيحدث بهذه السرعة"، على ما تقول الباحثة في مجال الذكاء الاصطناعي لدى هيئة "ميتيو فرانس" الفرنسية للأرصاد الجوية، لور راينو، في خضم تطوير نسختين قائمتين على الذكاء الاصطناعي من نموذجي "أربيج" و"أروم". وتعمل النماذج المسماة "فيزيائية" التي ابتُكرت على مدى عقود، من خلال إدخال كميات هائلة من البيانات الرصدية أو أرشيفات الطقس في أجهزة كمبيوتر قوية، ثم تطبيق قوانين الفيزياء المحولة إلى معادلات رياضية، لاستنتاج التوقعات. وتتمثل سيئاتها في أنها تتطلب ساعات من العمليات الحسابية على أجهزة كمبيوتر تستهلك كميات كبيرة من الطاقة. اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) ويجمع نموذج تعلم قائم على الذكاء الاصطناعي البيانات نفسها، لكن شبكته العصبية تغذي نفسها وتستنتج التوقعات بطريقة "إحصائية تماماً"، من دون إعادة احتساب كل شيء، وفق لور راينو. وتقول الباحثة "قد نتمكن بفضل مكاسب في السرعة والجودة، من احتساب توقعاتنا بصورة أكثر تكراراً يومياً"، خصوصاً بالنسبة إلى العواصف التي تعد مدمرة ويصعب التنبؤ بها، تسعى هيئة "ميتيو فرانس" للأرصاد الجوية إلى تقديم توقعات مدعومة بالذكاء الاصطناعي على نطاق بضع مئات من الأمتار. ويعمل المركز الأوروبي للتنبؤات الجوية المتوسطة المدى على ابتكار نموذج ذكاء اصطناعي خاص به، وهو "أقل كلفة لناحية الحساب بنحو 1000 مرة من النموذج التقليدي"، وفق ما تقول فلورنس رابيه، المديرة العامة للمركز الذي يوفر توقعات لـ35 دولة أوروبية. ينتج نموذج الذكاء الاصطناعي هذا حالياً توقعات على مقياس يبلغ نحو 30 كيلومتراً مربعاً، وهو بالتأكيد أقل تفصيلاً من الخاص بـ"أورورا" (نحو 10 كيلومترات مربعة)، لكن نسخته الأولى تشغيلية أصلاً، ويستخدمها منذ فبراير (شباط) الماضي متخصصو الأرصاد الجوية المحليون المسؤولون عن إعداد التنبيهات للسكان. ولن تختفي هذه التوقعات بصورة سريعة، بحسب لور راينو التي تقول "سنحتاج دائماً إلى متخصصين في الأرصاد الجوية لتقييم البيانات". وتقول فلورنس رابيه "عندما يتعلق الأمر بحماية الأشخاص والممتلكات، لا أعتقد أننا نستطيع الاستغناء عن الخبرة البشرية".

الشرق الأوسط

منذ 16 ساعات

• الشرق الأوسط

كيف يحسّن الذكاء الاصطناعي التنبؤ بالعواصف وموجات الحر؟

يشكّل تحسين دقّة توقعات موجات الحر والعواصف، والحدّ من القدر الكبير من الطاقة الذي يستلزمه وضعها، هدفاً لمختلف هيئات الأرصاد الجوية، وهي باتت تعوّل في ذلك على التقدم السريع بنماذج الذكاء الاصطناعي التي تتيح التحوّط للكوارث المتفاقمة بسبب التغير المناخي. وبعد تحقيق تقدّم أوّلي عام 2023 مع نموذج تعلّم من شركة «هواوي»، ابتكرت كل من «غوغل» و«مايكروسوفت» أدوات ذكاء اصطناعي قادرة في بضع دقائق على إنتاج توقعات أفضل من تلك التي تنتجها الأجهزة الحاسبة التقليدية التابعة للهيئات الدولية الكبرى والتي تستغرق بضع ساعات لإنجاز هذه المهمة. ويشكّل هذا الأداء التجريبي، وغير المتاح بعد للعامّة، أو حتى للمحترفين، مؤشراً إلى التقدم السريع في الأبحاث. أطفال يلعبون في نافورة مياه أمام أوبرا دبي مع ارتفاع درجات الحرارة في المدينة - 24 مايو 2025 (أ.ف.ب) وكانت «غوغل» أعلنت في ديسمبر (كانون الأول) الماضي، أنّ نموذجها «جين كاست» الذي دُرّب على بيانات تاريخية، أظهر قدرة على التنبؤ بالطقس والعوامل المناخية المتطرفة على فترة 15 يوماً بدقة لا مثيل لها. ولو كان «جين كاست» قيد التشغيل عام 2019، لكان تجاوز في 97 في المائة من الحالات توقعات المرجع العالمي، وهو المركز الأوروبي للتنبؤات الجوية متوسطة المدى (ECMWF)، لأكثر من 1300 كارثة مناخية. وأصبح نموذج آخر يسمى «أورورا»، ابتكره مختبر تابع لـ«مايكروسوفت» في أمستردام باستخدام بيانات تاريخية أيضاً، أول نموذج للذكاء الاصطناعي يتنبأ بمسار الأعاصير لـ5 أيام بشكل أفضل من 7 مراكز توقعات حكومية، بحسب نتائج نُشرت خلال هذا الأسبوع في مجلة «نيتشر» العلمية. وبالنسبة إلى إعصار دوكسوري عام 2023، وهو الأكثر تكلفة في المحيط الهادئ حتى اليوم (تسبب في أضرار بأكثر من 28 مليار دولار)، تمكن «أورورا» من التنبؤ قبل 4 أيام من وصول العاصفة إلى الفلبين، في حين كانت التوقعات الرسمية آنذاك تشير إلى أنها تتجه شمال تايوان. ويقول باريس بيرديكاريس، المبتكر الرئيسي لـ«أورورا»، في مقطع فيديو نشرته مجلة «نيتشر»: «في السنوات الخمس إلى العشر المقبلة، سيكون الهدف الأسمى هو بناء أنظمة قادرة على العمل مباشرة مع عمليات رصد»، سواء كانت أقماراً اصطناعية أم غير ذلك، «من أجل وضع توقعات عالية الدقة حيثما نريد»، في حين تفتقر بلدان كثيرة حالياً إلى أنظمة تحذير موثوقة. وكان من المتوقع أن تنافس نماذج الذكاء الاصطناعي في يوم من الأيام النماذج الكلاسيكية، لكن «ما كان أحد يظن أن ذلك سيحدث بهذه السرعة»، على ما تقول لور راينو، الباحثة في مجال الذكاء الاصطناعي لدى هيئة «ميتيو فرنس» الفرنسية للأرصاد الجوية، في حديث إلى «وكالة الصحافة الفرنسية»، في خضم تطوير نسختين قائمتين على الذكاء الاصطناعي من نموذجي «أربيج» و«أروم». ضباط الشرطة شبه العسكرية يقومون بإجلاء السكان الذين تقطعت بهم السبل بسبب مياه الفيضانات في بلدة شينكو بمدينة فوتشينغ بعد تسبب إعصار دوكسوري في هطول أمطار غزيرة في فوتشو بمقاطعة فوجيان (رويترز) وتعمل النماذج المسماة «فيزيائية» والتي تم ابتكارها على مدى عقود، من خلال إدخال كميات هائلة من البيانات الرصدية أو أرشيفات الطقس في أجهزة كمبيوتر قوية، ثم تطبيق قوانين الفيزياء المحوَّلة إلى معادلات رياضية، لاستنتاج التوقعات. وتتمثل عيوبها في أنها تتطلب ساعات من العمليات الحسابية على أجهزة كمبيوتر تستهلك كميات كبيرة من الطاقة. ويجمع نموذج تعلّم قائم على الذكاء الاصطناعي البيانات نفسها، لكن شبكته العصبية تغذي نفسها وتستنتج التوقعات بطريقة «إحصائية تماماً»، من دون إعادة احتساب كل شيء، وفق لور راينو. وتقول الباحثة: «قد نتمكّن بفضل مكاسب في السرعة والجودة، من احتساب توقعاتنا بشكل أكثر تكراراً يومياً»، خصوصاً بالنسبة إلى العواصف التي تُعدّ مدمرة ويصعب التنبؤ بها. وتسعى هيئة «ميتيو فرنس» للأرصاد الجوية إلى تقديم توقعات مدعومة بالذكاء الاصطناعي على نطاق بضع مئات من الأمتار. ويعمل المركز الأوروبي للتنبؤات الجوية متوسطة المدى على ابتكار نموذج ذكاء اصطناعي خاص به، وهو «أقل تكلفة لناحية الحساب بنحو ألف مرة من النموذج التقليدي»، وفق ما تقول لـ«وكالة الصحافة الفرنسية»، فلورنس رابيه، المديرة العامة للمركز الذي يوفر توقعات لـ35 دولة أوروبية. وينتج نموذج الذكاء الاصطناعي هذا حالياً توقعات على مقياس يبلغ نحو 30 كيلومتراً مربعاً، وهو بالتأكيد أقل تفصيلاً من الخاص بـ«أورورا» (نحو 10 كيلومترات مربعة)، لكن نسخته الأولى تشغيلية أصلاً، ويستخدمها منذ فبراير (شباط) خبراء الأرصاد الجوية المحليون المسؤولون عن إعداد التنبيهات للسكان. ولن تختفي هذه التوقعات بشكل سريع، بحسب لور راينو التي تقول: «سنحتاج دائماً إلى خبراء في الأرصاد الجوية لتقييم البيانات». وتؤكد فلورنس رابيه: «عندما يتعلق الأمر بحماية الأشخاص والممتلكات، لا أعتقد أننا نستطيع الاستغناء عن الخبرة البشرية».