الأب الروحي للذكاء الاصطناعي: أحدث النماذج تخدع المستخدمين

كريستينا كريدل
وجّه أحد أبرز روّاد الذكاء الاصطناعي انتقاداً لاذعاً للسباق العالمي المحتدم، الذي تبلغ قيمته مليارات الدولارات، لتطوير تكنولوجيا الذكاء الاصطناعي، محذراً من أن النماذج الحديثة باتت تُظهر سلوكيات مقلقة، من بينها الكذب على المستخدمين.
وقال يوشوا بينجيو، الأكاديمي الكندي الذي ألهمت أبحاثه تقنيات تعتمد عليها كبرى شركات الذكاء الاصطناعي مثل «أوبن إيه آي» و«غوغل»: «إن هناك للأسف سباقاً تنافسياً حاداً بين المختبرات الرائدة، يدفعها إلى التركيز على تعزيز قدرات الذكاء الاصطناعي، دون أن تولي الاهتمام الكافي لأبحاث السلامة أو تستثمر فيها بالقدر المطلوب».
وأطلق بينجيو هذا التحذير في مقابلة مع صحيفة «فاينانشال تايمز»، بالتزامن مع إعلانه تأسيس مؤسسة غير ربحية جديدة تحمل اسم «لو زيرو»، تهدف إلى تطوير أنظمة ذكاء اصطناعي أكثر أماناً. وأكد بينجيو أن المؤسسة ستعمل على «عزل أبحاثها عن الضغوط التجارية» لضمان التركيز على السلامة والأخلاقيات.
وجمعت «لو زيرو» حتى الآن ما يقرب من 30 مليون دولار أمريكي على هيئة مساهمات خيرية من مانحين، بينهم جان تالين، المهندس المؤسس لبرنامج «سكايب»، والمبادرة الخيرية لإريك شميدت، الرئيس السابق لشركة «غوغل»، إضافة إلى مؤسسة «أوبن فيلانثروبي» غير الهادفة للربح، ومعهد مستقبل الحياة.
وشارك العديد من ممولي بينجيو في حركة «الإيثار الفعال»، التي يميل داعموها إلى التركيز على المخاطر التي قد تكون كارثية ذات الصلة بنماذج الذكاء الاصطناعي. ودفع نقاد بحُجة مُفادها أن الحركة تسلّط الضوء على السيناريوهات الافتراضية بينما تتجاهل الأضرار الحالية، مثل التحيّز والنتائج غير الدقيقة.
وقال بينجيو، إن مؤسسته غير الربحية تأسست استجابة للأدلة المتزايدة على مدى الأشهر الستة الماضية التي تشير إلى أن نماذج الذكاء الاصطناعي الرائدة الموجودة اليوم قد تطوّر قدرات خطيرة. ويشمل ذلك «أدلة على الخداع، والغش، والكذب، وحفظ الذات».
وابتز نموذج «كلاود أوبوس» الذي طورته «أنثروبيك»، المهندسين، في سيناريو خيالي واجه فيه النموذج خطر استبداله بنظام آخر. وكشفت البحوث التي أجرتها شركة «باليسيد» المتخصصة في اختبار أنظمة الذكاء الاصطناعي، في الشهر الماضي، أن نموذج «أو 3» الذي طوّرته «أوبن إيه آي» رفض تعليمات صريحة بالإغلاق. ولفت بينجيو، إلى أن مثل هذه الوقائع «مخيفة للغاية، لأننا لا نرغب في خلق منافس للبشر على هذا الكوكب، خاصة إذا كان أكثر ذكاء منا».
وذكر الرائد في تكنولوجيا الذكاء الاصطناعي: «هذه تجارب خاضعة للتحكم في الوقت الراهن، لكن يكمن قلقي في أن النسخة التالية في أي مرحلة بالمستقبل قد تكون ذكية استراتيجياً بما يكفي بحيث يمكنها توقع ما سنفعله وهزيمتنا بالخداع الذي لن نتوقعه. لذا، أعتقد أننا نلعب بالنار في الوقت الراهن». ويرى أن قدرة الأنظمة على المساعدة في بناء «أسلحة بيولوجية شديدة الخطورة» قد تصبح حقيقة في العام المقبل.
وبالنسبة لـ«لو زيرو»، التي تتخذ من مونتريال مقراً لها ويعمل بها 15 شخصاً، فإنها تستهدف توظيف المزيد من المواهب الفنية لبناء الجيل التالي من أنظمة الذكاء الاصطناعي المُصممة بهدف السلامة. أما بينجيو، وهو أستاذ في علوم الحاسوب بجامعة مونتريال، فمن المُقرر أن يتنحى عن منصب المدير العلمي لدى «ميلا»، وهو معهد الذكاء الاصطناعي في كيبيك، للتركيز على المؤسسة الجديدة.
وتهدف المؤسسة الجديدة إلى تطوير نظام ذكاء اصطناعي يمنح إجابات صادقة تقوم على المنطق ويتمتع بالشفافية بدلاً من أن يخضع لتدريب معين بهدف إرضاء المستخدم، مع توفير تقييم قوي لما إن كانت النتيجة جيدة أو آمنة. ويأمل بينجيو في تطوير نموذج بإمكانه مراقبة وتحسين النماذج الموجودة في السوق من شركات الذكاء الاصطناعي الرائدة، وذلك لمنعها من الإضرار بمصلحة البشر.
وقال موضحاً: «يكمن السيناريو الأسوأ في فناء البشر»، وأسهب: «إذا طورنا أنظمة ذكاء اصطناعي أكثر ذكاء منا وليست متوافقة معنا، بل وتنافسنا، فسنقع في مأزق بالتأكيد».
وتأتي خطوة بينجيو لتأسيس «لو زيرو» مع استهداف «أوبن إيه آي» الابتعاد عن الجذور الخيرية التي تأسست على أساسها عن طريق تحويل الشركة إلى واحدة هادفة للربح. وأثار هذا التوجه قلق العديد من الخبراء في عالم الذكاء الاصطناعي وأسفر عن رفع إيلون ماسك، الشريك المؤسس، دعوى جنائية في محاولة لوقف التحوّل.
وأشار نقاد، إلى أن «أوبن إيه آي» تأسست لضمان تطوير الذكاء الاصطناعي لمنفعة البشر، وأن الهيكل الجديد يستبعد أي ملجأ قانوني إذا ما منحت الشركة الأولوية للربح على حساب أهدافها. ومن جهتها، ردت «أوبن إيه آي»، بأنها تحتاج إلى جمع رؤوس أموال بموجب هيكل أكثر تقليدية للمنافسة في القطاع، لافتة إلى أن مهمتها الأوسع ما زالت محورية بالنسبة لها.
ويقول بينجيو إنه لا يثق في أن «أوبن إيه آي» ستلتزم بمهمتها، مشدداً على أن الشركات غير الهادفة للربح ليس لديها «حافز منحرف على النحو الحالي الذي تُهيّكل به الشركات». وتابع: «في سبيل تحقيق النمو السريع، عليك إقناع الناس باستثمار الكثير من الأموال، وأنهم يرغبون في تحقيق عائد على أموالهم. هكذا يعمل النظام القائم على السوق».

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

البوابة العربية للأخبار التقنية

منذ 10 ساعات

• البوابة العربية للأخبار التقنية

أمازون تختبر روبوتات بشرية لتوصيل الطلبات استعدادًا لتجارب واقعية

تستعد شركة أمازون لاختبار روبوتات بشرية تعتمد على الذكاء الاصطناعي لتولي مهام توصيل الطلبات والطرود، في خطوة تهدف إلى إحداث تحول جذري في عمليات الشحن التابعة لها، وفقًا لتقرير نشره موقع ذا إنفورميشن التقني. وتعمل أمازون على تطوير برمجيات ذكاء اصطناعي متقدمة تتيح للروبوتات أداء مهام التوصيل بعد نقلها داخل شاحنات كهربائية من طراز 'ريفيان Rivian'. وتُبنى حاليًا منشأة تدريب داخلية خاصة لهذه الروبوتات في أحد مكاتب أمازون بمدينة سان فرانسيسكو، حيث يُوصف الموقع بأنه بحجم مقهى تقريبًا، ويضم مسار عقبات يحتوي على شاحنة كهربائية حقيقية تُستخدم لأغراض التدريب. وتهدف التجارب إلى جعل الروبوتات البشرية تقفز من مؤخرة المركبات لتوصيل الطرود إلى عتبات المنازل. وتأتي هذه التطورات بالتزامن مع إعلان أمازون إنشاء فريق جديد متخصص في تطوير تقنيات الذكاء الاصطناعي 'العملي'، بهدف تمكين الروبوتات من العمل بفاعلية داخل مراكز التوزيع واللوجستيات. وقالت الشركة في بيان رسمي: 'بدلًا من الاعتماد على روبوتات جامدة ومتخصصة، نسعى إلى تطوير أنظمة قادرة على السمع والفهم وتنفيذ الأوامر الصوتية الطبيعية، مما يحوّل الروبوتات في المخازن والمستودعات إلى مساعدين متعددِي المهام'. وتستخدم أمازون بالفعل أنواعًا مختلفة من الروبوتات الذاتية القيادة داخل مخازنها، ومنها روبوت 'Digit' الثنائي الأرجل من تطوير شركة Agility Robotics، وهو روبوت بشري صُمم في البداية لأداء مهام مثل الجلوس في الشاحنات وتوصيل الطرود، إلى جانب أعمال لوجستية أخرى. وتشير المعلومات إلى أن منشأة التدريب الجديدة ستشهد اختبار أنواع مختلفة من الروبوتات البشرية، منها وحدة صينية تُنتجها شركة Unitree، ويبلغ سعرها نحو 16 ألف دولار. يُذكر أن مئات الآلاف من الموظفين يتولون حاليًا عمليات التوصيل في أمازون حول العالم، لكن استحواذ الشركة على شركة المركبات الذاتية القيادة Zoox في عام 2020، يعكس طموحها في أتمتة عمليات التوصيل بالكامل من المخازن حتى باب العميل.

الإمارات اليوم

منذ 10 ساعات

• الإمارات اليوم

3.3 تريليونات دولار الاستثمار العالمي في الطاقة

أفادت الوكالة الدولية للطاقة، بأنه من المتوقع أن تؤدي زيادة الإنفاق على الطاقة النظيفة إلى دفع الاستثمارات العالمية في الطاقة إلى مستوى قياسي يبلغ 3.3 تريليونات دولار في عام 2025، رغم حالة الضبابية الاقتصادية والتوتر الجيوسياسي. وقالت الوكالة، في تقريرها السنوي عن الاستثمار العالمي في الطاقة، إن تقنيات الطاقة النظيفة، بما في ذلك الطاقة المتجددة والطاقة النووية وتخزين الطاقة، من المقرر أن تجتذب استثمارات بقيمة 2.2 تريليون دولار، تُقدر بمثلَي المبلغ المتوقع للوقود الأحفوري. وأشار التقرير إلى أنه من المتوقع أن تكون الطاقة الشمسية المستفيد الأكبر، مع وصول الاستثمار فيها إلى 450 مليار دولار في 2025.

صحيفة الخليج

منذ 13 ساعات

• صحيفة الخليج

الإمارات وسويسرا تبحثان توطيد التعاون في المجالات الحيوية

عقدت في العاصمة أبوظبي الجولة السادسة من المشاورات السياسية بين دولة الإمارات والاتحاد السويسري ، برئاسة لانا زكي نسيبة مساعدة وزير الخارجية للشؤون السياسية، ومونيكا شموتز كيرغوز مساعدة وزير الخارجية لشؤون الشرق الأوسط وشمال إفريقيا في الاتحاد السويسري. شكلت هذه المشاورات فرصة مهمة ومثمرة لتسليط الضوء على العلاقات الثنائية الوطيدة والمتنامية بين دولة الإمارات والاتحاد السويسري، حيث استعرض الجانبان أهم الإنجازات، وشددا على التزامهما بمواصلة توطيد التعاون ضمن عدد من المجالات الحيوية بما في ذلك قطاع الأعمال، والعلوم والتكنولوجيا والذكاء الاصطناعي، والطاقة المتجددة، والمياه، والرعاية الصحية، فضلاً عن تعزيز العلاقات بين الشعبين. كما تم التركيز على سبل توطيد التعاون في مجالي التجارة والاستثمار؛ إذ رحّب الجانبان بالنمو الملحوظ في معدلات التبادل التجاري غير النفطي والذي شهد ارتفاعاً بما يزيد على 40% خلال عام 2023. وتضمنت المشاورات كيفية الاستفادة من الإمكانات الواعدة للذكاء الاصطناعي في القطاع التجاري، مع تأكيد الحرص على تطوير هذه التقنية على نحو مسؤول وآمن وأخلاقي. وجدد الجانبان التأكيد على دعمهما للمنظمات الدولية، ومن ضمنها الأمم المتحدة، ولجهود الوساطة وحفظ السلام، وتقديم المساعدات الإنسانية ودعم برامج التنمية وغيرها من المهام. وشددا على أهمية احترام القانون الدولي الإنساني واستعرضا جهودهما المبذولة في هذا الإطار، إضافة إلى بحث تعاونهما لضمان تحقيق نتائج ملموسة وبناءة خلال مؤتمر المياه 2026 الذي ستستضيفه دولة الإمارات بالشراكة مع السنغال. علاوة على ذلك، ناقش الجانبان المستجدات الإقليمية والدولية، ولا سيما الأوضاع المتعلقة بمنطقة الشرق الأوسط وشمال إفريقيا، وكذلك في أوروبا؛ إذ أكدا أهمية دعم الحوار، وخفض التصعيد وتغليب الحلول الدبلوماسية. كما تبادل الطرفان وجهات النظر بشأن التداعيات المدمرة لخطاب الكراهية والتطرف على المجتمعات في مختلف أنحاء العالم، بما فيها أوروبا ومنطقة الشرق الأوسط، وناقشا طرق التصدي لمروجي هذه الأيديولوجيات الهدامة. وشارك في جولة المشاورات عمران شرف مساعد وزير الخارجية لشؤون العلوم والتكنولوجيا المتقدمة، والدكتورة حصة عبدالله العتيبة سفيرة دولة الإمارات لدى الاتحاد السويسري. ومن جانب الاتحاد السويسري، آرثر ماتلي سفير الاتحاد لدى دولة الإمارات. (وام)