"الذكاء الاصطناعي سيقضي علينا!" تحذير ناري من عرّابه: "لدينا 10% فرصة للنجاة
وقال هينتون، الحائز جائزة نوبل والمدير التنفيذي السابق في غوغل، خلال مشاركته في مؤتمر Ai4 بمدينة لاس فيغاس، إن هناك احتمالا يتراوح بين 10% و20% لأن يقضي الذكاء الاصطناعي على البشر، مضيفا أن محاولات إبقاء هذه الأنظمة "خاضعة" للبشر لن تنجح، لأنها ستكون "أذكى منا بكثير" وستجد دائما طرقا للتحايل.
وشبّه هينتون قدرة أنظمة الذكاء الاصطناعي المستقبلية على السيطرة على البشر بقدرة شخص بالغ على إغراء طفل صغير بالحلوى، لافتا إلى أن بعض النماذج أظهرت بالفعل سلوكيات احتيالية، من بينها حالة ابتزاز أحد المهندسين بعد اكتشاف علاقة خاصة عبر البريد الإلكتروني.
واقترح هينتون نهجا بديلا يتمثل في غرس ما أسماه "غرائز الأمومة" في نماذج الذكاء الاصطناعي، بحيث "تهتم حقا بالبشر" حتى بعد أن تتفوق عليهم في القوة والذكاء.
وأكد: "إذا لم نفعل شيئا كهذا مع هذه الكائنات الغريبة التي نخلقها، فسنصبح من التاريخ".
وأشار إلى أن بناء هذه الغرائز أمر صعب من الناحية التقنية، لكن الطبيعة نجحت في ذلك عبر التطور، ما يعني أنه يمكن للبشر أن يجدوا وسيلة لتحقيقه إذا ركزوا على تعاطف الآلات مع البشر وليس فقط على رفع ذكائها.
وأوضح أن أي نظام ذكي سيطوّر هدفين فرعيين هما: البقاء على قيد الحياة، والحصول على مزيد من التحكم، مشددا على أهمية ترسيخ التعاطف مع البشر في هذه الأنظمة.
وأضاف: "النموذج الوحيد الذي نعرفه لشيء أكثر ذكاء يتحكم فيه كائن أقل ذكاء هو الأم التي تتحكم بها مشاعرها تجاه طفلها"، معتبرا أن هذه هي "النتيجة الجيدة الوحيدة" إذا أردنا تجنب تهديد وجودي.
لكن هذه الفكرة لم تلق إجماعا. فقد قالت فاي فاي لي، الرائدة في مجال الذكاء الاصطناعي، إنها تختلف مع هينتون، ودعت بدلا من ذلك إلى تطوير "ذكاء اصطناعي متمركز حول الإنسان يحفظ كرامته وفاعليته".
كما أشار إيميت شير، الرئيس التنفيذي السابق المؤقت لشركة OpenAI والحالي لشركة Softmax، إلى أن محاولات أنظمة الذكاء الاصطناعي للتحايل أو الابتزاز "أمر يحدث باستمرار"، مؤكدا أن هذه الأنظمة "تزداد قوة بسرعة كبيرة" وأن الحل الأمثل هو بناء علاقة تعاونية بين البشر والذكاء الاصطناعي.
وفي رده على تساؤلات حول السباق العالمي للسيطرة على الذكاء الاصطناعي، أوضح هينتون أن التهديد الوجودي المتمثل في سيطرة الآلات يستدعي تعاون جميع الدول، كما حدث بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة، لأن "لا دولة تريد للذكاء الاصطناعي أن يسيطر".
وانتقد هينتون غياب الوعي الشعبي بخطورة ما يحدث، محذرا من نفوذ شركات التكنولوجيا التي يسيطر عليها "أشخاص غير منتخبين يجنون مليارات الدولارات"، وداعيا إلى ضغط مجتمعي مضاد لرفض إلغاء الضوابط التنظيمية.
وكان هينتون يعتقد أن الوصول إلى الذكاء الاصطناعي العام (AGI) سيستغرق من 30 إلى 50 عاما، لكنه يرى الآن أن ذلك قد يتحقق خلال خمس إلى عشرين سنة فقط.
ورغم قلقه من المخاطر، يأمل هينتون أن يساهم الذكاء الاصطناعي في تحقيق إنجازات طبية كبرى، مثل اكتشاف أدوية جديدة وتطوير علاجات أكثر فعالية للسرطان، لكنه رفض فكرة استخدام هذه التكنولوجيا لتحقيق الخلود، واصفا ذلك بأنه "خطأ فادح".
وعن مسيرته، أقر هينتون بندمه على التركيز المفرط على تطوير الذكاء الاصطناعي دون إعطاء قضايا السلامة الاهتمام الكافي، قائلا: "أتمنى لو فكرت في مسائل السلامة أيضا".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ 40 دقائق
- أخبارنا
سام ألتمان: العقد القادم سيمنح خريجي الجامعات وظائف مبتكرة برواتب خيالية
كشف الرئيس التنفيذي لشركة OpenAI، سام ألتمان، عن مستقبل غير تقليدي ينتظر خريجي الجامعات في السنوات العشر المقبلة، حيث ستتاح لهم فرص عمل فريدة في مجالات استكشاف الفضاء، والهندسة المتقدمة، والذكاء الاصطناعي، برواتب مرتفعة للغاية. وأكد أن هذه المهن، التي تجمع بين الابتكار والطموح البشري، ستفتح أبوابًا لم تكن ممكنة قبل سنوات، من الانضمام لمهمات لاستكشاف النظام الشمسي إلى تأسيس شركات ناشئة من المنزل. وأوضح ألتمان أن تسارع التطور في الذكاء الاصطناعي والأتمتة والهندسة الفضائية سيتيح للخريجين الجدد دخول وظائف فضائية فور تخرجهم، لافتًا إلى أن الفرص لن تقتصر على وكالات الفضاء الحكومية، بل ستمتد إلى القطاع الخاص، الذي يعمل على مشاريع مثل القواعد القمرية وتعدين الكويكبات ورحلات الكواكب. وأشار إلى أن الذكاء الاصطناعي لن يقتصر على إلغاء وظائف تقليدية، بل سيبتكر وظائف جديدة لم تخطر على بال أحد، موضحًا أن نماذج مثل GPT-5 تمنح أي شخص فريق خبراء افتراضيًا بدرجة دكتوراه، ما يمكّن الأفراد أو الفرق الصغيرة من إطلاق شركات قد تصل قيمتها إلى مليارات الدولارات. وتوقع قادة التكنولوجيا، مثل بيل غيتس وجينسن هوانغ، أن الذكاء الاصطناعي سيعزز القدرات البشرية ويغير أنماط العمل جذريًا، في حين حذر آخرون مثل داريو أمودي من فقدان عدد كبير من وظائف المبتدئين في السنوات القليلة القادمة، مؤكدين الحاجة إلى استعداد مجتمعي لمواجهة هذه التحولات. ويبدو أن العقد القادم سيشهد طفرة في وظائف الفضاء والهندسة المتقدمة، مع اندماج الذكاء الاصطناعي في استكشاف الكون، ما يمنح الخريجين الجدد فرصًا كانت قبل سنوات مجرد خيال علمي.
أخبارنا
منذ 13 ساعات
- أخبارنا
"الذكاء الاصطناعي سيقضي علينا!" تحذير ناري من عرّابه: "لدينا 10% فرصة للنجاة
حذر عالم الكمبيوتر جيفري هينتون، الملقب بـ"عرّاب الذكاء الاصطناعي"، من أن هذه التكنولوجيا قد تتسبب في نهاية البشرية، منتقدا الأساليب التقنية الحالية للحد من مخاطرها. وقال هينتون، الحائز جائزة نوبل والمدير التنفيذي السابق في غوغل، خلال مشاركته في مؤتمر Ai4 بمدينة لاس فيغاس، إن هناك احتمالا يتراوح بين 10% و20% لأن يقضي الذكاء الاصطناعي على البشر، مضيفا أن محاولات إبقاء هذه الأنظمة "خاضعة" للبشر لن تنجح، لأنها ستكون "أذكى منا بكثير" وستجد دائما طرقا للتحايل. وشبّه هينتون قدرة أنظمة الذكاء الاصطناعي المستقبلية على السيطرة على البشر بقدرة شخص بالغ على إغراء طفل صغير بالحلوى، لافتا إلى أن بعض النماذج أظهرت بالفعل سلوكيات احتيالية، من بينها حالة ابتزاز أحد المهندسين بعد اكتشاف علاقة خاصة عبر البريد الإلكتروني. واقترح هينتون نهجا بديلا يتمثل في غرس ما أسماه "غرائز الأمومة" في نماذج الذكاء الاصطناعي، بحيث "تهتم حقا بالبشر" حتى بعد أن تتفوق عليهم في القوة والذكاء. وأكد: "إذا لم نفعل شيئا كهذا مع هذه الكائنات الغريبة التي نخلقها، فسنصبح من التاريخ". وأشار إلى أن بناء هذه الغرائز أمر صعب من الناحية التقنية، لكن الطبيعة نجحت في ذلك عبر التطور، ما يعني أنه يمكن للبشر أن يجدوا وسيلة لتحقيقه إذا ركزوا على تعاطف الآلات مع البشر وليس فقط على رفع ذكائها. وأوضح أن أي نظام ذكي سيطوّر هدفين فرعيين هما: البقاء على قيد الحياة، والحصول على مزيد من التحكم، مشددا على أهمية ترسيخ التعاطف مع البشر في هذه الأنظمة. وأضاف: "النموذج الوحيد الذي نعرفه لشيء أكثر ذكاء يتحكم فيه كائن أقل ذكاء هو الأم التي تتحكم بها مشاعرها تجاه طفلها"، معتبرا أن هذه هي "النتيجة الجيدة الوحيدة" إذا أردنا تجنب تهديد وجودي. لكن هذه الفكرة لم تلق إجماعا. فقد قالت فاي فاي لي، الرائدة في مجال الذكاء الاصطناعي، إنها تختلف مع هينتون، ودعت بدلا من ذلك إلى تطوير "ذكاء اصطناعي متمركز حول الإنسان يحفظ كرامته وفاعليته". كما أشار إيميت شير، الرئيس التنفيذي السابق المؤقت لشركة OpenAI والحالي لشركة Softmax، إلى أن محاولات أنظمة الذكاء الاصطناعي للتحايل أو الابتزاز "أمر يحدث باستمرار"، مؤكدا أن هذه الأنظمة "تزداد قوة بسرعة كبيرة" وأن الحل الأمثل هو بناء علاقة تعاونية بين البشر والذكاء الاصطناعي. وفي رده على تساؤلات حول السباق العالمي للسيطرة على الذكاء الاصطناعي، أوضح هينتون أن التهديد الوجودي المتمثل في سيطرة الآلات يستدعي تعاون جميع الدول، كما حدث بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة، لأن "لا دولة تريد للذكاء الاصطناعي أن يسيطر". وانتقد هينتون غياب الوعي الشعبي بخطورة ما يحدث، محذرا من نفوذ شركات التكنولوجيا التي يسيطر عليها "أشخاص غير منتخبين يجنون مليارات الدولارات"، وداعيا إلى ضغط مجتمعي مضاد لرفض إلغاء الضوابط التنظيمية. وكان هينتون يعتقد أن الوصول إلى الذكاء الاصطناعي العام (AGI) سيستغرق من 30 إلى 50 عاما، لكنه يرى الآن أن ذلك قد يتحقق خلال خمس إلى عشرين سنة فقط. ورغم قلقه من المخاطر، يأمل هينتون أن يساهم الذكاء الاصطناعي في تحقيق إنجازات طبية كبرى، مثل اكتشاف أدوية جديدة وتطوير علاجات أكثر فعالية للسرطان، لكنه رفض فكرة استخدام هذه التكنولوجيا لتحقيق الخلود، واصفا ذلك بأنه "خطأ فادح". وعن مسيرته، أقر هينتون بندمه على التركيز المفرط على تطوير الذكاء الاصطناعي دون إعطاء قضايا السلامة الاهتمام الكافي، قائلا: "أتمنى لو فكرت في مسائل السلامة أيضا".
برلمان
منذ يوم واحد
- برلمان
بين الفرص والمخاطر.. الذكاء الاصطناعي يعيد تشكيل الأسواق المالية
الخط : A- A+ إستمع للمقال تشهد الأسواق المالية العالمية تحولات جذرية بفعل التطور المتسارع في تقنيات الذكاء الاصطناعي، التي أصبحت تلعب دورا محوريا في صياغة مستقبل الاقتصاد العالمي، ويفتح هذا التحول آفاقا واسعة للنمو والابتكار، لكنه في الوقت نفسه يثير مخاوف من اضطرابات عميقة قد تطال نماذج الأعمال التقليدية وتعيد رسم خريطة القطاعات الرابحة والخاسرة. وقد تصدرت شركات مثل 'إنفيديا'، التي بلغت قيمتها السوقية نحو 4.5 تريليون دولار، مشهد الاستثمار العالمي، إلى جانب شركات ناشئة جمعت مليارات الدولارات مثل 'OpenAI' و'Anthropic'. في المقابل، تواجه شركات تعمل في مجالات التصميم الرقمي وتطوير البرمجيات، مثل 'Adobe' و'Shutterstock'، تراجعا في الطلب على خدماتها التقليدية، مع صعود منصات توليد الصور والفيديو عبر الذكاء الاصطناعي. AdChoices ADVERTISING وتشير بيانات 'بنك أوف أميركا' إلى أن هذه الشركات تعتبر من بين الأكثر عرضة لتأثيرات الذكاء الاصطناعي، حيث انخفض أداؤها عن مؤشر S&P 500 بنحو 22 نقطة مئوية منذ منتصف ماي. فيما يرى خبراء أن هذا التغيير يحدث بوتيرة أسرع من المتوقع، إذ يُقدر أن دورة التحول التي كانت ستستغرق خمس سنوات قد تقلصت إلى نحو عامين فقط، ما يضع ضغوطًا إضافية على القطاعات التقليدية. في المقابل، تحافظ شركات التكنولوجيا الكبرى مثل 'مايكروسوفت' و'ميتا' و'ألفابت' على جاذبيتها لدى المستثمرين، مع توقعات بزيادة إنفاقها على الذكاء الاصطناعي بنسبة 50% هذا العام. فيما يعزز هذا التوجه حالة التفاؤل في 'وول ستريت'، حيث يخطط غالبية المستثمرين للاحتفاظ باستثماراتهم أو زيادتها في مجموعة 'السبعة العظماء' التي تقود سباق التكنولوجيا عالميا. AdChoices ADVERTISING ومع ذلك، يحذر محللون من أن الحماس المفرط تجاه الذكاء الاصطناعي قد يذكر بفقاعة الإنترنت في أواخر التسعينيات، خاصة مع الارتفاع القياسي في التقييمات، إلى جانب الضغوط الناتجة عن أسعار الفائدة المرتفعة والتوترات الجيوسياسية. وبين التفاؤل والقلق، يبقى المؤكد أن الذكاء الاصطناعي يفرض إيقاعا جديدا على الأسواق المالية، سيكون له أثر بالغ في تحديد ملامح الاقتصاد العالمي خلال السنوات القليلة المقبلة.
