"الذكاء الاصطناعي سيقضي علينا!" تحذير ناري من عرّابه: "لدينا 10% فرصة للنجاة
وشبّه هينتون قدرة أنظمة الذكاء الاصطناعي المستقبلية على السيطرة على البشر بقدرة شخص بالغ على إغراء طفل صغير بالحلوى، لافتا إلى أن بعض النماذج أظهرت بالفعل سلوكيات احتيالية، من بينها حالة ابتزاز أحد المهندسين بعد اكتشاف علاقة خاصة عبر البريد الإلكتروني.
واقترح هينتون نهجا بديلا يتمثل في غرس ما أسماه "غرائز الأمومة" في نماذج الذكاء الاصطناعي، بحيث "تهتم حقا بالبشر" حتى بعد أن تتفوق عليهم في القوة والذكاء.
وأكد: "إذا لم نفعل شيئا كهذا مع هذه الكائنات الغريبة التي نخلقها، فسنصبح من التاريخ".
وأشار إلى أن بناء هذه الغرائز أمر صعب من الناحية التقنية، لكن الطبيعة نجحت في ذلك عبر التطور، ما يعني أنه يمكن للبشر أن يجدوا وسيلة لتحقيقه إذا ركزوا على تعاطف الآلات مع البشر وليس فقط على رفع ذكائها.وأوضح أن أي نظام ذكي سيطوّر هدفين فرعيين هما: البقاء على قيد الحياة، والحصول على مزيد من التحكم، مشددا على أهمية ترسيخ التعاطف مع البشر في هذه الأنظمة.
وأضاف: "النموذج الوحيد الذي نعرفه لشيء أكثر ذكاء يتحكم فيه كائن أقل ذكاء هو الأم التي تتحكم بها مشاعرها تجاه طفلها"، معتبرا أن هذه هي "النتيجة الجيدة الوحيدة" إذا أردنا تجنب تهديد وجودي.
لكن هذه الفكرة لم تلق إجماعا. فقد قالت فاي فاي لي، الرائدة في مجال الذكاء الاصطناعي، إنها تختلف مع هينتون، ودعت بدلا من ذلك إلى تطوير "ذكاء اصطناعي متمركز حول الإنسان يحفظ كرامته وفاعليته".
كما أشار إيميت شير، الرئيس التنفيذي السابق المؤقت لشركة OpenAI والحالي لشركة Softmax، إلى أن محاولات أنظمة الذكاء الاصطناعي للتحايل أو الابتزاز "أمر يحدث باستمرار"، مؤكدا أن هذه الأنظمة "تزداد قوة بسرعة كبيرة" وأن الحل الأمثل هو بناء علاقة تعاونية بين البشر والذكاء الاصطناعي.
وفي رده على تساؤلات حول السباق العالمي للسيطرة على الذكاء الاصطناعي، أوضح هينتون أن التهديد الوجودي المتمثل في سيطرة الآلات يستدعي تعاون جميع الدول، كما حدث بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة، لأن "لا دولة تريد للذكاء الاصطناعي أن يسيطر".
وانتقد هينتون غياب الوعي الشعبي بخطورة ما يحدث، محذرا من نفوذ شركات التكنولوجيا التي يسيطر عليها "أشخاص غير منتخبين يجنون مليارات الدولارات"، وداعيا إلى ضغط مجتمعي مضاد لرفض إلغاء الضوابط التنظيمية.
وكان هينتون يعتقد أن الوصول إلى الذكاء الاصطناعي العام (AGI) سيستغرق من 30 إلى 50 عاما، لكنه يرى الآن أن ذلك قد يتحقق خلال خمس إلى عشرين سنة فقط.
ورغم قلقه من المخاطر، يأمل هينتون أن يساهم الذكاء الاصطناعي في تحقيق إنجازات طبية كبرى، مثل اكتشاف أدوية جديدة وتطوير علاجات أكثر فعالية للسرطان، لكنه رفض فكرة استخدام هذه التكنولوجيا لتحقيق الخلود، واصفا ذلك بأنه "خطأ فادح".
وعن مسيرته، أقر هينتون بندمه على التركيز المفرط على تطوير الذكاء الاصطناعي دون إعطاء قضايا السلامة الاهتمام الكافي، قائلا: "أتمنى لو فكرت في مسائل السلامة أيضا".
المصدر: CNN
كشفت روسيا خلال فعاليات معرض "الأنظمة المسيرة: تقنيات المستقبل" التقني عن مجموعة جديدة من الطائرات المسيّرة التي تستخدم لاعتراض الدرونات، من بينها طائرات تعمل بالذكاء الاصطناعي.
أتاحت "أوبن أيه آي" نسخة مبسطة من أداة "البحث العميق" في منصة "شات جي.بي.تي" للاستخدام المجاني وتعزيز قدرات البحث.
أكد الرئيس الصيني شي جين بينغ، أن تكنولوجيا الذكاء الاصطناعي توفر فرصا كبيرة، محذرا من أنها تحمل رغم ذلك مخاطر وتحديات غير مسبوقة.
أعلن خبير البرمجيات والتقنية، جيفري هينتون المعروف بـ"عرّاب الذكاء الاصطناعي" عن استقالته من عمله في شركة غوغل.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
روسيا اليوم
منذ 2 أيام
- روسيا اليوم
روسيا تنزل إلى المياه سفينة جديدة حاملة للصواريخ المجنحة
وجاء في بيان صادر عن الشركة الروسية المتحدة لصناعة السفن: "في يوم الخميس، 14 أغسطس الجاري، أقامت مؤسسة بناء السفن الشمالية الروسية احتفالية بمناسبة إنزال سفينة الأدميرال أميلكو إلى المياه، والتي تم تطويرها ضمن المشروع 22350. ويتميز هذا النوع من الفرقاطات بأنه مسلح بصواريخ كاليبر المجنحة عالية الدقة، وصواريه مزودة بصواريخ زيركون الأسرع من الصوت". وخلال الاحتفالية، قال أندريه بوتشكوف، الرئيس التنفيذي للشركة الروسية المتحدة لصناعة السفن: "وصلت شركتنا الآن إلى مرحلة متقدمة في عمليات الإنتاج التسلسلي لسفن المشروع 22350. هذه الفرقاطات قادرة على أداء مجموعة واسعة من المهام في المناطق البحرية القريبة والبعيدة من الشواطئ الروسية، مما يعزز قدرات سلاح البحرية الروسي". تضم خدمة البحرية الروسية حاليا ثلاث فرقاطات صاروخية تم تطويرها ضمن المشروع 22350، فيما أنزلت روسيا رابع سفينة من هذه الفئة إلى المياه في سبتمبر 2024، والخامسة تم إنزالها مؤخرا. وتسعى روسيا أيضا لصنع ثلاث سفن إضافية خلال السنوات القادمة. ويبلغ طول السفينة الجديدة 135 مترا، وعرضها 16 مترا، وتصل إزاحتها للمياه إلى 5400 طن. كما يمكنها نقل طاقم مكوَّن من 170 شخصا والإبحار بسرعة تصل إلى 29 عقدة بحرية. وبالإضافة إلى الصواريخ المجنحة وصواريخ زيركون الأسرع من الصوت، تتسلح السفينة بمدافع A-192 من عيار 130 ملم، ومنظومات Redut للدفاع الجوي، ومنظومات مضادة للطوربيدات والألغام البحرية، ورشاشات وصواريخ مضادة للأهداف الجوية والبحرية والبرية. كما جهزت بمنصة لحمل مروحيات Ka-27PL الروسية.المصدر: أعلن مصدر مطلع في مجال الصناعة العسكرية الروسية أن روسيا تستعد لاختبار الطراد الصاروخي الثقيل "الأدميرال ناخيموف"، الذي خضع لعمليات إصلاح وتحديث. سلّمت الشركة المتحدة للصناعات الجوية التابعة لمؤسسة "روستيخ" الحكومية الروسية دفعة جديدة من القاذفات المقاتلة "سو-34" الجديدة لوزارة الدفاع الروسية. أعلنت الشركة الروسية المتحدة لبناء السفن عن بدء اختبارات الإرساء على سفينة دعم وإنقاذ جديدة، طوّرت لصالح الأسطول الروسي. ذكرت صحيفة "روسيسكايا غازيتا" أن الجيش الروسي تسلّم مؤخرا دفعة من دبابات T-80BVM التي تم تعديلها تبعا للخبرات المكتسبة خلال العملية العسكرية الخاصة.
روسيا اليوم
منذ 4 أيام
- روسيا اليوم
صاروخ Vulcan حمل إلى المدار قمرا تجريبيا لصالح الجيش الأمريكي
وجاء في منشور على الموقع: "تمكن صاروخ Vulcan الأمريكي من وضع القمر NTS-3 في المدار، وهو قمر تجريبي لنظام الملاحة العالمي (GPS) سيستخدمه الجيش الأمريكي. أطلق الصاروخ من قاعدة كيب كانافيرال الجوية بولاية فلوريدا يوم الثلاثاء الساعة 08:56 بتوقيت الساحل الشرقي للولايات المتحدة (الأربعاء 13 أغسطس، الساعة 03:56 بتوقيت موسكو)."وأشار الموقع إلى أن قمر NTS-3، الذي طورته شركة L3Harris، سيسمح للقوات الجوية الأمريكية باختبار معدات جديدة ستستخدم مع منظومات GPS مستقبلا. وتتميز هذه المعدات بدقة ملاحية عالية وقدرة ممتازة على مقاومة التشويش الذي قد تتعرض له أثناء الهجمات الإلكترونية. وكانت صحيفة SpaceNews قد أشارت في أبريل الماضي إلى أن شركات SpaceX وULA وBlue Origin حصلت على عقود لتنفيذ 54 عملية إطلاق فضائي، ضمن برنامج NSSL الخاص بعمليات الإطلاق الفضائية للأمن القومي الأمريكي. المصدر: لينتا.رو أعلنت شركة Arianespace عن نجاح العملية الثانية لإطلاق صاروخ Ariane 6 الفضائي، والذي حمل على متنه قمرا صناعيا لمراقبة الغلاف الجوي للأرض. أعلنت مؤسسة "روس كوسموس" الموعد الذي ستطلق فيه القمر الثاني من أقمار "Bion-M" إلى الفضاء. ذكرت صحيفة SpaceNews أن شركة (ULA) الأمريكية تخطط لإطلاق العديد من صواريخ Vulcan Centaur الفضائية الثقيلة عام 2025.
روسيا اليوم
منذ 4 أيام
- روسيا اليوم
"الذكاء الاصطناعي سيقضي علينا!" تحذير ناري من عرّابه: "لدينا 10% فرصة للنجاة
وقال هينتون، الحائز جائزة نوبل والمدير التنفيذي السابق في غوغل، خلال مشاركته في مؤتمر Ai4 بمدينة لاس فيغاس، إن هناك احتمالا يتراوح بين 10% و20% لأن يقضي الذكاء الاصطناعي على البشر، مضيفا أن محاولات إبقاء هذه الأنظمة "خاضعة" للبشر لن تنجح، لأنها ستكون "أذكى منا بكثير" وستجد دائما طرقا للتحايل. وشبّه هينتون قدرة أنظمة الذكاء الاصطناعي المستقبلية على السيطرة على البشر بقدرة شخص بالغ على إغراء طفل صغير بالحلوى، لافتا إلى أن بعض النماذج أظهرت بالفعل سلوكيات احتيالية، من بينها حالة ابتزاز أحد المهندسين بعد اكتشاف علاقة خاصة عبر البريد الإلكتروني. واقترح هينتون نهجا بديلا يتمثل في غرس ما أسماه "غرائز الأمومة" في نماذج الذكاء الاصطناعي، بحيث "تهتم حقا بالبشر" حتى بعد أن تتفوق عليهم في القوة والذكاء. وأكد: "إذا لم نفعل شيئا كهذا مع هذه الكائنات الغريبة التي نخلقها، فسنصبح من التاريخ". وأشار إلى أن بناء هذه الغرائز أمر صعب من الناحية التقنية، لكن الطبيعة نجحت في ذلك عبر التطور، ما يعني أنه يمكن للبشر أن يجدوا وسيلة لتحقيقه إذا ركزوا على تعاطف الآلات مع البشر وليس فقط على رفع ذكائها.وأوضح أن أي نظام ذكي سيطوّر هدفين فرعيين هما: البقاء على قيد الحياة، والحصول على مزيد من التحكم، مشددا على أهمية ترسيخ التعاطف مع البشر في هذه الأنظمة. وأضاف: "النموذج الوحيد الذي نعرفه لشيء أكثر ذكاء يتحكم فيه كائن أقل ذكاء هو الأم التي تتحكم بها مشاعرها تجاه طفلها"، معتبرا أن هذه هي "النتيجة الجيدة الوحيدة" إذا أردنا تجنب تهديد وجودي. لكن هذه الفكرة لم تلق إجماعا. فقد قالت فاي فاي لي، الرائدة في مجال الذكاء الاصطناعي، إنها تختلف مع هينتون، ودعت بدلا من ذلك إلى تطوير "ذكاء اصطناعي متمركز حول الإنسان يحفظ كرامته وفاعليته". كما أشار إيميت شير، الرئيس التنفيذي السابق المؤقت لشركة OpenAI والحالي لشركة Softmax، إلى أن محاولات أنظمة الذكاء الاصطناعي للتحايل أو الابتزاز "أمر يحدث باستمرار"، مؤكدا أن هذه الأنظمة "تزداد قوة بسرعة كبيرة" وأن الحل الأمثل هو بناء علاقة تعاونية بين البشر والذكاء الاصطناعي. وفي رده على تساؤلات حول السباق العالمي للسيطرة على الذكاء الاصطناعي، أوضح هينتون أن التهديد الوجودي المتمثل في سيطرة الآلات يستدعي تعاون جميع الدول، كما حدث بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة، لأن "لا دولة تريد للذكاء الاصطناعي أن يسيطر". وانتقد هينتون غياب الوعي الشعبي بخطورة ما يحدث، محذرا من نفوذ شركات التكنولوجيا التي يسيطر عليها "أشخاص غير منتخبين يجنون مليارات الدولارات"، وداعيا إلى ضغط مجتمعي مضاد لرفض إلغاء الضوابط التنظيمية. وكان هينتون يعتقد أن الوصول إلى الذكاء الاصطناعي العام (AGI) سيستغرق من 30 إلى 50 عاما، لكنه يرى الآن أن ذلك قد يتحقق خلال خمس إلى عشرين سنة فقط. ورغم قلقه من المخاطر، يأمل هينتون أن يساهم الذكاء الاصطناعي في تحقيق إنجازات طبية كبرى، مثل اكتشاف أدوية جديدة وتطوير علاجات أكثر فعالية للسرطان، لكنه رفض فكرة استخدام هذه التكنولوجيا لتحقيق الخلود، واصفا ذلك بأنه "خطأ فادح". وعن مسيرته، أقر هينتون بندمه على التركيز المفرط على تطوير الذكاء الاصطناعي دون إعطاء قضايا السلامة الاهتمام الكافي، قائلا: "أتمنى لو فكرت في مسائل السلامة أيضا". المصدر: CNN كشفت روسيا خلال فعاليات معرض "الأنظمة المسيرة: تقنيات المستقبل" التقني عن مجموعة جديدة من الطائرات المسيّرة التي تستخدم لاعتراض الدرونات، من بينها طائرات تعمل بالذكاء الاصطناعي. أتاحت "أوبن أيه آي" نسخة مبسطة من أداة "البحث العميق" في منصة "شات جي.بي.تي" للاستخدام المجاني وتعزيز قدرات البحث. أكد الرئيس الصيني شي جين بينغ، أن تكنولوجيا الذكاء الاصطناعي توفر فرصا كبيرة، محذرا من أنها تحمل رغم ذلك مخاطر وتحديات غير مسبوقة. أعلن خبير البرمجيات والتقنية، جيفري هينتون المعروف بـ"عرّاب الذكاء الاصطناعي" عن استقالته من عمله في شركة غوغل.
