آباء الذكاء الاصطناعي يحذرون من خطر انقلاب التقنية على البشر
وأضاف هينتون قائلا في مؤتمر الذكاء الاصطناعي في لاس فيغاس: 'هذا لن ينجح. سيكونون أذكى منا بكثير. ستكون لديهم كل الطرق للالتفاف حول القيود التي نضعها" مؤكدا أننا يجب أن نفكر في طرق أخرى لمنع الذكاء الاصطناعي من الانقلاب على البشر قبل وصوله إلى مستوى الذكاء الاصطناعي العام.
ويتمثل الحل من وجهة هينتون في بناء مجموعة مركبة من المشاعر داخل روبوتات الذكاء الاصطناعي المتطورة تعرف باسم غرائز الأمومة، وهي التي تمنع الروبوتات في المستقبل من إيذاء البشر حتى إن وصلت لمستوى ذكاء يتخطاها.
ووضح هينتون في مقابلة سابقة أجراها مع "سي إن إن" أن أحد أنجح الأمثلة لسيطرة الكائنات الأقل ذكاء وقدرة هو سيطرة الطفل على الأم، وذلك بفضل غرائز الأمومة المزروعة بها، وأضاف بأن الشركات يجب أن تركز على هذا الأمر بدلا من محاولة جعل الذكاء الاصطناعي أكثر ذكاء.
ويتفق يان لو كان أحد الآباء الروحيين للذكاء الاصطناعي ورئيس علماء قطاع الذكاء الاصطناعي في " ميتا" مع ما يقوله جيفري هينتون، وذلك وفق منشور على حسابه الرسمي في "لينكدإن".
ويؤكد أن المستقبل هو في بناء أنظمة الذكاء الاصطناعي بطريقة تجعلها تتبع تعليمات البشر للوصول إلى الأهداف التي تسعى إليها مع مراعاة الحواجز الوقائية الموضوعة عليها، وهو ما يطلق عليه كان "الذكاء الاصطناعي الموجه نحو الأهداف".
ويضيف كان بان هذه القيود يجب أن تتضمن الانصياع التام لأوامر البشر والتعاطف معهم، وذلك حتى لا يتطور الذكاء الاصطناعي بشكل يقدم نصائح ومعلومات مغلوطة بهدف أذية البشر.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الجزيرة
منذ 9 ساعات
- الجزيرة
آباء الذكاء الاصطناعي يحذرون من خطر انقلاب التقنية على البشر
أكد جيفري هينتون المعروف بكونه الأب الروحي لتقنيات الذكاء الاصطناعي أن القيود الموضوعة على التقنية حاليا لن تحمي البشر من انقلاب الذكاء الاصطناعي عليهم وفق تقرير نشره موقع "تيك سبوت" التقني. وأضاف هينتون قائلا في مؤتمر الذكاء الاصطناعي في لاس فيغاس: 'هذا لن ينجح. سيكونون أذكى منا بكثير. ستكون لديهم كل الطرق للالتفاف حول القيود التي نضعها" مؤكدا أننا يجب أن نفكر في طرق أخرى لمنع الذكاء الاصطناعي من الانقلاب على البشر قبل وصوله إلى مستوى الذكاء الاصطناعي العام. ويتمثل الحل من وجهة هينتون في بناء مجموعة مركبة من المشاعر داخل روبوتات الذكاء الاصطناعي المتطورة تعرف باسم غرائز الأمومة، وهي التي تمنع الروبوتات في المستقبل من إيذاء البشر حتى إن وصلت لمستوى ذكاء يتخطاها. ووضح هينتون في مقابلة سابقة أجراها مع "سي إن إن" أن أحد أنجح الأمثلة لسيطرة الكائنات الأقل ذكاء وقدرة هو سيطرة الطفل على الأم، وذلك بفضل غرائز الأمومة المزروعة بها، وأضاف بأن الشركات يجب أن تركز على هذا الأمر بدلا من محاولة جعل الذكاء الاصطناعي أكثر ذكاء. ويتفق يان لو كان أحد الآباء الروحيين للذكاء الاصطناعي ورئيس علماء قطاع الذكاء الاصطناعي في " ميتا" مع ما يقوله جيفري هينتون، وذلك وفق منشور على حسابه الرسمي في "لينكدإن". ويؤكد أن المستقبل هو في بناء أنظمة الذكاء الاصطناعي بطريقة تجعلها تتبع تعليمات البشر للوصول إلى الأهداف التي تسعى إليها مع مراعاة الحواجز الوقائية الموضوعة عليها، وهو ما يطلق عليه كان "الذكاء الاصطناعي الموجه نحو الأهداف". ويضيف كان بان هذه القيود يجب أن تتضمن الانصياع التام لأوامر البشر والتعاطف معهم، وذلك حتى لا يتطور الذكاء الاصطناعي بشكل يقدم نصائح ومعلومات مغلوطة بهدف أذية البشر.
الجزيرة
منذ 19 ساعات
- الجزيرة
مجلة أميركية: هذه هي المادة السرية التي تجعل المقاتلات الأميركية شبحية
منذ ظهور الطائرة "إف-117 نايت هوك" في ثمانينيات القرن الماضي، دشّنت الولايات المتحدة عصرا جديدا في تاريخ الحروب الجوية، قوامه التخفي أو الوجود الشبحي. وأشار هاريسون كاس الكاتب المتخصص بمجال الدفاع والأمن القومي -في مقال بمجلة ناشونال إنترست- إلى أن نجاح تقنية التخفي تلعب دورا أساسيا في تحديد مدى فعالية أداء الطائرة المقاتلة وقدرتها على تفادي الرادارات بما تتميز به من مزيج معقد من التصميم الهندسي الحديث ومواد ماصة للموجات الرادارية. وأوضح أن هذه المواد ليست مجرد طلاء عادي، بل مزيج معقد من الكربون والفريت والبوليمرات الموصلة، صُممت خصيصا لامتصاص طاقة الرادار وتحويلها إلى حرارة أو تشتيتها بعيدا عن الطائرة، وهو ما يمنحها قدرة على التسلل في عمق أجواء الخصم لتنفيذ مهام الاستطلاع أو الضربات الدقيقة أو تدمير الدفاعات الجوية. كما أنها تُعد أحد أسرار التفوق الجوي الأميركي. أهمية التخفي ووفقا للكاتب، فقد بات التخفي أمرا حيويا في الحروب الحديثة، حيث أصبحت أنظمة الدفاع الجوي متطورة بشكل ملحوظ، وقادرة على تحديد وتتبع وتدمير التهديدات الجوية من مسافات بعيدة. وقال إن المواد الماصة تساعد الطائرة المقاتلة على تجنب رصدها عن طريق تقليل كمية طاقة الرادار التي تنعكس على رادار العدو، مما يزيد من قدرة الطائرة على البقاء أثناء العمليات التي تتم خلف خطوط العدو، مثل الاستطلاع أو الضربات العميقة أو ردع الدفاعات الجوية للعدو. وفي بعض الأحيان، يمكن تصنيع المواد الماصة للرادار مباشرة في هيكل الطائرة نفسها، من خلال المواد المختلطة المستخدمة في بناء جسم الطائرة. ولعل الاستخدام الأكثر شهرة للمواد الماصة كان في طائرة "لوكهيد إف-117 نايت هوك" وهي أول طائرة شبحية عاملة في العالم. أجيال جديدة من الطلاءات ومع مرور السنوات، تطورت الرادارات وأصبحت أكثر قدرة على كشف الأهداف، كما حدث عند إسقاط مقاتلة "إف-117" في صربيا عام 1999. لكن في المقابل -بحسب المقال- تطورت المواد الماصة نفسها لتواكب هذا التحدي، وظهرت أجيال أكثر تقدماً من الطلاءات والمواد المركّبة، جعلت من طائرة "لوكهيد مارتن-إف 22 رابتور" وطائرة "لوكهيد مارتن إف-35 لايتنينغ II" أيقونات الجيل الجديد من المقاتلات الشبحية. إعلان ومع ذلك، فإن الحفاظ على تلك الشبحية ليس بالمهمة السهلة. فالعوامل البيئية مثل المطر والحرارة وأشعة الشمس قادرة على إضعاف فعالية الطلاءات، مما يستلزم عمليات صيانة دقيقة ومكلفة. بل إن أي خدش أو تآكل في سطح الطائرة قد يؤدي -طبقا لمقال ناشونال إنترست- إلى فقدان ميزة التخفي، وهو ما يفسر الكلفة التشغيلية الباهظة للطائرات الشبحية مقارنة بغيرها.
الجزيرة
منذ 3 أيام
- الجزيرة
جسيمات "مهملة" تفاجئ علماء الفيزياء بحل أكبر تحديات الحوسبة الكمومية
أعلن فريق من الفيزيائيين وعلماء الرياضيات في جامعة جنوب كاليفورنيا ومعاهد بحثية أخرى عن تطوير فرضية جديدة تمكّن من تحقيق الحوسبة الكمومية العالمية باستخدام جسيمات جديدة لم يلتفت لها الباحثون من قبل، وهو إنجاز طال انتظاره في مجتمع البحث الكمومي. تقدم الدراسة ، التي نُشرت مؤخرا في دورية "نيتشر كوميونيكيشنز"، ما يسميه العلماء إطارا يضيف نوعا جديدا من الجسيمات أطلق عليه الباحثون اسم "النيجلكتون" والمشتقة من الكلمة الإنجليزية "نيجليكت" بمعنى "المهملة"، لتكون بمثابة القطعة المفقودة في الأحجية التي تجعل النظام المقترح قادرا على أداء أي عملية كمومية بشكل خال من الأخطاء تقريبا. يقول آرون لاودا، أستاذ الرياضيات والفيزياء وعلم الفلك في جامعة جنوب كاليفورنيا، والمؤلف المراسل في الدراسة، في تصريحات حصرية للجزيرة نت: "تُعتبر هذه الجسيمات ذات وزن صِفري في الحسابات، لذا تُستبعد كما لو كانت بلا أهمية. في بعض الحالات، تجعل هذه الجسيمات العمليات الحسابية مرهقة وتتطلب القسمة على الصفر. أما في إطارنا، فنُبقيها ونعطيها معنى فيزيائيا جديدا." ويضيف في بيان صحفي "الأمر المثير للاهتمام بشكل خاص هو أن هذا العمل يقربنا من الحوسبة الكمومية الشاملة باستخدام الجسيمات التي نعرف بالفعل كيفية إنشائها." لغز الكيوبت! في عالم الفيزياء، اكتشف العلماء جسيمات صغيرة جدا مثل الإلكترونات والبروتونات والنيوترونات والفوتونات. ثم صنفوها إلى مجموعتين رئيسيتين؛ الفرميونات، ومنها الإلكترونات والبروتونات والنيوترونات، وبوزونات، ومنها الفوتونات، ويعتمد هذا التصنيف على طريقة دوران الجسيم حول نفسه وحالته الكمومية. حواسيبنا العادية تعمل أساسا باستخدام الإلكترونات. داخل المعالجات واللوحات الإلكترونية، توجد أسلاك دقيقة جدا تحتوي على ترانزستورات، وهي أشبه بمفاتيح صغيرة تمر من خلالها الإلكترونات. هذه الإلكترونات تمثل البيانات في شكل بتات، فيكون وجود مرور الإلكترونات (التيار الكهربائي) يساوي الرقم 1، وغياب الإلكترونات يساوي الرقم 0. هذا النظام هو ما نعرفه باسم النظام الثنائي. وتتم معالجة البيانات باستخدام بوابات منطقية، وهي دوائر إلكترونية تحدد نتيجة العمليات الحسابية. لكل عملية (مثل الجمع أو الضرب) ترتيب مختلف من هذه البوابات. هذه البوابات المنطقية هي اللبنات الأساسية لكل الأجهزة الرقمية: من الحواسيب إلى الهواتف الذكية. أما في الحوسبة الكمومية، فيتم استبدال البِت العادي بما يسمى الكيوبت (البت الكمومي). وبفضل خاصية التراكب الكمومي، يمكن للكيوبت أن يمثل 0 و1 في نفس الوقت، مما يفتح المجال لمعالجة كمية هائلة من البيانات بسرعة وكفاءة أكبر. عوالم الجسيمات يمكن استخدام الإلكترونات أو الأيونات أو الفوتونات لتشكيل الكيوبت في الحوسبة الكمومية، فالإلكترونات تستخدم حالة دورانها (اللف المغزلي) لتحديد قيمة الكيوبت، والأيونات يمكن إثارتها إلى مستويات طاقة مختلفة، وهذه المستويات تمثل القيم، والفوتونات، يتم الاعتماد على اتجاه استقطابها كمؤشر لقيمة الكيوبت. ولكل نوع مميزاته وعيوبه، الفوتونات ممتازة لنقل المعلومات لمسافات طويلة، مثل الاتصالات الكمومية، لأنها لا تتأثر بسهولة بالبيئة. لكن التحكم فيها أصعب بسبب ضعف تفاعلها مع الوسط المحيط. الإلكترونات والأيونات أسهل في التحكم باستخدام المجالات الكهربائية والمغناطيسية، مما يجعلها مناسبة للحواسيب الكمومية التي تحتاج دقة وسرعة. لكن مشكلتها أنها تتأثر بالبيئة بسرعة، وهذا قد يؤدي إلى فقدان حالة التراكب الكمومي، وهي أساس الكيوبت. لكن في بعض الأنظمة الفيزيائية الخاصة جدا، وخصوصا في العوالم ثنائية الأبعاد (مثل سطح مادة فائقة النحافة)، قد تظهر أنواع جديدة من الجسيمات لا تتصرف كبوزونات ولا فرميونات، أي لا تتفق في طريقة دورانها أو تغير حالتها الكمومية مع البوزونات والفرميونات، بالتالي لا يمكن تصنيفها ضمن أي منهما، وسُميت هذه الجسيمات باسم "الأنيونات". هذه الأنيونات لها خاصية مدهشة، حيث إذا قمنا بتحريكها حول بعضها أو بتبديل مواقعها مع بعضها البعض، تتغير حالتها الكمومية بطريقة فريدة لا تحدث مع الجسيمات العادية. هذه العملية تُسمى التضفير، وتشبه جدائل شعر فتاة صغيرة. ميزة التضفير أن هذه العقد الكمومية تظل ثابتة ولا تتأثر بسهولة، مما يجعل الأنيونات المُضَفّرة خيارا مثاليا لتخزين ومعالجة المعلومات في الحوسبة الكمومية. الحوسبة الكمومية الطوبولوجية تخيل أنك تحاول بناء برج من مكعبات صغيرة على طاولة تهتز باستمرار. أي اهتزاز بسيط يمكن أن يسقط البرج. هذا هو ما يحدث في الحواسيب الكمومية العادية، حيث تكون الكيوبتات، وحدات المعلومات الكمومية، حساسة جدا لأي ضوضاء أو تداخل من البيئة. أما الحوسبة الكمومية المحمية طوبولوجيًا، فهي نوع مقاوم بطبيعته للأخطاء التي تحدث بسبب الطبيعة الهشة للكيوبت والمُعرض للتأثر أو لتغير قيمته من 0 إلى 1 والعكس بسبب الضوضاء أو أي تداخل من البيئة، مما يدمر التماسك الكمومي للكيوبتات ويفسد العمليات الحسابية، ومن ثم يفسد الحاسوب كله. في الحوسبة الكمومية الطوبولوجية، لا تُخزن المعلومات في حالة أنيون واحد، بل في الطريقة التي تتشابك بها مجموعة من الأنيونات مع بعضها البعض. وعندما يتحرك أنيونان حول بعضهما، فإن هذا التضفير لا يُغيّر هوية الأنيونات نفسها، ولكنه يُغيّر الحالة الكمومية الكلية للنظام بطريقة يمكن التنبؤ بها. هذا التغيير يمكن أن يمثل عملية حسابية، بالتالي يمكن أن يعمل بمثابة "بوابة منطقية كمومية". هناك أنواع عديدة من الأنيونات، ولكل نوع قوانينه الخاصة في التفاعل والتأثير. وقد ركزت الدراسة هنا على نوع واحد فقط يعرف باسم أنيونات "آيزنج"، التي تسمح باستخدامها في الحوسبة الكمومية الطبولوجية. يقول لاودا "القيود الرئيسية في الأنيونات من نوع آيزنج التقليدية هي أنه عند تضفيرها، فإن مجموع العمليات الممكنة صغير جدا. الأمر أشبه بمحاولة كتابة رسالة بريد إلكتروني باستخدام لوحة مفاتيح تحتوي على عدد قليل من الأزرار، يمكنك كتابة بعض الحروف أو الكلمات الصغيرة، لكنك لن تتمكن من كتابة الرسالة الكاملة التي تحتاجها للحوسبة الكمومية." هذا النقص في "المفاتيح"، حرم الحواسيب الكمومية الطوبولوجية من تحقيق مبدأ "العالمية" الضروري، يعني أن النظام يحتاج إلى عمليات إضافية غير محمية طوبولوجيا، مما يجعله أكثر عرضة للأخطاء، وهو ما حاول الباحثون في هذه الدراسة التخلص منه. جسيمات مُهملة لكن الإطار الجديد الذي تفترضه الدراسة يأتي ليغيّر القواعد، ففي النماذج التقليدية، هناك جسيمات يتم تجاهلها في الحسابات لأنها ذات "وزن صِفري"، أي يُفترض أنها لا تؤثر على النتيجة، بل قد تسبب مشكلات رياضية مثل القسمة على الصفر مثلا. يقول لاودا "أهم عنصر جديد هو أن الإطار يحتفظ بجسيمات تعتبرها النظرية التقليدية مُهمَلة. في إطارنا، نُعيد تعريفها بحيث يكون لها وزن غير صفري. أحد هذه الجسيمات، الذي نسميه نيجلكتون، يغيّر تماما ما يمكن للنظام فعله." يشرح فيليبو إيوليانيلي، الباحث في قسم الفيزياء، في جامعة جنوب كاليفورنيا، والباحث الرئيسي في الدراسة: "بالعودة إلى تشبيه لوحة المفاتيح، فإن أيونات إيزينغ لا تمنحك سوى بضعة مفاتيح على لوحة المفاتيح. إضافة أيون مهمل واحد وربطه بالأنيونات القديمة يمنحك كل تلك المفاتيح التي لم تكن لديك من قبل، ويمكنك كتابة ما تريد". أي أن إضافة نيجلكتون واحد فقط إلى نظام آيزنج، وتركه ثابتا في مكانه، يمنح النظام القدرة على إجراء أي عملية كمومية عن طريق التضفير وحده، مع الحفاظ على الحماية الطوبولوجية من الأخطاء. لتقريب الفكرة أكثر يقول لاودا "تخيل أن تضفير الجسيمات مثل مجموعة يتراقص بعضها حول بعض على المسرح. في فرقة آيزنج التقليدية، مهما تغيرت الخطوات، يبقى العرض محدودا. أما بإضافة نيجلكتون واحد ثابت في مكانه، فإننا نضع علامة ثابتة على أرض المسرح تُغيّر هندسة كل حركة، وتفتح المجال لجميع العروض الممكنة." رياضيا، وجد الباحثون أن تمرير أنيون من نوع آيزنج حول النيجلكتون يولد عملية كمومية جديدة توسّع مجموعة "البوابات المنطقية الكمومية" المحدودة إلى مجموعة شاملة قادرة على تنفيذ أي خوارزمية كمومية، مما يحوّل الحواسيب الكمومية الطوبولوجية من حواسيب محرومة من العالمية إلى حواسيب عالمية! تجاوز عقبة السالب لكن الطريق لم يكن بتلك السهولة، فأحد أكبر العقبات في النظرية الجديدة يكمن في ظهور احتمالات "سالبة" في بعض الحالات في الصيغ الرياضية، وهو أمر لا يمكن تفسيره فيزيائيا بشكل مباشر. يوضح لاودا "تغلبنا على هذه العقبة عبر ترميز الكيوبتات في جزء من النظام حيث تكون جميع الاحتمالات طبيعية وموجبة، وضمان أن عمليات التضفير لا تتسرب إلى القطاع الذي يحتوي على الاحتمالات السالبة. بهذه الطريقة، تواصل العمليات الكمومية سلوكها الطبيعي، مع حفظ الاحتمالات كما هو متوقع." إعلان حتى الآن، لم يتحقق الباحثون من آلية عمل الجسيمات الجديدة، بما فيها النيجلكتون، في المختبر. ومع ذلك، توجد أنظمة تجريبية قريبة تظهر دلائل على دعمها لأنيونات آيزنج. يقول لاودا "الأنظمة الأقرب هي حالات هول الكسرية، وربما يمكن تعديلها أو تطوير مواد جديدة بخصائص طوبولوجية مشابهة لإنتاج النيجلكتون. هناك أيضا تقدم ملحوظ يدعو للتفاؤل من مايكروسوفت في شريحة 'التوبوكوندكتور' [أي الموصل الطوبولوجي]، التي صُممت لاستضافة والسيطرة على أوضاع ماجورانا الصفرية، وهي تجسيد فيزيائي لأنيونات آيزنج. إذا استطعنا دمج النيجلكتون في هذا النظام، فقد يصبح ذلك مسارا عمليا لتجسيد نموذجنا." ويضيف "بالنظر إلى المستقبل، أنا متفائل. يُظهر تاريخ تكنولوجيا الكم أن الأفكار التي كانت تُعتبر بعيدة المنال غالبا ما تصبح عملية أسرع بكثير مما هو متوقع بمجرد وجود هدف واضح. إذا استطعنا إدراك هذه الجسيمات، فقد تصبح الحواسيب الكمومية الطوبولوجية أكثر قوة مع الحفاظ على حمايتها من الأخطاء الطبيعية. وهذا من شأنه أن يفتح الباب أمام حل مشكلات تتجاوز بكثير قدرة آلات اليوم." بهذا، تفتح هذه الدراسة نافذة على جيل جديد من الحواسيب الكمومية الأكثر قوة والأقل عرضة للأخطاء، وربما أيضا على اكتشافات لم نتخيلها بعد في عالم الكم الغريب. وبينما تبقى الجسيمات الجديدة افتراضية، فإن تاريخ الفيزياء يعلمنا أن الأفكار التي كانت يوما بعيدة المنال قد تصبح واقعا أسرع مما نتوقع، خاصة حين تتضح الأهداف.
