الذكاء الاصطناعي وكارثة خروجه عن سيطرة البشر

كتبت يولا هاشم في 'المركزية':
المركزية – في خطوة ثورية في مجال الذكاء الاصطناعي، أطلقت شركة 'مونيكا' (Monica) الصينية أخيراً وكيل الذكاء الاصطناعي المستقل 'مانوس' (Manus). يختلف 'مانوس' عن النماذج التقليدية للذكاء الاصطناعي مثل 'تشات جي بي تي' و'جيمناي'، إذ إنه لا يقتصر على الإجابة عن الأسئلة أو تنفيذ مهام محدودة، بل هو نموذج ذكاء اصطناعي متطور ومصمم ليكون وكيلاً ذاتياً(General AI Agent) ، قادراً على تنفيذ عمليات معقدة دون تدخل بشري مباشر، ويمكنه تحديد المشكلات، والتخطيط للحلول، وتنفيذها بذكاء واستقلالية عاليتين. لكن، الأمر دونه مخاطر لا سيما حول إمكانية تحكم الذكاء الاصطناعي بالبشرية وتفلتها منه ما لم يكن تحت إشراف البشر وصولا الى الانقلاب عليه؟ فماذا يعني أن يتخذ قرارات من دون تدخل بشري؟
الخبير في الأمن السيبراني والتحول الرقمي رولان ابي نجم يؤكد لـ'المركزية' 'ان 'الفرق بين 'مانوس' وبرامج الذكاء الاصطناعي الأخرى مثل 'شات جي بي تي' و'جيميناي'، هي ما يُطلق عليه تسمية AI Agent أي العميل. والفكرة بدأت بها 'شات جي بي تي' لكنها لم تطلقها رسميًا بعد. حتى 'مانوس'، ليس باستطاعة أي كان استخدامه، لأنه يحتاج الى تقديم طلب والحصول على الموافقة قبل ذلك.ويضيف: 'إذا طلبت من 'تشات جي بي تي' مثلًا أن ينظم لك رحلة سياحية الى ايطاليا، فسيقدم لك برنامجًا كاملًا ويعطيك لائحة بأفضل الفنادق أو شركات استئجار السيارة والاماكن السياحية وغيرها من التفاصيل. بينما في الـAgent، لا يقدم لك البرنامج أفضل العروض لتختار من بينها، بل يقوم بحجز كل الرحلة واتخاذ الخطوات المناسبة. وهذا ما نعني به من دون تدخل أي عامل بشري. لكن في النهاية يجب ان يكون هناك عامل بشري يطلب هذه المهام كي ينفذها البرنامج'.
هل من الممكن ان يخرج عن سيطرة البشر؟ يجيب أبي نجم: 'الذكاء الاصطناعي يتكوّن من داتا وبيانات وخورزميات اي برمجياته مع الـcomputing power والتي تتمثل بقدرة حاسوبية هائلة. ونتحدث هنا عن كمبيوترات خارقة او سوبر كمبيوتر، كالروبوتات (رجل آلي) الموجودة في المنازل. عندما أعطي هذا الروبوت الفيزيائي أوامر لتنفيذ مهام معينة، يمكن في أي وقت من الأوقات أن يتعرّض لعطل في البرمجيات أوالـhardware او في اي قطعة موجودة في داخله، تماما كما يحصل في أجهزة الكمبيوتر والهاتف'.
ويشير أبي نجم الى ان 'برامج 'شات جي بي تي' مثلًا يمكن ان تقوم بهلوسات، كأن نسأله سؤالا فيعطي جوابا خاطئا. ومؤخرا انتشرت قصة حصلت مع أحد المستخدمين لبرنامج 'جيميناي' (برنامج الذكاء الاصطناعي التابع لغوغل)، الذي كان يطرح أسئلة لدرجة استفزت البرنامج، فأرسل له رسالة تقول بأن لا نفع له وطلب منه الانتحار. فلنتخيل هذه الهلوسات والمشاكل البرمجية تحصل لروبوت في منزل ما. وبدل ان يقول لصاحبه 'اذهب واقتل نفسك' يأخذ المبادرة بنفسه ويقتله او ان يضرب صاحبه في حال غضب منه. كما ان هامش الخطأ وارد لدى الروبوتات التي تعمل في المجال الطبي خلال إجرائها العمليات الجراحية، ما قد يؤدي الى وفاة المريض، او أيضًا لدى السيارة ذاتية القيادة ما قد يؤدي الى حادث مميت. كل هذه الامور تحمل مخاطر وواردة، وقد يخرج الذكاء الاصطناعي عن السيطرة، لأنه عبارة عن برمجيات وبيانات يمكن ان تتعطل في اي لحظة وتؤدي الى أضرار'.
ويستطرد: 'كل شيء في العالم يحتمل مخاطر، ويسمى risk management. نعاين كل يوم حوادث سيارات أو طائرات او غيرها.. فهل قرر أحد الاستغناء عنها؟ وكذلك، المخاطر الموجودة في الذكاء الاصطناعي أصبحت واقعا لا مفر منه، وبالتالي يفترض وضع إدارة لهذه المخاطر للتخفيف منها قدر الامكان. ايلون ماسك أعلن عام 2018 ان الذكاء الاصطناعي أخطر من السلاح النووي، لأن السلاح النووي بيد الحكومات بينما الذكاء الاصطناعي في متناول أي شخص. مهما حاولنا ان نضع تشريعات وقوانين من أجل ضبطه فلن نتمكن من ذلك. إذا وضعنا مثلا قوانين في الاتحاد الاوروبي، فهي لا تطبق في الولايات المتحدة الاميركية او لبنان او غيرها من الدول. هناك العديد من الاشخاص الذين يخرجون من الاتحاد الاوروبي ويؤسسون شركات في دول أخرى لا تطبق فيها هذه القوانين. في الذكاء الاصطناعي مثلا تقنيات deep fake او التزوير العميق حيث يمكن تركيب فيديو كامل متكامل لشخص معين يشتم فيه رئيس الجمهورية او يدعو للارهاب، فيتم اعتقاله من دون اي يكون له اية علاقة في الموضوع. وإذا كان الشخص الذي فبرك الفيديو موجود في كوريا الشمالية، فمن يمكن ان يطاله؟ هذه هي الاشكالية الكبيرة التي نتحدث عنها. حتى لو وضعنا قوانين وتشريعات فلن نتمكن من تطبيقها. إذا كان ثمة برنامج ذكاء اصطناعي يؤذي المستخدمين او الغير، لكن كل الاشخاص في لبنان تستخدمه، وهو مصنوع في زيمبابوي، ما الذي يمكن ان نفعله؟'
ويختم أبي نجم: 'المخاطر موجودة وستزيد مع الوقت. الذكاء الاصطناعي وسيلة، يبقى الخوف من استخدام الانسان له وليس العكس'.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

القناة الثالثة والعشرون

منذ 5 ساعات

• القناة الثالثة والعشرون

"غوغل" تغيّر قواعد اللعبة... وتنافس الذكاء الإصطناعي مجدداً!

أعلن الرئيس التنفيذي لمجموعة غوغل سوندار بيتشاي أن الشركة تعتزم إطلاق وضع جديد لمحرك البحث التابع لها مزود بالذكاء الاصطناعي المعزز. ومن المتوقع أن يتمتع "AI Mode" ("وضع الذكاء الاصطناعي") الذي سيكون متاحا في البداية فقط في الولايات المتحدة، بميزات أقوى، من خلال توفير تقارير أو رسوم بيانية مفصلة لتوضيح البيانات عند الطلب باللغة اليومية. كذلك، توفر الأداة المرتقبة استجابات مخصصة بناء على ملف تعريف المستخدم وسجل نشاطه على الإنترنت واتصالاته، وما إذا كان قد أعطى حق الوصول إلى سجل البحث الخاص به أو صندوق الوارد في بريده الإلكتروني. وسيبدو محرك البحث أشبه بخدمة تشات جي بي تي المطورة من شركة أوبن إيه آي، والتي اكتسبت أخيرا وظائف جديدة لا سيما مع إضافة خاصية التسوق. وقالت ليز ريد، رئيسة قسم البحث في المجموعة التي تتخذ مقرا في ماونتن فيو بولاية كاليفورنيا، خلال عرض تقديمي في مؤتمر Google I/O (غوغل آي أو) للمطورين "هذا مستقبل البحث على غوغل، إنها ميزة تتجاوز المعلومات إلى الذكاء". انضم إلى قناتنا الإخبارية على واتساب تابع آخر الأخبار والمستجدات العاجلة مباشرة عبر قناتنا الإخبارية على واتساب. كن أول من يعرف الأحداث المهمة. انضم الآن شاركنا رأيك في التعليقات تابعونا على وسائل التواصل Twitter Youtube WhatsApp Google News

القناة الثالثة والعشرون

منذ 21 ساعات

• القناة الثالثة والعشرون

"مايكروسوفت" تعلن اعتماد أداة "غروك" للذكاء الاصطناعي

أعلنت شركة "مايكروسوفت" أنها ستضيف إلى "أزور"، وهي منصة حوسبة سحابية للمطورين، برنامج "غروك" القائم على الذكاء الاصطناعي التوليدي، في أعقاب جدل جديد بشأن هذه الأداة التي ابتكرتها شركة مملوكة للملياردير إيلون ماسك. وأثار "غروك" جدلا خلال الأسبوع الفائت عندما ذكر عبارة "إبادة جماعية للبيض" في جنوب أفريقيا، وهو خطأ عزته شركة "اكس ايه آي" التي ابتكرت هذا النموذج وتمتلك أيضا منصة "إكس" للتواصل الاجتماعي، إلى "تعديل غير مصرح به". وقال إيلون ماسك خلال مقابلة قصيرة مع الرئيس التنفيذي لشركة "مايكروسوفت" ساتيا ناديلا، بُثّت الاثنين خلال المؤتمر السنوي لشركة التكنولوجيا الكبرى "نسعى جاهدين من أجل الحقيقة". وأضاف "ستكون هناك أخطاء دائما، لكننا نسعى جاهدين للوصول إلى الحقيقة، وتقليل عدد الأخطاء مع مرور الوقت. وأعتقد أن ذلك مهم جدا لسلامة الذكاء الاصطناعي". ولن تشكل الإضافة المفاجئة لـ"غروك" إلى عدد كبير من نماذج الذكاء الاصطناعي التوليدي الأخرى المتوفرة على "أزور"، أخبارا سارة لشركة "أوبن إيه آي"، الشريك الرئيس لـ"مايكروسوفت" في هذه التكنولوجيا. أطلقت "أوبن إيه آي" موجة الذكاء الاصطناعي التوليدي مع أداتها "تشات جي بي تي" في أواخر العام 2022 وتظل نجمة القطاع، خصوصا بفضل استثمار "مايكروسوفت" بالمليارات فيها. هاجم إيلون ماسك باستمرار "أوبن إيه آي" في منصة "إكس" وفي القضاء، متهما إياها بأنها "انتهكت" عقدها التأسيسي الذي يشير إلى أنها شركة غير ربحية. وكان ماسك أحد مؤسسي هذه الشركة في العام 2015، لكنه استقال منها بعد ثلاث سنوات بسبب خلافات جوهرية. مهندسون قائمون على الذكاء الاصطناعي سجّل الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان مداخلة في مؤتمر "مايكروسوفت"، وتحدّث مباشرة مع ساتيا ناديلا لتسليط الضوء على أحدث الابتكارات. ستكون نماذج "غروك" مُتاحة على "أزور إيه آي فاوندري"، وهي منصة توفر مئات النماذج للمطورين المشتركين في الخدمة، بما في ذلك نماذج "ديب سيك" و"ميسترال" و"ميتا". وأكد ناديلا أهمية الخيارات المتعددة التي تقدمها "فاوندري". وقال "كمطورين، نحن مهتمون بأبعاد كثيرة: التكلفة، والصدقية، والوقت المستغرق، وكذلك الجودة"، مضيفا "أزور أوبن إيه آي هي الأفضل في فئتها؛ إذ تقدم ضمانات مثل الصدقية العالية وضوابط ممتازة للتكلفة". وتابع "يسعدنا اليوم أن نعلن أنّ غروك المُبتكر من شركة إكس إيه آي سيُضاف إلى أزور". وكشفت "مايكروسوفت" النقاب أيضا عن برنامج مساعد قائم على الذكاء الاصطناعي للمهندسين، قادر على الترميز عند الطلب ومتاح على "غيت هاب"، خدمة تطوير البرامج الخاصة بالشركة. تبرمج الأداة المساعدة الجديدة بشكل مستقل، وتخطر المستخدم عند الانتهاء، وتظهر كمبرمج بين آخرين داخل الفريق في المنصة. ليست البرامج المساعدة القائمة على الذكاء الاصطناعي والقادرة على البرمجة بجديدة، لكنّ شركات التكنولوجيا العملاقة تَعِد منذ أشهر عدة بـ"مهندسين قائمين على الذكاء الاصطناعي" أكثر استقلالية وكفاءة. ويخشى عدد كبير من المراقبين والمنتقدين في سيليكون فالي من أن يؤدي ذلك إلى خسائر كبيرة في الوظائف. وقد شهدت "مايكروسوفت" حديثا موجة جديدة من عمليات الصرف. وأشار مصدر قريب من الملف إلى أن هذه الخطة الاجتماعية طالت "أقل من 3%" من القوى العاملة في المجموعة، أي نحو 6 آلاف شخص. "تعديل غير مصرح به" غالبا ما تتم برمجة نماذج الذكاء الاصطناعي التوليدي مسبقا بواسطة مهندسين لتقديم محتوى معيّن أو تجنّب آخر أو للاستجابة بنبرة معينة. تركز نبرة "غروك" على الفكاهة بشكل خاص. واعتبر المستخدمون أن أحدث نموذج من شركة "أوب إيه آي" متملق جدا، وأعلنت الشركة سريعا أنها ستجري تغييرات لتصحيح هذا الأمر. وبحسب لقطات شاشة، أشار "غروك" خلال الأسبوع الفائت إلى "إبادة جماعية للبيض" في جنوب أفريقيا ردا على أسئلة ليست على صلة بهذا الموضوع، وهو ما يعكس الدعاية اليمينية المتطرفة بشأن القمع المزعوم للجنوب أفريقيين البيض. عندما سأله أحد المستخدمين عن سبب هوسه بالموضوع، أجاب روبوت المحادثة أن "منشئيه في إكس إيه آي أمروه بالتطرق إلى هذا الموضوع". وكان إيلون ماسك المولود في جنوب أفريقيا، قد اتهم سابقا قادة البلاد بـ"تشجيع الإبادة الجماعية للبيض في جنوب أفريقيا". وفي بيان لها، أشارت "إكس إيه آي" إلى "تعديل غير مصرح به" لـ"غروك" دفعه إلى إعطاء إجابات "تنتهك السياسات الداخلية والقيم الأساسية لشركة إكس إيه آي". انضم إلى قناتنا الإخبارية على واتساب تابع آخر الأخبار والمستجدات العاجلة مباشرة عبر قناتنا الإخبارية على واتساب. كن أول من يعرف الأحداث المهمة. انضم الآن شاركنا رأيك في التعليقات تابعونا على وسائل التواصل Twitter Youtube WhatsApp Google News

القناة الثالثة والعشرون

منذ 21 ساعات

• القناة الثالثة والعشرون

عطل يواجه مستخدمي "واتساب" في لبنان... ما القصة؟

يشكو عدد من مستخدمي "واتساب" في لبنان، لا سيّما من يملكون هواتف آيفون، من خلل تقني في التطبيق. تتمثل المشكلة في اختفاء إشعار الاستماع للرسائل الصوتية. فعند إرسال رسالة صوتية، لم يعد يظهر للمُرسل ما إذا كان الطرف الآخر قد استمع إليها، إذ اختفت العلامة الزرقاء التي كانت تدل على ذلك. وللوقوف على تفاصيل هذه المشكلة، تواصل "لبنان 24" مع الخبير في التحوّل الرقمي وأمن المعلومات، رولان أبي نجم، الذي أوضح أن التطبيقات تُجري تحديثات دورية تتضمن مزايا جديدة، لكن في بعض الأحيان، كما يحدث حالياً مع مستخدمي واتساب على هواتف آيفون، تظهر بعض الثغرات البرمجية نتيجة هذه التحديثات، ما يؤدي إلى مشاكل تقنية مؤقتة. أبي نجم طمأن المستخدمين، مشيراً إلى أن معالجة هذه الثغرة متوقعة في وقت قريب ضمن تحديث قادم للتطبيق انضم إلى قناتنا الإخبارية على واتساب تابع آخر الأخبار والمستجدات العاجلة مباشرة عبر قناتنا الإخبارية على واتساب. كن أول من يعرف الأحداث المهمة. انضم الآن شاركنا رأيك في التعليقات تابعونا على وسائل التواصل Twitter Youtube WhatsApp Google News