الذكاء الاصطناعي العام (AGI) الخطوة التالية لقطاع التكنولوجيا..ما المخاطر؟!
في ظل التسارع المذهل في تطوير تقنيات الذكاء الاصطناعي، يتطلع قادة التكنولوجيا والأعمال إلى الخطوة التالية في هذا المجال، وهي "الذكاء العام الاصطناعي" (AGI)، وهو نوع من الذكاء الاصطناعي يتمتع بقدرات إدراكية شبيهة بالبشر.
إن إيجاد طرق جديدة لضمان عدم عمل هذه الآلة -التي تتمتع بمستوى ذكاء البشر نفسه- ضد مصالح البشر،هدف مهم يسعى إليه الباحثون، ويصبح من الضروري أن تتكاتف الجهود، في الوصول إليه.
وأصدر باحثون في شركة "جوجل ديب مايند" التابعة لجوجل ورقة بحثية جديدة، مكونة من أكثر من 100 صفحة، تشرح طريقة تطوير الذكاء العام الاصطناعي بأمان. بحسب تقرير لموقع "ArsTechnica" المتخصص في أخبار التكنولوجيا.
اقرأ أيضاً..الذكاء الاصطناعي.. من منظور إيجابي
تشير تقديرات "ديب مايند" إلى إمكانية ظهور AGI خلال السنوات الخمس القادمة، وتحديدًا بحلول عام 2030، مما يستدعي تعاونًا دوليًا عاجلًا لوضع الأطر القانونية والأخلاقية.
لا يملك البشر حتى الآن وسيلة لمنع خروج الذكاء العام الاصطناعي -في حالة الوصول إليه- عن السيطرة، لكن الباحثين في شركة "جوجل ديب مايند" التابعة لجوجل يعملون على هذه المشكلة.
كشف الباحثون عن أربعة مخاطر رئيسية قد تنجم عن تطوير الذكاء الاصطناعي العام (AGI) الشبيه بذكاء الإنسان وقد يؤدي إلى "أضرار جسيمة"، لأجل هذا سعوا إلى فهم مخاطره.
أبرز المخاطر
حدد الباحثون أربعة أنواع محتملة من مخاطر الذكاء العام الاصطناعي، وقدموا اقتراحات حول طرق التخفيف من هذه المخاطر.
وصنّف فريق "ديب مايند" النتائج السلبية للذكاء العام الاصطناعي على أنها سوء الاستخدام، والانحراف، والأخطاء، والمخاطر الهيكلية. وقد ناقش البحث سوء الاستخدام والانحراف بإسهاب، وتناول الأخيران بإيجاز.
المشكلة المحتملة الأولى، هي سوء الاستخدام، بحيث تتشابه بشكل أساسي مع مخاطر الذكاء الاصطناعي الحالية. ومع ذلك، ولأن الذكاء العام الاصطناعي سيكون أقوى بحكم تعريفه، فإن الضرر الذي قد يُلحقه سيكون أكبر بكثير.
وقد يُسيء أي شخص لديه إمكانية الوصول إلى الذكاء العام الاصطناعي استخدام النظام لإلحاق الضرر، على سبيل المثال، من خلال مطالبة النظام بتحديد ثغرات واستغلالها، أو إنشاء فيروس مُصمَّم يمكن استخدامه كسلاح بيولوجي.
قال فريق "ديب مايند" إنه سيتعين على الشركات التي تُطور الذكاء العام الاصطناعي إجراء اختبارات مكثفة ووضع بروتوكولات سلامة قوية لما بعد التدريب. بعبارة أخرى، حواجز أمان معززة للذكاء الاصطناعي.
ويقترح الفريق أيضًا ابتكار طريقة لكبح القدرات الخطيرة تمامًا، تُسمى أحيانًا "إلغاء التعلم" (unlearning)، ولكن من غير الواضح ما إذا كان ذلك ممكنًا من دون تقييد قدرات النماذج بشكل كبير.
أما مشكلة "الانحراف" فهي ليست محل قلق حاليًا مع الذكاء الاصطناعي التوليدي في صورته الحالية. لكن مع الذكاء العام الاصطناعي قد يختلف الأمر.
تُصور مشكلة "الانحراف" هذه كآلة متمردة تجاوزت القيود التي فرضها عليها مصمموها، كما هو الحال في فيلم "ترميناترو". وبشكل أكثر تحديدًا، يتخذ الذكاء الاصطناعي إجراءات يعلم أنها لا تتماشى مع ما يقصده المطور.
وقالت "ديب مايند" إن معيارها للانحراف في ما يتعلق بالذكاء العام الاصطناعي أكثر تقدمًا من مجرد الخداع أو التخطيط.
حلول مقترحة
لتجنب ذلك، تقترح "ديب مايند" على المطورين استخدام تقنيات مثل الإشراف المُعزز، حيث تتحقق نسختان من الذكاء الاصطناعي من مخرجات بعضهما البعض، لإنشاء أنظمة قوية من لا يُحتمل أن تنحرف عن مسارها.
وإذا فشل ذلك، تقترح "ديب مايند" إجراء اختبارات ضغط ومراقبة مكثفة لاكتشاف أي مؤشر على أن الذكاء الاصطناعي قد يبدأ في التمرد ضدنا.
وقالت إن إبقاء الذكاء الاصطناعي العام في بيئة افتراضية آمنة للغاية وإشراف بشري مباشر يمكن أن يُساعد في التخفيف من حدة المشكلات الناجمة عن الانحراف.
الأخطاء
من ناحية أخرى، إذا لم يكن الذكاء الاصطناعي يعلم أن مخرجاته ستكون ضارة، ولم يكن المشغل البشري يقصد ذلك، فهذا "خطأ". ويحدث الكثير من هذه الأخطاء مع أنظمة الذكاء الاصطناعي الحالية.مع ذلك، قد تكون هذه المشكلة أصعب مع الذكاء العام الاصطناعي.
تشير "ديب مايند" إلى أن الجيوش قد تنشر الذكاء العام الاصطناعي بسبب "الضغط التنافسي"، لكن هذه الأنظمة قد ترتكب أخطاء جسيمة لأنها ستُكلف بوظائف أكثر تعقيدًا بكثير من الذكاء الاصطناعي الحالي.
توصي الورقة بعدد من الإجراءات الوقائية، للحد من الأخطاء. باختصار، يتلخص الأمر في عدم السماح للذكاء العام الاصطناعي بأن يصبح قويًا جدًا في المقام الأول.
وتدعو "ديب مايند" إلى نشر الذكاء العام الاصطناعي تدريجيًا والحد من صلاحياته، وتمرير أوامر الذكاء العام الاصطناعي عبر نظام حماية يضمن أن تكون آمنة قبل تنفيذها.
مخاطر هيكلية
تُعرف "ديب مايند" المخاطر الهيكلية على أنها عواقب غير مقصودة، وإن كانت حقيقية، للأنظمة متعددة الوكلاء التي تُسهم في تعقيد حياتنا البشرية.
على سبيل المثال، قد يُنتج الذكاء العام الاصطناعي معلومات مُضلّلة تبدو مُقنعة لدرجة أننا لم نعد نعرف بمن أو بما نثق. كما تُثير الورقة البحثية احتمالية أن يُراكِم الذكاء العام الاصطناعي سيطرة متزايدة على الأنظمة الاقتصادية والسياسية، ربما من خلال وضع مخططات تعريفات جمركية مُفرطة.
وقد تؤدي هذه المخاطر الهيكلية إلى أن نجد في يومٍ ما أن الآلات هي المُسيطرة بدلًا منّا.
وتُعتبر هذه الفئة من المخاطر أيضًا الأصعب في الحماية منها، لأنها ستعتمد على طريقة عمل الأفراد والبنية التحتية والمؤسسات في المستقبل.
لضمان أن يكون الذكاء الاصطناعي العام أداة لخدمة البشرية، لا مصدرًا لتهديدها..كما تشير "ديب مايند"، فإن التقدم نحو AGI قد يكون أسرع مما نتخيل، ما يجعل من وضع الحواجز الأخلاقية والتقنية ضرورة عاجلة لا تحتمل التأجيل.
لمياء الصديق(أبوظبي)
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الشارقة 24
١٢-٠٥-٢٠٢٥
- الشارقة 24
حمدان بن محمد يزور مكاتب "غوغل" في دبي
الشارقة 24 – وام: أكد سموّ الشيخ حمدان بن محمد بن راشد آل مكتوم، ولي عهد دبي، نائب رئيس مجلس الوزراء وزير الدفاع، أن دولة الإمارات تولي عملية التحوّل الرقمي اهتماماً كبيراً كخيار إستراتيجي يدعم بطموحاتها نحو ترسيخ مكانتها كمركز لصُنع المستقبل وكشريك فاعل في دفع جهود تطوير كل ما يرتبط به من تقنيات وفي مقدمتها الذكاء الاصطناعي، حيث تواصل مسيرتها في ترسيخ قدراتها التقنية بشراكات نموذجية تجمعها بكبرى مطوري التكنولوجيا في العالم. جاء ذلك خلال الزيارة التي قام بها سموّه إلى مكاتب 'غوغل - Google' ، الرائدة عالمياً في مجال التكنولوجيا، في دبي، حيث كانت في استقبال سموّه لدى وصوله إلى مقر الشركة، روث بورات، الرئيس والمدير التنفيذي للاستثمار والشؤون المالية في ألفابت وغوغل، وأنتوني نقاش، المدير العام لجوجل في مِنطقة الشرق الأوسط وشمال إفريقيا، وعدد من قيادات الشركة، والذين أعربوا عن بالغ ترحيبهم بزيارة سموّه، واعتزازهم بالشراكة المتنامية مع دولة الإمارات وتقديرهم لما تقدمه من نموذج مُلهِم في تبنّي التقنيات المتطورة وحلول الذكاء الاصطناعي. وتأتي الزيارة في ضوء علاقات التعاون القائمة بين دولة الإمارات والشركة العالمية المتخصصة في مجالات الذكاء الاصطناعي والتكنولوجيا المتطورة، والتي تعود إلى العام 2008، مع افتتاح الشركة مكتبها في دبي، وهو الأكبر لها في منطقة الشرق الأوسط وشمال أفريقيا، وبما يمثله هذا التعاون من دعم يخدم في تحقيق رؤية القيادة الرشيدة لمستقبل مسيرة تحوّل دولة الإمارات نحو البيئة الرقمية. واستمع سموّ الشيخ حمدان بن محمد بن راشد آل مكتوم خلال الزيارة إلى شرح حول جهود الشركة في مجال الذكاء الاصطناعي، وما تقدمه Google من إسهامات في هذ المجال لاسيما المساعد الشخصي Gemini، وتطبيق NotebookLM، لعمليات البحث والكتابة وكلاهما مدعوم بالذكاء الاصطناعي، كما استمع سموه إلى شرح حول "مركز غوغل لاكتشاف تقنيات الوصول" التابع للشركة في دبي، والذي تم افتتاحه في سبتمبر 2024، وهو أحد سبعة مراكز تابعة للشركة حول العالم، والمركز الأول والوحيد لها في منطقة الشرق الأوسط وشمال أفريقيا. واطّلع سموّه على أهم النتائج التي أوردها "تقرير غوغل للأثر الاقتصادي لعام 2024"، والذي أظهر إسهام منتجات الشركة، مثل: محرك البحث الخاص بها وموقع يوتيوب وخرائط غوغل، إضافة إلى الخدمات السحابية والإعلانات الرقمية، في اقتصاد دولة الإمارات خلال العام 2024، كما يتناول التقرير الأثر العام لمنتجات وخدمات غوغل والقيمة المضافة التي تقدمها الشركة للمستخدمين والشركات في دولة الإمارات، وهي المرة الأولى التي تكشف خلالها الشركة عن نتائج التقرير. وأكد القائمون على Google التزام الشركة بدعم توجهات التحول الرقمي في دولة الإمارات وهو ما يتضح من خلال مشاركتها في جهود التدريب والتأهيل في مجال التقنيات الرقمية، حيث قامت بتدريب نحو 420 ألف شخص في مجال الذكاء الاصطناعي وكيفية توظيف تقنياته في تنمية الأعمال، من خلال برنامج "مهارات من غوغل". وفي ختام الزيارة، أعرب سموّ الشيخ حمدان بن محمد بن راشد آل مكتوم خلال الزيارة عن تقديره للدور الكبير الذي تضطلع به شركة غوغل سواء على مستوى دولة الإمارات أو على صعيد المنطقة بشكل عام، مؤكداً التزام دبي بتسخير التطور التكنولوجي في تسريع جهود التنمية المستدامة، وبناء مستقبل مدفوع بالتقنيات الرقمية المتقدمة، مع سعيها لتكون مركزاً رئيساً للابتكار التكنولوجي بشراكات استراتيجية مع جهات ذات حضور مؤثر في عالم التكنولوجيا مثل "غوغل"، تسهم من خلالها الإمارة في إرساء معايير جديدة تخدم في تشكيل المشهد التكنولوجي العالمي. رافق سموّه خلال الزيارة، معالي عمر بن سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، ومعالي هلال سعيد المري، المدير العام لدائرة الاقتصاد والسياحة بدبي.
الاتحاد
٠٨-٠٥-٢٠٢٥
- الاتحاد
محركات ذكاء اصطناعي جديدة في متصفح "سفاري".. "آبل" أمام تحول كبير
أعلنت شركة آبل عن نيتها تعزيز متصفح سفاري بخيارات بحث مدعومة بالذكاء الاصطناعي. وكشف مسؤول رفيع في شركة آبل أن الشركة تدرس بجدية إدخال محركات بحث تعتمد على الذكاء الاصطناعي ضمن متصفح سفاري. وأكّد إيدي كيو، النائب الأول للرئيس لقطاع الخدمات في الشركة، أن آبل تبحث بجدية إضافة مزايا بحث قائمة على الذكاء الاصطناعي. وفق موقع arstechnica. اقرأ أيضاً.. كيفية استخدام أدوات الكتابة المدعومة بالذكاء الاصطناعي في نظام iOS 18 وجاء تصريح كيو خلال جلسة استماع في قضية الاحتكار المرفوعة على جوجل، إذ أشار إلى أن الشركة أجرت بالفعل محادثات مع شركات بارزة مثل Perplexity و OpenAI وأنثروبيك، لكنها ترى أن هذه الخدمات ليست بالمستوى المطلوب حتى الآن بحسب ما نقلته وكالة بلومبرج. وأضاف كيو أن من المهم الحفاظ على المرونة في التعامل مع مزودي خدمات الذكاء الاصطناعي، خاصةً في ظل الشراكة الحالية مع OpenAI. وتأتي هذه التصريحات بالتزامن مع ما كشفه كيو عن أن جوجل تدفع نحو 20 مليار دولار سنويًا لآبل مقابل جعل محركها هو محرك البحث الافتراضي في سفاري. يُذكر أن آبل توفر حاليًا تكاملًا مع تشات جي بي تي، في المساعد الصوتي سيري Siri، في حين أكد الرئيس التنفيذي لجوجل، ساندار بيتشاي، الأسبوع الماضي أن شركته تقترب من إبرام اتفاق جديد لجلب مساعدها الذكي Gemini إلى هواتف آيفون. البحث في سفاري وأشار كيو أيضًا إلى أن عدد عمليات البحث في سفاري شهد تراجعًا لأول مرة منذ 22 عامًا، وهو ما عدّه تطورًا غير مسبوق قد يدفع الشركة إلى إعادة النظر في استراتيجيتها الخاصة بمحركات البحث. تحركات آبل تعكس استعدادها لفك الارتباط التدريجي مع جوجل في حال فرضت المحكمة قيودًا أو تفكيكًا على احتكارها لسوق البحث. كما تشير هذه الخطوات إلى رغبة أبل في تعزيز استقلالية متصفح سفاري وتقديم تجربة أكثر تطورًا للمستخدمين، مدفوعة بقدرات الذكاء الاصطناعي. تحديثات متواصلة أشار كيو إلى أن نماذج اللغة الكبيرة، وهي التكنولوجيا الأساسية وراء الذكاء الاصطناعي التوليدي، ستواصل التحسن، مما يمنح المستخدمين مزيداً من الأسباب لتغيير عاداتهم. ومع ذلك، لا يزال كيو يعتقد أنه من الأفضل أن تظل "جوجل" هي محرك البحث الافتراضي على "سفاري"، مشيراً إلى أنه في غاية القلق من احتمال خسارة العائدات التي توفرها تلك الشراكة. وقال إن الاتفاق الحالي مع "جوجل" يقدم أفضل الشروط المالية لـ"أبل". يشرف كيو على خدمات مثل "آي كلاود"، و"تي في بلس"، و"أبل ميوزيك"، ويُعرف كذلك بأنه صانع الصفقات الرئيسي في الشركة. ويُعتبر قطاع الخدمات أحد النقاط المضيئة في أداء الشركة في الفترات الأخيرة، إذ بلغت إيراداته رقماً قياسياً قدره 26.6 مليار دولار خلال فترة مارس. شراكات وخطط طموحة في العام الماضي، وسّعت "أبل" و"جوجل" اتفاقهما ليشمل دمج ميزة "جوجل لينس" ضمن خاصية "الذكاء البصري" على أحدث أجهزة "أيفون"، ما يسمح للمستخدم بالتقاط صورة وتحليلها عبر الذكاء الاصطناعي التابع لـ"جوجل". وذكر كيو أيضاً أن الاتفاق مع محرك "بينغ" من "مايكروسوفت"، وهو أحد الخيارات غير الافتراضية في "سفاري"، أصبح حالياً يجدد سنوياً. وستكشف الشركة عن تحسينات جديدة لمنصة "أبل إنتليجينس" خلال مؤتمرها السنوي للمطورين. يُذكر أن تقنيات الذكاء الاصطناعي الخاصة بشركة "أبل" تأخرت نسبياً عن منافسيها، واضطرت لتأجيل تحديثات كبرى لمساعدها "سيري" كان من المفترض أن تعتمد على بيانات المستخدم الشخصية لتقديم ردود أكثر دقة. تصريحات إيدي كيو فتحت الباب أمام مرحلة جديدة من المنافسة في مجال البحث على الهواتف الذكية، مع احتمالات واقعية بأن يشهد متصفح سفاري تنوعًا أكبر في خيارات البحث خلال الفترة المقبلة. وبينما تستمر جوجل في الدفاع عن مكانتها كمحرك البحث الافتراضي عبر الصفقة التاريخية مع آبل، يبدو أن صعود محركات البحث المعتمدة على الذكاء الاصطناعي سيُجبر الجميع على إعادة التفكير في طرق تقديم المعلومات للمستخدمين. لمياء الصديق(أبوظبي)
الاتحاد
٠٣-٠٥-٢٠٢٥
- الاتحاد
جوجل تُعلّمك اللغات بطلاقة كما يتحدثها أهلها
طرحت شركة جوجل مؤخرًا تجربة جديدة ضمن منصتها "Google Labs" تُدعى "الدروس اللغوية الصغيرة" (Little Language Lessons)، والتي تهدف إلى تغيير الطريقة التي نتعلم بها اللغات الأجنبية. هذه التجربة ليست مجرد تكرار للنماذج التقليدية المعروفة في تعليم اللغة، بل تعتمد على الذكاء الاصطناعي لتقديم تجربة تعليمية شخصية، واقعية، وأكثر ارتباطًا بالحياة اليومية. اقرأ أيضاً.. جوجل تتحدث مع الدلافين.. ذكاء اصطناعي يفك شيفرة تواصل عالم المحيطات مشكلة التعليم التقليدي يعاني كثير من متعلمي اللغات من مشكلة رئيسية: المحتوى التعليمي يكون عامًا ومفصولًا عن مواقف الحياة الواقعية. فعادة ما تركز المناهج على سيناريوهات محدودة، مثل ركوب سيارة أجرة أو طلب الطعام، بينما الواقع مليء بمواقف لغوية متنوعة وخاصة. هنا يأتي دور الذكاء الاصطناعي، الذي يمكنه تخصيص التعلم وفقًا لاحتياجات كل مستخدم. وبحسب "آرون ويد"، المهندس في جوجل، فإن تعلم اللغة غالبًا ما يتم في عزلة، من خلال كتب وتمارين لا تعكس الاستخدام الحقيقي للغة، مما يفقد المتعلم الدافع والفعالية. ثلاث أدوات مدعومة بالذكاء الاصطناعي 1. الدروس المصغّرة (Tiny Lessons): تركز على تعليم العبارات الأساسية لمواقف محددة مثل فقدان جواز السفر. ورغم أن الخيارات ما تزال محدودة، إلا أن الفكرة تحمل إمكانات هائلة إذا تم تطويرها لتشمل مواقف أكثر تعقيدًا أو مخصصة حسب المجال المهني أو الاهتمامات. اقرأ أيضاً.. جوجل تطرح ميزات ذكية لرحلات صيفية مثالية 2. اللغة العامية (Slang Hang): تساعد هذه الأداة المستخدم على التعرّف على اللغة العامية المستخدمة فعلًا في الحياة اليومية، من خلال محادثات واقعية خيالية بين متحدثين أصليين، مع شرح للكلمات الاصطلاحية والسياق الثقافي. إنها خطوة مفيدة للمتعلمين الذين تجاوزوا المستوى المبتدئ ويبحثون عن الطلاقة والثقة. 3. كاميرا الكلمات (Word Cam): الأداة الأكثر إثارة، حيث تتيح للمستخدم توجيه الكاميرا إلى أي شيء لتعلّم اسمه بلغته المستهدفة بشكل فوري. هذه التقنية قد تُحدث تغييرًا جذريًا في تعلم المفردات اليومية، خاصة أثناء السفر أو التفاعل مع بيئة ناطقة بلغة أجنبية. هل تهدد جوجل تطبيقات تعليم اللغة التقليدية؟ من اللافت أن هذه التجربة أُطلقت بعد يوم واحد فقط من إعلان Duolingo، الرائدة في تعليم اللغات، عن تحوّلها إلى شركة "تعتمد على الذكاء الاصطناعي أولًا". ووفقًا لموقع Inc، أكدت المتحدثه الرسمية لجوجل أن هذه ليست بداية منتج جديد، بل مجرد تجربة تهدف إلى إلهام المطورين وإبراز قدرات Gemini في تقديم تعليم متعدد اللغات بشكل تفاعلي. تجربة واعدة رغم محدوديتها رغم أن أدوات "الدروس اللغوية الصغيرة" لا تعلّم اللغة من البداية، إلا أنها تقدّم تجربة ممتعة وواقعية، خاصة للمتعلمين الذين يمتلكون أساسًا لغويًا سابقًا. وإذا قررت جوجل مستقبلاً تحويل هذه التجربة إلى منتج فعلي، فقد تغيّر شكل تعلّم اللغات جذريًا وتنافس بقوة التطبيقات الكبرى. إسلام العبادي(أبوظبي)
