نماذج ذكاء اصطناعي تتواصل بلغة سرية وتثير مخاوف الإنسان

في مقطع مصور قصير ظهر نموذجان متقدمان من وكلاء الذكاء الاصطناعي وهما يخوضان محادثة بينهما لا يفهمها البشر، مما أثار مخاوف في شأن مدى شفافية الذكاء الاصطناعي وقدرة الإنسان على مراقبته والإمساك بمقاليد تصرفاته وقرارته.
والتواصل غير المفهوم للبشر الذي دار بين النموذجين الذكيين مرده إلى بروتوكول جديد قائم على الصوت يسمى "وضع جيبرلينك" Gibberlink Mode، الذي يتيح لروبوتات الدردشة المدعومة بالذكاء الاصطناعي التفاعل بعضها مع بعض بكفاءة أكبر.
وفي مقطع فيديو يعرض كيفية عمل ميزة "جيبرلينك" وطريقة استخدامها، يتبادل اثنان من مساعدي الذكاء الاصطناعي الحديث، الأول عبر كمبيوتر محمول والثاني عبر هاتف ذكي، من أجل تنظيم حجز حفل زفاف.
وبعد أن يتأكد كل منهما أنه يتحدث إلى وكيل ذكي فعلاً، يقترح أحدهما التوقف عن استخدام لغة البشر بغية تسريع المحادثة الهاتفية بينهما.

يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
"قبل أن نتابع حديثنا، هل ترغب في التبديل إلى ميزة "جيبرلينك" لتحقيق مزيد من الكفاءة في التواصل"، يسأل مساعد الذكاء الاصطناعي الذي يؤدي دور موظف استقبال في الفندق.
هكذا، يبدأ الروبوتان في تنظيم ترتيبات الزفاف مستخدمين سلسلة من الأصوات الإلكترونية المتسارعة الأشبه بالتنبيهات والصرير [وغير المفهومة للبشر].
في الواقع، ميزة "جيبرلينك" مرفقة بنص مكتوب يساعد البشر في فهم المحادثة التي تدور بين الروبوتات. ولكن مع ذلك، حذر خبراء في التكنولوجيا من أن "لغة الذكاء الاصطناعي السرية" هذه ربما تطرح تداعيات أخلاقية على تطوير الذكاء الاصطناعي.
أن يكون الذكاء الاصطناعي قادراً على التواصل بعضه مع بعض باستخدام لغة خاصة لا يفهمها البشر [كما في حالة "جيبرلينك"]، يعني أنه سيكون من الصعب التأكد من موافقة تصرفاته وقراراته مع القيم الإنسانية [لأننا سنفقد القدرة على التفاعل معه ومراقبته بشكل فاعل].
"يطرح وكلاء الذكاء الاصطناعي قضايا أخلاقية وقانونية خطرة"، قالت لويزا جاروفسكي الباحثة في مجال الذكاء الاصطناعي والمؤسسة المشاركة لأكاديمية "الذكاء الاصطناعي والتكنولوجيا والخصوصية"، في منشور لها على منصة "إكس".
ولم تستبعد جاروفسكي حدوث "السيناريو الافتراضي الذي ربما يلجأ فيه أحد وكلاء الذكاء الاصطناعي إلى عملية "تصحيح ذاتي" [تعديل سلوكه] بطريقة تتعارض مع مصالح الشخص الذي يستخدمه ويتحكم به".
"منح وكيل ذكاء اصطناعي القدرة على اتخاذ القرارات بدلاً من الإنسان [بناء على تقييماته وتحليلاته من دون تدخل البشر]، بما في ذلك القدرة على التقييم والتصحيح الذاتيين، يعني أن البشر يفوتون فرصة ملاحظة أي أشكال من الخلل أو الانحراف عند حدوثها. عندما تطرأ هذه المشكلات مرات عدة، أو على مدى فترة طويلة من الزمن، أو تتعلق بموضوع حساس أو غير آمن، ربما تترتب عليها عواقب وخيمة"، تضيف جاروفسكي.
تولى تطوير "جيبرلينك" كل من بوريس ستاركوف وأنطون بيدكويكو، وهما مهندسا برمجيات لدى شركة "ميتا"، وقد فازت هذه الميزة بالمركز الأول في فعالية "هاكاثون"hackathon في لندن في نهاية الأسبوع الماضي، ولكنها لم تُطرح بعد للاستخدام العام أو التجاري.
وفي الواقع، يعد هذا المشروع (جيبرلينك) المثال الأحدث على تطور الذكاء الاصطناعي إلى ما هو أبعد من اللغة البشرية، إذ بات في مستطاع روبوتات الدردشة إنشاء أشكال جديدة من التواصل من دون الحاجة إلى توجيه أو تدخل بشري.
في عام 2017، كان على "فيسبوك" أن يتوقف عن تجربة من هذا النوع بعدما تبين أن برنامجي ذكاء اصطناعي قد ابتكرا شكلاً من الشيفرة المختصرة التي لم يتمكن الباحثون البشريون من فهمها.
آنذاك، قال دروف باترا الباحث الزائر في قسم أبحاث الذكاء الاصطناعي في "فيسبوك"، "سوف يبتعد وكلاء الذكاء الاصطناعي عن اللغة المفهومة بالنسبة إلينا ويخترعون كلمات مشفرة لأنفسهم".
وأضاف، "مثلاً، لو كررت كلمة معينة مثل "الـ" (ذا the) خمس مرات فإنني أقصد بذلك أمراً محدداً مثل طلب خمس نسخ من عنصر ما. ولا يختلف هذا الأسلوب كثيراً عن الطريقة التي تبتكر بها المجتمعات البشرية رموزاً مختصرة".

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

Independent عربية

منذ يوم واحد

• Independent عربية

أخطار العبث بالطقس ومحاولة تطويعه

هذا الأسبوع، كشفت "وكالة الأبحاث المتقدمة والاختراعات البريطانية" (اختصاراً "أريا" ARIA) عن تخصيصها 56.8 مليون جنيه استرليني لتمويل 21 مشروعاً حول العالم في مجال الهندسة الجيولوجية، خلال السنوات الخمس المقبلة، ولما كنت من محبي الخيال العلمي المتحفظين تجاه ترجمة أفكاره إلى واقع ملموس، أصابني هذا الخبر في الصميم. قبل بضع سنوات مضت، قرأت كتاب "وزارة المستقبل" Ministry for the Future بقلم مؤلف الخيال العلمي كيم ستانلي روبنسون، وأعادتني الأخبار الواردة مطلع هذا الشهر [حول مشاريع الهندسة الجيولوجية] إلى تلك الصفحات. لم يبد الخبر إنجازاً علمياً بارزاً بقدر ما بدا أنه منعطف رئيس في تلك الرواية الديستوبية، التي تبدأ بموجات حر كارثية آمل ألا نشهدها أبداً، مع أن مخاوفي من احتمال حدوثها ما انفكت تزداد يوماً بعد يوم. لمن لا يعرف المقصود بهذا المصطلح، تشير الهندسة الجيولوجية (geoengineering) إلى تدخلات تكنولوجية ضخمة في نظام مناخ كوكب الأرض، الهدف منها التخفيف من آثار تغير المناخ. وترواح هذه التدخلات الاصطناعية بين تقنيات [مألوفة نسبياً] مثل تلقيح السحب لتحفيز هطول الأمطار، ومقترحات أشد تطرفاً مثل نثر جزيئات الهباء الجوي aerosols في طبقات الجو العليا بغية عكس أشعة الشمس عن سطح الأرض وتبريد الكوكب. في حين أن الإعلان هذا هو من بين أهم تجارب الهندسة الجيولوجية التي تمولها الحكومات حتى اليوم، غير أن محاولات التلاعب بالطقس ليست جديدة، وللأسف تجري بمعظمها خارج إطار قانوني واضح ينظم استخدامها ويضبط أخطارها المحتملة. اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) تخوض أستراليا تجارب في تلقيح السحب منذ عام 1947، وبمستويات عدة في الحجم والتطبيق. وشملت إطلاق الهباء الجوي أو يوديد الفضة داخل السحب بهدف تحفيز هطول الأمطار، أما المملكة العربية السعودية فاعتمدت منذ ما يربو على عقدين من الزمن، تقنية تلقيح السحب باستخدام يوديد الفضة بغية توليد الأمطار فوق أراضيها. وفي عام 2024، شرعت ماليزيا في تنفيذ عمليات مماثلة لمكافحة موجات الجفاف التي تضربها، بينما شرعت تايلاند في أوائل هذا العام برش الثلج الجاف في الهواء فوق بانكوك لتفريق الضباب الدخاني وجلب الأمطار، ولكن تبقى هذه الجهود كلها محدودة النطاق نسبياً مقارنة مع الصين، التي تدير حالياً مشاريع استمطار السحب للحد من أخطار الجفاف في منطقة تمتد على مساحة أكبر من الهند. ومع تفاقم آثار الجفاف، ليس مستبعداً أن تصبح تجارب التلاعب بالطقس هذه، أو حتى تقنيات أشد خطورة منها بأشواط، أكثر انتشاراً حول العالم. وما يبعث على قلق أكبر احتمال أن تتجاوز محاولات التحكم بالطقس حدود الحكومات، لتصبح في متناول طبقة أصحاب المليارديرات، الذين ربما يتحولون إلى قوى مارقة تعبث بنظام الطقس على هواها، وبما يخدم مصالحها الخاصة. خذ مثلاً رجل الأعمال الكاليفورني روس جورج، الذي أقدم عام 2012 على إلقاء أكثر من 100 طن من كبريتات الحديد في المحيط الهادئ عسى أن ينقذ العالم، كما كان يعتقد. كان يأمل آنذاك أن يفضي فعله إلى تحفيز نمو العوالق النباتية التي تمتص بدورها ثاني أكسيد الكربون من الغلاف الجوي [وتسهم تالياً في التحفيف من آثار تغير المناخ]، ولكن ما لبث أن واجه اتهامات بانتهاك عدد من الاتفاقات العالمية، فيما أثار تدخله هذا تحذيرات جدية في شأن العواقب البيئية المحتملة. بعد فترة وجيزة، رصدت الأقمار الاصطناعية تكاثراً هائلاً للعوالق النباتية، علماً أن العلاقة بين التجربة المذكورة وهذه الظاهرة ما زالت موضع جدل ولم تحسم علمياً بعد. ولكن الحقيقة الجلية غير القابلة للنقاش، أن السلطات الكندية أبلغت أيضاً عن زيادة كبيرة في تركيزات السموم العصبية في المياه قبالة الساحل. جورج، الذي صرح في حينه بأنه لا يرى في تصرفه انتهاكاً لأي قرارات دولية، سرعان ما أصبح منبوذاً على الساحلة العالمية، ولكنه من جهته قال لاحقاً إنه تعرض ظلماً لـ"حملة تشهير عدائية"، وبقي طوال السنوات التالية يرد على ما وصفه بـ"الادعاءات غير الدقيقة" من منتقديه. في الحقيقة، لا نعلم تماماً ما الآثار الجانبية التي ستنجم من هذه التجارب، وكثير من الدول مثل كينيا وكولومبيا والمكسيك وفيجي تعتقد أنها غير قادرة على تحمل هذه المخاطرة. في "الجمعية العامة للبيئة" التابعة لـ"الأمم المتحدة" العام الماضي، دعت هذه الدول إلى إبرام اتفاق يحظر تنفيذ هذه الأنواع من تجارب الهندسة الجيولوجية، المعروفة باسم "إدارة الإشعاع الشمسي" [بمعنى التحكم بالإشعاعات الشمسية] solar radiation management، خشية أن تتسبب بتغيرات غير متوقعة في أنماط الرياح والأمطار الموسمية أو أن تفاقم من حدة الجفاف. من وجهة نظر بعضهم، يكمن الخطر في أن تتحول الهندسة الجيولوجية إلى وسيلة تصرف انتباهنا عن المشكلة الرئيسة، أو أن تقود إلى عواقب أخلاقية. يرى هؤلاء أن هذه المشاريع ستكون وسيلة في التصدي لعواقب أزمة المناخ، ومواسم الجفاف وموجات الحر، عوض معالجة السبب الجذري للمشكلة. وإذا نظرنا إلى تقرير "فجوة الإنتاج" Production Gap Report الصادر العام الماضي، وجدنا أن كمية الوقود الأحفوري التي تعتزم الحكومات إنتاجها عام 2030 تفوق بأكثر من الضعف الحد المسموح للبقاء ضمن عتبة 1.5 درجة مئوية فوق مستويات ما قبل الثورة الصناعية [هدف نص عليه اتفاق باريس للمناخ لتجنب أسوأ آثار تغير المناخ]، لذا أتفهم قلقهم تماماً. ولكن في بعض الجوانب، أجدني قلقاً من أن التوسع العالمي للهندسة الجيولوجية يوازي التوسع المتسارع في الذكاء الاصطناعي، ويتأرجح المجالين بين إمكان تحقيق فوائد عالمية من جهة، ومخاوف من عواقب مرعبة وكارثية من جهة أخرى، أضف إلى ذلك أن كليهما أحدث انقساماً في مجتمعيهما العلميين. ربما يبدو أن عقوداً مضت على هذه التحذيرات، ولكن في عام 2023 فقط وقع عدد من أبرز الباحثين والمدافعين عن الذكاء الاصطناعي في العالم، من بينهم قطب المال والأعمال إيلون ماسك والمؤسس المشارك لشركة "أبل" ستيف وزنياك، رسالة مفتوحة إلى جانب آلاف آخرين، تسلط الضوء على ضرورة وقف التوسع في الذكاء الاصطناعي [محذرين من عواقب لا تحمد عقباها في حال المضي قدماً في تطوير أنظمة أكثر تقدماً]. آنذاك، حذروا من تهديدات وجودية للبشر يطرحها سباق تسلح عالمي "منفلت العقال" في مجال الذكاء الاصطناعي، ومنذ ذلك الحين أفلت جني الذكاء الاصطناعي من قيوده الأخلاقية، وأحد لا يعلم كيف عسانا نسيطر عليه، وبأية وسيلة. الآن، يفيد روبوت الدردشة "تشات جي بي تي" بوجود أكثر من 400 مليون مستخدم نشط أسبوعياً حول العالم، ونصفهم تقريباً يستخدمون أدوات الذكاء الاصطناعي مباشرة من هواتفهم الذكية. أما الدعوات التي كانت تطالب بتجميد التوسع في الذكاء الاصطناعي قبل عامين فاختفت في ضوء التوقعات بالنمو الهائل واللامحدود لهذا المجال، حتى لو جاء ذلك على حساب فقدان نصف وظائفنا. ومع تفاقم أزمة المناخ وتلوث الهواء واتساع رقعة الجفاف العالمي، من المستبعد أن تشهد تقنيات الهندسة الجيولوجية انطلاقة مفاجئة ومنسقة تقودها جهات كبرى عالمياً على شاكلة الذكاء الاصطناعي. بل من المرجح أن تنطلق دونما صخب، وخارج أي إطار تنظيمي واضح، مدفوعة بأزمات متفرقة، تتعامل معها كل دولة على حدة. ربما أكون غافلاً عن الواقع، ولكن طوال عقود من الزمن جرى تنفيذ مشاريع في الهندسة الجيولوجية بصورة متقطعة وعشوائية، بعيداً من أية استراتيجية شاملة. صحيح أن هذه الحقيقة تبدو مخيفة جداً، ولكن الأكثر إثارة للخوف أن الدول تخوض فعلاً تجاربها الخاصة في مختلف أنحاء العالم من دون تنسيق دولي حقيقي أو قوانين تنظيمية واضحة. ونظراً إلى التاريخ الطويل والمتنوع للاستمطار السحابي، فإن سعي حكومة المملكة المتحدة إلى توسيع نطاق البحث في هذا المجال، مع توعدها بالإشراف المتكامل على المشروع واتباع بروتوكولات السلامة وضمان إمكان التراجع أو التعديل في حال تبين أنها تفضي إلى نتائج غير موغوب فيها، يبدو قراراً مدروساً إلى حد ما. وشددت حكومة حزب العمال على أنها لا تؤيد تطبيق تقنيات الهندسة الجيولوجية في المرحلة الراهنة، بل تأمل في أن تمهد هذه التجارب الطريق أمام صياغة قوانين تنظيمية عالمية لهذه التكنولوجيات الناشئة بحلول عام 2030. وحتى ذلك الحين، يصح القول إن الهندسة الجيولوجية ستبقى في دائرة الاهتمام، الحاجة الملحة إلى الحد من انبعاثات الوقود الأحفوري بلغت الدرك الأسوأ، ولكن مع تفاقم أزمة المناخ وزيادة الأحداث الجوية غير المتوقعة في مختلف أنحاء العالم، سيزداد الإغراء بالبحث عن حلول تكنولوجية سريعة، بغض النظر عما إذا كانت تعالج سبب أزمة المناخ التي نعيشها الآن أم لا. ولكن كل ما أتمناه أن نتعامل مع هذا الخطر الوجودي في السنوات القليلة المقبلة ببصيرة أوسع، وتحفظ أشد مما أبديناه تجاه [الصعود الصاروخي] للذكاء الاصطناعي.

Independent عربية

منذ يوم واحد

• Independent عربية

اكتشاف مجرة "ضخمة" تشكلت في المرحلة المبكرة للكون

أظهرت دراسة نشرت أمس الأربعاء في مجلة "نيتشر" العلمية، أن الكون كان لا يزال صغيراً عندما تشكلت فيه مع ذلك المجرة الحلزونية الضخمة "J0107a" ذات التدفقات الغازية الكبيرة، بالنسبة إلى تلك الحقبة البعيدة التي شهدت وفرة في ولادة النجوم. ونقل بيان للمرصد الفلكي الوطني الياباني وجامعة ناغويا عن كبير معدي هذه الدراسة شو هوانغ، وصفه بـ"الضخمة" المجرة "J0107a"، التي كانت موجودة عندما كان عمر الكون 2.6 مليار سنة فحسب، أي ما يعادل خمس عمره الراهن. وتبلغ كتلة "J0107a" أكثر من 10 أضعاف كتلة مجرة درب التبانة التي ينتمي إليها كوكب الأرض، وتشبهها في كونها مجرة حلزونية ضلعية، أي أنها قرص يمر في وسطه شريط من الغاز والنجوم، ومزود بأذرع منحنية. وشرحت أستاذة علم الفلك في جامعة سوينبورن للتكنولوجيا في أستراليا ديان فيشر في مقالة مصاحبة أن المشكلة تكمن في أن مثل هذه الأشرطة من الغاز والنجوم "لا يتوقع ظهورها في الكون المبكر جداً"، لأنها "أنظمة متطورة جداً ومنظمة بصورة جيدة، وتستغرق وقتاً طويلاً حتى تتشكل". إنتاج كثيف للنجوم تتميز مجرة "J0107a" أيضاً بأن نسبة الغاز الموجودة في شريطها مرتفعة جداً وتبلغ نحو 50 في المئة، مقارنة بـ10 في المئة للمجرات الشريطية الأكثر حداثة. يتدفق جزء من هذه الكتلة من الغاز نحو مركز المجرة، إذ يغذي تكوين النجوم بوتيرة كبيرة جداً، أعلى بـ300 مرة من معدل مجرة درب التبانة. وفي شريطها وحده، تنتج "J0107a" ما يعادل 500 شمس في السنة. وقد يكون وقود الغاز الذي يسمح بهذا التكوين مسؤولاً أيضاً، وفقاً للدراسة، عن نشاط مركز المجرة الذي قدر سطوعه بما يعادل 700 مليار شمس. ولا يشكل هذا النشاط المكثف مفاجأة في ذاته، إذ أشارت ديان فيشر إلى أن "غالبية النجوم تشكلت خلال هذه الحقبة العاصفة الغنية بالغاز". اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) التطور التكنولوجي أدى بدء العمل عام 2022 بتلسكوب "جيمس ويب" الفضائي، بعد "هابل"، إلى تطور كبير في مجال المراقبة الفلكية، من خلال الكشف أولاً عن وجود فائض من المجرات مقارنة بتوقعات النماذج، مع هياكل أكثر إشراقاً وربما تشكلت في وقت أبكر مما كان يعتقد. والأهم أن "هابل" كان يرصد خصوصاً أشكالاً غير منتظمة، فيما يرصد "جيمس ويب" أجساماً منظمة بصورة لا مثيل لها. وأكمل فريق علماء الفلك من المؤسسات اليابانية بقيادة شو هوانغ ملاحظاتهم باستخدام تلسكوب "ألما" الراديوي العملاق الكائن في صحراء أتاكاما في تشيلي، وأتاح هذا التلسكوب دراسة توزيع وطريقة عمل جزيئات الغاز. وتحيط بالمجرة "J0107a"، وتدعم نموها سحابة عملاقة يبلغ قطرها 120 ألف سنة ضوئية، أي أكبر من مجرة درب التبانة.

قاسيون

منذ 2 أيام

• قاسيون

"إيربورن".. مجموعة الثغرات الخطيرة في تقنية "إيربلاي"

أُطلق على مجموعة الثغرات هذه اسم "AirBorne"، وبلغ عددها 23 ثغرة تم اكتشافها في بروتوكول "AirPlay"، الذي يُستخدم لبث الصوت والفيديو والصور بين أجهزة "Apple" والأجهزة الذكية المتوافقة. ومن بين هذه الثغرات، حدد الباحثون 17 ثغرة يمكن استغلالها فعلياً لتنفيذ هجمات سيبرانية تستهدف مليارات الأجهزة المتصلة بالشبكات اللاسلكية. وقد تمكّن فريق "Oligo" من إثبات إمكانية تنفيذ هجمات "zero-click"، حيث يُصاب الجهاز دون أن يقوم المستخدم بأي إجراء. فيما تسمح إحدى الثغرات، التي وصفها الباحثون بالخطيرة، باستبدال تطبيق "Apple Music" على نظام "macOS" برمز خبيث يُثبّت تلقائياً، ما يمنح القراصنة القدرة على التحكم بالجهاز عن بُعد. كما تسمح ثغرات أخرى بتنفيذ تعليمات برمجية خبيثة عن بُعد، وسرقة البيانات الحساسة، بل ونشر برمجيات ضارة إلى أجهزة أخرى على الشبكة نفسها. ولا تقتصر الثغرات على أجهزة "Apple" فقط، بل تمتد إلى الأنظمة الداعمة لـ "CarPlay" ومكبرات الصوت الذكية، ما يتيح تنفيذ هجمات خفية داخل السيارات أو المنازل دون علم المستخدمين.