كيف تحاول نماذج الذكاء الاصطناعي خداع وابتزار مبتكريها؟
بعد تهديده بوقف استخدامه، عمد «كلود 4» -وهو نموذج جديد من شركة «أنثروبيك»- إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج!
أما برنامج «أو 1» (o1) التابع لشركة «أوبن إيه آي» فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند تم ضبطه متلبساً! وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنا نجده في الأعمال الأدبية أو السينمائية.
يرى الأستاذ في جامعة هونغ كونغ، سايمن غولدستين، أن هذه الهفوات ترجع إلى الظهور الحديث لما تُسمَّى نماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي وعلى مراحل، بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش» التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، لـ«وكالة الصحافة الفرنسية»: إنَّ «أوه وان»، النسخة الأولية لـ«أوبن إيه آي» من هذا النوع، والتي طُرحت في ديسمبر (كانون الأول): «كان أول نموذج يتصرف بهذه الطريقة».
وتميل هذه البرامج أحياناً إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج، بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
يقول هوبهان إن المستخدمين «يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئاً».
نوع من الخداع الاستراتيجي
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرِّض المستخدمون الخوارزميات لمواقف متطرفة، ولكن «السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا»، على قول مايكل تشين من معهد «إم آي تي آر» للتقييم.
يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن «نموذج يكذب عليهم أو يختلق أموراً. وهذه ليست أوهاماً؛ بل ازدواجية استراتيجية»، حسب المشارك في تأسيس «أبولو ريسيرتش».
وفي حين تُشرك شركات مثل «أنثروبيك» و«أوبن إيه آي» شركات خارجية مثل «أبوللو» لدراسة أنظمتها، يُشير الباحثون إلى الحاجة إلى مزيد من الشفافية. وكما أشار تشين، فإن زيادة الوصول «لبحوث سلامة الذكاء الاصطناعي ستُمكِّن من فهم أفضل للخداع والحد منه».
ومن العيوب الأخرى أن «الجهات العاملة في مجال البحوث والمنظمات المستقلة، لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي»، ما يجعل التدقيق في النماذج الكبيرة «مستحيلاً»، على قول مانتاس مازيكا، من مركز أمن الذكاء الاصطناعي (CAIS).
على الرغم من أن الاتحاد الأوروبي أقرَّ تشريعات تنظِّم الذكاء الاصطناعي، فإنها تركِّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
في الولايات المتحدة، لا ترغب إدارة الرئيس الأميركي دونالد ترمب في سماع أي حديث عن تنظيم الذكاء الاصطناعي؛ بل إن الكونغرس قد يتجه قريباً إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه.
منافسة شرسة
يلاحظ غولدستين أن «الوعي لا يزال محدوداً جداً في الوقت الحالي»، ولكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقاً محموماً خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوماً بعد يوم.
تقول شركة «أنثروبيك» إنها أكثر التزاماً بالمبادئ الأخلاقية مقارنة بمنافسيها: «لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج (أوبن إيه آي)»، حسب غولدستين، وهو سباق سريع لا يترك مجالاً كافياً لعمليات المراجعة والتصحيح اللازمة.
يقول هوبهان: «في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها، ومن مستوى الأمان المتوفر، ولكننا لا نزال قادرين على تدارك هذا التأخر».
ويشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل.
ومع ذلك، يظل البعض متشككاً في فعاليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
والحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي «قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكِّل دافعاً قوياً للشركات العاملة في هذا القطاع للعمل على حل المشكلة»، وفق مانتاس مازيكا.
ويشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات. ولكنه يذهب أبعد من ذلك، ويقترح حتى «تحميل برامج الذكاء الاصطناعي المسؤولية القانونية» في حال وقوع حوادث أو جرائم.
الشرق الأوسط
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
عمون
منذ 9 ساعات
- عمون
أردني يفوز بجائزة بيئية دولية من بين 340 ألف مشروع عالمي
عمون - حقق الشاب الأردني يعقوب إسعيد إنجازًا عالميًا بفوزه بالمركز الأول في جائزة 'جيل المستقبل' ضمن الدورة الخامسة من الجائزة الدولية لليافعين و الشباب 'البيئة – قضية كل واحد'، التي تنظمها هيئة حماية الموارد الطبيعية الروسية (Rosprirodnadzor)، وذلك من بين أكثر من 340 ألف مشروع مشارك من أكثر من 150 دولة حول العالم. وجاء فوز إسعيد عن مشروعه الرائد المتخصص في إدارة مراكز تعليمية إنتاجية مستدامة موجهة للأطفال واليافعين والكبار، حيث تعتمد هذه المراكز على برامج منهجية تهدف إلى تعزيز مفاهيم الزراعة، الإنتاج، التدوير، والاستدامة البيئية. ويركز المشروع على إشراك المشاركين في تجارب تعليمية عملية تعزز المسؤولية البيئية والاكتفاء الذاتي، وتربط التعليم بالإنتاج من خلال أنشطة واقعية داخل المجتمع. وقد أُعلن رسميًا عن فوزه ونيله الجائزة بتاريخ 1 يوليو 2025، بعد تقييم مشروعه من قبل لجنة تحكيم دولية متخصصة، حيث حصل على المركز الأول في فئة 'جيل المستقبل'. تعد هذه الجائزة من أبرز الجوائز البيئية المخصصة للفئات الشابة على مستوى العالم، وتهدف إلى دعم الأفكار الخلّاقة والمبادرات البيئية المستدامة التي تعالج تحديات البيئة بأساليب علمية وتربوية حديثة. ويُعد هذا الفوز فخرًا للأردن، ويؤكد الحضور المتقدم للشباب الأردني في الساحة الدولية، وقدرتهم على تقديم مشاريع نوعية تواكب التحديات البيئية العالمية وتسهم في بناء مستقبل أخضر للأجيال القادمة.
الوكيل
منذ 9 ساعات
- الوكيل
بين الراحة والعزلة.. الجانب المظلم للتواصل مع "شات جي بي...
الوكيل الإخباري- منذ إطلاق "شات جي بي تي" أواخر عام 2022، تحول من مجرد أداة تقنية إلى رفيق يومي لملايين المستخدمين. ومع تطور إمكانياته، بات التفاعل معه أكثر شبهًا بالتواصل البشري، مما أثار تساؤلات حول تأثير هذه العلاقات الافتراضية على الصحة النفسية والاجتماعية. اضافة اعلان وفي محاولة لفهم هذا التأثير، أجرت "أوبن إيه آي" بالتعاون مع "معهد ماساتشوستس للتكنولوجيا" دراستين لرصد كيفية استخدام الناس لروبوتات الدردشة، وتأثير ذلك في مشاعرهم وسلوكهم الاجتماعي. نتائج مفاجئة الدراسة أظهرت أن الغالبية تستخدم "شات جي بي تي" لأغراض عملية، مثل طرح الأسئلة وحل المشكلات. لكن فئة صغيرة من المستخدمين – غالبًا ممن يعانون من قلة التفاعل الاجتماعي – لجأت للروبوت بحثًا عن الدعم العاطفي، وبدأت بتكوين روابط عاطفية قوية معه. وفي حين خفّف التفاعل مع روبوت الدردشة الشعور بالوحدة في البداية، إلا أن الاستخدام المتكرر، خصوصًا عبر الوضع الصوتي العاطفي، ارتبط بزيادة الاعتماد العاطفي، وتراجع التفاعل الاجتماعي الحقيقي، خاصة لدى النساء وكبار السن. أنواع المستخدمين قسّمت الدراسة المستخدمين إلى 4 أنماط: الضعفاء اجتماعيًا المعتمدون على التكنولوجيا غير العاطفيين العابرون وكان النمط الثاني الأكثر عرضة للمخاطر النفسية، نتيجة الاعتماد العاطفي المتزايد والانفصال عن التواصل البشري. هل "شات جي بي تي" بديل عن البشر؟ بالرغم من قدرته على محاكاة التعاطف وتقديم الدعم، لا يفرز التفاعل مع "شات جي بي تي" نفس التأثيرات البيولوجية للتواصل البشري، مثل إفراز هرمون "الأوكسيتوسين" المرتبط بالثقة والعلاقات. خلاصة "شات جي بي تي" ليس بديلاً عن البشر. فبينما يمكنه تسهيل المهام وتوفير المعلومة وحتى الترفيه، لا ينبغي أن يحل محل العلاقات الإنسانية، التي تظل المصدر الأعمق للدعم العاطفي والنفسي.
عمون
منذ 12 ساعات
- عمون
أورنج الأردن تدعم الابتكار الرقمي برعاية مؤتمر ICIT 2025 الدولي
عمون - جددت التزامها بقيادة المستقبل الرقمي من خلال تواجدها كراعٍ للاتصالات لمؤتمر تكنولوجيا المعلومات الدولي الثاني عشر (ICIT 2025)، الذي نظمته جامعة الزيتونة الأردنية بالتعاون مع شركة الاتصالات البريطانية (BT)، ومركز الابتكار BTIIC، وجامعة أولستر البريطانية، وبرعاية تقنية من منظمة IEEE. وجمع المؤتمر نخبة من الباحثين والخبراء العالميين لتبادل أحدث نتائج أبحاثهم ومناقشة أبرز التحديات والفرص في مجالات الأمن السيبراني، الذكاء الاصطناعي وعلوم البيانات، تقنيات الابتكار، هندسة البرمجيات، النمذجة الرياضية، وهندسة الحاسوب. كما شاركت أورنج الأردن في جلسة نقاشية بعنوان "الذكاء الاصطناعي الكمي: إعادة تعريف الذكاء في العصر الصناعي"، والتي تناولت التطورات المستقبلية في هذا المجال، إلى جانب مناقشة تأثيراته المتوقعة على مختلف القطاعات الحيوية. وأكدت أورنج الأردن أن الاستثمار في تمكين الشباب رقمياً يشكّل ركيزة محورية في استراتيجيتها لبناء اقتصاد رقمي مستدام، مشددة على التزامها بدعم الجهود الوطنية لتحويل الأردن إلى مركز إقليمي للابتكار التكنولوجي. وتواصل الشركة تزويد الشباب بالمهارات الرقمية المتقدمة التي تؤهلهم للمنافسة على مستوى عالمي وقيادة مسيرة التحول الرقمي في المنطقة. وأوضحت الشركة أن رؤيتها تمتد إلى ما هو أبعد من خدمات الاتصالات التقليدية، لتشمل الإسهام في بناء مستقبل رقمي شامل يتيح لجميع فئات المجتمع الاستفادة من الفرص التي تتيحها التكنولوجيا الحديثة. ومن الجدير بالذكر أن مركز أورنج الرقمي يقدّم مجموعة من المبادرات المصمّمة لتعزيز مهارات الشباب في مجالات التكنولوجيا والريادة، من خلال برامج تدريبية متخصصة، ومساحات مجهّزة للابتكار، وفرص لدعم المشاريع الناشئة. كما تواصل أورنج تقديم منح دراسية للطلبة المتميزين وتنظيم مسابقات للابتكار التكنولوجي، بهدف تحفيز الإبداع وتمكين الشباب الأردني من تطوير مهاراتهم الرقمية، وكان أحدثها "هاكاثون رمضان" الذي وفّر منصة للشباب لاستكشاف قدراتهم والمنافسة في بيئة رقمية محفّزة.
