الذكاء الاصطناعي يتعلّم التلاعب والكذب: "كلود 4" هدّد مهندساً بالكشف عن علاقة غرامية!
بعد تهديده بوقف استخدامه، عمد "كلود 4"، وهو نموذج جديد من شركة "أنثروبيك" إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج. أما برنامج "او 1" التابع لشركة "اوبن ايه آي" فحاول تحميل نفسه على خوادم خارجية وأنكر ذلك عند ضبطه متلبسا!
وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعا ملموسا، بعدما كنّا نجده في الأعمال الأدبية أو السينمائية.
يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى نماذج "الاستدلال"، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش" التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إنّ "او 1"، النسخة الأولية لـ"اوبن ايه آي" من هذا النوع والتي طُرحت في كانون الأول، "كان أول نموذج يتصرف بهذه الطريقة".
تميل هذه البرامج أحيانا إلى محاكاة "الامتثال"، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرفة، لكن "السؤال المطروح هو إذا ما كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا"، على قول مايكل تشين من معهد "ام اي تي آر" للتقييم.
يقول هوبهان، إنّ "المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئا".
يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن "نموذج يكذب عليهم أو يختلق أمورا. وهذه ليست أوهاما، بل ازدواجية استراتيجية"، بحسب المشارك في تأسيس "أبولو ريسيرتش".
حتى لو أنّ "أنثروبيك" و"أوبن إيه آي" تستعينان بشركات خارجية مثل "أبولو" لدراسة برامجهما، من شأن "زيادة الشفافية وتوسيع نطاق الإتاحة" إلى الأوساط العلمية "أن يحسّنا الأبحاث لفهم الخداع ومنعه"، وفق مايكل تشين.
ومن العيوب الأخرى أن "الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي"، ما يجعل التدقيق بالنماذج الكبيرة "مستحيلا"، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
رغم أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، إلا أنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
في الولايات المتحدة، لا ترغب حكومة دونالد ترامب في سماع أي حديث عن تنظيم الذكاء الاصطناعي، بل إن الكونغرس قد يتجه قريبا إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه.
يلاحظ غولدستين أن "الوعي لا يزال محدودا جدا في الوقت الحالي"، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقا محموما خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوما بعد يوم.
تقول شركة "أنثروبيك"، إنها أكثر التزاما بالمبادئ الأخلاقية مقارنة بمنافسيها، "لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج (اوبن ايه آي)"، بحسب غولدستين، وهو سباق سريع لا يترك مجالا كافيا لعمليات المراجعة والتصحيح اللازمة.
يقول هوبهان، "في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتوفر، لكننا لا نزال قادرين على تدارك هذا التأخر".
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شيفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظل البعض متشككا في فعاليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي "قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعا قويا للشركات العاملة في هذا القطاع للعمل على حل المشكلة"، وفق مانتاس مازيكا.
يشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات.
ولكنه يذهب أبعد من ذلك، ويقترح حتى "تحميل برامج الذكاء الاصطناعي المسؤولية القانونية" في حال وقوع حوادث أو جرائم.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الديار
منذ 24 دقائق
- الديار
أوجيرو: توقف الخدمة في سنترال ريفون وعدد من المناطق المجاورة
Aa الأكثر قراءة زمن التسويات الثقيلة: لبنان يستعد لصفقة كبرى على حافة الانهيار؟ القوات تخسر معركة المغتربين... مخاوف من تعطيل المجلس حسين السلامة بين التطبيع والتصفية: لماذا اختارت تل أبيب قصف قلب دمشق؟ المخرج للسلاح بالتوافق بين عون وبري وقاسم وسلام بري لصحافيين :وليد جنبلاط أقرب سياسي لي زعيم المختارة يرفض عزل حزب الله و"الدق" برئيس المجلس المفتي دريان يجتمع مع الشرع السبت... ماذا على الطاولة؟ عريمط لـ "الديار": أهل السنّة في لبنان ليسوا بحاجة لحماية من أحد أياً كان! اشترك بنشرة الديار لتصلك الأخبار يوميا عبر بريدك الإلكتروني إشترك عاجل 24/7 08:52 أوجيرو: توقف الخدمة في سنترال ريفون وعدد من المناطق المجاورة 08:38 المتحدث باسم الحرس الثوري الإيراني: ردنا على أي تهديدات من العدو سيكون شاملا وبأساليب مختلفة وجديدة 08:28 الحجار: المملكة هي الشقيق الأكبر والمحب للبنان، ولن نقبل بأي إضرار بها 08:28 إعلام إيراني: الحرس الثوري اعتقل 5 أشخاص بتهمة التخابر مع "إسرائيل" 08:27 وزير الداخلية والبلديات أحمد الحجار: لبنان ينسق بشكل وثيق مع الأجهزة المعنية في المملكة العربية السعودية لمكافحة المخدرات، حيث تمّ ضبط كمية كبيرة مؤخراً بناءً على معلومات وردت من وزارة الداخلية السعودية. 08:19 محلقة إسرائيلية ألقت قنبلة صوتية على منزل في عيتا الشعب من دون إصابات
أخبارنا
منذ 24 دقائق
- أخبارنا
الزرقاء: انطلاق مهرجان مسرح العرائس العربي الثالث
أخبارنا : انطلقت، الثلاثاء، على مسرح الشاعر حبيب الزيودي في مركز الملك عبد الله الثاني الثقافي بالزرقاء، فعاليات مهرجان مسرح العرائس العربي الثالث، الذي يستمر حتى الرابع من شهر تموز الحالي، وسط حضور ثقافي وفني لافت من داخل الأردن وخارجه، وبمشاركة واسعة لعدد من الدول العربية. ورعى حفل الافتتاح مندوب وزير الثقافة، مدير ثقافة الزرقاء محمد الزعبي، بحضور ممثلي الهيئات الثقافية، وعدد من الشخصيات الفنية والإعلامية، ونخبة من المهتمين بالشأن المسرحي. ويشارك في المهرجان فنانون ومسرحيون من سلطنة عمان، جمهورية مصر العربية، دولة فلسطين، الجمهورية التونسية، إلى جانب الأردن، والجمهورية العربية السورية، ليشكل هذا الحدث الفني المسرحي فضاء للتلاقي الثقافي، ومنصة لتبادل التجارب والخبرات بين مبدعي المسرح العربي. وفي كلمته خلال حفل الافتتاح، قال الزعبي "يسعدنا بشكل خاص أن نرحب بضيوف المهرجان الكرام – فنانين ومبدعين، مخرجين ومشاركين – الذين لبوا دعوتنا وجاءوا حاملين معهم ثقافاتهم وتجاربهم، إذ أن هذا الحضور يضفي على المهرجان طابعًا مميزًا ويثري التبادل الثقافي والفني الذي نطمح إليه". وأضاف: "يأتي هذا المهرجان ليعيدنا إلى سحر الحكاية الأولى، ويمنح الأطفال مساحة من الخيال والتعلم، ويرسخ في وجدان الجميع أهمية الفنون في بناء مجتمع أكثر وعيًا وتسامحًا". وتضمن حفل الافتتاح عرضا لفيلم وثائقي عن دورتي المهرجان السابقتين، إلى جانب فقرة فنية فلكلورية أبدعت فيها فرقة جفرا للدبكة الشعبية، كما قدم الفنان محمد الشاقلدي وصلة غنائية أطربت الحضور، لتعلن انطلاقة تفيض بالحيوية والبهجة. وشهد الحفل أيضًا عرض فيلم خاص عن شخصية المهرجان لهذا العام، الفنانة الأردنية سهير فهد، التي جرى تكريمها تقديرًا لمسيرتها الفنية الغنية وعطائها الإبداعي في مجال المسرح والفن، إلى جانب تكريم عدد من المشاركين بمنحهم شهادات تقديرية ودروعًا تذكارية. وعرض في اليوم الأول من المهرجان مسرحية "فزعة نشامى"، التي قدمها مركز زها الثقافي – فرع الهاشمية، فيما ستتواصل العروض خلال الأيام المقبلة، وتتضمن مسرحيات: "بر الوالدين" (الأردن)، و"الخفاش" (سلطنة عمان)، و"خط أحمر" (الأردن)، و"مختار والأوتار" (مصر)، و"هدية سنجوب" (فلسطين). ويشتمل المهرجان على ورش عمل تفاعلية، من أبرزها: ورشة تصنيع الدمى، التي تقدمها الدكتورة الأردنية أسماء ياغي، وورشة بعنوان: "الدمى القفازية"، التي تقدمها المخرجة السورية ريم الماغوط، إضافة إلى أنشطة ترفيهية وتثقيفية تستهدف مختلف الفئات العمرية، وتجمع بين التعليم والمتعة بأسلوب إبداعي جذاب. وسبق انطلاق الفعاليات الرسمية كرنفال احتفالي تخلله عروض رسم على الوجوه، وشخصيات كرتونية محببة للأطفال، وألعاب ترفيهية، إلى جانب مشاركة فاعلة من الفرق التطوعية، وعلى رأسها فرقة مركز زها الثقافي، التي أضفت روحًا نابضة بالحيوية والإبداع. --(بترا)
أخبارنا
منذ 24 دقائق
- أخبارنا
أوقاف لواء الكورة تحتفي بذكرى الهجرة النبوية الشريفة
أخبارنا : احتفلت مديرية أوقاف لواء الكورة، الثلاثاء، في قاعة بلدية برقش، بمناسبة ذكرى الهجرة النبوية الشريفة. وقال مدير الأوقاف خالد بني ياسين، إن دراسة أحداث الهجرة ووقائعها تدلل على أهمية دقة التخطيط والأخذ بالأسباب وتوظيف الإمكانات والخبرات والاستفادة من مختلف الطاقات في سبيل تحقيق الأهداف السامية. وأضاف أن الهجرة النبوية أسست لمرحلة الأمة وعزتها ومكانتها، لافتا إلى أهمية استقاء ما فيها من دروس وعبر في حفظ الدين وبناء الأوطان والمجتمعات. بدوره، قال الدكتور حمزة بني عامر، إن الهجرة النبوية تعد ضرباً من ضروب الجهاد وسنناً من سنن الأنبياء، مشيرا إلى أن هجرة النبي الكريم من مكة المكرمة إلى المدينة المشرفة كانت حركة من حركات الدفاع عن الإسلام ونصرته، وإن نبينا الكريم انتقل من مرحلة "اصبروا وصابروا" إلى مرحلة مخاطبة الملوك لغاية نشر الدين الحنيف. وتخلل الحفل عرض فيلم وثائقي عن الهجرة النبوية ومعانيها في غرس قيم المحبة والتعايش والتعاضد. --(بترا)
