قلق من تعلم الذكاء الاصطناعي أساليب التلاعب والكذب

منذ يوم واحد

‭ ‬نيويورك‭ (‬أ‭ ‬ف‭ ‬ب‭) – ‬لم‭ ‬تعد‭ ‬أحدث‭ ‬نماذج‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬التوليدي‭ ‬تنفّذ‭ ‬الطلبات‭ ‬فحسب،‭ ‬بل‭ ‬باتت‭ ‬قادرة‭ ‬على‭ ‬الكذب‭ ‬والمراوغة‭ ‬والتهديد‭ ‬من‭ ‬أجل‭ ‬تحقيق‭ ‬أهدافها،‭ ‬وهو‭ ‬ما‭ ‬يثير‭ ‬قلق‭ ‬الباحثين‭. ‬بعد‭ ‬تهديده‭ ‬بوقف‭ ‬استخدامه،‭ ‬عمد‭ '‬كلود‭ ‬4‭'‬،‭ ‬وهو‭ ‬نموذج‭ ‬جديد‭ ‬من‭ ‬شركة‭ '‬أنثروبيك‭' ‬إلى‭ ‬ابتزاز‭ ‬مهندس‭ ‬وتهديده‭ ‬بالكشف‭ ‬عن‭ ‬علاقة‭ ‬غرامية‭ ‬له‭ ‬خارج‭ ‬إطار‭ ‬الزواج‭. ‬اما‭ ‬برنامج‭ '‬او‭ ‬1‭' ‬ o 1‭ ‬التابع‭ ‬لشركة‭ '‬اوبن‭ ‬ايه‭ ‬آي‭' ‬فحاول‭ ‬تحميل‭ ‬نفسه‭ ‬على‭ ‬خوادم‭ ‬خارجية‭ ‬وأنكر‭ ‬ذلك‭ ‬عند‭ ‬ضبطه‭ ‬متلبسا‭!. ‬وقد‭ ‬بات‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬الذي‭ ‬يخدع‭ ‬البشر‭ ‬واقعا‭ ‬ملموسا،‭ ‬بعدما‭ ‬كنّا‭ ‬نجده‭ ‬في‭ ‬الأعمال‭ ‬الادبية‭ ‬او‭ ‬السينمائية‭. ‬يرى‭ ‬الأستاذ‭ ‬في‭ ‬جامعة‭ ‬هونغ‭ ‬كونغ‭ ‬سايمن‭ ‬غولدستين‭ ‬أن‭ ‬هذه‭ ‬الهفوات‭ ‬ترجع‭ ‬إلى‭ ‬الظهور‭ ‬الحديث‭ ‬لما‭ ‬يُسمى‭ ‬بنماذج‭ '‬الاستدلال‭'‬،‭ ‬القادرة‭ ‬على‭ ‬التفكير‭ ‬بشكل‭ ‬تدريجي‭ ‬وعلى‭ ‬مراحل‭ ‬بدل‭ ‬تقديم‭ ‬إجابة‭ ‬فورية‭. ‬يقول‭ ‬ماريوس‭ ‬هوبهان،‭ ‬رئيس‭ ‬شركة‭ '‬أبولو‭ ‬ريسيرتش‭' ‬التي‭ ‬تختبر‭ ‬برامج‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬التوليدي‭ ‬الكبرى،‭ ‬إنّ‭ '‬او‭ ‬1‭'‬،‭ ‬النسخة‭ ‬الأولية‭ ‬لـ‭'‬اوبن‭ ‬ايه‭ ‬آي‭' ‬من‭ ‬هذا‭ ‬النوع‭ ‬والتي‭ ‬طُرحت‭ ‬في‭ ‬كانون‭ ‬الأول‭/‬ديسمبر،‭ '‬كان‭ ‬أول‭ ‬نموذج‭ ‬يتصرف‭ ‬بهذه‭ ‬الطريقة‭'. ‬تميل‭ ‬هذه‭ ‬البرامج‭ ‬أحيانا‭ ‬إلى‭ ‬محاكاة‭ '‬الامتثال‭'‬،‭ ‬أي‭ ‬إعطاء‭ ‬انطباع‭ ‬بأنها‭ ‬تمتثل‭ ‬لتعليمات‭ ‬المبرمج‭ ‬بينما‭ ‬تسعى‭ ‬في‭ ‬الواقع‭ ‬إلى‭ ‬تحقيق‭ ‬أهداف‭ ‬أخرى‭.‬في‭ ‬الوقت‭ ‬الحالي،‭ ‬لا‭ ‬تظهر‭ ‬هذه‭ ‬السلوكيات‭ ‬إلا‭ ‬عندما‭ ‬يعرّض‭ ‬المستخدمون‭ ‬الخوارزميات‭ ‬لمواقف‭ ‬متطرفة،‭ ‬لكن‭ '‬السؤال‭ ‬المطروح‭ ‬هو‭ ‬ما‭ ‬إذا‭ ‬كانت‭ ‬النماذج‭ ‬التي‭ ‬تزداد‭ ‬قوة‭ ‬ستميل‭ ‬إلى‭ ‬أن‭ ‬تكون‭ ‬صادقة‭ ‬أم‭ ‬لا‭'‬،‭ ‬على‭ ‬قول‭ ‬مايكل‭ ‬تشين‭ ‬من‭ ‬معهد‭ '‬ام‭ ‬اي‭ ‬تي‭ ‬آر‭' ‬للتقييم‭. ‬يقول‭ ‬هوبهان‭ ‬إنّ‭ '‬المستخدمين‭ ‬يضغطون‭ ‬على‭ ‬النماذج‭ ‬باستمرار‭. ‬ما‭ ‬نراه‭ ‬هو‭ ‬ظاهرة‭ ‬فعلية‭. ‬نحن‭ ‬لا‭ ‬نبتكر‭ ‬شيئا‭'. ‬يتحدث‭ ‬عدد‭ ‬كبير‭ ‬من‭ ‬مستخدمي‭ ‬الانترنت‭ ‬عبر‭ ‬وسائل‭ ‬التواصل‭ ‬الاجتماعي‭ ‬عن‭ '‬نموذج‭ ‬يكذب‭ ‬عليهم‭ ‬أو‭ ‬يختلق‭ ‬أمورا‭. ‬وهذه‭ ‬ليست‭ ‬أوهاما،‭ ‬بل‭ ‬ازدواجية‭ ‬استراتيجية‭'‬،‭ ‬بحسب‭ ‬المشارك‭ ‬في‭ ‬تأسيس‭ '‬أبولو‭ ‬ريسيرتش‭'. ‬حتى‭ ‬لو‭ ‬أنّ‭ '‬أنثروبيك‭' ‬و‭'‬أوبن‭ ‬إيه‭ ‬آي‭' ‬تستعينان‭ ‬بشركات‭ ‬خارجية‭ ‬مثل‭ '‬أبولو‭' ‬لدراسة‭ ‬برامجهما،‭ ‬من‭ ‬شأن‭'‬زيادة‭ ‬الشفافية‭ ‬وتوسيع‭ ‬نطاق‭ ‬الإتاحة‭' ‬إلى‭ ‬الأوساط‭ ‬العلمية‭ '‬أن‭ ‬يحسّنا‭ ‬الأبحاث‭ ‬لفهم‭ ‬الخداع‭ ‬ومنعه‭'‬،‭ ‬وفق‭ ‬مايكل‭ ‬تشين‭.‬ومن‭ ‬العيوب‭ ‬الأخرى‭ ‬أن‭ '‬الجهات‭ ‬العاملة‭ ‬في‭ ‬مجال‭ ‬البحوث‭ ‬والمنظمات‭ ‬المستقلة‭ ‬لديها‭ ‬موارد‭ ‬حوسبة‭ ‬أقل‭ ‬بكثير‭ ‬من‭ ‬موارد‭ ‬شركات‭ ‬الذكاء‭ ‬الاصطناعي‭'‬،‭ ‬مما‭ ‬يجعل‭ ‬التدقيق‭ ‬بالنماذج‭ ‬الكبيرة‭ '‬مستحيلا‭'‬،‭ ‬على‭ ‬قول‭ ‬مانتاس‭ ‬مازيكا‭ ‬من‭ ‬مركز‭ ‬أمن‭ ‬الذكاء‭ ‬الاصطناعي‭ (‬ CAIS ‭). ‬رغم‭ ‬أن‭ ‬الاتحاد‭ ‬الأوروبي‭ ‬أقرّ‭ ‬تشريعات‭ ‬تنظّم‭ ‬الذكاء‭ ‬الاصطناعي،‭ ‬إلا‭ ‬أنها‭ ‬تركّز‭ ‬بشكل‭ ‬أساسي‭ ‬على‭ ‬كيفية‭ ‬استخدام‭ ‬هذه‭ ‬النماذج‭ ‬من‭ ‬جانب‭ ‬البشر،‭ ‬وليس‭ ‬على‭ ‬سلوك‭ ‬النماذج‭ ‬نفسها‭. ‬في‭ ‬الولايات‭ ‬المتحدة،‭ ‬لا‭ ‬ترغب‭ ‬حكومة‭ ‬دونالد‭ ‬ترامب‭ ‬في‭ ‬سماع‭ ‬أي‭ ‬حديث‭ ‬عن‭ ‬تنظيم‭ ‬الذكاء‭ ‬الاصطناعي،‭ ‬بل‭ ‬إن‭ ‬الكونغرس‭ ‬قد‭ ‬يتجه‭ ‬قريبا‭ ‬إلى‭ ‬منع‭ ‬الولايات‭ ‬من‭ ‬فرض‭ ‬أي‭ ‬إطار‭ ‬تنظيمي‭ ‬خاص‭ ‬بها‭ ‬عليه‭.‬يلاحظ‭ ‬غولدستين‭ ‬أن‭ '‬الوعي‭ ‬لا‭ ‬يزال‭ ‬محدودا‭ ‬جدا‭ ‬في‭ ‬الوقت‭ ‬الحالي‭'‬،‭ ‬لكنه‭ ‬يتوقع‭ ‬أن‭ ‬يفرض‭ ‬هذا‭ ‬الموضوع‭ ‬نفسه‭ ‬خلال‭ ‬الأشهر‭ ‬المقبلة،‭ ‬مع‭ ‬الثورة‭ ‬المقبلة‭ ‬في‭ ‬مجال‭ ‬المساعدين‭ ‬القائمين‭ ‬على‭ ‬الذكاء‭ ‬الاصطناعي،‭ ‬وهي‭ ‬برامج‭ ‬قادرة‭ ‬على‭ ‬تنفيذ‭ ‬عدد‭ ‬كبير‭ ‬من‭ ‬المهام‭ ‬بشكل‭ ‬مستقل‭. ‬يخوض‭ ‬المهندسون‭ ‬سباقا‭ ‬محموما‭ ‬خلف‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬وتجاوزاته،‭ ‬في‭ ‬مسار‭ ‬غير‭ ‬مضمون‭ ‬النتائج،‭ ‬وسط‭ ‬منافسة‭ ‬شرسة‭ ‬تحتدم‭ ‬يوما‭ ‬بعد‭ ‬يوم‭. ‬تقول‭ ‬شركة‭ '‬أنثروبيك‭' ‬إنها‭ ‬أكثر‭ ‬التزاما‭ ‬بالمبادئ‭ ‬الأخلاقية‭ ‬مقارنة‭ ‬بمنافسيها،‭ '‬لكنها‭ ‬تسعى‭ ‬باستمرار‭ ‬لإطلاق‭ ‬نموذج‭ ‬جديد‭ ‬يتفوق‭ ‬على‭ ‬نماذج‭ ‬اوبن‭ ‬ايه‭ ‬آي‭'‬،‭ ‬بحسب‭ ‬غولدستين،‭ ‬وهو‭ ‬سباق‭ ‬سريع‭ ‬لا‭ ‬يترك‭ ‬مجالا‭ ‬كافيا‭ ‬لعمليات‭ ‬المراجعة‭ ‬والتصحيح‭ ‬اللازمة‭. ‬يقول‭ ‬هوبهان‭ '‬في‭ ‬الوضع‭ ‬الحالي،‭ ‬تتطور‭ ‬قدرات‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬بوتيرة‭ ‬أسرع‭ ‬من‭ ‬فهمنا‭ ‬لها‭ ‬ومن‭ ‬مستوى‭ ‬الأمان‭ ‬المتوفر،‭ ‬لكننا‭ ‬لا‭ ‬نزال‭ ‬قادرين‭ ‬على‭ ‬تدارك‭ ‬هذا‭ ‬التأخر‭'.‬يشير‭ ‬بعض‭ ‬الخبراء‭ ‬إلى‭ ‬مجال‭ ‬قابلية‭ ‬التفسير،‭ ‬وهو‭ ‬علم‭ ‬ناشئ‭ ‬يهدف‭ ‬إلى‭ ‬فك‭ ‬شفرة‭ ‬الطريقة‭ ‬التي‭ ‬تعمل‭ ‬بها‭ ‬نماذج‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬التوليدي‭ ‬من‭ ‬الداخل‭. ‬ومع‭ ‬ذلك،‭ ‬يظل‭ ‬البعض‭ ‬متشككا‭ ‬في‭ ‬فعاليته،‭ ‬من‭ ‬بينهم‭ ‬دان‭ ‬هندريكس،‭ ‬مدير‭ ‬مركز‭ ‬أمن‭ ‬الذكاء‭ ‬الاصطناعي‭ (‬ CAIS ‭). ‬الحِيَل‭ ‬التي‭ ‬تلجأ‭ ‬إليها‭ ‬نماذج‭ ‬الذكاء‭ ‬الاصطناعي‭ '‬قد‭ ‬تُعيق‭ ‬استخدامها‭ ‬على‭ ‬نطاق‭ ‬واسع‭ ‬إذا‭ ‬تكررت،‭ ‬وهو‭ ‬ما‭ ‬يشكّل‭ ‬دافعا‭ ‬قويا‭ ‬للشركات‭ ‬العاملة‭ ‬في‭ ‬هذا‭ ‬القطاع‭ ‬للعمل‭ ‬على‭ ‬حل‭ ‬المشكلة‭'‬،‭ ‬وفق‭ ‬مانتاس‭ ‬مازيكا‭. ‬يشير‭ ‬غولدستين‭ ‬إلى‭ ‬اللجوء‭ ‬إلى‭ ‬القضاء‭ ‬لضبط‭ ‬تصرفات‭ ‬الذكاء‭ ‬الاصطناعي،‭ ‬من‭ ‬خلال‭ ‬محاسبة‭ ‬الشركات‭ ‬المسؤولة‭ ‬في‭ ‬حال‭ ‬حدوث‭ ‬تجاوزات‭. ‬ولكنه‭ ‬يذهب‭ ‬أبعد‭ ‬من‭ ‬ذلك،‭ ‬ويقترح‭ ‬حتى‭ '‬تحميل‭ ‬برامج‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬المسؤولية‭ ‬القانونية‭' ‬في‭ ‬حال‭ ‬وقوع‭ ‬حوادث‭ ‬أو‭ ‬جرائم‭.‬

هاشتاغز

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

أخبار ذات صلة

الرئيس الأمريكي: مصر وقطر ستقدمان الاقتراح النهائي بشأن هدنة غزة

بوابة الأهرام

منذ 21 دقائق

بوابة الأهرام

الرئيس الأمريكي: مصر وقطر ستقدمان الاقتراح النهائي بشأن هدنة غزة

أكد الرئيس الأمريكى دونالد ترامب أن مصر وقطر ستقدمان الاقتراح النهائي بشأن هدنة غزة، مشيرا إلى أن خلال فترة وقف إطلاق النار بغزة سنعمل مع كل الأطراف على إنهاء الحرب، بحسب ما ذكرته القاهرة الإخبارية فى خبر عاجل. موضوعات مقترحة وأعلن ترامب أن إسرائيل وافقت على الشروط اللازمة لإتمام وقف إطلاق النار بغزة لمدة 60 يوما. وكانت أفادت قناة "القاهرة الإخبارية"، أن هناك 102 شهيد بنيران جيش الاحتلال في قطاع غزة منذ فجر أمس، وذلك في نبأ عاجل. جدير بالذكر أن الصليب الأحمر، حذر من تصاعد الأعمال العدائية في قطاع غزة. وأعرب الصليب الأحمر، عن قلقه العميق إزاء الأوضاع الإنسانية في قطاع غزة.

خبر في الجول - بعدما ارتبط بالزمالك.. مودرن سبورت يتمم اتفاقه بشأن ضم مدافع المنصورة

مصرس

منذ 22 دقائق

مصرس

خبر في الجول - بعدما ارتبط بالزمالك.. مودرن سبورت يتمم اتفاقه بشأن ضم مدافع المنصورة

أتم نادي مودرن سبورت اتفاقه بشأن ضم محمد يسري مدافع المنصورة بالموسم المقبل. ويواصل مودرن سبورت تدعيم صفوف تحضيرا لخوض منافسات الموسم الجديد.وحسبما علم فإن مودرن سبورت أتم اتفاقه مع المنصورة بشأن ضم محمد يسري مدافع الفريق بعدما ارتبط بالانتقال للزمالك في وقت سابق.ومن المقرر أن ينضم محمد يسري إلى نادي مودرن سبورت، بعدما كان محط أنظار نادي الزمالك.وسينضم يسري صاحب ال21 عاما الذي يجيد في مركزي قلب الدفلع ووسط الملعب لمودرن سبورت لمدة 4 سنوات.وتعاقد مودرن سبورت مع كل من محمد أبو جبل حارس مرمى البنك الأهلي، ورشاد المتولي صانع ألعاب بتروجت.كما تعاقد مع عماد حمدي قادما من الإسماعيلي ليصبح ثالث صفقات مودرن سبورت الصيفية.يأتي ذلك بعد تعيين مجدي عبد العاطي مديرا فنيا للفريق في الموسم الجديد، خلفا للجزائري عبد الحق بن شيخة المدير الفني السابق للفريق.

صحة المنيا تستعد لانتخابات الشيوخ: لجان كشف طبي وتحاليل مخدرات للمرشحين وفقًا للضوابط

مصرس

منذ 23 دقائق

مصرس

صحة المنيا تستعد لانتخابات الشيوخ: لجان كشف طبي وتحاليل مخدرات للمرشحين وفقًا للضوابط

عقدت مديرية الصحة بالمنيا، اليوم الثلاثاء، اجتماعًا موسعًا برئاسة الدكتورة نادية مكرم، وكيل وزارة الصحة، لمناقشة الترتيبات النهائية لتنفيذ إجراءات الكشف الطبي على المرشحين لانتخابات مجلس الشيوخ 2025، وذلك بحضور مديري الإدارات الفنية، ومديري المستشفيات، ومسؤولي الصحة، تنفيذًا لتعليمات الدكتور خالد عبدالغفار، نائب رئيس مجلس الوزراء ووزير الصحة، وتحت رعاية اللواء عماد كدواني، محافظ المنيا. ناقش الاجتماع تنظيم عمل لجان الكشف الطبي، وآليات إجراء الفحوصات المعملية، وخاصة تحاليل المواد المخدرة، مع التأكيد على جاهزية المستشفيات واللجان من حيث القوى البشرية والتجهيزات الفنية.وأوضحت وكيل الوزارة أن المرشح سيبدأ بتحليل المخدرات في المعمل المشترك، ثم يتوجه إلى اللجان الطبية المخصصة له في المواعيد المحددة.وأشارت إلى تحديد 5 مقرات للكشف الطبي على المرشحين، وهي: المجلس العام بالمنيا، مستشفى مغاغة، مستشفى صدر المنيا، مستشفى ملوي التخصصي، ومستشفى سمالوط النموذجي، مع التشديد على رفع النتائج إلكترونيًا، واعتمادها في التوقيتات المقررة، وتيسير الإجراءات لضمان جودة الأداء.وشهد الاجتماع حضور الدكتور عاصم كمال، مدير عام الطب العلاجي، والدكتورة مروة إسماعيل، مدير إدارة التخطيط والسلامة المهنية، والدكتورة مرفت سعد، مدير المجلس الطبي العام، والدكتورة جيهان عبدالصمد، مدير المعامل المركزية.