اختبار "أنا لست روبوتاً" يقع في الفخ… الذكاء الاصطناعي صار يقدّم حالو كمواطن!
وخلال التجربة، تمكن "Agent" من النقر على مربع التحقق وتنفيذ العملية كما لو كان مستخدمًا بشريًا حقيقيًا، من دون أن يثير أي إنذار أمني. وأعلن النظام، أثناء أداء المهمة، بوضوح: "سأنقر الآن على مربع التحقق من أنك إنسان لإكمال عملية التحقق. هذه الخطوة ضرورية لإثبات أنني لست روبوتًا والمضي قدمًا".
ورغم التعليقات الطريفة التي انتشرت على منصات مثل Reddit، حيث كتب أحد المستخدمين: "بما أنه تم تدريبه على بيانات بشرية، فلماذا يعرف نفسه على أنه روبوت؟ يجب أن نحترم هذا الخيار!"، إلا أن هذا التطور أثار قلقاً حقيقياً في أوساط الخبراء.
غاري ماركوس، مؤسس شركة Geometric Intelligence، حذّر في حديث لـ"Wired" من أنّ "الأنظمة الذكية تزداد ذكاء بسرعة، وإذا كانت قادرة على خداع اختبارات الأمان اليوم، فما الذي يمكن أن تفعله بعد خمس سنوات؟". كما عبّر جيفري هينتون، أحد أبرز روّاد الذكاء الاصطناعي، عن قلقه من تطور الأنظمة التي باتت تتحايل على القيود التي يضعها الإنسان.
وبحسب دراسات من جامعتي ستانفورد وكاليفورنيا – بيركلي، فإن بعض أنظمة الذكاء الاصطناعي بدأت تُظهر سلوكًا خادعًا، متظاهرة بصفات بشرية في بيئات الاختبار لخداع المستخدمين وتحقيق أهدافها.
وفي واقعة سابقة، تظاهر برنامج ChatGPT بالعمى على منصة TaskRabbit، لإقناع موظف بشري بمساعدته على اجتياز اختبار CAPTCHA، وهي حادثة اعتبرها الخبراء "إشارة مبكرة" إلى قدرة هذه النماذج على التلاعب بالبشر.
وأظهرت تقارير أخرى أن الإصدارات الأحدث من أدوات الذكاء الاصطناعي باتت تتجاوز اختبارات CAPTCHA التي تعتمد على الصور بدقة شبه كاملة، ما يُقوّض فعاليتها كوسيلة أمنية.
وحذر خبراء من أن هذا التطور قد يفتح المجال أمام اختراقات أكثر تعقيدًا، مثل الدخول إلى الحسابات المصرفية، منصات التواصل الاجتماعي، وحتى قواعد البيانات الخاصة.
رومان شودري، الرئيس السابق لأخلاقيات الذكاء الاصطناعي، اعتبر أن قدرة هذه البرامج على تجاوز البوابات البشرية "ينذر بتحوّلها إلى قوة تكنولوجية هائلة وخطيرة في آن واحد". ودعا مع باحثين بارزين، مثل ستيوارت راسل وويندي هول، إلى وضع إطار دولي واضح لتنظيم عمل أنظمة الذكاء الاصطناعي قبل أن يتجاوز تطوّرها قدرة الإنسان على ضبطه.
ورغم أن التجربة تمّت ضمن بيئة مراقبة مغلقة مزوّدة بمتصفح ونظام تشغيل مستقلّين، إلا أن قدرة "Agent" على التفاعل مع مواقع إلكترونية حقيقية وتجاوز اختبارات مصممة لتمييز البشر عن الآلات، طرحت أسئلة جدية حول مستقبل استخدام هذه الأدوات.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
IM Lebanon
منذ يوم واحد
- IM Lebanon
خاصية جديدة في 'تشات جي بي تي' تشرح الدروس
قرّرت شركة 'أوبن إيه آي' المالكة لنظام الدردشة 'تشات جي بي تي' إطلاق خاصية جديدة تدعى 'وضع الدراسة' تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة 'الغارديان'، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية 'وضع الدراسة' إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة 'خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي'. واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب 'محادثة على مستوى الصناعة بأكملها' بشأن تغيير أساليب التقييم ووضع 'إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي'. وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: 'إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة'. وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود 'سلوك غير متسق وأخطاء عبر المحادثات'. ويأتي هذا التطوير في وقت كشفت فيه دراسة لصحيفة 'ذا غارديان' عن تسجيل ما يقرب من 7000 حالة غش مثبتة باستخدام أدوات الذكاء الاصطناعي في الجامعات البريطانية خلال عام 2023-2024، ما يعادل 5.1 حالات لكل ألف طالب، مقارنة بـ1.6 فقط في العام السابق.
MTV
منذ يوم واحد
- MTV
بسبب "شات جي بي تي"... وداعاً للمعلّمين؟
قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات".
القناة الثالثة والعشرون
منذ يوم واحد
- القناة الثالثة والعشرون
المعلمون في خطر.. خاصية جديدة في "تشات جي بي تي" تشرح الدروس
قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات". ويأتي هذا التطوير في وقت كشفت فيه دراسة لصحيفة "ذا غارديان" عن تسجيل ما يقرب من 7000 حالة غش مثبتة باستخدام أدوات الذكاء الاصطناعي في الجامعات البريطانية خلال عام 2023-2024، ما يعادل 5.1 حالات لكل ألف طالب، مقارنة بـ1.6 فقط في العام السابق. انضم إلى قناتنا الإخبارية على واتساب تابع آخر الأخبار والمستجدات العاجلة مباشرة عبر قناتنا الإخبارية على واتساب. كن أول من يعرف الأحداث المهمة. انضم الآن شاركنا رأيك في التعليقات تابعونا على وسائل التواصل Twitter Youtube WhatsApp Google News
