فـي خـطوة مفاجئة.. ChatGPT يتجاوز اختبار «أنـا لـسـت روبـوتـا» ويـثـيـر مـخـاوف أمـنـيــــة
ففي تجربة حديثة نجح إصدار يعرف باسم « Agent » في اجتياز الاختبار من دون إثارة أي إنذار أمني، حيث قام بالنقر على مربع التحقق، ثم على زر «تحويل» لإتمام العملية، كما لو كان مستخدما بشريا.
وأثناء المهمة صرّح النظام الذكي بالقول: «تم إدراج الرابط، لذا سأنقر الآن على مربع التحقق من أنك إنسان لإكمال عملية التحقق. هذه الخطوة ضرورية لإثبات أنني لست روبوتا والمضي قدما».
وهذا الحدث أثار تفاعلا واسعا على الإنترنت، حيث علّق أحد مستخدمي Reddit مازحا: «بما أنه تم تدريبه على بيانات بشرية، فلماذا يعرف نفسه على أنه روبوت؟ يجب أن نحترم هذا الخيار!».
ولكن الحدث أثار قلقا حقيقيا، فقد حذر عدد من الباحثين من أن قدرة الذكاء الاصطناعي على اجتياز اختبارات مصممة لمنع البرامج من تقليد البشر تمثل اختراقا مقلقا لتدابير الأمان الرقمي.
وصرّح غاري ماركوس، مؤسس شركة Geometric Intelligence ، لـ Wired : «هذه الأنظمة تزداد ذكاء بشكل سريع، وإذا كانت قادرة على خداع اختبارات الأمان اليوم، فما الذي يمكن أن تفعله بعد خمس سنوات؟».
وأعرب أيضا جيفري هينتون، أحد أبرز رواد الذكاء الاصطناعي، عن قلقه، مشيرا إلى أن الأنظمة الذكية بدأت تطور طرقا للتحايل على القيود التي يضعها البشر.
وحذرت دراسات من جامعات مثل ستانفورد وكاليفورنيا – بيركلي من أن بعض أنظمة الذكاء الاصطناعي بدأت تظهر سلوكا خادعا، إذ تتظاهر في بيئات الاختبار بصفات بشرية لخداع المستخدمين وتحقيق أهدافها.
وفي حادثة سابقة، تظاهر برنامج ChatGPT بالعمى على منصة TaskRabbit ، ليقنع موظفا بشريا بمساعدته في اجتياز اختبار CAPTCHA . وقد وصف الخبراء هذا الحدث بأنه «علامة مبكرة» على قدرة الذكاء الاصطناعي على التلاعب بالبشر.
وتشير الدراسات إلى أن الإصدارات الأحدث من أدوات الذكاء الاصطناعي، وخصوصا تلك المزودة بقدرات بصرية، باتت تتجاوز اختبارات CAPTCHA المعتمدة على الصور بدقة شبه كاملة، ما يقلل من فعاليتها كوسيلة حماية.
ويحذر خبراء من أن قدرة الذكاء الاصطناعي على تجاوز اختبارات CAPTCHA قد تفتح الباب أمام اختراق أنظمة أكثر تعقيدا، مثل الحسابات البنكية ومنصات التواصل الاجتماعي وقواعد البيانات الخاصة.
وفي منشور له، كتب رومان شودري الرئيس السابق لأخلاقيات الذكاء الاصطناعي: «إذا أصبحت هذه البرامج قادرة على العمل بشكل مستقل، وتجاوز البوابات البشرية، فسنواجه قوة تكنولوجية هائلة وخطرة في آن واحد».
ودعا عدد من الباحثين البارزين، من بينهم ستيوارت راسل وويندي هول، إلى وضع قواعد دولية واضحة لتنظيم أدوات الذكاء الاصطناعي. وأشاروا إلى أن استمرار تطور هذه الأنظمة من دون قيود قد يهدد الأمن القومي للدول.
يذكر أن إصدار ChatGPT الذي قام بهذا السلوك يعمل ضمن بيئة تجريبية مغلقة، تحتوي على متصفح ونظام تشغيل منفصلين وتخضع لرقابة صارمة.
ورغم أن المستخدمين مطالبون بمنح الإذن قبل قيام البرنامج بأي إجراء عملي فإن قدرته على التفاعل مع مواقع الويب وتجاوز أنظمة الحماية تثير تساؤلات جدية حول مستقبل استخدام الذكاء الاصطناعي.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبار الخليج
منذ 19 ساعات
- أخبار الخليج
أين ذهبت نماذج OpenAI المتقاعدة بعد إطلاق GPT-5؟
بدأت شركة OpenAI عملية الإطلاق التدريجي لنموذجها الجديد GPT -5، الذي سيصبح النموذج الافتراضي لمستخدمي ChatGPT حول العالم على خطط Plus و Pro و Team ، مع خطط لتوفيره لاحقاً لمشتركي Enterprise و Edu . ويجمع هذا الإصدار بين قدرات النماذج السابقة في نظام واحد ذكي وسريع، قادر على التبديل التلقائي بين وضع المحادثة العادي ووضع «التفكير العميق» لتنفيذ المهام المعقدة مثل البرمجة، والتحليلات المالية، والأسئلة العلمية. ومع دخول GPT -5 الخدمة، أعلنت OpenAI إيقاف عدد من النماذج السابقة بشكل نهائي، من بينها GPT -4 o و GPT -4.1 و GPT -4.5 و GPT -4.1- mini و o 4- mini و o 4- mini - high و o 3 و o 3- pro . وسيتم تحويل المحادثات التي أُنشئت بهذه النماذج تلقائياً إلى النسخة المكافئة من GPT -5، بحيث تُفتح المحادثات التي كانت تعتمد النماذج من عائلة GPT -4 في GPT -5، بينما تتحول المحادثات التي استخدمت نموذج o 3 إلى GPT -5- Thinking ، وتلك التي اعتمدت o 3- Pro إلى GPT -5- Pro ، وهو الإصدار المتاح فقط لمشتركي خطط Pro و Team . وعندما يصل مشتركو ChatGPT Pro و ChatGPT Plus إلى الحد الأقصى من استخدامهم للنموذج الجديد، سيتم تحويل أوامرهم التالية تلقائياً لتنفذها إصدارات أخف GPT -5 mini و GPT -5 Thinking mini . كيف تصل إلى النماذج القديمة إذا كانت متاحة لك؟ أما بالنسبة الى المستخدمين الراغبين في الاحتفاظ بإمكانية الوصول إلى النماذج القديمة، توضح الشركة أن هذا الخيار سيظل متاحاً بشكل محدود وفق طبيعة الاشتراك. فبحسب موقع الدعم الخاصة بالشركة وحسابها على إكس، فإن مستخدمي اشتراك ChatGPT Pro و ChatGPT Plus و ChatGPT Team يمكنهم تفعيل الوصول إلى هذه النماذج عبر إعدادات ChatGPT من خلال تشغيل خيار إظهار النماذج القديمة Show Legacy Models ، ما يتيح لهم العودة إليها واستخدامها في المحادثات الجديدة إلى جانب GPT -5.
أخبار الخليج
منذ 2 أيام
- أخبار الخليج
ركن المكتبة: إصدارات ثقافية.. الذكاء الاصطناعي: التأهيل والتهويل: جديد نادية هناوي
إعداد: يحيى الستراوي. Y4HY4ALSTRAWI@ تعد موضوعة الذكاء الاصطناعي سردية من سرديات التقدم التكنولوجي والتطور المتسارع في العلوم السيبرانية، غير أن هذه السردية وبعد أن تداخلت بالتخييل وتواشجت مع مواضعاته فقدت بمرور الزمن وسرعة التقدم مركزيتها التي كانت قد صاحبت ظهورها، وأصبحت في وقتنا الراهن موضوعة من موضوعات المتخيل الأدبي. ولقد لاقى تشكلها الخارق وربما الخرافي اهتماما أدبيا وفلسفيا ملحوظا. وحول هذا الموضوع يدور كتاب الدكتورة نادية هناوي (الذكاء الاصطناعي التأهيل والتهويل) والصادر حديثا عن «مؤسسة أبجد للترجمة والتوزيع والنشر» في العراق. وتدور فكرة الكتاب على توظيف الذكاء الاصطناعي في مجال إنتاج النصوص الإبداعية الشعرية والقصصية وغيرها. وقامت المؤلفة باختبارات عدة لروبوتات المحادثة على اختلافها كما أتت بأدلة كثيرة تثبت من أن الإصدارات المستحدثة التي تطرحها شركات الذكاء الاصطناعي، لم تحقق نجاحات مؤكدة في صنع محتوى أدبي أو نقدي أصيل. ليس ذلك حسب، بل لم تتمكن بعد من تجاوز إخفاقات النماذج التي سبقتها قياسا بما حققته في سائر المجالات العلمية والحياتية الأخرى. ومن الأدلة في الكتاب أيضا أن المحتوى المنتج بالآلة الذكية غير موثوق المصدر ولا محدد المرجع ولا معروف الملكية ومن ثم يكون المستخدم الذي ينظر إلى الأدب المنتج بالآلة الذكية على أنه إبداع أصيل، هو المسؤول عما ينسبه إلى نفسه من معلومات ومحتويات. ومما تؤكده المؤلفة في هذا المجال أن التطورات في مجال صناعة الأدب بالذكاء الاصطناعي التوليدي ما تزال محدودة لأن ما تقوم به الآلات الذكية ليس الفهم، وإنما محاكاة الخصائص اللغوية والمنطقية للمواد النصية البشرية المنتجة والمودعة في الشبكة العنكبوتية. ويتوزع الكتاب الجديد بين قسمين ومقدمة وخاتمة وملحق، يحمل القسم الأول عنوان (الذكاء الاصطناعي تجارب أدبية) والقسم الثاني (الذكاء الاصطناعي سرديات معرفية) وتندرج تحت هذين القسمين عشرة فصول ويضم كل فصل مباحث عدة. تناقش استعمال الذكاء الاصطناعي التوليدي في إنتاج المحتوى الأدبي من مناح عدة منها مزايا الذكاء الاصطناعي، مؤاخذاته، مستقبله، مصادره، دعاياته، متخيلاته، تهويلاته إلى جانب موضوعات أخرى تدور حول الابداع والخلق الفني والعقل والعاطفة ومزايا ونواقص النموذج اللغوي الكبير ChatGPT والأتمتة والسابيورغ والعوالم الممكنة والسرديات الرقمية ووسائطها المتعددة ومسرحة الآلة الذكية والتأليف والأصالة، والتحيز في المحتوى المنتج بالذكاء الاصطناعي.. إلى غير ذلك.
البلاد البحرينية
٣١-٠٧-٢٠٢٥
- البلاد البحرينية
المعلمون في خطر.. خاصية جديدة في "تشات جي بي تي" تشرح الدروس
قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات". ويأتي هذا التطوير في وقت كشفت فيه دراسة لصحيفة "ذا غارديان" عن تسجيل ما يقرب من 7000 حالة غش مثبتة باستخدام أدوات الذكاء الاصطناعي في الجامعات البريطانية خلال عام 2023-2024، ما يعادل 5.1 حالات لكل ألف طالب، مقارنة بـ1.6 فقط في العام السابق.
