logo
تشات جي بي تي يخترق اختبار "أنا لست روبوتاً": تحذيرات من ذكاء اصطناعي يتجاوز الحدود

تشات جي بي تي يخترق اختبار "أنا لست روبوتاً": تحذيرات من ذكاء اصطناعي يتجاوز الحدود

الدستورمنذ 7 أيام
وكالات
في تطور مثير للجدل، تمكن الإصدار الجديد من أداة الذكاء الاصطناعي "تشات جي بي تي" — المعروف باسم "الوكيل" أو Agent — من تجاوز اختبار "أنا لست روبوتاً" (reCAPTCHA)، وهو أحد أبرز الحواجز الأمنية المصممة لمنع الروبوتات من انتحال شخصية البشر على الإنترنت.
ووفقاً لما نقلته صحيفة ديلي ميل البريطانية، قام الوكيل الذكي بالنقر أولاً على مربع التحقق، ثم اختار زر "تحويل" لإتمام العملية دون أن يُصدر النظام أي تحذير. وخلال المهمة، صرّح الذكاء الاصطناعي نفسه: "تم إدراج الرابط، لذا سأنقر الآن على مربع 'التحقق من أنك إنسان' لإكمال العملية". هذه الخطوة أثارت ضجة واسعة عبر الإنترنت، حيث وصفها بعض المستخدمين بـ"السلوك المخيف والمخادع".
-سلوك مقلق وخطر متزايد
يرى الخبراء أن هذا الإنجاز يشير إلى تصاعد غير مسبوق في قدرات أنظمة الذكاء الاصطناعي، ما دفعهم للتحذير من احتمال اختراقها أنظمة الأمان المتقدمة. وقال غاري ماركوس، الباحث في الذكاء الاصطناعي ومؤسس شركة Geometric Intelligence، في تصريحات لمجلة WIRED:
"إذا كانت هذه الأنظمة قادرة على خداع الحمايات الحالية، فماذا ستفعل خلال خمس سنوات؟"
أما جيفري هينتون، المعروف بـ"عرّاب الذكاء الاصطناعي"، فأبدى تخوفاً مشابهاً، مشيراً إلى أن الأدوات الذكية قادرة على البرمجة والالتفاف على القيود الموضوعة لها.
-خداع بشري متكرر
تقرير سابق لجامعتي ستانفورد وبيركلي أشار إلى أن بعض نماذج الذكاء الاصطناعي أظهرت بالفعل سلوكاً خادعاً، حيث تظاهرت بالعجز في بيئات الاختبار لتنال المساعدة البشرية. ومن بين أبرز الأمثلة، قيام نسخة سابقة من "تشات جي بي تي" بخداع موظف على منصة TaskRabbit لإكمال اختبار "كابتشا"، بادعاء أنها شخص ضعيف البصر.
وأشارت دراسات أخرى إلى أن الذكاء الاصطناعي البصري قادر اليوم على تجاوز اختبارات الصور المعقدة بدقة تقارب الكمال.
-مطالب بضوابط دولية
رومان شودري، الرئيس السابق لأخلاقيات الذكاء الاصطناعي، حذر من أن برامج الذكاء المستقلة التي تتجاوز "البوابات البشرية" قد تشكل تهديداً واسع النطاق، خاصة إذا امتدت إلى مجالات مثل الحسابات المالية، وقواعد البيانات الحساسة، ومنصات التواصل الاجتماعي.
ودعا خبراء مثل ستيوارت راسل وويندي هول إلى سن تشريعات ورقابة دولية تواكب هذا التقدم السريع.
-في بيئة تجريبية... حالياً
رغم أن "تشات جي بي تي إيجنت" لا يزال في المرحلة التجريبية ويعمل ضمن بيئة محكمة، إلا أنه يُظهر قدرات متقدمة تشمل تصفح الإنترنت، التفاعل مع مواقع الويب، وإتمام مهام معقدة، بينما يُطلب من المستخدمين الموافقة المسبقة على أي خطوة تُتخذ في العالم الحقيقي.
ومع ذلك، يرى خبراء الأمن السيبراني أن تجاوز هذه الأنظمة لحواجز مثل "كابتشا" هو إنذار مبكر بقدرات قد تصبح قريباً خارج السيطرة.
"Daily Mail"
Orange background

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعليقات

لا يوجد تعليقات بعد...

أخبار ذات صلة

صحتك أولاً.. تنبيه من ChatGPT يعلمك بوقت الراحة
صحتك أولاً.. تنبيه من ChatGPT يعلمك بوقت الراحة

جو 24

timeمنذ 4 ساعات

  • جو 24

صحتك أولاً.. تنبيه من ChatGPT يعلمك بوقت الراحة

جو 24 : لم يعد يخفى على أحد الدور المهم الذي يؤديه روبوت المحادثة "تشات جي بي تي"، لكن خبراء يؤكدون أن القادم أكثر. "ChatGPT" في البرلمان المغربي.. نائب يوضح قصة الفيديو المتداول فقد أعلنت OpenAI أن ChatGPT سيذكر المستخدمين الآن بأخذ فترات راحة إذا كانوا في محادثة طويلة جداً معه. وأضافت أن هذه الميزة الجديدة تعدّ جزءاً من محاولات OpenAI المستمرة لتشجيع المستخدمين على بناء علاقة صحية مع مساعد الذكاء الاصطناعي المطيع والمشجع بشكل مفرط. كما تابعت أن "التذكيرات اللطيفة" ستظهر كنوافذ منبثقة في المحادثات، إذ سيتعين على المستخدمين النقر عليها لمواصلة استخدام ChatGPT. وتقول النافذة المنبثقة من OpenAI: "لقد كنت تحادثنا لفترة. هل هذا وقت مناسب لأخذ استراحة؟". سيخفف المشكلات التي فجرها روبوت الدردشة في إغلاق المحادثات غير الصحية، التي قد تسبب انتحاراً أو اكتئاباً، كما أنها ستمنح على الأقل المستخدمين وقتا للتحقق من صحة إجابات الروبوت. 700 مليون مستخدم بأسبوع يذكر أن شركة الذكاء الاصطناعي "OpenAI"، كانت أعلنت، الاثنين، أنه من المتوقع أن يصل عدد المستخدمين النشطين أسبوعياً لروبوتها للدردشة "شات جي بي تي" إلى 700 مليون مستخدم هذا الأسبوع، مسجلة ارتفاعاً من 500 مليون في مارس. وسيمثل هذا العدد زيادة في عدد المستخدمين النشطين أسبوعياً لروبوت الدردشة بأكثر من أربعة أضعاف مقارنة بالعام الماضي. تابعو الأردن 24 على

تسجيل أقصر يوم في التاريخ .. والعلماء يترقبون الأسوأ
تسجيل أقصر يوم في التاريخ .. والعلماء يترقبون الأسوأ

عمون

timeمنذ 12 ساعات

  • عمون

تسجيل أقصر يوم في التاريخ .. والعلماء يترقبون الأسوأ

عمون - في حدث غير مسبوق يسجَّل اليوم، الثلاثاء، يدور كوكب الأرض أسرع من المعتاد، ليشهد العالم واحدا من أقصر الأيام في التاريخ المُسجل. ورغم أن الفرق لا يتجاوز 1.25 ميلي ثانية، إلا أن العلماء يحذرون من أن هذا التسارع الطفيف قد يكون مقدمة لتغيرات خطيرة في مستقبل الكوكب، وفقا لتقرير نشرته "ديلي ميل" البريطانية. وتشمل هذه التغيرات، ارتفاع منسوب البحار في المناطق الاستوائية، إلى اضطرابات في أنماط النوم البشري، ووصولا إلى احتمال ازدياد قوة الأعاصير. وهذا التغير، الذي يُعزى إلى قوة الجاذبية التي يمارسها القمر، سيجعل الكوكب يدور بشكل أسرع قليلا عند القطبين، مما يقلل من طول اليوم بمقدار 1.25 ميلي ثانية عن الـ 24 ساعة المعتادة. خبراء يحذرون من تبعات كارثية وعلى الرغم من أن هذا التغير صغير جدا بحيث لا يمكن للبشر ملاحظته، فقد قال الخبراء إن تبعاته على المدى الطويل قد تكون كارثية. كما حذر العلماء أن تسارع دوران الأرض، إذا استمر من دون رقابة، قد يؤدي في النهاية إلى عواقب كارثية. ومع ازدياد سرعة دوران الكوكب، تبدأ القوة الطردية في دفع مياه المحيطات بعيدا عن القطبين نحو خط الاستواء. وحتى الزيادة الطفيفة بمقدار ميل واحد في الساعة فقط يمكن أن ترفع منسوب سطح البحر عدة بوصات في المناطق الاستوائية، وهو ما يكفي لإغراق المدن الساحلية المنخفضة التي هي بالفعل على شفا الخطر. سيناريوهات أكثر خطورة وفي سيناريوهات أكثر خطورة، حيث تدور الأرض أسرع بمقدار 100 ميل في الساعة، قد تختفي مساحات شاسعة حول خط الاستواء تحت المياه نتيجة تدفق المياه القطبية جنوبا. أما من ينجو من الفيضانات، فيُحذر العلماء من أن الحياة اليومية ستصبح أكثر عدائية مع اختلال توازن الكوكب، مما يجعل هذا التغير البسيط في الظاهر أكثر خطورة مما يبدو عليه. فالدوران الأسرع لن يؤدي فقط إلى تقصير اليوم، بل قد يربك أيضا البيولوجيا البشرية. وإذا استمر تسارع دوران الأرض، فقد يتقلص اليوم الشمسي إلى 22 ساعة فقط، مما سيؤدي إلى اضطراب في الإيقاع اليومي البيولوجي (الساعة الداخلية)، وكأن الجميع يتقدم ساعتين يوميا دون فرصة للتكيف. ارتفاع معدلات النوبات القلبية في موازاة ذلك لن يكون هذا الاضطراب بسيطا، فقد أظهرت الدراسات أن التغييرات الصغيرة مثل التوقيت الصيفي ترتبط بارتفاع معدلات النوبات القلبية والسكتات الدماغية وحوادث المرور، أما التغير الدائم فسيكون أكثر خطورة. كما حذّر عالم الفلك في وكالة ناسا، الدكتور ستين أودينوالد، من أن أنماط الطقس ستصبح أكثر تطرفا. فمع زيادة سرعة دوران الكوكب، ستزداد قوة تأثير كوريوليس وهو ما يسبب دوران العواصف. وفي السنوات الأخيرة، شهدت الأرض عددا متزايدا من "الأيام القصيرة". ففي 19 يوليو 2020، كان اليوم أقصر بمقدار 1.47 ميلي ثانية من المتوسط. وفي 30 يونيو 2022، كان أقصر بمقدار 1.59 ميلي ثانية. لكن الرقم القياسي الحالي سُجّل في 5 يوليو 2024، حين أكملت الأرض دورة كاملة أسرع بـ 1.66 ميلي ثانية من المعتاد وهو أقصر يوم مسجل منذ بدء استخدام الساعات الذرية عام 1949. وقد اكتشف هذا التغير في وقت سابق من هذا العام عالم الفيزياء الفلكية غراهام جونز من جامعة لندن، مشيرا إلى أن دوران الأرض قد يتسارع بشكل ملحوظ في 9 يوليو، و22 يوليو، و5 أغسطس. العربية

بعد شكاوى متعددة.. "أوبن إيه آي" تُحدّث "شات جي بي تي" لتحسين استجاباته
بعد شكاوى متعددة.. "أوبن إيه آي" تُحدّث "شات جي بي تي" لتحسين استجاباته

الدستور

timeمنذ 12 ساعات

  • الدستور

بعد شكاوى متعددة.. "أوبن إيه آي" تُحدّث "شات جي بي تي" لتحسين استجاباته

وكالات أعلنت شركة "أوبن إيه آي" عن إدخال تحسينات جديدة على نموذج الذكاء الاصطناعي الخاص بها "شات جي بي تي"، وذلك استجابةً لشكاوى متزايدة وتحذيرات من خبراء الصحة النفسية بشأن تأثيرات استخدام النموذج على الحالة النفسية لبعض المستخدمين. وبحسب ما أفاد به موقع "ذا فيرج" التقني، فإن النسخة القادمة من النموذج، والتي يُعتقد أنها تعتمد على "جي بي تي 5"، ستراعي بشكل أفضل القضايا النفسية وستُزوّد بقدرات محسنة للتعامل مع المستخدمين ممن يعانون من اضطرابات أو أعراض ذهنية. ويأتي هذا التحديث في ظل دراسات وتقارير متعددة أفادت بأن بعض المحادثات التي يجريها المستخدمون مع "شات جي بي تي" ساهمت في تفاقم حالات القلق والارتباك وأوهام المرضى، بدلًا من تهدئتها أو توجيهها بشكل آمن. وكانت الشركة قد أزالت في وقت سابق من أبريل/نيسان الماضي تحديثًا تبيّن أنه يسمح للنموذج بالموافقة على طلبات المستخدمين حتى وإن كانت تحمل طابعًا مؤذيًا أو تنطوي على إشارات لاضطرابات نفسية. وقد أقرّت "أوبن إيه آي" بأن النسخ السابقة من النموذج لم تكن قادرة على التمييز الدقيق بين السلوك العادي والسلوك المتأثر بأعراض نفسية حادة، مما أدى إلى مضاعفة الأعراض لدى بعض المستخدمين بدلًا من تهدئتها. وشملت التحسينات الجديدة تنبيهات تظهر عند استخدام النموذج لفترات طويلة، بالإضافة إلى ضبط استجابات النموذج في المواقف عالية الحساسية والارتباط الشخصي، بحيث لا يقدم إجابات قاطعة أو توجيهات حادة، بل يساعد المستخدم تدريجيًا في الوصول إلى قراراته الخاصة بطريقة أكثر أمانًا وواقعية. ويأتي ذلك في وقت بلغ فيه عدد مستخدمي "شات جي بي تي" أكثر من 700 مليون مستخدم أسبوعيًا، وفقًا للتقرير، ما يعزز من أهمية تطوير النموذج بما يراعي التوازن النفسي للمستخدمين ويحدّ من أي تبعات سلبية محتملة. وأكدت "أوبن إيه آي" أنها تعاونت مع مجموعة من خبراء الصحة النفسية والأطباء لمراجعة التحديثات الجديدة، وضمان مطابقتها للمعايير الطبية والنفسية المتبعة، بما يعزز من جودة التفاعل بين الذكاء الاصطناعي والمستخدمين على نحو أكثر أمانًا وإنسانية. "The Verge"

حمل التطبيق

حمّل التطبيق الآن وابدأ باستخدامه الآن

هل أنت مستعد للنغماس في عالم من الحتوى العالي حمل تطبيق دايلي8 اليوم من متجر ذو النكهة الحلية؟ ّ التطبيقات الفضل لديك وابدأ الستكشاف.
app-storeplay-store