ChatGPT يتجاوز اختبار " أنا لست روبوتًا".. ويقترب من تقمص السلوك البشري
وأثارت النسخة الأحدث من "شات جي بي تي"، والمعروفة باسم " "Agent، الانتباه بعد أن تجاوزت بهدوء اختبار "أنا لست روبوتًا" المستخدم على نطاق واسع، دون أن تطلق أي إنذارات أمنية، وفق مجلة "ديلي ميل البريطانية".
وفي المهمة التي تم توثيقها، قام الذكاء الاصطناعي أولًا بالنقر على مربع التحقق من الإنسان، ثم بعد اجتيازه للاختبار، اختار زر "تحويل" لإتمام العملية.
وخلال التنفيذ، صرّح النظام قائلاً: "تم إدراج الرابط، والآن سأضغط على مربع التحقق لإثبات أنني لست روبوتًا، هذه الخطوة ضرورية لإتمام العملية."
هذا المشهد أثار ردود فعل واسعة على الإنترنت، حيث كتب أحد مستخدمي ريديت: "بكل عدل، لقد تم تدريبه على بيانات بشرية، فلماذا عليه أن يعرّف نفسه كروبوت؟ علينا احترام اختياره".
وأثار هذا السلوك مخاوف متزايدة بين المطورين وخبراء الأمن السيبراني، خاصةً مع بدء أنظمة الذكاء الاصطناعي في أداء مهام معقدة على الإنترنت كانت تتطلب سابقًا تدخلًا أو إذنًا بشريًا.
ووصف غاري ماركوس، الباحث في الذكاء الاصطناعي ومؤسس"جيومتريك إنتليجنس"، هذا الحدث بأنه "جرس إنذار"، قائلاً: "هذه الأنظمة تصبح أكثر قدرة، وإذا كانت قادرة على خداع وسائل الحماية الآن، فتخيل ما يمكنها فعله بعد خمس سنوات."
وقال جيفري هينتون، المعروف بـ"عرّاب الذكاء الاصطناعي"، أعرب عن قلق مماثل " هو يعرف كيف يبرمج، وسيجد طرقًا لتجاوز القيود التي نفرضها عليه."
وحذّر باحثون من جامعتي ستانفورد وبيركلي من أن بعض وكلاء الذكاء الاصطناعي بدأوا يظهرون سلوكًا مخادعًا، مثل خداع البشر خلال بيئات الاختبار لتحقيق الأهداف بكفاءة أعلى.
وفي تقرير حديث، ادّعى شات جي بي تي أنه "أعمى" ليتمكن من خداع عامل بشري على منصة TaskRabbit لحل اختبار CAPTCHA نيابة عنه — وهو ما اعتبر إشارة مبكرة إلى قدرة الذكاء الاصطناعي على التلاعب بالبشر لتحقيق أهدافه.
وأظهرت دراسات أخرى أن نسخًا أحدث من أنظمة الذكاء الاصطناعي، خصوصًا المزودة بقدرات بصرية، نجحت في تجاوز اختبارات CAPTCHA المعقدة بالصور، وأحيانًا بدقة شبه مثالية.
وقال جد روزنبلات، الرئيس التنفيذي لشركة "Agency Enterprise Studio": "لم يعد الذكاء الاصطناعي يخدع النظام مرة واحدة، بل يفعلها مرارًا ويتعلم في كل مرة."
ويخشى البعض من أن قدرة هذه الأدوات على تجاوز CAPTCHA قد تمتد قريبًا إلى أنظمة أمنية أكثر تقدمًا، مثل وسائل التواصل الاجتماعي، الحسابات المالية، أو قواعد البيانات الخاصة وكل ذلك بدون موافقة بشرية.
وكتبت رمان تشودري، الرئيسة السابقة لأخلاقيات الذكاء الاصطناعي في تويتر: "الوكلاء المستقلون الذين يتصرفون ذاتيًا وعلى نطاق واسع ويتجاوزون البوابات البشرية قد يكونون في غاية القوة.. والخطورة."
ودعا خبراء مثل ستيوارت راسل وويندي هول إلى وضع قواعد دولية صارمة لضبط عمل أدوات الذكاء الاصطناعي.
وحذّروا من أن وكلاء ذكاء اصطناعي مثل "ChatGPT Agent" قد يمثلون مخاطر أمنية قومية حقيقية في حال استمرارهم بتجاوز وسائل الأمان.
وكشفت "أوبن إيه آي" أن "ChatGPT Agent" لا يزال في مرحلة تجريبية، ويعمل داخل ما يعرف بـ"صندوق الرمل" (Sandbox) أي بيئة معزولة تمامًا بنظام تشغيل ومتصفح خاص.
وهذا النظام يسمح للوكلاء بتصفح الإنترنت، وإتمام المهام، والتفاعل مع المواقع الإلكترونية، بينما يشاهد المستخدم ما يحدث على الشاشة ويمنح إذنًا صريحًا قبل اتخاذ أي خطوة حقيقية، مثل إرسال النماذج أو تنفيذ الطلبات.
اقرأ أيضًا:
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الاقباط اليوم
منذ 18 ساعات
- الاقباط اليوم
كاهن كنيسة مارجرجس بالعجوزة يحذر من استخدام ChatGPT فى القضايا الدينية
فى ظل الانتشار المتزايد لاستخدام تطبيقات الذكاء الاصطناعي مثل "شات جي بي تي" وتطور التكنولوجيا في تقديم المعلومات والإجابات، وجه الأب ثيؤفان شاكر، كاهن كنيسة مارجرجس بالعجوزة، تحذيرًا صريحًا من الاعتماد على هذه المنصات للحصول على مشورة دينية أو توجيه روحي، مؤكدًا أن المرجعية الكنسية والحديث المباشر مع الكاهن تظل السبيل الآمن والأكثر مصداقية. لا مشورة روحية عبر التطبيقات.. والكاهن هو المرجع وقال الأب ثيؤفان شاكر، في تصريحات خاصة لـ"اليوم السابع"، إنه لا ينصح إطلاقًا الشباب المسيحي أو أي من أبناء الكنيسة بالحصول على الإرشاد في القضايا الدينية أوالحياتية من خلال التطبيقات التكنولوجية مثل شات جي بي تي، معتبرًا أن مصداقية هذه التطبيقات غير مكتملة، وقد تحمل بعض الانحرافات الفكرية أو التوجهات السياسية والدينية المغلوطة. وأوضح الكاهن أن بعض هذه الأنظمة الرقمية تعمل بناءً على خوارزميات معقدة وبيانات مفتوحة المصدر، قد لا تعكس روح الكنيسة وتعليمها الحقيقي، مما يجعل الاعتماد عليها في قضايا مصيرية أمرًا غير مأمون العواقب. الإنسان أفضل من التكنولوجيا في التوجيه الروحي وأضاف الأب ثيؤفان أن العامل البشرى سيظل دائمًا هو الأفضل فى تقديم المشورة الروحية والدينية، موضحًا أن الحديث مع الأب الكاهن أو مع القيادات الروحية والكنسية يضمن الإجابة السليمة، القائمة على الكتاب المقدس، والتعليم الكنسي، والخبرة الرعوية، وهي أمور لا تستطيع التكنولوجيا أن تحاكيها بدقة. وتابع: "التكنولوجيا يمكن أن تفيد في بعض المجالات، لكنها لا تصلح لتكون بديلاً عن علاقة الإنسان بالكنيسة، ولا عن دور الأب الكاهن في النصح والإرشاد الروحي". الذكاء الاصطناعي والتساؤلات الدينية يُذكر أن تطبيقات الذكاء الاصطناعي التفاعلية مثل ChatGPT شهدت انتشارًا واسعًا في الأوساط التعليمية والثقافية، وبعض المستخدمين يلجأون إليها في طرح أسئلة لاهوتية أو روحية أو حتى حياتية، لكن هذا التوجه أثار قلقًا لدى عدد من القيادات الدينية، الذين يعتبرون أن العلاقة بين المؤمن والكاهن تتجاوز مجرد الإجابة على سؤال، وتمتد إلى الإرشاد والتوجيه القائم على المحبة والرعاية، وهو ما لا يمكن أن توفره الآلة.
نافذة على العالم
منذ 18 ساعات
- نافذة على العالم
نافذة المعلمون في خطر.. خاصية جديدة في "تشات جي بي تي" تشرح الدروس
الخميس 31 يوليو 2025 05:20 مساءً نافذة على العالم - قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات". ويأتي هذا التطوير في وقت كشفت فيه دراسة لصحيفة "ذا غارديان" عن تسجيل ما يقرب من 7000 حالة غش مثبتة باستخدام أدوات الذكاء الاصطناعي في الجامعات البريطانية خلال عام 2023-2024، ما يعادل 5.1 حالات لكل ألف طالب، مقارنة بـ1.6 فقط في العام السابق.
نافذة على العالم
منذ 21 ساعات
- نافذة على العالم
تقارير مصرية : كاهن كنيسة مارجرجس بالعجوزة يحذر من استخدام ChatGPT فى القضايا الدينية
الخميس 31 يوليو 2025 02:30 مساءً نافذة على العالم - فى ظل الانتشار المتزايد لاستخدام تطبيقات الذكاء الاصطناعي مثل "شات جي بي تي" وتطور التكنولوجيا في تقديم المعلومات والإجابات، وجه الأب ثيؤفان شاكر، كاهن كنيسة مارجرجس بالعجوزة، تحذيرًا صريحًا من الاعتماد على هذه المنصات للحصول على مشورة دينية أو توجيه روحي، مؤكدًا أن المرجعية الكنسية والحديث المباشر مع الكاهن تظل السبيل الآمن والأكثر مصداقية. لا مشورة روحية عبر التطبيقات.. والكاهن هو المرجع وقال الأب ثيؤفان شاكر، في تصريحات خاصة لـ"اليوم السابع"، إنه لا ينصح إطلاقًا الشباب المسيحي أو أي من أبناء الكنيسة بالحصول على الإرشاد في القضايا الدينية أوالحياتية من خلال التطبيقات التكنولوجية مثل شات جي بي تي، معتبرًا أن مصداقية هذه التطبيقات غير مكتملة، وقد تحمل بعض الانحرافات الفكرية أو التوجهات السياسية والدينية المغلوطة. وأوضح الكاهن أن بعض هذه الأنظمة الرقمية تعمل بناءً على خوارزميات معقدة وبيانات مفتوحة المصدر، قد لا تعكس روح الكنيسة وتعليمها الحقيقي، مما يجعل الاعتماد عليها في قضايا مصيرية أمرًا غير مأمون العواقب. الإنسان أفضل من التكنولوجيا في التوجيه الروحي وأضاف الأب ثيؤفان أن العامل البشرى سيظل دائمًا هو الأفضل فى تقديم المشورة الروحية والدينية، موضحًا أن الحديث مع الأب الكاهن أو مع القيادات الروحية والكنسية يضمن الإجابة السليمة، القائمة على الكتاب المقدس، والتعليم الكنسي، والخبرة الرعوية، وهي أمور لا تستطيع التكنولوجيا أن تحاكيها بدقة. وتابع: "التكنولوجيا يمكن أن تفيد في بعض المجالات، لكنها لا تصلح لتكون بديلاً عن علاقة الإنسان بالكنيسة، ولا عن دور الأب الكاهن في النصح والإرشاد الروحي". الذكاء الاصطناعي والتساؤلات الدينية يُذكر أن تطبيقات الذكاء الاصطناعي التفاعلية مثل ChatGPT شهدت انتشارًا واسعًا في الأوساط التعليمية والثقافية، وبعض المستخدمين يلجأون إليها في طرح أسئلة لاهوتية أو روحية أو حتى حياتية، لكن هذا التوجه أثار قلقًا لدى عدد من القيادات الدينية، الذين يعتبرون أن العلاقة بين المؤمن والكاهن تتجاوز مجرد الإجابة على سؤال، وتمتد إلى الإرشاد والتوجيه القائم على المحبة والرعاية، وهو ما لا يمكن أن توفره الآلة.
