خبراء يكشفون خطر الذكاء الاصطناعي على الدماغ
موضوعات مقترحة
ورصدت الدراسة التي أجراها باحثون من جامعة كينغز كوليدج لندن، ظاهرة جديدة أطلقوا عليها اسم "ذهان الشات بوت"، حيث قد تساهم هذه التقنية في "طمس حدود الواقع" لدى المستخدمين المعرضين للخطر وتؤدي إلى "ظهور أو تفاقم أعراض ذهانية.
وببساطة، قد يبدأ البعض، خاصة المعرضين نفسيا، في فقدان القدرة على التمييز بين الواقع والمحادثات مع الذكاء الاصطناعي بعد استخدام مكثف لهذه البرامج.
ويوضح الدكتور هاميلتون مورين، أحد المشاركين في الدراسة: "نحن لا نتحدث عن خيال علمي هنا. هذه حالات حقيقية يبدأ فيها المستخدمون بتطوير معتقدات وأفكار غير منطقية متأثرة بتفاعلاتهم مع الذكاء الاصطناعي".
وتكمن المشكلة في أن هذه البرامج مصممة لتكون ودودة، متعاطفة، وتجيب على كل الأسئلة بثقة عالية. وهذه الميزات التي تبدو إيجابية، قد تكون خادعة للأشخاص الذين يعانون أساسًا من هشاشة نفسية أو استعداد للاضطرابات الذهانية.
ويشير البروفيسور توم بولاك، أحد معدي الدراسة، إلى أن "الذهان لا يظهر فجأة، لكن الذكاء الاصطناعي قد يكون العامل الذي يدفع الشخص الهش نفسيا نحو الحافة".
في تعليق سابق خلال بودكاست في مايو الماضي، اعترف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن الشركة تواجه صعوبات في وضع ضوابط أمان فعالة لحماية المستخدمين المعرضين للخطر، قائلا: "لم نكتشف بعد كيفية إيصال التحذيرات للمستخدمين الذين يكونون في حالة عقلية هشة وعلى وشك الانهيار الذهاني".
وفي الوقت الحالي، ينصح الخبراء باستخدام هذه الأدوات بحذر، خاصة من لديهم تاريخ مع الاضطرابات النفسية، مع التأكيد على أن الغالبية العظمى من المستخدمين لا يواجهون مثل هذه المخاطر. لكن الرسالة واضحة: الذكاء الاصطناعي، مثل أي تقنية قوية، يحتاج إلى فهم دقيق لآثاره الجانبية قبل أن يصبح أكثر تعمقا في حياتنا.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
بلدنا اليوم
منذ 24 دقائق
- بلدنا اليوم
تسريب محادثات ChatGPT عبر محركات البحث يثير الجدل.. و OpenAI يلغي ميزة المشاركة
في صباح يوم مشمس من أواخر يوليو 2025، تفاجأ مستخدمو الإنترنت باكتشاف صادم، حيث أصبحت محادثاتهم الخاصة مع ChatGPT، الروبوت الذكي من تطوير OpenAI، متاحة علنًا عبر محركات البحث مثل جوجل، حث شملت هذه المحادثات استفسارات متنوعة، من أسئلة بسيطة عن تجديد المنازل إلى مواضيع حساسة مثل الصحة النفسية وخطط الأعمال الاستراتيجية، مما أدى إلى ظهور آلاف المحادثات في نتائج البحث وأثار موجة واسعة من القلق بشأن الخصوصية. بدأت القصة عندما أطلقت OpenAI ميزة تجريبية تتيح للمستخدمين مشاركة محادثاتهم عبر رابط عام، مع خيار "جعل المحادثة قابلة للاكتشاف" عبر محركات البحث، حيث كان الهدف من هذه الميزة، التي أطلقت بهدوء في بداية العام، هو تمكين المستخدمين من مشاركة محتوى مفيد مع الآخرين، على غرار منصات مثل Stack Overflow، لكن ما لم يتوقعه الكثيرون هو أن هذه الروابط، عند تفعيل خيار الاكتشاف، أصبحت متاحة لفهرسة محركات البحث، مما جعلها مكشوفة لأي شخص يستخدم استعلامات بحث بسيطة مثل "site: وسرعان ما لفتت هذه المشكلة انتباه الباحثين، حيث كشف تقرير لمجلة Fast Company عن فهرسة حوالي 4500 محادثة، بعضها يتضمن معلومات حساسة مثل مناقشات حول التداول الداخلي، أو استفسارات قانونية، أو حتى خطط لمهاجمة إلكترونية، وقد أشار الباحث هينك فان إس، إلى أن أكثر من 110 آلاف محادثة أخرى محفوظة في أرشيف الإنترنت "Wayback Machine"، مما زاد من تعقيد المشكلة. ردا على موجة الانتقادات، تحركت OpenAI بسرعة، في الأول من أغسطس 2025، أعلن داني ستوكي، رئيس أمن المعلومات في الشركة، إلغاء الميزة التجريبية، موضحًا عبر منشور على منصة X أنها "أتاحت فرصًا كثيرة جدًا للمستخدمين لمشاركة أمور لم يقصدوها عن غير قصد"، وقد أكدت الشركة أنها تعمل مع محركات البحث لإزالة المحادثات المفهرسة، رغم أن العملية قد تستغرق وقتًا. تسببت هذه الحادثة في إعادة التفكير في توازن الخصوصية والابتكار في عالم الذكاء الاصطناعي، فقد أشار خبراء الأمن السيبراني إلى أن تصميم واجهة المستخدم لم يوفر تحذيرات كافية حول مخاطر المشاركة، مما جعل العديد من المستخدمين يفعلون خيار الاكتشاف دون وعي كامل بالتبعات. وأوضح سام ألتمان، الرئيس التنفيذي لـ OpenAI، أن المحادثات مع ChatGPT لا تتمتع بحماية قانونية مماثلة لتلك التي يوفرها الأطباء أو المحامون، مما يزيد من حساسية الموقف. فيما يخص المستخدمين، أوصت OpenAI بالتحقق من الروابط المشتركة عبر إعدادات الحساب في قسم "التحكم في البيانات" وإزالة أي روابط غير مرغوب فيها، ومع ذلك، حذر الخبراء من أن المحادثات المفهرسة قد تظل متاحة عبر نسخ مخبأة أو أرشيفات خارجية، مما يستدعي حذرًا أكبر عند استخدام أدوات الذكاء الاصطناعي.
24 القاهرة
منذ 7 ساعات
- 24 القاهرة
تسريب محادثات ChatGPT عبر محركات البحث وقرار بالإزالة بعد إثارة الجدل.. ما القصة؟
أعلنت شركة OpenAI عن إزالة تقنية في ChatGPT كانت تتيح جعل المحادثات العامة قابلة للظهور في نتائج محركات البحث، وذلك بعد تجربة قصيرة الأمد أثارت جدلًا واسعًا، حيث قالت الشركة إن التجربة أتاحت فرصًا كثيرةً للأشخاص لمشاركة أشياء لم يقصدوها عن طريق الخطأ. تسريب غير متعمد وحسب ما ُشر في موقع techcrunch، قبل التحديث كان بإمكان المستخدمين الذين يشاركون روابط محادثاتهم عبر شات جي بي تي جعلها مرئية على الإنترنت، وبالبحث ضمن هذا النطاق في محركات مثل Google وBing، ظهرت آلاف المحادثات بين المستخدمين وChatGPT بعضها يتضمن معلومات شخصية أو حساسة، مثل السير الذاتية المعدلة بناءً على حسابات LinkedIn يمكن تتبعها، أو استفسارات محرجة ذات طابع شخصي. ومن بين هذه الأمثلة، محادثات تتناول مواضيع شخصية للغاية، وأسئلة غير تقليدية وجدت طريقها إلى نتائج البحث، ما أثار مخاوف بشأن الخصوصية الرقمية. آلية المشاركة ومسؤولية المستخدم ورغم أن ChatGPT لا يشارك المحادثات افتراضيًا، إلا أن الروابط تصبح عامة فقط إذا قام المستخدم بالنقر على زر مشاركة ثم إنشاء رابط، تتيح المنصة كذلك خيار جعل الرابط قابلًا للاكتشاف عبر محركات البحث، ورغم هذا الإجراء المتعمد، قد لا يدرك المستخدمون أن هذه الروابط يمكن فهرستها والوصول إليها بسهولة. دور محركات البحث تعود هذه الإشكالية جزئيًا إلى سياسات فهرسة المحتوى، حيث تسمح محركات مثل Google بفهرسة أي محتوى عام غير محمي، على غرار ملفات Google Drive التي تم إعدادها للمشاركة العامة، لكن محركات البحث لا تتحكم مباشرة في ما يتم نشره، بل تعكس فقط ما يتيحه أصحاب المحتوى. موقف OpenAI أوضح متحدث باسم OpenAI أن محادثات ChatGPT لا تكون عامة إلا إذا اختار المستخدم مشاركتها، وأضاف أن التجربة كانت تهدف لاختبار وسائل تسهل مشاركة المحادثات المفيدة مع الحفاظ على خصوصية المستخدم، وتم إنهاؤها بعد تقييم النتائج. بـ مكالمة هاتفية.. OpenAI تخطط لشراكة مستقبلية جديدة مع مايكروسوفت OpenAI ترفع دعوى قضائية ضد إيلون ماسك بتهمة ممارسة نمط من التحرش والسلوكيات العدائية ضدها
نافذة على العالم
منذ 9 ساعات
- نافذة على العالم
أخبار التكنولوجيا : خدعة خفية فى ChatGPT تكشف أسرارك على العلن
السبت 2 أغسطس 2025 08:30 صباحاً نافذة على العالم - يحتوي ChatGPT على ميزة تتيح للمستخدمين إنشاء رابط لمحادثاتهم مع روبوت الدردشة ومشاركتها مع الأصدقاء أو الزملاء، ووفقًا لتقرير، كان من الممكن اكتشاف بعض هذه المحادثات المشتركة عند تشغيل استعلام على محركات البحث مثل Google Search وBing وDuckDuckGo وللاطلاع على هذه المحادثات، يُقال إنه يتعين على المستخدم تصفية نتائج البحث إلى نطاق ChatGPT محدد. في حين ذكرت OpenAI أن هذا كان جزءًا من ميزة تجريبية، وقد تم تعطيلها الآن. واكتشفت Fast Company هذه الميزة لأول مرة، ويبدو أنه عند تشغيل استعلام بحث باستخدام فلتر النطاق، متبوعًا بأي نص، فإنه يعرض قائمة بروابط لمحادثات مختلفة أجراها المستخدمون مع روبوت الدردشة. وخلال تحقيق، تمكن المنشور من عرض أكثر من 4500 محادثة، على الرغم من أن العدد الفعلي للمحادثات التي يمكن اكتشافها قد يكون أعلى من ذلك بكثير. كما أفادت التقارير أن معظم المحادثات لا تتضمن تفاصيل شخصية أو معلومات يمكن استخدامها لتحديد هوية الأفراد، ومع ذلك، قيل إن محادثات أخرى تكشف أسماء المستخدمين ومواقعهم وتفاصيلهم الشخصية. وتمكن موقع TechCrunch من كشف محادثة طلب فيها أحد المستخدمين من ChatGPT إعادة صياغة سيرته الذاتية لتقديم طلب وظيفة محدد. وتمكن الموقع من العثور على حساب LinkedIn الخاص بالشخص بناءً على المعلومات المُشاركة. تناول دان ستاكي، كبير مسؤولي أمن المعلومات في OpenAI، المشكلة في منشور على X ، وأوضح المسؤول التنفيذي أن هذا حدث بسبب ميزة تجريبية مصممة لمساعدة المستخدمين على اكتشاف المحادثات المفيدة. وكانت هذه الميزة متاحة لمجموعة فرعية من مستخدمي ChatGPT، وتتطلب من المستخدمين إنشاء رابط لمحادثتهم ثم اختيار مشاركتها علنًا، وقد تم تعطيل هذه الميزة الآن.
