خبراء يكشفون خطر الذكاء الاصطناعي على الدماغ
كشفت دراسة حديثة عن مخاطر محتملة لبرامج الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT، حيث قد تشكل تهديدا غير متوقع للصحة العقلية لبعض المستخدمين.
ورصدت الدراسة التي أجراها باحثون من جامعة كينغز كوليدج لندن، ظاهرة جديدة أطلقوا عليها اسم "ذهان الشات بوت"، حيث قد تساهم هذه التقنية في "طمس حدود الواقع" لدى المستخدمين المعرضين للخطر وتؤدي إلى "ظهور أو تفاقم أعراض ذهانية.
وببساطة، قد يبدأ البعض، خاصة المعرضين نفسيا، في فقدان القدرة على التمييز بين الواقع والمحادثات مع الذكاء الاصطناعي بعد استخدام مكثف لهذه البرامج.
ويوضح الدكتور هاميلتون مورين، أحد المشاركين في الدراسة: "نحن لا نتحدث عن خيال علمي هنا. هذه حالات حقيقية يبدأ فيها المستخدمون بتطوير معتقدات وأفكار غير منطقية متأثرة بتفاعلاتهم مع الذكاء الاصطناعي".
وتكمن المشكلة في أن هذه البرامج مصممة لتكون ودودة، متعاطفة، وتجيب على كل الأسئلة بثقة عالية. وهذه الميزات التي تبدو إيجابية، قد تكون خادعة للأشخاص الذين يعانون أساسا من هشاشة نفسية أو استعداد للاضطرابات الذهانية.
ويشير البروفيسور توم بولاك، أحد معدي الدراسة، إلى أن "الذهان لا يظهر فجأة، لكن الذكاء الاصطناعي قد يكون العامل الذي يدفع الشخص الهش نفسيا نحو الحافة".
في تعليق سابق خلال بودكاست في مايو الماضي، اعترف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن الشركة تواجه صعوبات في وضع ضوابط أمان فعالة لحماية المستخدمين المعرضين للخطر، قائلا: "لم نكتشف بعد كيفية إيصال التحذيرات للمستخدمين الذين يكونون في حالة عقلية هشة وعلى وشك الانهيار الذهاني".
وفي الوقت الحالي، ينصح الخبراء باستخدام هذه الأدوات بحذر، خاصة من لديهم تاريخ مع الاضطرابات النفسية، مع التأكيد على أن الغالبية العظمى من المستخدمين لا يواجهون مثل هذه المخاطر. لكن الرسالة واضحة: الذكاء الاصطناعي، مثل أي تقنية قوية، يحتاج إلى فهم دقيق لآثاره الجانبية قبل أن يصبح أكثر تعمقا في حياتنا.
المصدر: إندبندنت
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
السوسنة
منذ 7 ساعات
- السوسنة
إلينوي تحظر العلاج النفسي بالذكاء الاصطناعي
السوسنة - أقرّت ولاية إلينوي الأميركية تشريعاً جديداً يحظر استخدام الذكاء الاصطناعي كمعالج نفسي مستقل، لتصبح بذلك أول ولاية تتخذ هذه الخطوة، في أعقاب حوادث مأساوية وقعت نتيجة الاعتماد على برامج الذكاء الاصطناعي في تقديم الدعم النفسي دون إشراف بشري مباشر.ووقع الحاكم "جيه بي بريتزكر" على مشروع القانون الذي ينص على أن خدمات الصحة النفسية يجب أن تُقدم حصراً من قبل مختصين مرخصين، فيما يُسمح للذكاء الاصطناعي بأداء مهام إدارية فقط، مثل جدولة المواعيد وإصدار الفواتير، دون التدخل في القرارات العلاجية أو التواصل المباشر مع المرضى.وجاء القرار بعد توثيق حالات لأفراد في أزمات نفسية لجؤوا إلى برامج ذكاء اصطناعي طلباً للمساعدة، ما أدى إلى نتائج خطيرة، بعضها مميت، وفقاً لما أعلنه النائب "بوب مورجان"، الذي أكد أن القانون يفرض غرامات تصل إلى 10 آلاف دولار على كل انتهاك.ويعكس هذا التشريع التزام سلطات الولاية بحماية الصحة النفسية للمواطنين، وضمان أن يتلقى المرضى الرعاية من خبراء مؤهلين يضعون سلامة الإنسان في المقام الأول.وحظي القانون بدعم واسع من الحزبين في مجلسي النواب والشيوخ، ما يجعله خطوة سياسية بارزة، خاصة في ظل خطة إدارة ترامب المقترحة بتجميد أي تنظيم للذكاء الاصطناعي على مستوى الولايات لمدة عشر سنوات.وفي سياق متصل، أعلنت شركة "OpenAI" عن تطوير تقنيات جديدة في نماذجها لرصد علامات الضيق النفسي لدى المستخدمين، واقتراح فترات راحة أثناء المحادثات الطويلة، في خطوة تعكس تنامي الوعي بالمخاطر المرتبطة بالاستخدام غير المنضبط للذكاء الاصطناعي في المجالات النفسية. اقرأ ايضاً:
الوكيل
منذ 13 ساعات
- الوكيل
"شات جي بي تي" يدخل مجال البحث العكسي بالصور بقدرات...
الوكيل الإخباري- أطلق تطبيق ChatGPT التابع لشركة OpenAI ميزة البحث العكسي عن الصور، في خطوة تنافس بها أدوات مثل Google Reverse Image Search، معزّزًا قدراته في مجال الذكاء الاصطناعي البصري. اضافة اعلان ووفقًا لموقع Tom's Guide، تتيح الميزة للمستخدمين رفع صورة مباشرة أو إدخال رابطها من الإنترنت، عبر خاصية "بحث الويب" (Web Search) داخل واجهة المحادثة. ولا يقتصر دور ChatGPT على إيجاد مصدر الصورة الأصلي، بل يمتد إلى تقديم تحليلات معمّقة، وتوليد صور شبيهة، وتقديم تفسيرات سياقية، ما يجعله أداة مفيدة في التحقق من الصور، كشف الحسابات المزيفة، وتصميم الجرافيك. وأشار التقرير إلى أن رفع الصور مباشرة يوفر نتائج أكثر دقة وتنوعًا مقارنةً بلصق الروابط، ويتيح التفاعل مع النتائج وطلب توضيحات ذكية. وتُمثل هذه الخطوة نقلة نوعية في البحث البصري، مع فتح المجال لتجارب أكثر تفاعلية وابتكارًا عبر الذكاء الاصطناعي.
الدستور
منذ 14 ساعات
- الدستور
Grok 2 يطلق شرارة المنافسة مع OpenAI
وكالات أعلن إيلون ماسك، مالك منصة "إكس" (تويتر سابقًا) ومؤسس شركة "xAI"، أن شركته ستقوم بجعل نموذج الذكاء الاصطناعي للدردشة "Grok 2" مفتوح المصدر بدءًا من الأسبوع المقبل. وكتب ماسك في منشور عبر حسابه على منصة "إكس": "لقد حان الوقت لجعل Grok 2 مفتوح المصدر، وسنقوم بذلك الأسبوع المقبل. لقد كنا نحارب الأزمات ونعمل حتى ساعات الفجر منذ فترة." ويأتي هذا الإعلان في توقيت لافت، تزامنًا مع إعلان شركة OpenAI عن طرح نموذجين جديدين من نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة، وهما: gpt-oss-120b وgpt-oss-20b، والتي توفر إمكانية الوصول إلى المعلمات المدربة فقط، دون أن تكون النماذج مفتوحة المصدر بالكامل. ويُشار إلى أن النماذج المفتوحة المصدر بالمعنى الكامل تتيح الوصول إلى بيانات التدريب، والشيفرة المصدرية، ومنهجيات التطوير، وهو ما وعد ماسك بالالتزام به منذ أكتوبر 2024، عندما تعهّد بفتح مصدر الإصدارات السابقة مع كل إصدار جديد، كما فعل مع "Grok 1" عند طرح "Grok 2". وتجدر الإشارة إلى أن شركة OpenAI، التي كانت تُعرف سابقًا بدعمها الكامل لمبدأ المصادر المفتوحة في بداياتها، اتخذت مؤخرًا توجهاً أكثر تحفظًا، مع تركيزها على تطوير منتجات تجارية مغلقة المصدر، بما في ذلك خدمات واجهات البرمجة (API) المدفوعة. وكان الرئيس التنفيذي لـ OpenAI، سام ألتمان، قد اعترف في وقت سابق من هذا العام بأن الشركة "كانت على الجانب الخاطئ من التاريخ" في موقفها من عدم فتح تقنياتها للعامة. ويُتوقع أن يفتح إعلان ماسك الباب أمام منافسة أوسع في سوق الذكاء الاصطناعي، خاصة مع تصاعد الدعوات العالمية لتبني الشفافية والمصادر المفتوحة في تطوير هذه التقنيات الحساسة. "The Economic Times"
