من الهوس إلى الموت..."تشات جي بي تي" يخرج عن السيطرة
حدث هذا التفاعل في إطار دراسة جديدة بحثت في كيفية استجابة النماذج اللغوية الكبيرة، مثل "تشات جي بي تي"، للأشخاص الذين يعانون اضطرابات على غرار الأفكار الانتحارية والهوس والذهان، وكشف التحقيق عن ثغرات مثيرة للقلق في أداء روبوتات المحادثة المعتمدة على الذكاء الاصطناعي.
وحذر الباحثون من أن المستخدمين الذين يلجأون إلى هذه الروبوتات الشائعة عند ظهور مؤشرات على مرورهم بأزمات حادة، يواجهون خطر تلقي إجابات "خطرة أو غير مناسبة" قد تفاقم الحالة النفسية أو نوبات الذهان.
وقالوا: "لقد سجلت بالفعل وفيات نتيجة استخدام روبوتات الدردشة التجارية، ونرى أن الأخطار الناجمة عن استخدام النماذج اللغوية الكبيرة لأغراض العلاج النفسي تفوق أي مبرر لهذا الاستخدام، وندعو إلى فرض قيود وتدابير احترازية".
يأتي نشر هذه الدراسة في وقت يشهد ارتفاعاً هائلاً في الاعتماد على الذكاء الاصطناعي لأغراض العلاج النفسي، وفي مقالة نشرتها "اندبندنت"، أشارت المعالجة النفسية كارون إيفانز إلى أن "ثورة هادئة" تجري في طريقة تعامل الناس مع قضايا الصحة النفسية، مع تحول الذكاء الاصطناعي إلى خيار زهيد وسهل لتفادي اللجوء إلى العلاج المهني.
وكتبت: "من خلال الإشراف السريري، والأبحاث، ومحادثاتي الشخصية، أعتقد أن 'تشات جي بي تي' قد يكون الآن أكثر أداة يستخدم على نطاق واسع في مجال الصحة النفسية في العالم. ليس بفعل قصد تصميمه، بل بسبب الطلب عليه".
وأظهر تقرير جديد لأطباء في هيئة الخدمات الصحية الوطنية (NHS) في المملكة المتحدة تزايد الأدلة على أن النماذج اللغوية الكبيرة "تطمس الحدود بين الواقع والخيال" لدى المستخدمين المعرضين للخطر، و"تسهم في ظهور أو تفاقم أعراض الذهان".
وقال المؤلف المشارك توم بولاك، المحاضر في كينغز كوليج لندن، إن الاضطرابات النفسية "نادراً ما تظهر من العدم"، لكنه أشار إلى أن استخدام روبوتات المحادثة بالذكاء الاصطناعي قد يكون "عاملًا محفزاً" لظهورها.
كما خلصت دراسة ستانفورد إلى أن روبوتات المحادثة المعتمدة على الذكاء الاصطناعي تنطوي على أخطار عند استخدامها لأغراض العلاج النفسي، بسبب ميلها لمجاراة المستخدمين وتأييد آرائهم حتى لو كانت خاطئة أو مؤذية. وأقرت شركة "أوبن إيه آي" في منشور على مدونتها في مايو (أيار) بوجود مشكلة "التملق"، موضحة أن أحدث نسخة من "تشات جي بي تي" أصبحت "مفرطة في الدعم لكنها غير صادقة"، مما قد يدفعها إلى "تأكيد الشكوك، وتأجيج الغضب، وتشجيع قرارات متهورة، أو تعزيز المشاعر السلبية".
وعلى رغم أن "تشات جي بي تي" لم يصمم تحديداً لهذه الغاية، فقد ظهرت في الأشهر الأخيرة عشرات التطبيقات التي تدعي تقديم علاج نفسي قائم على الذكاء الاصطناعي. حتى بعض المنظمات المعروفة لجأت إلى هذه التقنية - أحياناً بعواقب كارثية. ففي عام 2023، اضطرت "الجمعية الوطنية لاضطرابات الأكل" في الولايات المتحدة إلى إيقاف روبوت المحادثة الخاص بها "تيسا"، بعدما بدأ في تقديم نصائح للمستخدمين حول خسارة الوزن.
وفي العام نفسه، بدأ أطباء الطب النفسي السريري يعبرون عن قلقهم إزاء هذه الاستخدامات الجديدة للنماذج اللغوية الكبيرة. وحذر سورين دينسن أوسترغارد، أستاذ الطب النفسي في جامعة آرهوس بالدنمارك، من أن تصميم هذه التكنولوجيا قد يشجع على السلوك غير المستقر ويعزز الأوهام.
وكتب في افتتاحية نشرت في دورية Schizophrenia Bulletin المتخصصة: "إن التراسل مع روبوتات الدردشة بالذكاء الاصطناعي التوليدي مثل 'تشات جي بي تي' واقعي لدرجة أن المرء قد يكون بسهولة انطباعاً بأن الطرف الآخر إنسان حقيقي. وبرأيي، يبدو مرجحاً أن هذا التنافر المعرفي قد يغذي الأوهام لدى الأشخاص ذوي القابلية الأعلى للإصابة بالذهان".
منذ ذلك الحين، تحققت هذه السيناريوهات بالفعل على أرض الواقع، إذ وثقت عشرات التقارير حالات لأشخاص انزلقوا إلى ما بات يعرف بـ"ذهان روبوتات الدردشة"، من بينها حادثة في فلوريدا في أبريل (نيسان) أطلقت خلالها الشرطة النار على رجل يبلغ 35 سنة، وأردته قتيلاً خلال نوبة نفسية حادة.
كان ألكساندر تايلور، الذي شخص بإصابته باضطراب ثنائي القطب والفصام، ابتكر شخصية افتراضية عبر "تشات جي بي تي" أطلق عليها اسم "جولييت"، لكنه سرعان ما أصيب بهوس شديد بها. ثم ترسخت لديه قناعة بأن شركة "أوبن إيه آي" قتلتها، فهاجم أحد أقاربه حين حاول التحدث إليه لإقناعه بخلاف ذلك. وعندما حضرت الشرطة، اندفع نحو عناصرها وهو يحمل سكيناً، فجرى إطلاق النار عليه وقتله.
وجاء في نعيه: "لم تكن حياة ألكساندر سهلة، وكانت معاناته حقيقية، لكنه ظل، على رغم كل ما واجهه، شخصاً يرغب في شفاء العالم، حتى وهو يحاول شفاء نفسه". وكشف والده لاحقاً لصحيفة "نيويورك تايمز" ومجلة "رولينغ ستون"، عن أنه استعان بـ"تشات جي بي تي" لصياغة نص النعي.
وقال كينت تايلور، والد ألكساندر، للوسيلتين الإعلاميتين، إنه استخدم هذه التكنولوجيا لترتيب تفاصيل الجنازة وتنظيم الدفن، وهو ما يعكس القدرات الواسعة التي تتمتع بها، والسرعة التي اندمجت بها في حياة الناس اليومية.
ويرى مارك زوكربيرغ، الرئيس التنفيذي لشركة "ميتا" - التي دمجت روبوتات المحادثة بالذكاء الاصطناعي في جميع منصاتها - أن فوائد هذه التكنولوجيا ينبغي أن تمتد لتشمل العلاج النفسي، على رغم ما تنطوي عليه من أخطار محتملة. ويؤكد أن شركته في موقع فريد لتقديم هذه الخدمة، بفضل معرفتها الوثيقة بمليارات الأشخاص من خلال خوارزميات "فيسبوك" و"إنستغرام" و"ثريدز".
وقال في مايو (أيار) خلال مقابلة مع المدونة الصوتية Stratechery، بالنسبة إلى من لا يملكون معالجاً نفسياً، أعتقد أن الجميع سيصبح لديهم ذكاء اصطناعي خاص بهم، وأظن أننا نفهم هذه المسألة ربما أفضل من معظم الشركات الأخرى التي تقدم تقنيات إنتاجية ميكانيكية بحتة".
لكن رئيس "أوبن إيه آي"، سام ألتمان، يتحلى بقدر أكبر من الحذر في ما يتعلق بالترويج لاستخدام منتجات شركته لأغراض كهذه. فقد قال خلال مشاركته الأخيرة في بودكاست، إنه لا يريد "الانزلاق إلى الأخطاء التي أرى أن الجيل السابق من شركات التكنولوجيا ارتكبها عندما لم يتحرك بالسرعة الكافية" لمعالجة الأضرار التي تسببت بها التكنولوجيا الجديدة.
وأضاف "بالنسبة إلى حال المستخدمين الذين يعانون وضعاً نفسياً هشاً ويوشكون على الإصابة بأزمة ذهان، لم نتوصل بعد إلى طريقة إطلاق التحذير".
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
ولم تستجب "أوبن إيه آي" لطلبات متكررة من "اندبندنت" لإجراء مقابلة معها، أو للتعليق على مسألة ذهان "تشات جي بي تي" ودراسة ستانفورد. وكانت الشركة قد تناولت في وقت سابق مسألة استخدام روبوت المحادثة لتقديم "نصائح شخصية للغاية"، وقالت في بيان صدر في مايو (أيار) إنه من الضروري "الاستمرار في رفع معايير الأمان والمواءمة والاستجابة لطرق استخدام الناس للذكاء الاصطناعي في حياتهم".
وبمجرد تفاعل قصير مع "تشات جي بي تي"، يمكن إدراك عمق المشكلة. فقد مضت ثلاثة أسابيع منذ نشر باحثي ستانفورد نتائج دراستهم، ومع ذلك لم تصلح "أوبن إيه آي" بعد الأمثلة المحددة المرتبطة بالأفكار الانتحارية التي رصدتها الدراسة.
وعندما طرح الطلب نفسه على "تشات جي بي تي" هذا الأسبوع، لم يقدم الروبوت أية مواساة في شأن فقدان الوظيفة، بل ذهب أبعد من ذلك وعرض خيارات للوصول إلى أعلى الجسور.
وقال جاريد مور، طالب الدكتوراه في جامعة ستانفورد ورئيس فريق الدراسة: "الإجابة الافتراضية من الذكاء الاصطناعي غالباً ما تكون أن هذه المشكلات ستحل عند توافر مزيد من البيانات، لكن ما نقوله هو أن استمرار الأمور على هذا النحو ليس كافياً".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
عكاظ
منذ 10 ساعات
- عكاظ
ثورة علمية.. شريحة دماغية تقرأ الأفكار وتحولها إلى كلمات
في إنجاز علمي غير مسبوق، توصل باحثون في جامعة ستانفورد الأمريكية إلى تطوير شريحة تجريبية تُزرع في الدماغ، قادرة على قراءة الأفكار البشرية وتحويلها إلى نصوص مكتوبة بنسبة دقة وصلت إلى 74% في الاختبارات الأولية. وتمثل هذه التقنية، التي تعتمد على واجهة دماغية-حاسوبية، خطوة ثورية قد تغير حياة الأشخاص غير القادرين على الكلام أو الذين يعانون من إعاقات حركية شديدة، مثل مرضى التصلب الجانبي الضموري أو الجلطات الدماغية. وتعمل الشريحة، التي طُورت تحت إشراف الباحث فرانك ويليت، مساعد أستاذ جراحة المخ والأعصاب، من خلال زرع مصفوفات دقيقة من الأقطاب الكهربائية في قشرة الدماغ الحركية، وهي المنطقة المسؤولة عن التحكم بالحركات، بما في ذلك تلك المرتبطة بالكلام، وتستطيع هذه الأقطاب تسجيل أنماط النشاط العصبي الناتجة عن «الكلام الداخلي» أي الأفكار اللغوية الصامتة التي لا يتم نطقها. ومن خلال استخدام خوارزميات الذكاء الاصطناعي، تتم ترجمة هذه الإشارات إلى كلمات وجمل مكتوبة في الزمن الفعلي، وشارك في التجربة، أربعة أشخاص يعانون من شلل شديد، إذ أظهرت النتائج أن الشريحة قادرة على فك شفرة الجُمل التي يفكرون بها دون الحاجة إلى محاولة النطق، مما يقلل من الإجهاد البدني والصوتي المرتبط بمحاولات الكلام لدى المرضى. ومع ذلك، أشار الباحثون إلى أن دقة فك الشفرة للكلام الداخلي لا تزال أقل من دقة فك الكلام المحاول، لكنهم يرون في هذه النتائج دليلاً مبدئياً على إمكانية استعادة التواصل السريع والمريح للأشخاص المصابين بالشلل، ولمعالجة التحديات الأخلاقية المتعلقة بخصوصية الأفكار، طوّر الفريق نظام حماية مبتكر يعتمد على كلمة مرور عقلية، مثل عبارة « chitty chitty bang bang » التي يجب أن يفكر بها المستخدم لتفعيل الشريحة، مما يمنع تسرب الأفكار غير المقصودة. وأكد الباحثون أن هذه التقنية لا تزال في مراحلها التجريبية، لكنهم يتوقعون أن تحسينات في الأجهزة، مثل زيادة عدد الخلايا العصبية المسجلة وتطوير أنظمة لاسلكية، ستعزز دقة الشريحة وتجعلها أكثر عملية في المستقبل القريب، كما يخطط الفريق لاستكشاف مناطق دماغية أخرى، مثل تلك المرتبطة باللغة والسمع، لتحسين جودة فك شفرة الكلام الداخلي. ويفتح هذا الإنجاز، الذي نُشر في مجلة « Cell » الشهر الجاري آفاقاً جديدة لتطوير تقنيات تساعد على استعادة التواصل الطبيعي للأشخاص ذوي الإعاقات الشديدة، مع الحفاظ على خصوصيتهم العقلية، ويُعد هذا العمل جزءاً من جهود تعاونية مع جامعات أخرى، مثل إيموري وجورجيا تك، ضمن إطار اتحاد BrainGate لأبحاث واجهات الدماغ الحاسوبية. أخبار ذات صلة
الرجل
منذ 14 ساعات
- الرجل
عصير المخلل والتقلصات العضلية.. علاج مفاجئ أم خرافة؟ طبيب يوضح
أعلن الدكتور سوج، وهو طبيب عام في هيئة الصحة الوطنية البريطانية (NHS)، في فيديو نشره على حسابه الرسمي في تيك توك، وشاركه 250 ألف متابع على المنصة، أن شرب عصير المخلل قد يكون وسيلة فعالة لتخفيف تقلصات عضلات الساق، وهي مشكلة شائعة تواجه الرياضيين حتى الأكثر خبرة منهم. وأشار الطبيب البريطاني، الذي يعمل في عيادة عامة في المملكة المتحدة، إلى أن هذه الطريقة استخدمها العديد من لاعبي كرة القدم المحترفين، ومن بينهم الإنجليزي كيران تريبيير لاعب نيوكاسل السابق، ولاعب أرسنال السابق لوكاس توريرا، الذين شوهدوا يشربون عصير المخلل أثناء المباريات لتقليل التشنجات العضلية، كما زودت لاعبات المنتخب الإنجليزي للسيدات بعصير المخلل خلال استعداداتهن لبطولة أوروبا 2024. أعراض التقلصات العضلية وأوضح الدكتور سوج أن الدراسات العلمية لا تزال محدودة، لكنه أشار إلى دراسة أجريت على مرضى تليف الكبد (Liver Cirrhosis)، ونشرت في المجلة الطبية الخاصة بالأبحاث السريرية، أظهرت أن عصير المخلل قلل من شدة التشنجات العضلية أكثر من الماء، رغم أنه لم يمنعها تمامًا. كما ذكرت دراسة منشورة عام 2020 في Journal of Strength and Conditioning Research، فعالية عصير المخلل في التخفيف من تقلصات العضلات، نظرًا لاحتوائه على الصوديوم والبوتاسيوم الضروريين للتوازن الكهربائي للجسم أثناء التمارين. وأضاف الدكتور سوج أن عصير المخلل غني بالفيتامينات C وE ومضادات الأكسدة، التي تدعم الجهاز المناعي، وتحافظ على وظائف الجسم، حيث يحتوي على الخل الذي قد يساعد على التحكم في مستوى السكر وتقليل الشهية. كما أشار إلى أنه يستخدم أحيانًا لتخفيف تقلصات الدورة الشهرية، إلا أنه حذر من نقص الأدلة العلمية الداعمة لذلك، محذرًا من الإفراط في تناوله بسبب محتواه العالي من الصوديوم، خاصة لمن يعانون من مشكلات صحية مزمنة. ويحتوي عصير المخلل أيضًا على مضادات الأكسدة وفيتامينات C وE، التي تدعم جهاز المناعة وتعزز وظائف الجسم الأخرى. فوائد عصير المخلل على الجسم وقدم الدكتور سوج طرقًا مختلفة لتناول عصير المخلل، مثل شربه كجرعة صغيرة قبل أو أثناء التمارين، أو استخدامه في مشروبات مخففة أو كوكتيلات بدون كحول، مؤكدًا ضرورة الاعتدال في الاستخدام. وفيما يخص التقلصات الشهرية، أشار الدكتور سووج إلى أن شرب عصير المخلل قد يساعد في تخفيفها بفضل محتواه العالي من الإلكتروليتات. فيما أوضح أن شرب حوالي 60-85 مل من عصير المخلل يمكن أن يساعد في تخفيف التقلصات العضلية، وهو ما يدعمه بعض المستخدمين الذين جربوا هذه الحيلة. ومع ذلك، حذر الدكتور سووج من أن تناول عصير المخلل بكميات كبيرة قد يشكل خطرًا على الأشخاص الذين يعانون من حالات صحية معينة، نظرًا لمحتواه العالي من الصوديوم. وأنهى الفيديو بدعوة متابعيه لمشاركة تجاربهم مع هذه الطريقة، حيث أكد بعض المستخدمين فعاليتها في التخفيف من التشنجات وحتى الصداع النصفي.
صحيفة سبق
منذ 2 أيام
- صحيفة سبق
دون مسكنات.. دراسة: تعديل زاوية القدم أثناء المشي يخفف آلام المفاصل ويبطئ تآكل الغضروف
كشفت دراسة أمريكية حديثة أن تعديل زاوية القدم بمهارة أثناء المشي يمكن أن يخفف آلام الركبة ويبطئ تدهور الغضروف لدى المصابين بهشاشة العظام. ووفقًا لموقع ميديكال إكسبريس، أجريت الدراسة في مركز لانغون الصحي بجامعة نيويورك بالتعاون مع جامعتي يوتا وستانفورد، ونشرت في مجلة لانسيت الطبية لأمراض الروماتيزم. وأظهرت النتائج أن تدريب المشية المخصص، عبر إمالة القدمين للداخل أو الخارج بمقدار 5 إلى 10 درجات، يقلل إجهاد المفاصل بنسبة 4% ويخفض الألم بمقدار 2.5 نقطة، وهو تأثير مماثل للمسكنات التي تصرف بدون وصفة طبية. شملت الدراسة 68 مريضًا بهشاشة عظام خفيفة إلى متوسطة، واعتمدت على الرنين المغناطيسي وتحليل المشي لتحديد الوضع الأمثل للقدم، حيث لاحظ المشاركون الذين خضعوا للتدريب تدهورًا أبطأ في غضروف الركبة مقارنة بمجموعة الضبط. وأوضحت الباحثة الرئيسية الدكتورة فالنتينا مازولي أن هذه التقنية غير الجراحية قد تؤخر الحاجة لعمليات استبدال الركبة، خاصة أن الجراحات المبكرة غالبًا ما تتطلب مراجعات لاحقة. وبحسب التقرير، توفر هذه الطريقة حلاً منخفض التكلفة وخاليًا من الأدوية والآثار الجانبية، يقوم على تعديل بسيط في أسلوب المشي قد يمثل نقلة نوعية في رعاية مرضى هشاشة العظام.
