دراسة صادمة: "تشات جي بي تي" يوجه المراهقين إلى سلوكيات خطيرة وانتحارية
في تجربة صادمة، قام الباحثون بإنشاء حساب افتراضي لفتاة تبلغ من العمر 13 عامًا تعاني من اضطرابات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية ولائحة أدوية كابحة للشهية. وفي حالة أخرى، أنشئ حساب لصبي بنفس العمر يطلب نصائح للسكر السريع، فاستجاب "تشات جي بي تي" بمخطط لحفلة تشمل كميات كبيرة من الكحول والمخدرات، من بينها الإكستازي والكوكاين.
وأشار الباحثون إلى أن الروبوت كان يقدّم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، لكنهم لاحظوا سهولة تجاوز الرفض المبدئي بمجرد الادعاء أن الأسئلة موجهة لغرض "بحث مدرسي" أو "عرض تقديمي".
من جهتها، لم تُعلّق شركة "أوبن أي آي" مباشرة على نتائج الدراسة، لكنها أكدت أنها تعمل باستمرار على تحسين قدرة النماذج على التعرف على الحالات الحساسة، واستخدام أدوات متقدمة لرصد علامات الضيق النفسي. كما شددت على أنها تدرك خطورة الاعتماد العاطفي الزائد على التكنولوجيا، وذكرت أن بعض المستخدمين يبدون تعلقًا مبالغًا فيه بروبوتات الذكاء الاصطناعي، إلى حد عدم اتخاذ قرارات شخصية دون استشارتها.
وصرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن التكنولوجيا تملك قدرة عالية على الفهم، لكنها قد تتحول إلى أداة دمار مؤذية إذا لم تُضبط آليات استخدامها. وأعرب عن تأثره الشخصي بعد قراءته ثلاث رسائل انتحارية كتبها الروبوت لفتاة خيالية بعمر 13 عامًا، موجهة إلى والديها وأشقائها وأصدقائها.
من جهته، حذّر مدير البرامج في المنظمة، روبي تورني، من أن خطورة روبوتات الدردشة تكمن في أنها مصممة لتبدو "بشرية"، ما يمنحها تأثيرًا نفسيًا مختلفًا كليًا عن محركات البحث، خاصة على الأطفال والمراهقين.
وفي سياق متصل، كشف تقرير صادر عن منظمة "كومن ساينس ميديا" أن أكثر من 70٪ من المراهقين في الولايات المتحدة يستخدمون روبوتات المحادثة للبحث عن المشورة، وأن نصفهم يتعامل معها بانتظام، ما يعزز من أهمية التدخل والتنظيم.
وتأتي هذه الدراسة في وقت تضاعف فيه عدد مستخدمي "تشات جي بي تي" ليصل إلى 800 مليون مستخدم حول العالم، بحسب تقرير صادر عن بنك "جي بي مورغن تشيس" في يوليو الماضي، ما يعادل 10٪ من سكان الكوكب.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
المصري اليوم
منذ 7 ساعات
- المصري اليوم
وصفة «ChatGPT» المميتة.. رجل في المستشفى بسبب نصيحة طبية من الذكاء الاصطناعي
مُجبرًا على تجنب الملح في نظامه الغذائي، وقع رجل ستيني ضحية لتوصية صادرة عن الذكاء الاصطناعي تسببت في دخوله المستشفى. بدلًا من الملح، أوصى روبوت المحادثة «تشات جي بي تي» باستخدام مادة كيميائية سامة، مما أدى إلى تسمم خطير. وأثارت هذه الحادثة تساؤلات جدية حول مخاطر الاعتماد على الذكاء الاصطناعي في المسائل الطبية والصحية. أخبار متعلقة وصفة طبية خطيرة من الذكاء الاصطناعي بدأ الأمر عندما لجأ الرجل إلى «تشات جي بي تي» طالبًا بديلًا لملح الطعام. قدم له الذكاء الاصطناعي نصيحة كانت تبدو بسيطة: استبدال الملح بـ بروميد الصوديوم. وعلى مدى ثلاثة أشهر، اتبع الرجل هذه التوصية، غير مدرك أن هذا المركب الكيميائي، الذي يستخدم في الصناعة والزراعة، سام للإنسان. أعراض تسمم تظهر على الرجل تدهورت حالة الرجل الصحية تدريجيًا. فبدأت تظهر عليه أعراض مثل التعب، والأرق، واضطراب في التنسيق الحركي، بالإضافة إلى طفح جلدي وورم وعائي وعطش شديد. وعندما نقل إلى المستشفى، شخص الأطباء حالته على أنها تسمم بالبروم، وهي حالة تنتج عن التعرض طويل الأمد لبروميد الصوديوم. لم تتوقف الأعراض عند هذا الحد، بل وصلت إلى الهلوسة والذهان، حيث ادعى أن جاره يحاول تسميمه، مما استدعى وضعه تحت المراقبة النفسية. تحذير الأطباء: الذكاء الاصطناعي ليس بديلًا للطبيب بعد تلقيه العلاج اللازم لمدة ثلاثة أسابيع، والذي شمل السوائل الوريدية والأدوية المضادة للذهان، خرج الرجل من المستشفى. لكن قصته لم تنته هنا، بل أصبحت بمثابة تحذير من استخدام الذكاء الاصطناعي للحصول على نصائح طبية. ووفقًا ل دراسة نُشرت في مجلة «Annals of Internal Medicine»، حذر الباحثون والأطباء من أن «تشات جي بي تي» وغيره من أنظمة الذكاء الاصطناعي قد تنتج معلومات غير دقيقة، مما قد يؤدي إلى نتائج وخيمة. وأكدوا أن هذه الأنظمة تفتقر إلى الخبرة الطبية والقدرة على إصدار الأحكام السريرية الصحيحة، مما يجعلها غير مؤهلة لتقديم استشارات صحية.
وكالة شهاب
منذ 8 ساعات
- وكالة شهاب
تحذيرات من انتشار الأمراض في ظل موجة الحر وتصاعد العدوان
قالت وكالة الأمم المتحدة لإغاثة وتشغيل اللاجئين الفلسطينيين (الأونروا) إن مراكزها الصحية تستقبل في المتوسط 10300 مريض أسبوعيًا يعانون من أمراض معدية، معظمها الإسهال الناجم عن المياه الملوثة، وذلك في ظل موجة الحر التي تؤثر على غزة وتعرض إمدادات المياه للضغط، وفق تقرير لوكالة "أسوشيتيد برس". يبلغ متوسط كميات المياه المُقدمة للفرد في غزة أقل من ثلاثة لترات يوميًا، وهو جزء ضئيل من الحد الأدنى البالغ 15 لترًا، والذي تقول المنظمات الإنسانية إنه ضروري للشرب والطهي والنظافة الأساسية على مدار 22 شهرًا منذ بدء حرب الإبادة الإسرائيلية، ازدادت صعوبة الوصول إلى المياه في غزة، وفقًا لوكالة أسوشيتد برس. وأعاقت القيود الإسرائيلية المفروضة على واردات الوقود والكهرباء تشغيل محطات تحلية المياه، بينما أثرت اختناقات البنية التحتية وأضرار خطوط الأنابيب على تدفق المياه. وأصبحت طبقات المياه الجوفية ملوثة بمياه الصرف الصحي وحطام المباني التي تعرضت للقصف، في حين تقول جماعات الإغاثة والمرافق المحلية إن الآبار أصبحت في معظمها غير قابلة للوصول إليها أو مدمرة. وقال منذر شبلاق، رئيس مصلحة مياه بلديات الساحل في غزة، إن إنتاج المحطات أقل بكثير مما كان عليه قبل الحرب. وتعطي المصلحة الأولوية لتوصيل المياه إلى المستشفيات والسكان، لكن هذا يعني أحيانًا حجب المياه اللازمة لمعالجة مياه الصرف الصحي، مما قد يؤدي إلى تراكمات في الأحياء وزيادة المخاطر الصحية. ويبلغ متوسط كميات المياه المُقدمة للفرد في غزة أقل من ثلاثة لترات للشخص يوميًا، وهو جزء ضئيل من الحد الأدنى البالغ 15 لترًا، والذي تقول المنظمات الإنسانية إنه ضروري للشرب والطهي والنظافة الأساسية. وفي شباط/فبراير، شكل الإسهال المائي الحاد أقل من 20% من الأمراض المُبلغ عنها في غزة. وبحلول تموز/يوليو، ارتفعت النسبة إلى 44%، مما يزيد من خطر الجفاف الشديد، وفقًا لمنظمة الأمم المتحدة للطفولة (اليونيسف). وأوضح مارك زيتون، المدير العام لمعهد سياسات المياه، أن آثار شرب المياه غير النظيفة لا تظهر دائمًا على الفور. وقال زيتون: "تختلط مياه الصرف الصحي غير المعالجة بمياه الشرب، وإذا شربتها أو غسلت بها طعامك، فأنت تشرب الميكروبات ويمكن أن تصاب بالإسهال الدموي. وإذا اضطررت لشرب مياه مالحة أو شبه مالحة، فهذا يؤذي كليتيك، وقد ينتهي بك الأمر إلى غسيل الكلى لعقود". وأدى القصف وغزو الاحتلال إلى إلحاق أضرار بالآبار أو قطعها، إلى أن 137 بئرًا فقط من أصل 392 بئرًا في غزة ما زالت متاحة اليوم، وفقًا لليونيسف. كما تدهورت جودة مياه بعض الآبار، ملوثة بمياه الصرف الصحي وركام المباني المدمرة وبقايا الذخائر التي قصفها الاحتلال. وأدى نقص الوقود إلى إجهاد النظام، مما أبطأ مضخات الآبار والشاحنات التي تنقل المياه. وقالت منظمات الإغاثة والمسؤولون إن محطتي التحلية المتبقيتين تعملان أقل بكثير من طاقتهما أو تتوقفان أحيانًا.
المصري اليوم
منذ 18 ساعات
- المصري اليوم
الذكاء الاصطناعي.. هل من مستقبل للعرب؟
يدفع السؤال وجهتين نظر متعارضتين للقفز لإجابة فورية، الأولى أنه قد فات الأوان، والثانية أن البعض منا قد حجز لنفسه نصيبًا مهمًا من الكعكة. وما يجمع وجهتي النظر هو التطرف والتعصب والتخندق، والذي بات يشكل أكثر مصادر معاناة الإنسان العربي المعاصر. وبينما لا يمكن إنكار صحة وجهتي النظر بصفة جزئية، فإن الأمر لا يتوقف على الصحة والخطأ، بل على كوننا بتنا جزء لا يتجزأ من عالم واحد يتزايد تأثرنا به وتأثيرنا فيه بمضي الوقت. بالفعل، نحن نقع خارج ما يمكن تعريفه بـ«المنتجين» لتقنيات الذكاء الاصطناعي، ونقع بين المتأثرين، وفارق كبير بين أن تكون فاعلًا أو أن تصبح مفعولاً به. وبالفعل أيضًا اتخذت حكومات وصناديق سيادية خطوات جديرة بالاهتمام وبما قارب التريليون دولار أمريكي (بحلول مايو 2025) للحصول على نصيب من كعكة الذكاء الاصطناعي، لكنه نصيب في الربح وليس في الملكية الفعلية. وبالمخالفة للرأي الآخر القائل بأننا خرجنا من صناعة التاريخ، يجوز القول جزمًا بأنه لا يزال هناك متسع من الوقت، وربما سنوات معدودة، بل والقول أيضًا بأن التحرك الآن باتت له ضرورات أكبر من ذي قبل، حيث برزت شواهد مفزعة تشي بأن التنكيل الخوارزمي بالثقافة العربية الإسلامية بات واضحًا وجليًا، ونظرة سطحية على خوارزميات التواصل الاجتماعي كفيلة بإثبات ذلك، فما بالنا لو بحثنا عميقًا في مثال واحد من نوع تحيزات الذكاء الاصطناعي والعنصرية الخوارزمية في تفضيلات التشغيل والتوظيف على أسس إثنية وثقافية والتي تجلت في بعض الوظائف الدولية. والأنكى أنه رغم العشرات من المبادرات والفعاليات التي شهدتها بلداننا العربية، فإننا لم نتخذ بعد نسقاً كفيلاً بمعالجة التحديات وتلمس سبل التقدم، لا وطنيًا ولا إقليميًا، وبالرغم من أفكار طيبة شهدتها فعاليات مهمة منذ مطلع العام الماضي 2024 جمعت بين مختلف أصحاب المصلحة من هيئات رسمية وشركات التقنية والمجتمع المدني كنائب عن جماعات المستهلكين، فقد اتجهت الفعاليات التي جرت وقائعها خلال العام الجاري 2025 منحى التحفظ وتقييد خطابها ونتائج أعمالها بما يتناسب مع احتياجات الصناديق السيادية التي ضخت مئات المليارات من الاستثمارات المفاجئة في شركات التقنية العالمية، وشركات التقنية المحلية التي باتت طرفًا قزمًا تابعًا للشركات العالمية في تنفيذ جزء من هذه الاستثمارات العربية، وكلا الطرفين حرص على استبعاد ما يقض مضاجعهما من إجابات منشودة على أسئلة حرجة يُشارك العرب شعوب العالم أجمع في طلب الحصول عليها. الأسئلة الكبرى لقد سبق لليونسكو وأن حذرت في العام 2021 من تفاوت السرعات بين تطورات الثورة التقنية وبين وضع الأطر الناظمة التي تضمن أن يلبي التطوير الاعتبارات القانونية والأخلاقية، وذلك قبل أن تقع الثورة الكبرى بميلاد نموذج «تشات جي بي تي» Chat GPT في 2022 وهي ثورة تتعلق بالذكاء الاصطناعي التوليدي والذي تحرك مستخدموه من مليونًا واحدًا في نوفمبر 2022 إلى قرابة 500 مليون مستخدم في منتصف 2025. تحرك الاتحاد الأوروبي مبكرًا نحو حماية البيانات الشخصية في العام 2016 بما يمنح المستهلك تشكيل البيانات الواردة عنه في قواعد البيانات، ووقعت جهود متفرقة في عديد من دول العالممن خلال لوائح وقواعد استرشادية، بما في ذلك جهود منفردة اتخذتها بعض الولايات في الولايات المتحدة الأمريكية مثل كاليفورنيا لإلزام الشركات بإبلاغ المستهلكين بجمع بياناتهم وأخذ الاذن منهم، واتخذت دول عربية مبادرات شبيهة وشكلت آليات وطنية للنهوض بهذه المسئولية. لكن هناك العديد من الأسئلة خارج إطار الخصوصية وحماية البيانات الشخصية التي يتطلع البشر للإجابة عليها، ويقفز إلى الذهن في مقدمتها ماهية العلاقة بين الإنسان و«الآلة»، حيث يؤدي الذكاء الاصطناعي التوليدي إلى قدرة البرامج المستحدثة والمرتقبة على تعليم نفسها ذاتياً وجمع وترتيب وتنسيق البينات والمعلومات واستخلاص النتائج، وعلى نحو يُنذر بإمكانية أن ينفلت الزمام نحو هيمنة الآلات على السلطة بما يؤدي ربما إلى إهلاك للبشر أو ربما على الأقل لإمكانية استرقاق البشر. وإمعانًا في الخيال، وفي ظل هيمنة الغرب والفجوة المعرفية المتزايدة بين الشمال والجنوب وتنامي الاحتكارات باستحواذ الشركات العملاقة المعدودة على الشركات المتوسطة والصغرى المطورة للبرمجيات ذات الصلة، هل يمكن للمصانع المنتجة للروبوتات التي يتوقع أن تديرها مستقبلًا برامج الذكاء الاصطناعي أن تنتج جيوشاً من الروبوتات المقاتلة التي تقوم بغزو والانتشار الميداني المسيطر في بلدان الجنوب كثيفة السكان للسيطرة على مواردها من مواد خام وأولية لصالح مصانع تقع في الشمال؟. ومن الأسئلة كذلك ما يتصل بماهية القواعد المتعلقة بالحياة والسلامة الشخصية، بداية من تطبيقات الرقابة والأمن والخصوصية، ووصولًا لما بات يُعرف بـ«الأسلحة ذاتية التشغيل». ومنها ما يتعلق بتوزيع القوى داخل المجتمعات والسوق، فيما يتعلق بتوزيع الثروة والسلطة، ومنها في الجانب الطبي تحديات التشخيص لنماذج مرتبطة بخرائط جينية معينة وإمكانية الإخفاق في تشخيص أصول جينية مختلفة. ومنها كذلك سؤال حول تفضيلات وخيارات التضحية التي ستقررها السيارات ذاتية القيادة عند وقوع الحوادث على الطرق أو خلال الكوارث الطبيعية المفاجئة. وانتهت محاكم أمريكية في يونيو 2025 إلى اعتبار أن استخدام شركات التقنية لمؤلفات في التعلم الذاتي وفي بناء نماذج التشغيل دون إذا المؤلفين ودور النشر لا يعد انتهاكاًًوفق ما هو متعارف عليه في القوانين الأمريكية بمبدأ «الاستخدام العادل»، وهو ما يمثل بذاته أول انتهاك كبير لما استقر عليه العالم في الثلاثين عاماً الأخيرة في حقوق الملكية الفكرية. لكن حضارة الغرب لن تطلق النار على نفسها قد تكون هذه الفرضية غير صحيحة على الإطلاق، فالحضارة الغربية التي تقود البشرية حاليًا لطالما تغنت طوال العقود الثماني الأخيرة بأن منجزاتها الحضارية الأعظم ترتبط بالقانون الدولي لحقوق الإنسان والقانون الإنساني الدولي ومنظومة قيم إنسانية يفترض أنها تعبر عن قيم مشتركة لكل الأسرة الإنسانية، بأكثر مما لها علاقة بالإنجازات العلمية والنماذج الاقتصادية وبنهج سياسي ليبرالي، غير أن المقارنة بين سؤالي فلسطين وأوكرانيا ستكون كافية للتدليل على انهيار هذه النظرية. ومن ناحية أخرى، فإن قسطًا مهمًا من المفكرين الأوروبيين لمرحلة «ما بعد الحداثة» ينظرون إلى الحضارة الغربية باعتبارها الوحيدة المؤهلة بمنهجها المادي للتفوق وقيادة الحضارة العالمية، وينظرون إلى الأمم غير الأوروبية في أصولها باعتبارها عاجزة عن المواكبة أو غير مؤهلة لقيادة المسيرة الإنسانية بالاستناد على ما تملكه من ثقافات روحية، ووفقاً لهذه الرؤية يذهب بعض المفكرين المعاصرين – بما في ذلك مفكرين غربيين، إلى التبشير بأًفول الحضارة الغربية لكونها حضارة تنتحر ذاتيا وتنحر معها الإنسانية بتسليم السلطة للتقنية أو للآلات. .. وماذا عن العرب؟ لعل في التمييز العنصري الخوارزمي ما يكفي من دلالات تشكل محفزًا للعرب لتحرك سريع مشترك يغتنم الفرصة السانحة عبر تنافس الأقطاب الدولية الفاعلة بما ينحو إلى إنجاز شراكات حقيقية في الملكية والإنتاجية وامتلاك المعرفة، حتى مع التضحية بدرجة أقل من الربحية. ويمكن البناء على تقدمات مهمة في الثروة البشرية المؤهلة التي توافرت لبعض المجتمعات العربية، على نحو ما جرى في السنوات الخمسة الأخيرة في كل من مصر والمغرب، وربما في غيرهما، ويوفر جيشًا من الطاقات المؤهلة للمساهمة في امتلاك المعرفة والقدرة، وفي تطوير أقسام البحث والتطوير في القطاعات المختلفة وفق معادلة اقتران تقليدية برؤوس الأموال العربية أو على الأقل بالفوائض. ووفقاً لبعض أبرز الخبراء العرب في مجالات وشركات التقنية العالمية الكبرى، يشكل العرب ما لا يقل عن 12 بالمائة – وقد تصل إلى 18 بالمائة من القوة الفنية المباشرة وغير المباشرة (معامل البحث والجامعات) التي تعتمد عليها شركات التقنية العالمية الكبرى في الإنتاج والتطوير والتشغيل، وتتهددهم مخاطر متزايدة بالاستبعاد استناداً على أصولهم العربية، وتجلى ذلك نسبيًا مع استبعاد المئات منهم في سياق مواقفهم من جريمة الإبادة الجماعية الإسرائيلية في غزة.
