دراسة تكشف تأثيرا خطيرا لـ"تشات جي بي تي" على سلوك المراهقين
وكشفت الدراسة أن "شات جي بي تي" يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب.
الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس.
وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة.
وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق.
ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس".
ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين.
وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي.
وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار.
وبحسب تقرير صادر عن بنك "جي بي مورجن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10% من سكان العالم.
وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة".
وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها.
وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة.
كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية.
وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم.
من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب.
وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي".
وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره.
وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
24 القاهرة
منذ 8 ساعات
- 24 القاهرة
بكتيريا قاتلة.. مرض الفيالقة يحصد الأرواح ويصيب العشرات في نيويورك
أعلنت السلطات الصحية في مدينة نيويورك، وفاة شخص رابع على صلة بتفشي مرض الفيالقة في مدينة نيويورك ، وكشفت أن بعض أبراج التبريد التي أظهرت الفحوصات وجود البكتيريا المسببة للمرض فيها تقع في مبانٍ تابعة للمدينة. تفشي داء الفيالقة في نيويورك وقالت وكالة أسوشيتد برس أن التفشي في منطقة هارلم الوسطى أصاب العشرات منذ بدايته أواخر يوليو الماضي، فيما بلغ عدد المنقولين إلى المستشفيات حتى الخميس 17 شخصا، وفقا لوزارة الصحة. وأوضحت السلطات أن بكتيريا الليجيونيلا المسببة لمرض الفيالقة اكتُشفت في 12 برج تبريد ضمن 10 مبانٍ، من بينها مستشفى تديره المدينة وعيادة للصحة الجنسية، وأُنجزت أعمال المعالجة في 11 برجًا، فيما يُتوقع استكمال معالجة البرج الأخير يوم الجمعة. ويُعد مرض الفيالقة نوعا من الالتهاب الرئوي تسببه بكتيريا الليجيونيلا التي تنمو في المياه الدافئة وتنتشر عبر أنظمة المياه في المباني، وقد ارتبط تفشي المرض في المدينة بأبراج التبريد التي تستخدم المياه والمراوح لتبريد المباني. وتظهر أعراض المرض مثل السعال، الحمى، الصداع، آلام العضلات وضيق التنفس عادة خلال فترة تتراوح بين يومين وأسبوعين من التعرض للبكتيريا، بحسب المراكز الأمريكية لمكافحة الأمراض والوقاية منها. وقالت الدكتورة ميشيل موريس، مفوضة الصحة بالإنابة في المدينة، إن الحالات الجديدة في تفشي هارلم الوسطى بدأت في الانخفاض، ما يشير إلى أن مصادر البكتيريا تمت السيطرة عليها، وحثّت السكان والعاملين في المنطقة على مراجعة مقدمي الرعاية الصحية إذا ظهرت عليهم أعراض مشابهة للإنفلونزا. مظاهرات أمام مقر صحيفة نيويورك تايمز لعدم الاعتراف بالإبادة الجماعية التي ترتكبها إسرائيل بغزة بينهم شرطي.. مصرع 5 أشخاص على يد مسلح اقتحم ناطحة سحاب فاخرة بمنهاتن في نيويورك
نافذة على العالم
منذ 11 ساعات
- نافذة على العالم
أخبار التكنولوجيا : تعليق آبل على اتهامات إيلون ماسك: متجر التطبيقات عادلًا وخاليًا من التحيز
الجمعة 15 أغسطس 2025 08:30 صباحاً نافذة على العالم - هدد الملياردير إيلون ماسك، بمقاضاة آبل بسبب تجاهل متجر التطبيقات لتطبيق "X" وتطبيقه ، "Grok AI" ، بدأت الأزمة بمجرد تغريدة موجهة إلى آبل، سأل ماسك خلالها عن سبب عدم وجود "X" وتطبيق "Grok" في قائمة التطبيقات الأساسية على متجر التطبيقات. وأشار ماسك إلى أن موقع التواصل الاجتماعي الخاص به هو تطبيق الأخبار في متجر التطبيقات، وأن تطبيق "Grok" يحتل المركز الخامس الأول بين جميع التطبيقات، كما أنه يحتل المركز الثاني في الإنتاجية، بعد تطبيق ChatGPT. ويشعر ماسك بالإهانة لعدم إدراج "X" ولا "Grok" ضمن هذه التطبيقات الـ 21، ووفقًا لمارك جورمان من بلومبرج، ردّت آبل على تهديد ماسك قائلةً: "صُمّم متجر التطبيقات ليكون عادلًا وخاليًا من التحيز ..ونعرض آلاف التطبيقات من خلال الرسوم البيانية والتوصيات الخوارزمية وقوائم مختارة بعناية من قِبل خبراء باستخدام معايير موضوعية. وتابعت آبل:"هدفنا هو توفير اكتشاف آمن للمستخدمين وفرص قيّمة للمطورين، بالتعاون مع العديد من الجهات لزيادة ظهور التطبيقات في الفئات سريعة التطور". تجدر الإشارة إلى أن تطبيقي "X" و"Grok" غير مدرجين ضمن قائمة أفضل 18 تطبيقًا شائعًا على ايفون كما أنهما غير مدرجين ضمن قائمة التطبيقات الأحد عشر "الرائعة" على iPhone، أو ضمن قائمة التطبيقات الـ 31 ضمن قائمة "اختيار المحررين". ومع ذلك، دحض أعضاء "X" هذه الحجّة، بشكلٍ ساخر، مُشيرين إلى أنّ DeepSeek، منافس ChatGPT، تصدّر متجر التطبيقات في بداية هذا العام، وحقّق Perplexity الأمر نفسه الشهر الماضي في متجر التطبيقات الهندي، وقد تمّ كلا الحدثين بعد موافقة آبل على الشراكة مع OpenAI بوقتٍ طويل.
بوابة ماسبيرو
منذ 11 ساعات
- بوابة ماسبيرو
دراسة تكشف تأثيرا خطيرا لـ"تشات جي بي تي" على سلوك المراهقين
كشفت دراسة حديثة أن روبوت المحادثة "شات جي بي تي"، يمكن أن يوجه الأطفال والمراهقين إلى سلوكات خطيرة، لا تتناسب مع أعمارهم. وكشفت الدراسة أن "شات جي بي تي" يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب. الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس. وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة. وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق. ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس". ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين. وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي. وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار. وبحسب تقرير صادر عن بنك "جي بي مورجن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10% من سكان العالم. وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة". وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها. وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة. كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية. وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم. من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب. وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي". وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره. وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".
