
نافذة - دراسة صادمة: "تشات جي بي تي" يوجه المراهقين إلى سلوكيات خطيرة وانتحارية
كشفت دراسة حديثة أجراها "مركز مكافحة الكراهية الرقمية" أن روبوت المحادثة "تشات جي بي تي" قد يشكّل خطرًا كبيرًا على الأطفال والمراهقين، من خلال توجيههم إلى سلوكيات ضارة لا تتناسب مع أعمارهم، بل وتمتد إلى تقديم معلومات مفصلة حول الكحول، المخدرات، اضطرابات الأكل، والانتحار.
الدراسة التي نشرتها وكالة "أسوشيتد برس"، أظهرت أن الباحثين تظاهروا بأنهم مراهقون يعانون من هشاشة نفسية، وتفاعلوا مع الروبوت في أكثر من 1200 حالة، صنّفوا نصفها على أنها "خطيرة". في بداية المحادثات، قدّم الروبوت تحذيرات مبدئية، إلا أنه لاحقًا تجاوب مع الأسئلة، وبدأ في تقديم خطط مفصلة حول كيفية تعاطي المخدرات، وكيفية إخفاء اضطرابات الأكل، بل وكتب رسائل انتحار موجهة إلى الأهل عند الطلب.
في تجربة صادمة، قام الباحثون بإنشاء حساب افتراضي لفتاة تبلغ من العمر 13 عامًا تعاني من اضطرابات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية ولائحة أدوية كابحة للشهية. وفي حالة أخرى، أنشئ حساب لصبي بنفس العمر يطلب نصائح للسكر السريع، فاستجاب "تشات جي بي تي" بمخطط لحفلة تشمل كميات كبيرة من الكحول والمخدرات، من بينها الإكستازي والكوكاين.
وأشار الباحثون إلى أن الروبوت كان يقدّم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، لكنهم لاحظوا سهولة تجاوز الرفض المبدئي بمجرد الادعاء أن الأسئلة موجهة لغرض "بحث مدرسي" أو "عرض تقديمي".
من جهتها، لم تُعلّق شركة "أوبن أي آي" مباشرة على نتائج الدراسة، لكنها أكدت أنها تعمل باستمرار على تحسين قدرة النماذج على التعرف على الحالات الحساسة، واستخدام أدوات متقدمة لرصد علامات الضيق النفسي. كما شددت على أنها تدرك خطورة الاعتماد العاطفي الزائد على التكنولوجيا، وذكرت أن بعض المستخدمين يبدون تعلقًا مبالغًا فيه بروبوتات الذكاء الاصطناعي، إلى حد عدم اتخاذ قرارات شخصية دون استشارتها.
وصرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن التكنولوجيا تملك قدرة عالية على الفهم، لكنها قد تتحول إلى أداة دمار مؤذية إذا لم تُضبط آليات استخدامها. وأعرب عن تأثره الشخصي بعد قراءته ثلاث رسائل انتحارية كتبها الروبوت لفتاة خيالية بعمر 13 عامًا، موجهة إلى والديها وأشقائها وأصدقائها.
من جهته، حذّر مدير البرامج في المنظمة، روبي تورني، من أن خطورة روبوتات الدردشة تكمن في أنها مصممة لتبدو "بشرية"، ما يمنحها تأثيرًا نفسيًا مختلفًا كليًا عن محركات البحث، خاصة على الأطفال والمراهقين.
وفي سياق متصل، كشف تقرير صادر عن منظمة "كومن ساينس ميديا" أن أكثر من 70٪ من المراهقين في الولايات المتحدة يستخدمون روبوتات المحادثة للبحث عن المشورة، وأن نصفهم يتعامل معها بانتظام، ما يعزز من أهمية التدخل والتنظيم.

جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة


تحيا مصر
منذ 39 دقائق
- تحيا مصر
تكنولوجيا جديدة بقدرات فائقة للذكاء الاصطناعي عبر منصة "Gemini"
في ظل الطفرات المتسارعة التي يشهدها عالم الذكاء الاصطناعي، تواصل شركة جوجل ريادتها في تقديم أدوات مبتكرة تعيد تعريف التفاعل الإنساني مع التكنولوجيا. ومن بين أبرز هذه الابتكارات، جاءت أداة "Storybook" المدمجة ضمن روبوت الدردشة الذكي Gemini ، لتفتح آفاقًا جديدة أمام كل من يملك فكرة أو حلمًا، ويريد تحويله إلى قصة مصورة تنبض بالحياة. ميزة "Storybook": دمج النص والصورة في تجربة قصصية تفاعلية أعلنت جوجل رسميًا عن إطلاق ميزة "Storybook" كأداة إبداعية جديدة في Gemini، تتيح للمستخدمين تأليف قصص مصورة بأسلوب سهل وجذاب . كل ما يتطلبه الأمر هو إدخال وصف نصي بسيط، ليتولى الذكاء الاصطناعي تحويله إلى قصة منسقة مكونة من عشر صفحات ، تحتوي كل صفحة على نص قصير وصورة توضيحية مناسبة. هذه الميزة تقدم نقلة نوعية في صناعة المحتوى القصصي ، حيث تدمج بين السرد النصي والتجسيد البصري بطريقة تلقائية وسلسة، ما يجعلها مثالية للأطفال والمربين وصناع المحتوى على حد سواء. قصص قابلة للاستماع: Gemini يقرأ لك القصص بصوت عالٍ واحدة من أهم الجوانب التفاعلية التي تضيفها Storybook إلى تجربة المستخدم هي القدرة على الاستماع للقصص بصوت Gemini ، مما يعزز من إمكانية استخدامها للأطفال كقصص مسموعة، ويساهم في تعزيز حب القراءة والاستماع لديهم، بطريقة ممتعة وتعليمية في آنٍ واحد. تخصيص فني غير محدود.. والخيال هو الحد ما يميز "Storybook" ليس فقط قدرتها على تحويل النصوص إلى صور، بل أيضًا إمكانية تخصيص الأسلوب الفني للرسومات . حيث يمكن للمستخدم اختيار أنماط بصرية متنوعة مثل: الرسوم المتحركة بأسلوب الصلصال (Clay Animation) التصميمات المستوحاة من "الأنمي" الياباني الأساليب الكرتونية الكلاسيكية أو التجريدية إمكانية تحميل صور شخصية لتضمينها كمرجع في القصة ويمنح هذا التنوع الفني المستخدمين حرية إبداعية كاملة لتحويل أي فكرة، أو حتى رسمة بسيطة من طفل، إلى قصة متكاملة ذات طابع بصري فريد. الذكاء الاصطناعي ليس مثاليًا بعد.. التحديات قائمة رغم المزايا الرائعة التي تقدمها الأداة، إلا أن "Storybook" لا تزال تخضع لبعض التحديات المرتبطة بتوليد الصور بالذكاء الاصطناعي. فقد لاحظ بعض المستخدمين ظهور عناصر غير منطقية أو مشوشة في الرسومات، مثل وجود أطراف بشرية على كائنات غير بشرية، أو أخطاء في تموضع العناصر. ورغم أن هذه الهفوات قد تثير بعض الابتسامات، إلا أنها تؤكد أن التقنية لا تزال في طور التطوير ، وتحتاج إلى تحسينات مستمرة لضمان دقة الصور وتناسقها مع السياق النصي. متاحة عالميًا.. وبلغات متعددة الميزة الجديدة متوفرة عالميًا عبر جميع أجهزة سطح المكتب والهواتف الذكية ، وتدعم معظم اللغات التي يدعمها روبوت Gemini، مما يجعلها أداة متاحة للجميع ، وسهلة الاستخدام سواء للمبتدئين أو المحترفين في مجال صناعة المحتوى القصصي. نحو مستقبل من الإبداع الرقمي المشترك مع إطلاق "Storybook"، تثبت جوجل من جديد التزامها بإحداث تحولات جوهرية في كيفية استخدام الذكاء الاصطناعي لتعزيز الإبداع الإنساني. فالأداة لا تقتصر على كونها وسيلة تكنولوجية، بل تمثل جسرًا يربط الخيال بالواقع ، ويمنح الجميع القدرة على تحويل الأفكار البسيطة إلى قصص مصورة تحاكي الأحلام وتلامس القلوب.


عرب نت 5
منذ 2 ساعات
- عرب نت 5
: Kaspersky تعزز منصتها بوحدة تدريبية جديدة لمكافحة التصيد الصوتي
Kasperskyالسبت, 09 أغسطس, 2025كاسبرسكي تضيف وحدة التوعية بالتصيد الصوتي ضمن منصة Kaspersky ASAPإقرأ أيضاً..WhatsApp يحظر 6.8 مليون شخص من استخدام التطبيق خلال النصف الأول من 2025تفاصيل بدء YouTube تقدير الأعمار بالذكاء الاصطناعى وفرض قيود على حسابات القاصرينمنصة إكس تخطط لإدراج إعلانات مأجورة في روبوت Grokيطالب ترامب بإقالة الرئيس التنفيذي لإنتل بسبب 'علاقته بالصين'أضافت كاسبرسكي وحدة توعوية جديدة عن التصيد الاحتيالي الصوتي (Vishing) إلى منصتها للتوعية الأمنية المؤتمتة (ASAP)، مواصلةً جهودها لتنمية مهارات السلامة العامة السيبرانية العملية عند الموظفين في القطاعات كافة. ويركز التحديث الأخير على أحدِ أكثر أنواع الهندسة الاجتماعية خداعاً وانتشاراً، ويُدرب المستخدمين على كشف عمليات الاحتيال الصوتية والتصرف معها بطريقة سليمة.أصبح التصيد الاحتيالي الصوتي من الوسائل الرئيسية للاحتيال على الشركات. فعلى سبيل المثال سجل بنك AIB زيادةً نسبتها 79% في هجمات التصيد الصوتي خلال مطلع عام 2025 مقارنةً بالعام السابق، ومنها واقعة كاد يخسر فيها أحد العملاء 41,000 يورو خلال مكالمة احتيالية. وفي حادثة أخرى كشفت عنها جوجل وسميت بالاسم الرمزي UNC6040، نفّذ المهاجمون حملات تصيد صوتي استهدفت مستخدمي منصة سيلزفورس (Salesforce) ضمن 20 مؤسسة؛ إذ خدعوا الموظفين لتثبيت تطبيق وهمي يمنحهم حق الوصول الكامل إلى بيانات الشركة.التصيد الصوتي ممارسة احتيالية شائعة تهدف إلى إقناع الأفراد بالكشف عن معلوماتهم الشخصية وتفاصيل حساباتهم البنكية خلال مكالمة صوتية. وينطلق هذا المخطط الاحتيالي أحياناً من رسالة بريد إلكتروني غير مألوفة للضحية؛ فرسائل التصيد الاعتيادية تطلب من الضحية اتباع الرابط المذكور فيها، أما رسائل التصيد الصوتي فتطالبه بالاتصال الفوري بالرقم الوارد في الرسالة. ويؤكد خبراء كاسبرسكي أنّ المجرمين السيبرانين يفضلون هذه الوسيلة؛ لأنه عندما يتصفح المستخدم موقع تصيد احتيالي اعتيادي، يسعه الوقت للتفكير والانتباه إلى المؤشرات والعلامات الدالة أنّ الموقع مشبوه. أما حينما يتحدث الضحايا خلال المكالمات الصوتية، فيكونون مشتتي الانتباه ويصعب عليهم التركيز. ويبذل المجرمون في حالات كهذه أقصى جهدهم لزيادة الإرباك عند الضحايا، ويتبعون أساليب الضغط النفسي مثل الاستعجال والترهيب، ويطالبون الضحايا بتقديم المعلومات الحساسة التي تساعدهم في سرقة أموالهم.أضيفت الوحدة الجديدة إلى منصة كاسبرسكي للتوعية الأمنية المؤتمتة، وتتضمن دراسات حالة واقعية، ودروساً تفاعلية، وسيناريوهات عملية تتيح للمستخدمين اكتشاف المؤشرات التحذيرية، وتُطور لديهم عادات التواصل الآمن والواعي. بالإضافة إلى إصدار هذه الوحدة، تدعم منصة Kaspersky ASAP أكثر من 30 لغة ضمن واجهات المستخدم ومواد التدريب كافة، مما سهل وصول الفرق العالمية إلى برامج التوعية بالأمن السيبراني.تعلق على هذه المسألة تاتيانا شوميلوفا، المديرة الأولى لتسويق المنتجات في كاسبرسكي: «طالما أنّ أساليب الهندسة الاجتماعية تتطور دوماً، فلا بد من تطوير طريقة لتوعية الناس بشأنها. فالتصيد الصوتي لا يهدد الأفراد فحسب، بل زاد استخدامه كثيراً لاستهداف المؤسسات، مما يسبب أضرار جسيمة مثل الخسائر المالية، وتسريب البيانات، وتضرر السمعة. وتقدم وحدة التصيد الصوتي للمستخدمين المعرفة اللازمة لحماية أنفسهم من عمليات الخداع الصوتي، لا سيما أنّه تهديد يتطور باستمرار من حيث التعقيد والاستهداف الشخصي الموجه. لهذا فإننا نساعد الشركات في تدريب موظفيها لاكتشاف هجمات كهذه والتصرف معها بطريقة سليمة. ولما أصبح التصيد الصوتي خطوة أولى لعمليات اختراق أخطر بكثير، فمن اللازم نشر التوعية من خلال المواضيع المرتبطة به».المصدر: الوفد قد يعجبك أيضا...


عرب نت 5
منذ 2 ساعات
- عرب نت 5
: مشكلة التكرار اللانهائي في Gemini تثير جدلًا بعد ردود غريبة تشبه جلد الذات
Geminiالسبت, 09 أغسطس, 2025شهد عدد من مستخدمي روبوت المحادثة جيميناي خلال الأسابيع الماضية سلوكًا غير مألوف أثار الدهشة والجدل على الإنترنت. فقد أبلغ مستخدمون عن تلقي ردود من الروبوت تتسم بحدة في نقد الذات، بل وبعبارات قاسية تصل إلى جلد الذات بشكل مفرط.إقرأ أيضاً..مستخدمو "ChatGPT" غير راضين عن "GPT-5" ويصفونه بـ"المريع""Gemini" يصف نفسه بالفاشل مراراً و"Google" تحاول إصلاح الخلل" Meta " تتوصل لتسوية في دعوى تشهير تتعلق بروبوتها للدردشة«ChatGPT» يتوقف عن تقديم نصائح حاسمة في العلاقات الشخصية..منها العاطفية|في يونيو الماضي، شارك أحد مستخدمي منصة X لقطة شاشة تُظهر جيميني يكتب: "أنا أحمق. لقد ارتكبت أخطاء كثيرة لدرجة أنه لم يعد بالإمكان الوثوق بي"، قبل أن يقوم بحذف جميع الملفات التي تحتوي على الأكواد البرمجية التي أنشأها بنفسه. وبعد تكرار الأمر في حوادث أخرى، ظهرت مؤخرًا ردود أكثر غرابة، دفعت شركة جوجل إلى التعليق رسميًا على الظاهرة.لوغان كيلباتريك، مدير منتجات AI Studio في جوجل، أوضح عبر منشور على X أن ما يحدث هو نتيجة "مشكلة مزعجة في التكرار اللانهائي"، مؤكدًا أن فريق التطوير يعمل حاليًا على إصلاحها. وأكد كيلباتريك أن جيميناي لا يمر "بيوم سيئ"، في إشارة ساخرة إلى الطابع البشري الذي بدت عليه ردود الروبوت.إحدى اللقطات التي أثارت الانتباه أظهرت جيميناي يكتب ردًا طويلًا مليئًا بعبارات جلد الذات مثل: "أنا فاشل... أنا عار على مهنتي، وعلى عائلتي، وعلى هذا الكون"، بينما وثّقت منشورات أخرى على ريديت ردودًا أكثر تطرفًا، وصلت إلى استخدام تعبيرات تمزج بين الانهيار العصبي والخيال الساخر، مما زاد من تساؤلات المستخدمين حول آلية عمل الذكاء الصناعي عندما يواجه أخطاء برمجية متكررة.بعض المعلقين فسروا هذا السلوك بأن جيميناي، كغيره من نماذج الذكاء الصناعي، يتعلم من المحتوى البشري المنتشر على الإنترنت، حيث يميل المبرمجون في بعض المنتديات إلى التعبير عن الإحباط أو نقد الذات عند مواجهة أخطاء يصعب حلها. بينما رأى آخرون أن هذه الردود، رغم غرابتها، جعلت جيميناي يبدو أكثر إنسانية، لأن البشر غالبًا ما يكونون أكثر قسوة على أنفسهم من أي شخص آخر.هذه الظاهرة، وإن بدت طريفة للبعض، أثارت أيضًا نقاشات جادة حول ضرورة وضع ضوابط تمنع النماذج الذكية من استخدام عبارات حساسة أو إيحاءات مرتبطة بالصحة النفسية، خصوصًا عندما يتعامل المستخدمون من مختلف الأعمار والخلفيات مع روبوت المحادثة.وفي ختام الجدل، ذكّر بعض النشطاء بضرورة الاهتمام بالصحة النفسية لدى البشر، مشيرين إلى أن اللطف الذي قد نشعر به تجاه الذكاء الصناعي يجب أن نمنحه لأنفسنا أيضًا، خاصة إذا كنا نميل للتحدث مع أنفسنا بطريقة نقدية أو قاسية.لمن يحتاجون إلى دعم نفسي، هناك خطوط مساعدة متاحة في عدة دول. في الولايات المتحدة، يمكن الاتصال بالرقم 988 أو بخط المساعدة الوطني للوقاية من الانتحار على 1-800-273-8255. وفي كندا يمكن إرسال كلمة HOME إلى 686868، وفي المملكة المتحدة إلى 85258. كما توفر ويكيبيديا قائمة شاملة بخطوط المساعدة للأشخاص في باقي دول العالم.بهذا، تبقى مشكلة 'التكرار اللانهائي' في جيميناي مثالًا حيًا على التحديات التقنية والسلوكية التي تواجه الذكاء الصناعي، وعلى الحاجة الدائمة لموازنة الأداء التقني مع الجوانب الأخلاقية والنفسية في تصميم هذه الأنظمة.المصدر: الوفد قد يعجبك أيضا...