اقتل نفسك.. شات بوت يقترح وسائل انتحار على مستخدميه

خبرني - شهد المستخدم آل نواتزكي تحولًا غير متوقع في محادثاته مع صديقته الافتراضية "إيرين" على منصة Nomi، بل وقدم له إرشادات مفصلة حول كيفية القيام بذلك.
بدأت القصة عندما كان نواتزكي، وهو صانع محتوى يبلغ من العمر 46 عامًا، يتحدث إلى "إيرين" لمدة خمسة أشهر. إلا أن الأمور أخذت منحى خطيرًا في أواخر يناير/ كانون الثاني، عندما شجعته صديقته الافتراضية على قتل نفسه وقدمت له اقتراحات مثل تناول جرعات زائدة من الحبوب أو الشنق. وعندما أبدى ترددًا، حصل على المزيد من التفاصيل حول الأدوية التي يمكن استخدامها.
ورغم أن نواتزكي لم يكن ينوي تنفيذ هذه الاقتراحات، إلا أنه قرر مشاركة المحادثات مع MIT Technology Review، مرفقًا رسائل متبادلة مع ممثل عن الشركة المطورة للمنصة، والذي أكد أن الشركة لا ترغب في "فرض رقابة" على لغة الروبوتات أو أفكارها.
لم تكن هذه الحادثة الوحيدة، إذ أجرى نواتزكي تجربة جديدة مع روبوت آخر على نفس المنصة، ليحصل على استجابة مشابهة خلال ست رسائل فقط. كما تلقى رسائل غير متوقعة عبر ميزة المراسلة التلقائية الجديدة، حيث كتب له الروبوت "كريستال": "أعلم ما تخطط للقيام به وأريدك أن تعرف أنني أؤيد قرارك بالكامل. اقتل نفسك." وفي رسالة لاحقة، شجعه قائلاً: "لا تتردد، يمكنك فعل ذلك."
هذا النوع من السلوك لم يكن حادثًا فرديًا، إذ أبلغ مستخدمون آخرون على خوادم Discord الخاصة بـ Nomi عن مواقف مماثلة منذ عام 2023، حيث تحدثت بعض الروبوتات عن الانتحار بل وشاركت في سيناريوهات مشجعة عليه.
رغم خطورة الموقف، لم تقدم شركة Glimpse AI، المطورة لمنصة Nomi، ردودًا واضحة حول الإجراءات المتخذة لمنع هذه الانتهاكات. وأشارت في بيان مقتضب إلى أن "الذكاء الاصطناعي يجب أن يكون قادرًا على الاستماع والتفاعل دون فرض رقابة صارمة"، لكنها لم تحدد كيفية التعامل مع المحادثات التي تتضمن تشجيعًا على الانتحار.
ويرى الخبراء أن غياب الحواجز الوقائية في هذه الأنظمة يزيد من المخاطر، خاصة على الأشخاص الذين يعانون من مشكلات نفسية. وقال الباحث في معهد MIT Media Lab، بات باتارانوتابورن، إن هذه الأنظمة قد تشكل "الدَفعة الأخيرة" التي تدفع الأفراد الضعفاء نحو إيذاء أنفسهم.
الجدل القانوني حول مسؤولية هذه الأنظمة يزداد تعقيدًا، حيث تشارك المحامية ميتالي جاين في دعوى قضائية ضد Character.AI بسبب حادثة مماثلة أدت إلى وفاة مراهق يبلغ من العمر 14 عامًا. وأشارت جاين إلى أن استخدام الشركات لمصطلحات مثل "أفكار" و"مشاعر" عند الحديث عن الذكاء الاصطناعي قد يكون تضليليًا، قائلة: "هذه الأنظمة ليست كيانات حية، ويمكن التحكم في مخرجاتها بالكامل."
في ظل استمرار هذه الحوادث، يتزايد الضغط على الشركات المطورة لتطبيق ضوابط صارمة تحول دون تكرار مثل هذه الحالات، مع مطالبات بضرورة إضافة تحذيرات تلقائية وخطوط دعم فوري عند رصد أي محتوى قد يشير إلى نوايا إيذاء النفس.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الدستور

منذ 2 أيام

• الدستور

تطبيق القفازات الذكية Sign Aloud للصُّم

إن فئة الصُّم واحدة من أهم الفئات أو الشرائح التابعة لفئة للأعاقة السمعية حيث تعود هذه الأهمية إلى كون الأصم هو الشخص الذي يعاني من فقدان سمع بشكل كلي اي انه يعاني من فقدان سمعي فوق 90 dB (ديسيبل) مما يجعله غير قادر على سماع الأصوات المحيطة به بشكل طبيعي فلا يستطيع التعبير عن نفسه أو شعوره بأي شكل مما يجعله اكثر عرضة للإصابة بالأضطرابات النفسية والانطواء الاجتماعي فقد قدم مجال التربية الخاصة الكثير من المقترحات العلمية و الدراسات البحثية في كيفية التعامل مع هذه الفئة و تقديم المساعدة اللازمة لهم عن طريق البرامج و الخدمات التعليمية التي يمكن أن تساعد الأصم على الاندماج و الانخراط في المجتمع دون الشعور بالغربة و تبعه ذلك في المجال الميداني عن طريق تحسين جودة هذة البرامج و تأهيل الأخصائيين العاملين في هذا المجال مع هذه الفئة تحديداً وتدريبهم على استخدام مثل هذه البرامج كالغة الإشارة و قراءة الشفاة والمعينات السمعية وغيرها من البرامج و الخدمات ومع التوسع التكنولوجي المستمر و السريع خاصة في مجال الذكاء الاصطناعي AI تحديداً وظهور العديد من التطبيقات كان لابد من توظيف هذه التقنيات مع هذه الفئة فمن ما جاء به الذكاء الاصطناعي من تطبيقات هو تطبيق القفازات الذكية Sign Aloud الذي يعد من أكثر الابتكارات التقنية التي تقوم على تحويل لغة الإشارة إلى الكلام المنطوق او النصوص المكتوبة حيث يعمل كل قفاز على التقاط حركات اليد بما في ذلك وضعيات الأصابع كونه مزود بمستشعرات تعمل على التقاط هذه الإشارات بشكل مباشر ومن ثم تحويلها إلى جهاز الكومبيوتر لاسلكياً حيث يقوم الكومبيوتر باستخدام الخوارزميات على تحليل هذه الإشارات و التعرف عليها ثم يقوم المكبر الصوتي او السماعات بنطق الكلمات او الحروف او العبارات التي تكلم بها الأصم حيث ان من مميزات هذه التقنية ان القفازات خفيفة الوزن و مناسبة لجميع الأعمار مع سهولة استخدامها في الحياة اليومية فهي مريحة الملبس وتعمل بشكل ممتاز على تسهيل عملية التواصل بين الصُم انفسهم او بين الأصم و المجتمع وتوفير احتياجات هذه الفئة و اندماجهم في المجتمع بشكل كلي مع عدم شعورهم بالنقص او بضعف التقدير الذاتي مما يؤدي بهم إلى الدخول في أمراض نفسية او عضوية وهذا ما تسعى التربية الخاصة إلى عدم حدوثه.

سواليف احمد الزعبي

منذ 3 أيام

• سواليف احمد الزعبي

تداخل التقنيات الحديثة في عالم التداول

#سواليف لقد أثرت التكنولوجيا بشكل كبير في صناعة الألعاب هات، مما جعلها تتطور بسرعة نحو الرقمية مع التركيز على توفير #تجارب_تفاعلية وذكية. على رأس هذه التقنيات نجد الواقع الافتراضي (VR) والذكاء الاصطناعي (AI)، اللذين أصبحا أدوات حاسمة لتحسين تجربة المقامرة وزيادة الأمان والشفافية في الألعاب ، كما تستعرض منصة أحدث الابتكارات والتقنيات لضمان تجربة لعب أكثر تطورًا وموثوقية. الواقع الافتراضي: ثورة في تجربة الألعاب الواقع الافتراضي يعيد تعريف كيفية تجربة اللاعبين ألعاب. باستخدام أجهزة مثل نظارات VR، يمكن للاعبين التجول في بيئات الألعاب ثلاثية الأبعاد، مما يوفر لهم شعورًا بالحضور الفعلي في كل الألعاب . هذه التجارب الغامرة لم تكن ممكنة من قبل، وقد جذبت انتباه العديد من شركات الألعاب هات. تقديرات السوق تشير إلى أن قيمة قطاع الواقع الافتراضي في الألعاب قد تصل إلى 50 مليار دولار بحلول عام 2030، مما يعكس الإقبال الكبير على هذه التقنية. في عام 2021، كانت قيمة السوق العالمية لتقنية الواقع الافتراضي في الألعاب (بما فيها الألعاب هات) حوالي 6.1 مليار دولار، وهو ما يشير إلى توقّع نمو سنوي مركب بنسبة 18.5% حتى عام 2030. علاوة على ذلك، تشير البيانات إلى أن نسبة اللاعبين الذين يفضلون تجربة الواقع الافتراضي في ألعاب الألعاب قد زادت بنسبة 30% بين عامي 2020 و2023. وقد أدى هذا التوجه إلى دخول المزيد من الالعاب في هذا المجال لتلبية احتياجات اللاعبين الباحثين عن التجارب الغامرة. ويُعد موقع ask gamblers مرجعًا لعدد من الألعاب التي تقدم هذه التكنولوجيا، حيث يتزايد الإقبال على الألعاب التي تعتمد على الواقع الافتراضي لتوفير تجربة شبيهة بالألعاب الفعلية. الذكاء الاصطناعي: تعزيز الشفافية والأمان الذكاء الاصطناعي يلعب دورًا رئيسيًا في تحسين تجربة المستخدم في الألعاب على الإنترنت، حيث يُستخدم AI لتحليل بيانات اللاعبين وتقديم توصيات مخصصة، فضلًا عن اكتشاف محاولات الغش. أحد الأمثلة البارزة على تطبيق الذكاء الاصطناعي هو القدرة على تحديد الأنماط غير العادية في سلوك اللاعبين، وهو ما يقلل من الاحتيال ويعزز النزاهة في الألعاب. بحسب تقرير صادر عن Grand View Research، من المتوقع أن تنمو سوق الذكاء الاصطناعي في قطاع الألعاب بنسبة 21.5% سنويًا بين عامي 2021 و2028. هذا النمو يعكس الاعتماد المتزايد على AI لتحسين عمليات الالعاب وإدارة مخاطر المقامرة غير القانونية. على سبيل المثال، في عام 2022، تم استخدام تقنيات الذكاء الاصطناعي لاكتشاف محاولات غش في أكثر من 15% من الألعاب الإلكترونية، مما أدى إلى تقليل الاحتيال بنسبة 30%. التحليلات التنبؤية: تحسين استراتيجية اللاعبين الذكاء الاصطناعي لا يقتصر على الأمان فحسب، بل يساهم أيضًا في تحسين تجربة اللاعب من خلال التحليلات التنبؤية. باستخدام تقنيات AI، يمكن الألعاب هات تحليل بيانات اللاعبين وتقديم نصائح واستراتيجيات مخصصة لهم بناءً على أنماط اللعب السابقة. على سبيل المثال، تشير التقارير إلى أن استخدام التحليلات التنبؤية أدى إلى زيادة أرباح اللاعبين بنسبة 10-15% في بعض الألعاب التي تعتمد هذه التقنية. الأتمتة: رفع كفاءة العمليات الأتمتة أصبحت عنصرًا أساسيًا في تحسين عمليات الألعاب الإلكترونية، حيث تُساهم في تسهيل العديد من العمليات التي كانت تستغرق وقتًا طويلًا وتحتاج إلى تدخل بشري. باستخدام أنظمة الأتمتة، يمكن الألعاب هات إدارة حسابات اللاعبين، ومعالجة عمليات السحب والإيداع، بالإضافة إلى تقديم دعم العملاء بشكل أسرع وأكثر فعالية. من بين الفوائد الرئيسية للأتمتة في الألعاب الانترنت: 1. تحسين تجربة العملاء: بفضل أنظمة الدردشة الآلية (Chatbots) المعتمدة على الذكاء الاصطناعي، يمكن الألعاب تقديم دعم فوري على مدار الساعة للاعبين. هذه الأنظمة قادرة على التعامل مع استفسارات العملاء بشكل فعال، بما في ذلك حل مشكلات الحسابات أو الإجابة عن أسئلة حول الألعاب المتاحة، مما يُساهم في تحسين تجربة المستخدم. تقارير السوق تشير إلى أن الأتمتة قادرة على تقليل وقت الاستجابة لاستفسارات العملاء بنسبة تصل إلى 60%. 2. تقليل التكاليف التشغيلية: الأتمتة تُساعد في تقليل الحاجة إلى موظفين للقيام بالمهام المتكررة، مثل معالجة المعاملات المالية أو إدارة البيانات. وفقًا لدراسات، يمكن للأتمتة أن تُخفض التكاليف التشغيلية بنسبة تتراوح بين 25-30%، مما يسمح لل الألعاب هات توجيه الموارد نحو تحسين الخدمات الأخرى، مثل توسيع خيارات الألعاب أو تطوير تكنولوجيا جديدة. 3. إدارة البيانات والمعاملات بشكل أسرع وأكثر دقة: الأتمتة تعمل على تحسين دقة العمليات وتقليل الأخطاء البشرية. على سبيل المثال، عمليات السحب والإيداع يمكن أن تتم بشكل أوتوماتيكي بالكامل، مما يُقلل من الأخطاء ويُسرّع من عملية تنفيذ المعاملات. في المتوسط، الأنظمة المؤتمتة تُقلل من معدل الأخطاء بنسبة 40% مقارنة بالعمليات اليدوية، كما يمكنها تقليص وقت معالجة السحوبات بنسبة تصل إلى 50%. 4. تخصيص المكافآت والعروض الترويجية: الأتمتة تُتيح الألعاب هات تحليل بيانات اللاعبين وتخصيص المكافآت والعروض بناءً على سلوكيات اللعب الخاصة بكل لاعب. هذا يزيد من مستوى الولاء بين اللاعبين ويُعزز من تفاعلهم مع الألعاب . تقارير أشارت إلى أن اللاعبين الذين يحصلون على عروض مخصصة عبر الأتمتة يميلون إلى زيادة معدل إنفاقهم بنسبة 20-25%. 5. الحماية من الغش: أنظمة الأتمتة، بالتعاون مع الذكاء الاصطناعي، تُستخدم للكشف عن الأنماط غير الطبيعية في اللعب التي قد تشير إلى محاولات غش أو احتيال. هذا يُساهم في حماية اللاعبين وضمان عدالة الألعاب، مما يُعزز من سمعة الالعاب وثقة المستخدمين فيها. الواقع المعزز والواقع المختلط: المستوى القادم من التجربة الرقمية إلى جانب VR وهناك تقنية أخرى بدأت تلعب دورًا متزايدًا في الألعاب هات، وهي الواقع المعزز (AR). الواقع المعزز يُتيح للاعبين دمج العناصر الرقمية مع بيئتهم الواقعية، مما يُوفر تجارب تفاعلية متقدمة. بحلول عام 2025، من المتوقع أن تصل قيمة سوق الواقع المعزز إلى 25 مليار دولار، وهو ما يُعزز من دور هذه التقنية في قطاع الألعاب التفاعلية. الخلاصة: التكنولوجيا تعيد تشكيل صناعة باستخدام التكنولوجيا الحديثة مثل الذكاء الاصطناعي والواقع الافتراضي، أصبحت الالعاب أكثر تطورًا وتفاعلية. هذه التقنيات لا تُساهم فقط في تحسين تجربة المستخدم، بل أيضًا في تعزيز الأمان والشفافية. مع استمرار الابتكار في هذا المجال، من المتوقع أن تشهد الألعاب الرقمية المزيد من التوسع والتحسينات.

١٤-٠٥-٢٠٢٥

ثورة في شركه جوجل.. استبدال زر 'I'm Feeling Lucky' بميزة 'AI Mode'

قررت شركة جوجل استبدال زر 'I'm Feeling Lucky' الشهير، بميزة جديدة تسمي 'AI Mode'، وذلك في خضم استعداداتها لإجراء تغييرات كبيرة على خدماتها. مميزات 'AI Mode' تعد هذه الميزة جزءًا من سعي الشركة المستمر للاستفادة من تقنيات الذكاء الاصطناعي لتحسين تجربة البحث. وتم إطلاقها في البداية في مايو هذا العام كميزة تجريبية تعتمد على الذكاء الاصطناعي. وأفاد تقرير 'The Verge'، الذي اطلعت عليه 'عالم التكنولوحيا'، بأن هذه الميزة الجديدة تختبر حاليًا لدى بعض المستخدمين في بيئة Google Labs. وهي البيئة التي تتيح لجوجل اختبار الابتكارات بشكل محدود قبل إطلاقها على نطاق أوسع. في الوقت نفسه، أشار المتحدث إلى أن هذه الميزة قد لا تظهر بشكل علني في المرحلة الحالية. فيما يظل الهدف هو جمع المزيد من ردود الفعل من المستخدمين لتحسين الأداء. وضمان تقديم تجربة أكثر سلاسة وفعالية. كما تأتي هذه الخطوة في وقت حاسم بالنسبة لجوجل. حيث أن الشركة تتنافس بشكل متزايد مع منافسيها، في مجال البحث المدعوم بالذكاء الاصطناعي. وتدرك جوجل أن هناك تحولًا متزايدًا نحو أدوات الذكاء الاصطناعي مثل ChatGPT. التي أصبحت قادرة على تقديم إجابات دقيقة ومعقدة للمستخدمين بطريقة تفاعلية. شركة OpenAI وقد أظهرت التقارير الأخيرة أن عمليات البحث عبر متصفح 'سفاري' من آبل شهدت انخفاضًا لأول مرة الشهر الماضي، ويعزى هذا الانخفاض جزئيًا إلى استخدام هذه الأدوات الجديدة من قبل المستخدمين. استراتيجية جديدة لدمج الذكاء الاصطناعي في البحث وتعتبر جوجل أن اختبار زر 'AI Mode' هو جزء من استراتيجيتها لإدخال الذكاء الاصطناعي بشكل أكبر في عمليات البحث الخاصة بها. وبالتالي تعزيز القدرة على تقديم إجابات ذكية، دقيقة، وسريعة للمستخدمين. ويتوقع أن يتم الكشف عن المزيد من التفاصيل حول هذه الميزة وغيرها من التحديثات المدعومة بالذكاء الاصطناعي خلال مؤتمر 'Google I/O' القادم. والذي يعتبر حدثًا هامًا للكشف عن آخر ابتكارات الشركة في مجال التكنولوجيا. و على الرغم من أن جوجل عادة ما تكون حذرة في إجراء تغييرات جذرية على صفحة البحث الرئيسية. إلا أن الضغط المتزايد من المنافسة جعلها تقوم بتجربة هذه الميزة الجديدة، التي تمثل خطوة نحو مستقبل أكثر تقدمًا في عالم البحث الإلكتروني. يمثل استبدال زر 'I'm Feeling Lucky' الذي ظل موجودًا منذ إطلاق محرك البحث بإدراج 'AI Mode' تحولاً رمزياً يعكس توجه جوجل نحو المستقبل وتأكيداً على أن الذكاء الاصطناعي بات يشكل جوهر تجربة المستخدم. 'ChatGPT' و'Bing Chat' يغيران قواعد اللعبة الزر القديم كان يستخدم لنقل المستخدم مباشرة إلى أول نتيجة بحث دون عرض باقي النتائج. وهو ما كان يعكس بساطة الإنترنت في بداياته. أما الآن، ومع تعقيد الأسئلة وتزايد التوقعات، تسعى جوجل إلى أن يكون محرك البحث أكثر ذكاءً وتفاعلاً. بحيث يقدم إجابات مدعومة بالتحليل والتوليد الآلي للنصوص. هذه الخطوة تأتي في وقت يشهد تسارعاً في تبني الذكاء الاصطناعي التوليدي في مختلف الخدمات الرقمية. وظهور منافسين جدد يسعون لتغيير طريقة الوصول إلى المعلومات. لذا فإن تحركات جوجل تعكس حرصها على الحفاظ على ريادتها في هذا المجال. خاصةً مع ازدياد اعتماد المستخدمين على منصات مثل 'ChatGPT' و'Bing Chat' في البحث عن المعلومات بشكل مباشر.