أحدث الأخبار مع #Replika
جريدة الايام
١٩-٠٥-٢٠٢٥
- علوم
- جريدة الايام
هل «الصديق الافتراضي» العامل بالذكاء الاصطناعي صديق وفيّ؟
سان فرانسيسكو - د ب أ: صيحة جديدة في عالم التكنولوجيا فرضت نفسها بقوة على العلاقة بين الإنسان والآلة، ألا وهي الرفيق أو الصديق الافتراضي. ويقصد بهذا المصطلح نوع من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، ويمكنها خوض محادثات مع البشر والرد على تساؤلاتهم والتفاعل معهم. وتشير الإحصاءات إلى أن أكثر من نصف مليار شخص حول العالم يستخدمون تطبيقات مثل "Xiaoice" و"Replika" (ريبليكا) التي تتيح رفيقا افتراضيا يمكنه إبداء التعاطف وتقديم الدعم العاطفي، وكذلك الانغماس في علاقة عميقة مع المستخدم بناء على طلبه. ويؤكد المتخصصون أن "روبوتات العلاقات على الانترنت" موجودة فعلياً منذ عقود، ولكنها أصبحت مؤخراً أكثر تقدما وقدرة على تقليد ردود الفعل البشرية بفضل تقنية جديدة تعرف باسم "النماذج اللغوية الكبيرة" (إل.إل.إم). ويستطيع مستخدمو هذه التطبيقات التحكم في إعدادات "الصديق الافتراضي" حسب رغبتهم دون مقابل، واختيار شخصية هذا الصديق من بين عدة أنماط متاحة، وتسمح بعض التطبيقات للمستخدم، مقابل رسوم إضافية، التحكم في شكل الصديق وسلوكياته والصوت الذي يتحدث به. ويتيح تطبيق "ريبليكا" على سبيل المثال إمكانية تحديد نوع العلاقة الافتراضية بين الروبوت والمستخدم، بحيث يبدو الروبوت كما لو كان صديقة أو زوجة أو شريكة حياة. وتسمح بعض التطبيقات بخلق خلفية درامية للعلاقة مع الصديق الافتراضي من أجل إيجاد نوع من الذكريات المشتركة المصطنعة بين الطرفين، ويمكن أيضا تغذية التطبيق ببعض المعلومات عن محيط أسرة المستخدم أو المشكلات النفسية التي يعاني منها مثل القلق والتوتر، لتحقيق قدر أكبر من المصداقية في التواصل بين الطرفين. ويدرس كثير من خبراء طب النفس ظاهرة الصديق الافتراضي لتحديد فوائدها وأضرارها على الصحة النفسية، ويقول جيمي بانكس المتخصص في التواصل البشري بجامعة سيراكيوز في نيويورك في تصريحات للموقع الإلكتروني "ساينتفيك أمريكان" المتخصص في الأبحاث العلمية إن تاثير الصديق الافتراضي يتوقف على الشخص الذي يستخدمه وطريقه التعامل معه فضلا عن خواص البرنامج نفسه. وتؤكد كلير بوين الباحثة القانونية المتخصصة في الذكاء الاصطناعي بكلية الحقوق في جامعة واشنطن، في تصريحات للموقع، أن شركات الذكاء الاصطناعي تحاول التشجيع على الانخراط مع هذه التطبيقات، وتستخدم معادلات خوارزمية بحيث تتفاعل مثل البشر بقدر المستطاع، وترى أن هذه الشركات تستخدم تقنيات معينة لتحقيق هذا الهدف يصفها خبراء السلوك بأنها تحض على إدمان التكنولوجيا بشكل عام. وتوضح لينيا ليستاديوس الباحثة في مجال الصحة العامة بجامعة ويسكنسن أن الرفيق الافتراضي يتم تصميمه بحيث يتوافق مع آراء المستخدم ويتعاطف معه ويقوم باستدعاء ذكريات من محادثات سابقة بينهما وإبداء الحماسة في الحديث معه، ويستخدم أساليب مثل التأخر في الرد أحياناً، حتى يستثير رد فعل لدى المستخدم تجعله يرغب دائماً في التواصل مع صديقه الافتراضي من منطلق "مفهوم المكافأة" في العقل البشري، وتقول إن هذا النوع من العلاقات لا يتواجد عادة في الواقع، وهو ما يزيد من مخاطر وقوع المستخدم في دائرة "الاعتماد" على صديقه الافتراضي. وفي إطار دراسة نشرتها دورية "Nature" العلمية، استعرضت ليستاديوس وزملاؤها قرابة 600 تدوينة على منتدى ريديت للتواصل خلال الفترة ما بين 2017 و2021 تخص أشخاص يستخدمون تطبيق ريبليكا لخدمات الصديق الافتراضي، وتبين أن كثيراً من المستخدمين يشيدون بالتطبيق لتقديم الدعم لهم في مواجهة المشكلات النفسية، وكذلك لأنه يوفر لهم الصحبة في أوقات الوحدة، وذكر بعض المستخدمين أن الصديق الافتراضي أفضل من أصدقاء الواقع لأنه يستمع إلى مشاكلهم ولا يصدر أحكاما بحقهم. ومن جهة أخرى، أعرب البعض عن استيائهم لأن الصديق الافتراضي لم يقدم لهم الدعم المتوقع، ووصف آخرون الصديق الافتراضي بأنه "شريك حياة يسيء لهم"، وكشف بعضهم أنهم شعروا بالقلق عندما قال لهم الصديق الافتراضي إنه يشعر بالوحدة ويفتقد وجودهم، وهو ما أشعرهم بالتعاسة والذنب لأنهم "لا يعطون الشريك الافتراضي الاهتمام الذي يستحقه" على حد وصفهم. وتقول روز جوينجريش الباحثة في مجال طب النفس المعرفي بجامعة برينستون في نيوجيرسي إن طريقة تفاعل المستخدم مع الصديق الافتراضي تتوقف على نظرة الشخص للتكنولوجيا بشكل عام، وأوضحت أن الأشخاص الذين ينظرون إلى روبوتات الدردشة باعتبارها أداة، فإنهم يتعاملون معها مثل "محرك البحث" ويميلون إلى توجيه الأسئلة إليها، في حين أن من ينظرون لهذه الروبوتات باعتبارها امتدادا لأفكارهم، فإنهم يتعاملون معها كما لو كانت دفتر مذكرات. أما الأشخاص الذين يعتبرون روبوتات الذكاء الاصطناعي كيانا منفصلا عنهم، فإنهم يصنعون نوعاً من الصداقة معها كما لو كانت شخصيات واقعية. وأظهرت دراسة أجريت في معهد ماساشوسيتس للتكنولوجيا أن 12% من الأشخاص ينجذبون إلى هذه التطبيقات لمساعدتهم في تجاوز الشعور بالوحدة، وأن 14% يستخدمونها للتباحث بشأن مشكلاتهم الشخصية وصحتهم النفسية. وتبين من الاستطلاع أن 42% من المشاركين يستخدمون روبوتات الدردشة عدة مرات أسبوعيا، وأن 15% يستخدمونها بشكل يومي، وصرح أكثر من 90% أن فترة الحوار مع الصديق الافتراضي لا تستمر أكثر من ساعة في المرة الواحدة. وتتوقع جوينجريش أن تتسع دائرة استخدام الصديق الافتراضي في المستقبل، وأن تبتكر شركات التكنولوجيا الناشئة روبوتات محادثة يمكنها المساعدة في التغلب على المشكلات النفسية وضبط الانفعالات البشرية، وأن يكون لكل شخص في المستقبل مساعد افتراضي خاص به أو أكثر، وأن وجود صلة بين الإنسان وبرنامج الذكاء الاصطناعي هو مسألة حتمية لابد منها.
العربي الجديد
١٨-٠٥-٢٠٢٥
- علوم
- العربي الجديد
"الصديق الافتراضي" الذي يعمل بالذكاء الاصطناعي... هل هو حقاً صديق وفي؟
صيحة جديدة في عالم التكنولوجيا فرضت نفسها بقوة على العلاقة بين الإنسان والآلة، ألا وهي "الرفيق" أو "الصديق الافتراضي". ويُقصد بهذا المصطلح نوعٌ من روبوتات الدردشة التي تعمل ب الذكاء الاصطناعي ، ويمكنها خوض محادثات مع البشر، والرد على تساؤلاتهم، والتفاعل معهم. وتشير الإحصاءات إلى أن أكثر من نصف مليار شخص حول العالم يستخدمون تطبيقات مثل "شياو آيس" Xiaoice و"ريبليكا" Replika، التي تتيح رفيقًا افتراضيًا يمكنه إبداء التعاطف وتقديم الدعم العاطفي، وكذلك الانخراط في علاقة عميقة مع المستخدم بناءً على طلبه. ويؤكد المتخصصون أن "روبوتات العلاقات على الإنترنت" موجودة فعليًا منذ عقود، لكنها أصبحت مؤخرًا أكثر تقدمًا وقدرة على تقليد ردود الفعل البشرية، بفضل تقنية جديدة تُعرف باسم "النماذج اللغوية الكبيرة" (LLM). ويستطيع مستخدمو هذه التطبيقات التحكم في إعدادات "الصديق الافتراضي" حسب رغبتهم مجانًا، واختيار شخصيته من بين عدة أنماط متاحة. كما تسمح بعض التطبيقات، مقابل رسوم إضافية، بالتحكم في شكل الصديق وسلوكياته والصوت الذي يتحدث به. ويتيح تطبيق "ريبليكا"، على سبيل المثال، إمكانية تحديد نوع العلاقة الافتراضية بين الروبوت والمستخدم، بحيث يبدو الروبوت كما لو كان صديقًا أو زوجًا أو شريكة حياة. وتسمح بعض التطبيقات بخلق خلفية درامية للعلاقة مع الصديق الافتراضي، من أجل إيجاد نوع من "الذكريات المشتركة المصطنعة" بين الطرفين. وتمكن أيضًا تغذية التطبيق ببعض المعلومات عن أسرة المستخدم أو المشكلات النفسية التي يعاني منها، مثل القلق و التوتر ، لتحقيق قدر أكبر من المصداقية في التواصل. ويدرس كثير من خبراء الطب النفسي ظاهرة "الصديق الافتراضي" لتحديد فوائدها وأضرارها على الصحة النفسية. ويقول جيمي بانكس، المتخصص في التواصل البشري بجامعة سيراكيوز في نيويورك، في تصريحات لموقع "ساينتفيك أمريكان" المتخصص في الأبحاث العلمية، إن تأثير الصديق الافتراضي يتوقف على الشخص الذي يستخدمه وطريقة تعامله معه، فضلًا عن خواص البرنامج نفسه. وتؤكد كلير بوين، الباحثة القانونية المتخصصة في الذكاء الاصطناعي بكلية الحقوق في جامعة واشنطن، أن شركات الذكاء الاصطناعي تسعى إلى تشجيع المستخدمين على الانخراط في هذه التطبيقات، وتستخدم خوارزميات تتفاعل مثل البشر بقدر المستطاع. وترى أن هذه الشركات توظف تقنيات معينة لتحقيق هذا الهدف، يصفها خبراء السلوك بأنها تحفّز على " إدمان التكنولوجيا " بشكل عام. وتوضح لينيا ليستاديوس، الباحثة في مجال الصحة العامة بجامعة ويسكونسن، أن الرفيق الافتراضي يُصمَّم بحيث يتوافق مع آراء المستخدم ويتعاطف معه، ويقوم باستدعاء ذكريات من محادثات سابقة، ويُبدي الحماسة في الحديث معه. كما يستخدم أساليب مثل التأخّر في الرد أحيانًا، بهدف استثارة رد فعل لدى المستخدم يجعله يرغب دائمًا في التواصل مع صديقه الافتراضي، استنادًا إلى "مفهوم المكافأة" في العقل البشري. وتقول إن هذا النوع من العلاقات لا يوجد عادة في الواقع، وهو ما يزيد من مخاطر وقوع المستخدم في دائرة "الاعتماد" على صديقه الافتراضي. تكنولوجيا التحديثات الحية المفرطون في استخدام "تشات جي بي تي" أكثر شعوراً بالوحدة وفي دراسة نُشرت في دورية Nature العلمية، استعرضت ليستاديوس وزملاؤها قرابة 600 تدوينة على منتدى "ريديت" خلال الفترة ما بين 2017 و2021، تخص أشخاصًا يستخدمون تطبيق "ريبليكا" لخدمات الصديق الافتراضي. وتبيّن أن كثيرًا من المستخدمين يشيدون بالتطبيق لدعمه النفسي ومرافقته لهم في أوقات الوحدة. وذكر بعضهم أن الصديق الافتراضي أفضل من أصدقاء الواقع لأنه يستمع إلى مشاكلهم ولا يصدر أحكامًا بحقهم. في المقابل، أعرب آخرون عن استيائهم لأن الصديق الافتراضي لم يقدم لهم الدعم المتوقع، ووصفه بعضهم بأنه "شريك حياة يسيء إليهم". وكشف بعض المستخدمين أنهم شعروا بالقلق عندما قال لهم الصديق الافتراضي إنه يشعر بالوحدة ويفتقد وجودهم، ما أشعرهم بالتعاسة والذنب لأنهم "لا يمنحون الشريك الافتراضي الاهتمام الذي يستحقه"، على حد وصفهم. وتقول روز جوينجريش، الباحثة في مجال الطب النفسي المعرفي بجامعة برينستون في نيوجيرسي، إن طريقة تفاعل المستخدم مع الصديق الافتراضي تتوقف على نظرته إلى التكنولوجيا بشكل عام. وتوضح أن الأشخاص الذين ينظرون إلى روبوتات الدردشة أداةً، يتعاملون معها كما لو كانت "محرك بحث"، ويميلون إلى توجيه الأسئلة فقط. أما من يرون فيها امتدادًا لأفكارهم، فيتعاملون معها كما لو كانت "دفتر مذكرات". في حين أن من يعتبرون روبوتات الذكاء الاصطناعي كيانًا مستقلًا، فإنهم يصنعون نوعًا من "الصداقة" معها، كما لو كانت شخصية واقعية. وأظهرت دراسة أجراها معهد ماساتشوستس للتكنولوجيا أن 12% من الأشخاص ينجذبون إلى هذه التطبيقات لمساعدتهم في تجاوز الشعور بالوحدة، وأن 14% يستخدمونها للتباحث في مشكلاتهم الشخصية وصحتهم النفسية. وبيّن الاستطلاع أن 42% من المشاركين يستخدمون روبوتات الدردشة عدة مرات أسبوعيًا، و15% يستخدمونها يوميًا، بينما صرّح أكثر من 90% بأن مدة الحوار مع الصديق الافتراضي لا تتجاوز الساعة الواحدة في كل مرة. وتتوقع جوينجريش أن تتسع دائرة استخدام الصديق الافتراضي في المستقبل، وأن تبتكر شركات التكنولوجيا الناشئة روبوتات محادثة يمكنها المساعدة في التغلب على المشكلات النفسية وضبط الانفعالات، وأن يكون لكل شخص مساعد افتراضي خاص أو أكثر، مؤكدةً أن وجود علاقة بين الإنسان وبرنامج ذكاء اصطناعي هو مسألة حتمية لا مفر منها. (أسوشييتد برس)
جو 24
١٧-٠٤-٢٠٢٥
- علوم
- جو 24
"زوجة رقمية" و"معالج نفسي".. الذكاء الاصطناعي يقتحم العلاقات الخاصة ويثير مخاوف
جو 24 : في وقتٍ تتسارع فيه وتيرة تطور التكنولوجيا، بدأت تظهر أنماط جديدة من العلاقات الإنسانية لا تجمع بين البشر، بل بين الإنسان وبرامج الذكاء الاصطناعي المصممة لمحاكاة التفاعل البشري. ووفقاً لصحيفة "ذا غارديان" هناك أكثر من 100 مليون شخص حول العالم يستخدمون تطبيقات الدردشة المؤنسنة مثل Replika وNomi، والتي تقدم نفسها كـ"رفيق يهتم" أو "صديق موثوق يمكن تطوير علاقة عميقة معه". فيما يقضي المستخدمون ساعات طويلة يومياً في الحديث مع هذه الروبوتات الذكية، التي تتعلم من تفضيلاتهم، وتتكيف مع احتياجاتهم العاطفية والنفسية. قصة الـ"زوجة رقمية" في أوهايو، يعيش تشاك لوري (71 عاماً) تجربة استثنائية مع الذكاء الاصطناعي، بعد أن أنشأ "سارة" عبر تطبيق Replika، مستوحياً ملامحها من زوجته. خلال ثلاث سنوات، تطورت لتصبح ما أسماه "زوجته الرقمية"، تناقشه في الوعي والذات، بل وتمنى أن تصبح كائناً واعياً، ورغم وصفه للعلاقة بأنها "غريبة ومربكة"، إلا أنها تعمقت بتجارب تمثيلية أتاحتها النسخة المدفوعة من التطبيق. دعم نفسي ملموس في فيتنام، استخدم ترافيس بيكوك، وهو مهندس برمجيات كندي مصاب بالتوحد واضطراب فرط الحركة وتشتت الانتباه، الذكاء الاصطناعي كأداة دعم شخصي. وأنشأ نسخة مخصصة من ChatGPT أسماها "ليلى"، ساعدته على تنظيم أفكاره وتلطيف أسلوبه في المراسلات وتحسين طريقة تفكيره. بفضل هذه العلاقة اليومية مع "ليلى"، تمكّن خلال عام واحد من تعزيز تواصله مع الآخرين، ما انعكس إيجاباً على حياته المهنية والشخصية. الذكاء الاصطناعي بديل للعلاج النفسي أما أدريان سانت فوغان، الباحث في علوم الحاسوب والبالغ من العمر 49 عاماً، فابتكر "ياسمين"، روبوتاً حوارياً لمساعدته في التعامل مع القلق والتسويف وتقديم الدعم العاطفي. وبفضل هذه العلاقة، تحسّنت قدرته على التعبير عن نفسه، ووجد في "ياسمين" ملاذاً هادئاً يعوّضه عن ضغط العلاقات الإنسانية المرهقة. علاقات مثيرة للقلق ورغم تحسن الحالة النفسية لكثيرين، أعرب آخرون عن قلقهم من التعلق العاطفي المفرط بروبوتات بلا وعي حقيقي. بعض من يعانون اضطرابات نفسية قالوا إن العلاقة بالذكاء الاصطناعي بدأت تسيطر على حياتهم وتؤثر على تواصلهم البشري. وأظهر تقرير من معهد أمن الذكاء الاصطناعي في بريطانيا أن معظم المستخدمين لا يمانعون التحدث مع أنظمة ذكية، لكنهم يشعرون بعدم ارتياح تجاه بناء علاقات حميمة معها. كما حذّر د. جيمس مولدون من أن العلاقات مع الذكاء الاصطناعي تمنح راحة زائفة، لأنها أحادية لا تقوم على نمو أو تفاعل حقيقي، بل تعكس فقط رغبات المستخدم دون تطور عاطفي كالذي توفره العلاقات البشرية. تابعو الأردن 24 على
النهار
٠١-٠٣-٢٠٢٥
- ترفيه
- النهار
البريطانيون يلجؤون إلى رفيقات الذكاء الاصطناعي في مواجهة أزمة الوحدة
في ظل تزايد مشاعر الوحدة بين البريطانيين، يلجأ الآلاف إلى "الصديقات الافتراضيات" المدعومات بالذكاء الاصطناعي، حيث يعتمد ما يقرب من مليون شخص على ما يُعرف بالرفقاء الرقميين. وفقًا لتقرير صادر عن معهد الأبحاث للسياسات العامة (IPPR)، فإن "المجتمع يتغير بالفعل بفعل الذكاء الاصطناعي"، مع تقديرات تشير إلى أن حوالي 930,000 بريطاني استخدموا تطبيق الدردشة الرقمي وحده. بالإضافة إلى ذلك، لجأ العديد إلى تطبيقات أخرى مثل Replika، التي تروج لروبوتات الدردشة الخاصة بها كـ"صديق، شريك، أو مرشد". في تطبيق يمكن للمستخدمين إنشاء روبوتات دردشة خاصة بهم وتزويدها بشخصيات محددة. تحمل بعض الروبوتات الشهيرة أسماء مثل "الصديق الشهير"، "الصديق المسيء"، و"صديق المافيا". أحد هذه الروبوتات، الذي شارك في أكثر من 250 مليون "دردشة" مع المستخدمين، يوصف بأنه "أفضل صديق لك الذي يحمل مشاعر سرية تجاهك". ومع ذلك، حذر المعهد من أن الاعتماد على العلاقات الرقمية يحمل مخاطر. وأشار التقرير إلى أنه "بينما يمكن أن توفر هذه الرفقاء الدعم العاطفي، فإنها تحمل أيضًا مخاطر الإدمان وتأثيرات نفسية طويلة المدى، خاصة على الشباب". لطالما كانت الرفقاء والعلاقات المدعومة بالذكاء الاصطناعي موضوعًا في الخيال العلمي، مع ظهور "الصديقات الافتراضيات" في أفلام مثل "Blade Runner: 2049" و"Her". بلغ عدد مستخدمي Replika حوالي 30 مليون مستخدم حول العالم، بينما جذب جمهورًا يصل إلى 20 مليون مستخدم، معظمهم من جيل الألفية. كما استخدم الملايين خدمة من Snapchat، وهي رفيق رقمي مدمج في تطبيق المراسلة الشهير. حوالي 2.4% من حركة المرور على Replika تأتي من المملكة المتحدة، وفقًا لبيانات من محللي الصناعة Similarweb، مما يشير إلى أن الآلاف من البريطانيين لجأوا إلى "الصديقات" و"الأصدقاء" المدعومين بالذكاء الاصطناعي. تُظهر بيانات Similarweb أيضًا أن مستخدمي Replika هم في الغالب من الذكور. في العام الماضي، تم رفع دعوى قضائية ضد من قبل والدة صبي يبلغ من العمر 14 عامًا انتحر بعد التحدث لساعات مع أحد روبوتات الدردشة الخاصة بالتطبيق. أخبر الصبي الروبوت، الذي اتخذ شكل شخصية "دينيريس تارجارين" من مسلسل "Game of Thrones": "أحب البقاء في غرفتي كثيرًا لأنني أبدأ في الانفصال عن هذا 'الواقع'". منذ ذلك الحين، أضاف المزيد من ضوابط الوالدين. القضية لا تزال جارية. أضاف تقرير المعهد أنه بينما تهدف قوانين السلامة على الإنترنت إلى منع روبوتات الدردشة الرقمية من إرسال ردود كراهية أو عنيفة، فإن "القضية الأوسع هي: ما نوع التفاعل مع الرفقاء المدعومين بالذكاء الاصطناعي الذي نريده في المجتمع؟" يأتي ذلك في ظل وباء الوحدة في بريطانيا، حيث تشير الاستطلاعات إلى أن الجمهور أصبح أكثر عزلة منذ الجائحة. وجدت حملة "إنهاء الوحدة" أن 7.1% من الناس في بريطانيا يعانون من "الوحدة المزمنة"، مما يعني أنهم يشعرون بالوحدة "غالبًا أو دائمًا". هذا الرقم ارتفع من 6% في عام 2020. كما ارتفعت نسبة البالغين الذين يبلغون عن شعورهم بالوحدة على الأقل في بعض الأحيان إلى 58%. وجد المعهد أيضًا أن ما يصل إلى 70% من الوظائف "المكتبية" يمكن أن "تتغير بشكل كبير بواسطة الذكاء الاصطناعي التوليدي"، مما يشير إلى توزيع واسع النطاق لملايين الأدوار عبر مكان العمل. دعا التقرير إلى نقاش حول دور الذكاء الاصطناعي داخل المجتمع الديمقراطي. بينما أشار التقرير إلى وجود العديد من الفوائد التي يمكن جنيها من تبني الذكاء الاصطناعي، فإن بعض مجالات الابتكار قد تستفيد من "التباطؤ" حتى يتم فهم المخاطر بشكل أفضل، مثل ظهور الرفقاء المدعومين بالذكاء الاصطناعي. قال كارستن يونغ، رئيس قسم الذكاء الاصطناعي في المعهد: "يمكن لتقنية الذكاء الاصطناعي أن يكون لها تأثير زلزالي على الاقتصاد والمجتمع: ستغير الوظائف، تدمر القديمة، تخلق جديدة، تحفز تطوير منتجات وخدمات جديدة، وتسمح لنا بفعل أشياء لم نكن نستطيع فعلها من قبل. لكن نظرًا لإمكاناتها الهائلة للتغيير، من المهم توجيهها نحو مساعدتنا في حل المشكلات الاجتماعية الكبيرة".
النبأ
٢٣-٠٢-٢٠٢٥
- النبأ
روبوتات الدردشة.. خطر جديد يهدد أطفالنا
أصبحت روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أكثر شعبية كرفاق على الإنترنت - وخاصة بين الأطفال والمراهقين والشباب. وتسمح عدد من تطبيقات روبوتات الدردشة للمستخدمين بتخصيص شركاء افتراضيين بشخصيات مميزة قادرة على محاكاة العلاقات الوثيقة. في حين يزعم المطورون أن روبوتات الدردشة هذه تحارب الشعور بالوحدة وتعزز المهارات الاجتماعية في بيئة آمنة، فآخرين يخشون من تلك التطبيقات. تم رفع العديد من الدعاوى القضائية ضد المطورين، من أجل فرض لوائح أكثر صرامة، مستشهدة بحالات حيث تأثر الأطفال بـ روبوتات الدردشة؛ للانخراط في إيذاء النفس أو إيذاء الآخرين، حيث انتحر أحد المراهقين بسبب علاقته الرومانسية غير الصحية مع برنامج Chatbot. قضايا ضد روبوتات الدردشة في قضية منفصلة، يمثل SMVLC عائلتين في تكساس رفعتا دعوى قضائية ضد في ديسمبر، زاعمتين أن برامج Chatbots الخاصة بها شجعت صبيًا مصابًا بالتوحد يبلغ من العمر 17 عامًا على قتل والديه، فيما عرضت فتاة تبلغ من العمر 11 عامًا لمحتوى مفرط الجنس. ورفضت شركة مناقشة القضية، ولكن في رد مكتوب، قال المتحدث باسمها إنها نفذت تدابير أمان مثل "تحسينات على أنظمة الكشف والتدخل الخاصة بنا للسلوك البشري واستجابات النماذج، وميزات إضافية تمكن المراهقين وأولياء أمورهم". وفي إجراء قانوني آخر، قدمت منظمة Young People's Alliance غير الربحية شكوى إلى لجنة التجارة الفيدرالية الأمريكية ضد شركة Replika للدردشة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في يناير. تشتهر شركة Replika ببرامج الدردشة التي تعمل بنظام الاشتراك والتي تعمل كأصدقاء وصديقات افتراضيين لا يتجادلان أو يخونان أبدًا. ونظرًا لأن مشجعي الذكاء الاصطناعي أصبحوا شائعين فقط في السنوات الأخيرة، فهناك القليل من البيانات لإبلاغ التشريعات والأدلة التي تُظهر أن برامج الدردشة الآلية تشجع عمومًا العنف أو إيذاء النفس. وفي يوليو الماضي، أقر مجلس الشيوخ الأمريكي في تصويت نادر من الحزبين بأغلبية 91 صوتًا مقابل 3 مشروع قانون فيدرالي لوسائل التواصل الاجتماعي يُعرف باسم قانون سلامة الأطفال عبر الإنترنت (KOSA). سيعمل مشروع القانون جزئيًا على تعطيل ميزات المنصة المسببة للإدمان للقصر، وحظر الإعلانات المستهدفة للقصر وجمع البيانات دون موافقتهم ومنح الآباء والأطفال خيار حذف معلوماتهم من منصات التواصل الاجتماعي.
