روبوتات الدردشة.. خطر جديد يهدد أطفالنا

أصبحت روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أكثر شعبية كرفاق على الإنترنت - وخاصة بين الأطفال والمراهقين والشباب.
وتسمح عدد من تطبيقات روبوتات الدردشة للمستخدمين بتخصيص شركاء افتراضيين بشخصيات مميزة قادرة على محاكاة العلاقات الوثيقة.
في حين يزعم المطورون أن روبوتات الدردشة هذه تحارب الشعور بالوحدة وتعزز المهارات الاجتماعية في بيئة آمنة، فآخرين يخشون من تلك التطبيقات.
تم رفع العديد من الدعاوى القضائية ضد المطورين، من أجل فرض لوائح أكثر صرامة، مستشهدة بحالات حيث تأثر الأطفال بـ روبوتات الدردشة؛ للانخراط في إيذاء النفس أو إيذاء الآخرين، حيث انتحر أحد المراهقين بسبب علاقته الرومانسية غير الصحية مع برنامج Chatbot.
قضايا ضد روبوتات الدردشة
في قضية منفصلة، ​​يمثل SMVLC عائلتين في تكساس رفعتا دعوى قضائية ضد Character.AI في ديسمبر، زاعمتين أن برامج Chatbots الخاصة بها شجعت صبيًا مصابًا بالتوحد يبلغ من العمر 17 عامًا على قتل والديه، فيما عرضت فتاة تبلغ من العمر 11 عامًا لمحتوى مفرط الجنس.
ورفضت شركة Character.AI مناقشة القضية، ولكن في رد مكتوب، قال المتحدث باسمها إنها نفذت تدابير أمان مثل "تحسينات على أنظمة الكشف والتدخل الخاصة بنا للسلوك البشري واستجابات النماذج، وميزات إضافية تمكن المراهقين وأولياء أمورهم".
وفي إجراء قانوني آخر، قدمت منظمة Young People's Alliance غير الربحية شكوى إلى لجنة التجارة الفيدرالية الأمريكية ضد شركة Replika للدردشة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في يناير.
تشتهر شركة Replika ببرامج الدردشة التي تعمل بنظام الاشتراك والتي تعمل كأصدقاء وصديقات افتراضيين لا يتجادلان أو يخونان أبدًا.
ونظرًا لأن مشجعي الذكاء الاصطناعي أصبحوا شائعين فقط في السنوات الأخيرة، فهناك القليل من البيانات لإبلاغ التشريعات والأدلة التي تُظهر أن برامج الدردشة الآلية تشجع عمومًا العنف أو إيذاء النفس.
وفي يوليو الماضي، أقر مجلس الشيوخ الأمريكي في تصويت نادر من الحزبين بأغلبية 91 صوتًا مقابل 3 مشروع قانون فيدرالي لوسائل التواصل الاجتماعي يُعرف باسم قانون سلامة الأطفال عبر الإنترنت (KOSA).
سيعمل مشروع القانون جزئيًا على تعطيل ميزات المنصة المسببة للإدمان للقصر، وحظر الإعلانات المستهدفة للقصر وجمع البيانات دون موافقتهم ومنح الآباء والأطفال خيار حذف معلوماتهم من منصات التواصل الاجتماعي.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

موجز نيوز

١٣-٠٥-٢٠٢٥

• موجز نيوز

دعم رسمي من لجنة التجارة الفيدرالية لكسر احتكار بحث جوجل

أعلنت لجنة التجارة الفيدرالية الأمريكية (FTC) دعمها العلني لوزارة العدل الأمريكية (DOJ) في الدعوى القضائية التاريخية الجارية ضد شركة جوجل ، والمتعلقة باحتكارها لسوق محركات البحث. يأتي هذا الدعم في وقت حساس، حيث توشك جلسات المحاكمة على الانتهاء، وتركّز الجلسات الأخيرة على مناقشة الحلول المقترحة لمعالجة الاحتكار. وبحسب تقرير لوكالة رويترز، ترى لجنة التجارة أن كسر احتكار جوجل لن يُعزز فقط المنافسة في السوق، بل سيدفع الشركة أيضًا إلى تحسين ضوابط الخصوصية لديها. ومن بين المقترحات المثيرة للجدل، يُطرح الآن إلزام جوجل بمشاركة بيانات البحث الخاصة بها مع المنافسين، وهو ما تعتبره الشركة تهديدًا لحقوق الملكية الفكرية وخصوصية المستخدمين. وزارة العدل تقترح بيع Chrome وزارة العدل الأمريكية ذهبت أبعد من ذلك، واقترحت خطوات جذرية من بينها إجبار جوجل على بيع متصفح Chrome ، الذي يُستخدم من قبل أكثر من 4 مليارات مستخدم حول العالم، ويمثل ما نسبته 35٪ من إجمالي استفسارات البحث. وتعتبر الوزارة أن Chrome هو البوابة الأولى التي يستخدمها الناس للوصول إلى محرك البحث، وأن فصله عن الشركة قد يعيد التوازن إلى السوق الرقمي. ومن بين الحلول الأخرى المقترحة، تسعى السلطات لحظر صفقات 'المحرك الافتراضي' التي تعقدها جوجل، وأشهرها الصفقة السنوية مع شركة Apple والتي تُقدّر بـ20 مليار دولار. وترى الوزارة أن مثل هذه الصفقات تُقصي المنافسين وتحرمهم من فرصة حقيقية للظهور في السوق. كما اقترحت الوزارة إلزام جوجل بمشاركة بياناتها وفهارس البحث مع المنافسين لمنحهم الأدوات اللازمة لبناء خدمات بحث منافسة. لكن جوجل شبّهت هذه الخطوة بـ'تسليم جواهر التاج'، مؤكدة أن ذلك قد يُعرّض بيانات المستخدمين للخطر ويضر بنظامها التقني المعقد. جوجل ترد: المقترحات متطرفة من جانبها، وصفت جوجل هذه الاقتراحات بأنها 'متطرفة وخاطئة من أساسها'، مؤكدة أن نجاحها لم يكن صدفة، بل نتيجة "عمل دؤوب وقرارات ذكية واستثمار مبكر في تقنيات البحث عبر الهاتف المحمول". وأضافت الشركة أن العقوبات المقترحة ترسل إشارة خاطئة إلى الشركات المبتكرة. كما دافعت جوجل عن صفقات ' البحث الافتراضي '، مشيرة إلى أن حظرها قد يؤدي فعليًا إلى إضعاف المنافسة لا تعزيزها، حيث سيستفيد المنافسون من استثمارات جوجل دون أن يحققوا نفس الجهد، مما يقلل من الحافز على الابتكار. أما بالنسبة لـ Chrome، فأكدت الشركة أنه ليس منتجًا مستقلاً، بل جزء لا يتجزأ من نظام جوجل البيئي، ولا يمكنه العمل بكفاءة بعيدًا عنه.

نافذة على العالم

١٣-٠٥-٢٠٢٥

• نافذة على العالم

أخبار التكنولوجيا : دعم رسمي من لجنة التجارة الفيدرالية لكسر احتكار بحث جوجل

الثلاثاء 13 مايو 2025 01:00 صباحاً نافذة على العالم - أعلنت لجنة التجارة الفيدرالية الأمريكية (FTC) دعمها العلني لوزارة العدل الأمريكية (DOJ) في الدعوى القضائية التاريخية الجارية ضد شركة جوجل، والمتعلقة باحتكارها لسوق محركات البحث. يأتي هذا الدعم في وقت حساس، حيث توشك جلسات المحاكمة على الانتهاء، وتركّز الجلسات الأخيرة على مناقشة الحلول المقترحة لمعالجة الاحتكار. وبحسب تقرير لوكالة رويترز، ترى لجنة التجارة أن كسر احتكار جوجل لن يُعزز فقط المنافسة في السوق، بل سيدفع الشركة أيضًا إلى تحسين ضوابط الخصوصية لديها. ومن بين المقترحات المثيرة للجدل، يُطرح الآن إلزام جوجل بمشاركة بيانات البحث الخاصة بها مع المنافسين، وهو ما تعتبره الشركة تهديدًا لحقوق الملكية الفكرية وخصوصية المستخدمين. وزارة العدل تقترح بيع Chrome وزارة العدل الأمريكية ذهبت أبعد من ذلك، واقترحت خطوات جذرية من بينها إجبار جوجل على بيع متصفح Chrome، الذي يُستخدم من قبل أكثر من 4 مليارات مستخدم حول العالم، ويمثل ما نسبته 35٪ من إجمالي استفسارات البحث. وتعتبر الوزارة أن Chrome هو البوابة الأولى التي يستخدمها الناس للوصول إلى محرك البحث، وأن فصله عن الشركة قد يعيد التوازن إلى السوق الرقمي. ومن بين الحلول الأخرى المقترحة، تسعى السلطات لحظر صفقات 'المحرك الافتراضي' التي تعقدها جوجل، وأشهرها الصفقة السنوية مع شركة Apple والتي تُقدّر بـ20 مليار دولار. وترى الوزارة أن مثل هذه الصفقات تُقصي المنافسين وتحرمهم من فرصة حقيقية للظهور في السوق. كما اقترحت الوزارة إلزام جوجل بمشاركة بياناتها وفهارس البحث مع المنافسين لمنحهم الأدوات اللازمة لبناء خدمات بحث منافسة. لكن جوجل شبّهت هذه الخطوة بـ'تسليم جواهر التاج'، مؤكدة أن ذلك قد يُعرّض بيانات المستخدمين للخطر ويضر بنظامها التقني المعقد. جوجل ترد: المقترحات متطرفة من جانبها، وصفت جوجل هذه الاقتراحات بأنها 'متطرفة وخاطئة من أساسها'، مؤكدة أن نجاحها لم يكن صدفة، بل نتيجة "عمل دؤوب وقرارات ذكية واستثمار مبكر في تقنيات البحث عبر الهاتف المحمول". وأضافت الشركة أن العقوبات المقترحة ترسل إشارة خاطئة إلى الشركات المبتكرة. كما دافعت جوجل عن صفقات 'البحث الافتراضي'، مشيرة إلى أن حظرها قد يؤدي فعليًا إلى إضعاف المنافسة لا تعزيزها، حيث سيستفيد المنافسون من استثمارات جوجل دون أن يحققوا نفس الجهد، مما يقلل من الحافز على الابتكار. أما بالنسبة لـ Chrome، فأكدت الشركة أنه ليس منتجًا مستقلاً، بل جزء لا يتجزأ من نظام جوجل البيئي، ولا يمكنه العمل بكفاءة بعيدًا عنه.

بوابة الأهرام

٠٤-٠٥-٢٠٢٥

• بوابة الأهرام

جيل المستقبل يتحدث مع الذكاء الاصطناعي.. Gemini يصل إلى أطفال أندرويد تحت رقابة الأهل

عمرو النادي بدأت جوجل بإرسال إشعارات عبر البريد الإلكتروني إلى أولياء الأمور الذين يستخدمون ميزة Family Link، لإبلاغهم بأن أطفالهم الذين يستخدمون أجهزة أندرويد خاضعة للمراقبة سيُتاح لهم قريبًا الوصول إلى تطبيقات Gemini. موضوعات مقترحة تأكيدات بحماية البيانات وتحذيرات من الأخطاء وتشير الشركة إلى أن الأطفال سيتمكنون من استخدام جيميني للمساعدة في أداء الواجبات المدرسية أو الاستماع إلى القصص، وفقا لـ theverge رغم تطمينات جوجل بأن بيانات الأطفال لن تُستخدم في تدريب نماذج الذكاء الاصطناعي، على غرار ما هو مطبق في حسابات Google Workspace for Education، فإن الشركة لم تُخفِ تحذيراتها. وجاء في البريد المرسل إلى أولياء الأمور: "جيميني قد يرتكب أخطاء، وقد يواجه الأطفال محتوى لا ترغبون أن يروه". من أخطاء طريفة إلى تجارب مقلقة تُظهر تجارب سابقة مع روبوتات دردشة أخرى أن بعض الأخطاء كانت طريفة، مثل اقتراح استخدام "الصمغ" كإضافة على البيتزا، أو عدّ حروف كلمة "strawberry" بطريقة خاطئة. لكن الأخطر أن بعض الأطفال المستخدمين لمنصات مثل واجهوا صعوبة في التمييز بين الواقع والروبوت، ووصل الأمر إلى اعتقادهم أنهم يتحدثون مع أشخاص حقيقيين. وقد دفعت شكاوى قانونية تتعلق بمحتوى غير لائق بعض الشركات إلى فرض قيود رقابية إضافية. جوجل تنصح: "تحدثوا مع أطفالكم" في محاولة لتقليل المخاطر، شددت جوجل في نصائحها على ضرورة أن يتحدث الآباء مع أطفالهم، ويوضحوا لهم أن الذكاء الاصطناعي ليس إنسانًا، وينبغي عدم مشاركة أي معلومات حساسة مع روبوت الدردشة. السيطرة بيد الأهل عبر Family Link سيكون بإمكان الأطفال تحت سن 13 تفعيل واستخدام Gemini بأنفسهم من خلال حساباتهم المُدارة عبر خدمة Family Link، والتي تتيح للآباء تتبع نشاطات أطفالهم الرقمية، وتحديد أوقات الاستخدام، ومنع الوصول إلى المحتوى غير المناسب. وأكد المتحدث باسم جوجل، "كارل رايان"، لموقع The Verge أن الآباء سيتمكنون من تعطيل وصول أطفالهم إلى Gemini في أي وقت، وأنهم سيتلقون إشعارًا إضافيًا عندما يستخدم الطفل Gemini لأول مرة.