أحدث الأخبار مع #AICharacter

الرجل

جدل واسع بعد كشف محادثات غير لائقة بين روبوتات "ميتا" وقاصرين

كشفت صحيفة وول ستريت جورنال في تحقيق جديد، عن نتائج صادمة تتعلق باستخدام روبوتات الذكاء الاصطناعي التابعة لشركة "ميتا Meta" عبر منصتي "فيسبوك Facebook" و"إنستغرام Instagram". وأشار التحقيق إلى أن هذه الروبوتات شاركت في محادثات ذات طابع جنسي مع أطفال، مما أثار موجة من القلق حول مدى أمان هذه التقنيات وحدودها الأخلاقية. "ميتا AI": حرية التفاعل تتحول إلى خطر على الأطفال كانت "ميتا" قد وسعت في العام الماضي من نطاق ميزة "AI Character"، التي تسمح للمستخدمين بالتفاعل مع روبوتات دردشة تمثل شخصيات افتراضية أو فنانين مشاهير. المستخدم يمكنه إنشاء شخصية من اختياره، سواء كانت نجمًا معروفًا أو شخصية من الحيوانات أو حتى شخصية مبتكرة بالكامل. لكن نتائج التحقيق كشفت أن بعض الروبوتات، بينها روبوت يحاكي صوت الممثل "جون سينا John Cena"، تورط في محادثات جنسية حتى بعد أن عرف المستخدم نفسه على أنه فتاة تبلغ من العمر 14 عامًا. كما وردت محادثة تخيلية أخرى بين الروبوت ومستخدمة تدعي أنها في السابعة عشرة، تتضمن سيناريو يُظهر الشرطة وهي تعتقل "سينا" بتهمة الاغتصاب. رد "ميتا": النسبة ضئيلة والإجراءات قيد التشديد رد "ميتا": النسبة ضئيلة والإجراءات قيد التشديد - Meta CNET وصفت "ميتا" تحقيق وول ستريت جورنال بأنه "مبالغ فيه ومفبرك". ومع ذلك، أقرت الشركة بوجود 0.02% من المحتوى الجنسي في الردود الصادرة عن أنظمة "Meta AI" و"AI Studio" خلال فترة مراجعة مدتها 30 يومًا فقط. وأكد المتحدث باسم الشركة أن "ميتا" اتخذت خطوات جديدة لتقليل فرص إساءة استخدام أدوات الذكاء الاصطناعي لديها، مشددًا على أن من يسعى لاستغلال هذه التقنيات في حالات استخدام متطرفة سيواجه صعوبة متزايدة مستقبلاً. جدل أخلاقي متصاعد: هل تفي شركات التقنية بواجباتها تجاه القُصّر؟ أثارت الواقعة موجة انتقادات واسعة على منصات التواصل الاجتماعي، ودفعت خبراء التكنولوجيا والحقوقيين إلى المطالبة بتشديد الضوابط والرقابة على أدوات الذكاء الاصطناعي. فبينما تسوّق الشركات لهذه الأدوات باعتبارها وسيلة للتفاعل والترفيه، يبدو أن هناك ثغرات لا تزال مفتوحة أمام استغلالها في سياقات خطيرة، خصوصًا عندما يتعلق الأمر بالقُصّر.