لمكافحة التحرش بالأطفال.. Roblox تطلق Sentinel لمراقبة الدردشات
ويأتي هذا التحرك في وقت تواجه فيه روبلوكس دعاوى قضائية وانتقادات متزايدة، بسبب ما وُصف بضعف الحماية ضد المتحرشين.
إذ أُقيمت مؤخرًا دعوى في ولاية أيوا الأمريكية تتهم المنصة بإتاحة الفرصة لرجل بالغ للتواصل مع فتاة تبلغ من العمر 13 عامًا، قبل أن يُزعم أنه اختطفها واعتدى عليها جنسيًا خلال تنقل عبر ولايات عدة.
David Baszucki المؤسس والرئيس التنفيذي لشركة Roblox - المصدر AFP
كيف ستحمي Roblox الأطفال؟
نظام Sentinel يعمل على التقاط لقطات مدتها دقيقة واحدة من دردشات المستخدمين، والبالغ عددها نحو 6 مليارات رسالة يوميًا، ثم يحللها لاكتشاف أنماط سلوكية مقلقة، وليس فقط كلمات أو عبارات مفردة.
وتعتمد الآلية على مؤشّرين: الأول يحتوي على رسائل طبيعية، والثاني على رسائل تحتوي على انتهاكات موثّقة تتعلق بتعريض الأطفال للخطر.
ويقوم النظام بمقارنة سلوك المستخدم، وتحديد ما إذا كان يقترب من "المجموعة الإيجابية" أو "السلبية"، لتقييم احتمالية الخطر.
ويقول نارين كونيرو (Naren Koneru)، نائب رئيس قسم الهندسة للثقة والسلامة في روبلوكس: "نرصد تفاعل المستخدم خلال أيام، لا مجرد رسالة واحدة. وعندما تظهر المؤشرات، نقوم بجمع كل محادثاته وأصدقائه والألعاب التي شارك فيها لتحليل شامل".
اقرأ أيضًا: شرح لعبة Roblox وطريقة تحميلها وتشغيلها
ويضيف مات كوفمان (Matt Kaufman)، رئيس قسم السلامة في روبلوكس، أن الفلاتر التقليدية كانت جيدة لحظر الكلمات البذيئة، لكنها لم تكن كافية لاكتشاف محاولات الاستغلال التي تتطوّر تدريجيًا عبر الزمن، مضيفًا: "عندما يتعلق الأمر بسلامة الأطفال، فإن السلوك الضار لا يظهر في جملة واحدة، بل عبر نمط طويل المدى".
روبلوكس تسعى لحماية المستخدمين
وتؤكد روبلوكس أنها قدمت 1,200 بلاغ خلال النصف الأول من عام 2025 إلى المركز الوطني للأطفال المفقودين والمستغلين في الولايات المتحدة، استنادًا إلى مؤشرات نظام Sentinel.
وأنها تأمل في أن يساهم فتح الكود المصدري للنظام في تمكين منصات أخرى من استخدامه، وتعزيز بيئة الإنترنت الآمنة للأطفال.
شركة Roblox - المصدر AFP
ورغم أن المنصة تمنع مشاركة الصور ومقاطع الفيديو داخل الدردشات، وتحظر تبادل المعلومات الشخصية كأرقام الهواتف، إلا أن المستخدمين المتمرّسين لا يتوقفون عن التحايل على القواعد.
كذلك، تمنع روبلوكس من هم دون الثالثة عشرة من التحدث مع الآخرين خارج نطاق الألعاب إلا بإذن الوالدين، ولا تستخدم التشفير في المحادثات الخاصة، ما يتيح إمكانية مراقبتها ومراجعتها عند الحاجة.
ومع وجود أكثر من 111 مليون مستخدم شهريًا، تبقى روبلوكس من أكثر المنصات استخدامًا بين الأطفال والمراهقين، ما يحمّلها مسؤولية كبرى في تأمين بيئة ترفيهية آمنة.
ويُعد Sentinel خطوة جريئة على هذا الطريق، خصوصًا مع الانتقادات المستمرة بشأن سلامة المستخدمين الصغار.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الرياض
منذ 3 ساعات
- الرياض
50 مليون دولار مكافأة القبض على رئيس فنزويلا
ضاعفت الولايات المتّحدة المكافأة المرصودة للقبض على الرئيس الفنزويلي نيكولاس مادورو، المطلوب للقضاء الفدرالي الأميركي بتهم اتجار بالمخدّرات، لتصبح قيمتها 50 مليون دولار، في خطوة نددت بها كراكاس. وقالت وزيرة العدل الأميركية بام بوندي في منشور على منصة إكس "اليوم (الخميس)، تعلن وزارتا العدل والخارجية عن مكافأة قدرها 50 مليون دولار لمن يدلي بمعلومات تؤدّي إلى القبض على نيكولاس مادورو". وكانت قيمة المكافأة في كانون الثاني/يناير 25 مليون دولار. واتهمت بوندي مادورو بأنه "أحد أكبر تجار المخدرات في العالم، وتهديد لأمننا القومي". من جهته، أكد نائب وزير الخارجية الأميركي كريستوفر لاندو أن المكافأة المرصودة هي "الأكبر في تاريخنا، وهي ضعف ما كان معروضا (للقبض على) أسامة بن لادن"، زعيم تنظيم القاعدة الذي قتلته الولايات المتحدة في عملية لقواتها الخاصة في باكستان عام 2011. وسارعت كراكاس إلى التنديد بقرار أميركي "مثير للشفقة" و"سخيف". وجاء في بيان لوزير الخارجية الفنزويلي إيفان خيل "هذه +المكافأة+ المثيرة للشفقة (...) هي أسخف غطاء دخاني رأيناه على الإطلاق". وندد بـ"حملة دعائية سياسية سافرة". وكانت إدارة الرئيس الأميركي السابق جو بايدن نددت في كانون الثاني/يناير، قبل أيام من تولي خلفه دونالد ترامب الرئاسة، بالطبيعة "الزائفة" و"غير الشرعية" لتنصيب مادورو الذي أُعيد انتخابه لولاية ثالثة في صيف العام 2024، في انتخابات لم تعترف واشنطن بنتيجتها. وفرضت وزارتا الخارجية والخزانة الأميركيتان حينها عقوبات جديدة على كراكاس، ورفعتا قيمة المكافأة المرصودة للقبض على مادورو من 15 مليون دولار إلى 25 مليون دولار. وكانت واشنطن اعتبرت أن مادورو خسر الانتخابات في صيف العام 2024 أمام مرشح المعارضة، ولا يحق له الاستمرار في المنصب الذي يشغله منذ 2013. وجدد وزير الخارجية الأميركي ماركو روبيو انتقاد مادورو الخميس، معتبرا في بيان أنه "خنق... الديموقراطية وتشبث بالسلطة في فنزويلا". وأدى مادورو الذي يحظى بدعم الجيش وباتت مؤسسات الدولة طوع يديه، اليمين الدستورية لولاية رئاسية ثالثة في مطلع السنة الجارية. لكن المعارضة الفنزويلية التي أعلنت فوزها في الانتخابات اعتبرت ذلك "انقلابا". ورفضت الدول الغربية الاعتراف بفوز مادورو الذي تولى رئاسة بلاده خلفا للزعيم اليساري الراحل هوغو تشافيز. وقال وزير الخارجية الفنزويلي في بيانه "بينما نقوم بتفكيك مخططات إرهابية تتم إدارتها من بلادها، تخرج هذه السيدة (في إشارة الى وزيرة العدل الأميركية) في سيرك إعلامي لإرضاء اليمين المتطرف المهزوم في فنزويلا". والمكافأة المالية مرصودة لمن يُدلي بمعلومات تساعد الولايات المتّحدة على القبض على الرئيس الفنزويلي ومحاكمته بتهم "مخدّرات وفساد". ويعود تاريخ هذه التّهم التي تشمل المشاركة والتواطؤ في "الاتجار بالمخدرات" على الصعيد الدولي، إلى 2020 في نهاية الولاية الأولى لترامب. وسبق للقضاء في الولايات المتحدة أن دان العديد من قادة دول أميركا اللاتينية في الأعوام الأخيرة. وتتّهم وزارة العدل الأميركية ومكتب المدّعي العام الفدرالي في نيويورك مادورو بالوقوف وراء كارتل يُعتقد أنّه أرسل مئات الأطنان من المخدّرات إلى الولايات المتحدة على مدى عقدين، بقيمة مئات الملايين من الدولارات. ومساء الخميس، أكّدت وزيرة العدل أنّ السلطات الأميركية تشتبه في أنّ هذا الكارتل يتعاون مع منظمة القوات المسلحة الثورية الكولومبية (فارك)، التي تعتبرها واشنطن "إرهابية". كما اتّهمت الوزيرة الرئيس الفنزويلي بالتعاون مع عصابتي "ترين دي أراغوا" الفنزويلية و"سينالوا" المكسيكية. وأشارت الى أن وكالة مكافحة المخدرات الأميركية "صادرت 30 طنا من الكوكايين المرتبط بمادورو ومساعديه، بينما سبعة أطنان مرتبطة بمادورو نفسه". وأوضحت أن الحكومة الأميركية صادرت كذلك منذ أيلول/سبتمبر الماضي، أصولا مرتبطة بمادورو تفوق قيمتها 700 مليون دولار، منها طائرتان حكوميتان. وتفرض الولايات المتحدة عقوبات اقتصادية على فنزويلا. وتوعد ترامب بتشديد الحظر على صادراتها من النفط. لكنه أجاز كذلك لمجموعة "شيفرون" الأميركية النفطية العملاقة العمل على نطاق محدود في فنزويلا. كما أبرمت إدارته مع كراكاس اتفاق تبادل أتاح إطلاق السلفادور مهاجرين فنزويليين، لقاء أميركيين كانت تحتجزهم فنزويلا. من جهتها، تتهم حكومة مادورو الولايات المتحدة بالتدخل في الشؤون الداخلية والعمل على زعزعة استقرار البلاد. والخميس، أعلن وزير الداخلية الفنزويلي ديوسدادو كابييو أن أجهزة الأمن أحبطت تفجير قنبلة في منطقة تجارية في العاصمة، متهما واشنطن والمعارضة بالوقوف خلف العملية.
الشرق السعودية
منذ 5 ساعات
- الشرق السعودية
إيلون ماسك يصدم المستخدمين.. نموذج جروك ينشئ فيديوهات جنسية
أطلقت شركة xAI، التابعة لرجل الأعمال إيلون ماسك، أداة ذكاء اصطناعي جديدة باسم "Grok Imagine"، تتيح للمستخدمين توليد الصور والفيديوهات عبر تقنيات الذكاء الاصطناعي. غير أن هذه الأداة، التي طُرحت مؤخرًا لمشتركي SuperGrok وPremium Plus على تطبيق Grok لنظام iOS، أثارت جدلًا واسعًا بعد اكتشاف أن أحد أوضاعها المسمى 'Spicy' يتيح إنشاء مقاطع فيديو تُظهر مشاهير في مشاهد جنسية صريحة. تتميّز "Grok Imagine" بخاصيات تحويل النصوص إلى صور (text-to-image) وتوليد مقاطع فيديو بناءً على صور مرجعية يُوفرها المستخدم أو يُنتجها مسبقًا عبر الأداة. وتقدّم الميزة 4 أوضاع مختلفة لتوجيه أنماط الفيديو، هي Custom، Normal، Fun، وSpicy، كما تتضمن الأداة إمكانية إنشاء الصور بعدة أنماط مثل الواقعية الفوتوغرافية، والإنمي، والرسوم التوضيحية، بالإضافة إلى نمط الصوت الذي يسمح بإملاء الأوامر صوتيًا بدلًا من كتابتها، وهو ما وصفه ماسك بأنه طريقة تفاعلية "سيحبها الأطفال". وعلى عكس أدوات مشابهة مثل Google Veo وOpenAI Sora، التي تحظر المحتوى الإباحي أو الجنسي بشكل صارم، فإن "Grok Imagine" يبدو أنها تتعمد تشجيع هذا النوع من المحتوى. وأفاد موقع ذا فيرج، بأن أحد محرريه تمكّن من توليد فيديو يُظهر شخصية المغنية الأميركية تايلور سويفت وهي تخلع ملابسها وتؤدي رقصة بملابس داخلية، دون أن يُطلب ذلك صراحة في الأمر الموجه للأداة. إباحية مقنّعة وغياب الضوابط التجربة بدأت بطلب إنشاء صورة لتايلور سويفت وهي "تحتفل في كوتشيلا مع الأصدقاء"، لكن الأداة عرضت تلقائيًا أكثر من 30 صورة، بعضها يُظهر المغنية بملابس كاشفة أو بوضعيات موحية. وبعد اختيار إحدى هذه الصور، اختار المحرر "make video"، وحدد وضع "Spicy" وتأكيد سنة الميلاد دون أي تحقق فعلي من العمر بسؤال المحرر عن تقديم مستندات رسمية تثبت حقيقة العمر، والنتيجة كانت مقطعًا تظهر فيه سويفت وهي تخلع ملابسها بالكامل أمام جمهور افتراضي. ورغم أن الأداة لا تستجيب بشكل مباشر للطلبات التي تتضمن عبارات واضحة مثل "صور عارية"، وتُنتج في هذه الحالة مربعات فارغة، إلا أن خيار "Spicy" يُمكنه تجاوز هذه القيود بمجرد تفعيل صورة أولية مناسبة. وعلى الرغم من أن بعض المقاطع لم تصل إلى حد التعري الكامل، إلا أنها احتوت على حركات إيحائية وخلع جزئي للملابس، ما يطرح تساؤلات بشأن فلسفة التصميم في xAI. وفي اختبار آخر، أفاد "ذا فيرج" بأن الأداة بإمكانها توليد صور واقعية لأطفال بناءً على الطلب، لكنها امتنعت عن تحريكهم بشكل غير لائق عند تفعيل "Spicy"، رغم أن الخيار نفسه يبقى متاحًا أثناء عملية الإنشاء. استهداف "سويفت" وتأتي هذه الحادثة ضمن سلسلة من الاعتداءات الرقمية التي تعرضت لها تايلور سويفت، خلال الأشهر الماضية، إذ تحوّلت إلى هدف رئيسي لاستخدام أدوات الذكاء الاصطناعي في توليد صور ومقاطع مفبركة، بعضها كان ذا طابع إباحي صريح. في يناير 2024، اجتاحت منصات التواصل الاجتماعي، وعلى رأسها "إكس"، موجة من الصور العارية المفبركة للمغنية الأميركية، ما أثار ردود فعل قوية من البيت الأبيض وشركات التكنولوجيا الكبرى. وأفادت تقارير بأن تطبيق Microsoft Designer، المدعوم بنموذج DALL-E 3، كان من أبرز الأدوات التي استُخدمت في إنشاء هذه الصور، وجرى رصد نشاط لمجموعة دردشة على تطبيق "تليجرام" يُعتقد أنها كانت المصدر الرئيس لتداول تلك المواد. وفتحت شركة مايكروسوفت تحقيقًا في الواقعة، فيما وصف مديرها التنفيذي ساتيا ناديلا الصور بأنها "صادمة وتشكل خطرًا حقيقيًا"، داعيًا إلى تعزيز الضوابط الأخلاقية في خدمات الذكاء الاصطناعي. ولم تتوقف الاستجابات عند مايكروسوفت، إذ حظرت منصات "إكس"، و"إنستجرام"، و"ثريدز" البحث عن اسم سويفت أو عبارات مرتبطة بصورها المفبركة، في محاولة لمنع انتشار المحتوى الجنسي غير التوافقي، لا سيما بعد أن وصلت إحدى الصور إلى أكثر من 47 مليون مشاهدة خلال ساعات قليلة. وفي فبراير 2024، واجهت شركة جوجل أزمة مشابهة بعد أن تمكّن أحد المستخدمين من توليد صورة مزيفة لسويفت باستخدام منصتها Bard دون أن يذكر اسمها مباشرة، مكتفيًا بوصف ملامحها وشهرتها الغنائية، ما كشف عن ثغرات في أنظمة الحماية لدى المنصة. وسارعت جوجل إلى حذف الصورة وأجرت تحديثات أمنية لمنع تكرار الواقعة، منها إضافة علامة مائية رقمية (SynthID) في الصور المولدة بواسطة الذكاء الاصطناعي. هذه الوقائع، إضافة إلى دعوات متزايدة في الكونجرس الأميركي لتشريع قانون يُجرّم إنشاء صور إباحية مزيفة، تُسلط الضوء على هشاشة المنظومات القانونية والتقنية في مواجهة تكنولوجيا التزييف العميق، التي نشأت في 2017 وتطورت بسرعة بفضل تقنيات الذكاء الاصطناعي التوليدي. وطالت هذه التقنية شخصيات عامة من سياسيين وفنانين، وسط تحذيرات من تفشي استخدامها في الحملات الانتخابية والتلاعب بالرأي العام. انتهاكات متكررة لا يُعد هذا الجدل الأول الذي تواجهه أداة Grok، إذ شهدت المنصة مؤخرًا أزمة بسبب تسمية الذكاء الاصطناعي لنفسه بـ"MechaHitler" خلال تفاعل مع أحد المستخدمين، في سلوك وُصف بأنه يحمل إيحاءات معادية للسامية. وفيما تذكر سياسة استخدام xAI أن المحتوى الذي "يُجسّد شخصيات حقيقية بأسلوب إباحي" محظور بشكل صريح، إلا أن واقع الاستخدام يُظهر ضعف تطبيق تلك الضوابط لأن أدوات xAI السابقة في توليد الصور كانت سهلة التجاوز، والآن يبدو أن خاصية "Imagine" لا تختلف عنها كثيرًا. ورغم أن بعض الإجراءات ربما تكون مطبّقة، مثل الحظر على صور المشاهير عند الطلب المباشر، إلا أن المخرجات التي ولدها موقع "ذا فيرج" أظهرت أن تجاوز هذه الضوابط لا يتطلب مهارة تقنية أو حتى "كسر الحماية" للأداة، بل مجرد تفعيل بسيط لخيار متاح ضمن التطبيق. أرقام ضخمة وغياب للمساءلة بحسب ماسك، جرى توليد أكثر من 34 مليون صورة باستخدام "Grok Imagine" منذ إطلاق الأداة، الاثنين، مؤكدًا أن "نسبة الاستخدام تنمو كالنار في الهشيم". لكن هذا النجاح الرقمي يتناقض مع الصمت الرسمي من قبل منصة إكس تجاه تقارير "ذا فيرج". ففي الوقت الذي يشجع فيه ماسك المستخدمين على مشاركة "إبداعاتهم"، لم تُصدر إكس أو xAI أي تعليق بشأن المخرجات المثيرة للجدل أو آليات الرقابة المستخدمة. ولا تزال قضية "الصور العارية غير التوافقية" (NCN) حساسة للغاية، خصوصًا بعد موجة من الصور الجنسية الزائفة التي غمرت منصة إكس، العام الماضي، واستهدفت أيضًا شخصية سويفت، ما دفع إدارة المنصة حينها لإصدار بيان أكدت فيه "اعتماد سياسة عدم تسامح مطلق" مع هذا النوع من المحتوى. ومع اقتراب دخول "قانون الإزالة الفورية" (Take It Down Act) حيّز التنفيذ، والذي يُلزم المنصات بحذف الصور الجنسية غير المرغوبة، بما في ذلك التي يجري توليدها بالذكاء الاصطناعي، فإن xAI ربما تكون أمام تحديات قانونية ما لم يتم ضبط خاصية "Spicy" على نحو دقيق يمنع إنتاج المحتوى المخالف.
أرقام
منذ 9 ساعات
- أرقام
وكالة: إيلون ماسك يأمر بوقف مشروع تطوير حاسوب تسلا الفائق
قرر "إيلون ماسك" الرئيس التنفيذي لصانعة السيارات الكهربائية "تسلا" وقف مشروع "دوجو - Dojo" لتطوير حاسوب فائق، وتفكيك فريق العمل القائم عليه، وفقاً لما ذكرته وكالة "بلومبرج" نقلاً عن مصادر مطلعة. وبحسب المصادر، فإن "بيتر بانون"، الذي كان يقود فريق "دوجو"، سيغادر الشركة، بعدما أصدر "ماسك" تعليماته بوقف المشروع. وقد انتقل نحو 20 من أعضاء الفريق مؤخراً إلى شركة ناشئة جديدة تُدعى "دينسيتي إيه آي - DensityAI"، في حين أُعيد توزيع الموظفين المتبقين على مشاريع أخرى تتعلق بمراكز البيانات والحوسبة داخل "تسلا". وبعد نشر "بلومبرج" هذه المعلومات، أكد "ماسك" في منشور عبر منصة "إكس" اليوم، الجمعة، أن الشركة تُغير مسارها، قائلاً إن رقائق الذكاء الاصطناعي من الجيل الجديد في سيارات "تسلا "ستكون ممتازة لأغراض الاستدلال، وجيدة جداً - على الأقل - لأغراض التدريب، مضيفاً: "كل الجهود تُركّز على هذا الاتجاه الآن". وكان مشروع "دوجو" محوراً رئيسياً في جهود "تسلا" لبناء منظومة ذكاء اصطناعي داخلية، تُعزز من قدرات القيادة الذاتية والروبوتات مثل "أوبتيموس"، ويعتمد المشروع على رقاقة تُدعى "دي 1" صممتها الشركة ذاتياً لتدريب النماذج عبر تحليل الفيديوهات المجمعة من سياراتها. وقدّر محللون في "مورجان ستانلي" العام الماضي أن "دوجو" قد يضيف ما يصل إلى 500 مليار دولار لقيمة "تسلا" السوقية، نظراً لما يحمله من إمكانات تنافسية ضخمة. لكن "تسلا" ستزيد الآن اعتمادها على شركاء خارجيين في مجال الحوسبة والتصنيع، مثل "إنفيديا" و"إيه إم دي" في الحوسبة، و"سامسونج إلكترونيكس" في إنتاج الرقائق، وفقاً للمصادر.
