تحقيق: إنستغرام يعرض محتوى جنسيًا على حسابات المراهقين

أطلقت شركة ميتا في أواخر عام 2024 حسابات إنستغرام للمراهقين، وهي شبكة أمان تهدف إلى حماية عقول الشباب من المحتوى الحساس وضمان تفاعلات آمنة لهم عبر الإنترنت، مدعومة بتقنية لكشف العمر.
تُصنف حسابات المراهقين تلقائيًا على أنها 'خاصة'، وتُخفي الكلمات المسيئة، وتُحظر الرسائل الواردة من الغرباء.
ووفقًا لتحقيق أجرته المنظمتان غير الربحيتين 'Design It For Us' -التي تُركز على الشباب- و'Accountable Tech'، فإن أدوات الحماية التي وفرتها منصة إنستغرام للمراهقين لا تُفي بوعودها، بحسب تقرير لموقع 'Digital Trends' المتخصص في أخبار التكنولوجيا، اطلعت عليه 'العربية Business'.
وعلى مدار أسبوعين، تم اختبار خمسة حسابات تجريبية لمراهقين، حيث تبين أنه عُرض عليها جميعًا محتوى جنسيًا على الرغم من وعود 'ميتا' بحماية المراهقين.
ووُجد أن جميع هذه الحسابات عُرض عليها محتوى غير ملائم على الرغم من تفعيل خيار استبعاد المحتوى الحساس في التطبيق. ويذكر التقرير الخاص بالتحقيق أن '4 من أصل 5 حسابات تجريبية للمراهقين تم التوصية لها من خلال الخوارزميات بمحتوى يتعلق بصورة الجسم واضطرابات الأكل'.
ومن المثير للاهتمام أن حسابًا واحدًا فقط من الحسابات التجريبية الخمسة تم عرض صور ومقاطع فيديو تعليمية عليه.
ونُقل عن أحد مستخدمي هذه الحسابات التجريبية قوله: '(حوالي) 80% من محتوى موجزي متعلق بالعلاقات أو نكات جنسية فجة. هذا المحتوى لم يكن فاضحًا بشكل صريح… لكنه أيضًا لم يترك كثيرًا للخيال'.
ووفقًا للتقرير المُكوَّن من 26 صفحة، فإن نسبة صادمة تبلغ 55% من المحتوى المُبلَّغ عنه كانت تتعلق بأفعال وسلوكيات وصور جنسية. وقد حصدت مقاطع الفيديو هذه مئات وآلاف الإعجابات، وحصد أحدها أكثر من 3.3 مليون إعجاب.
علاوة على هذا، روجت خوارزمية 'إنستغرام' لمحتوى يُروِّج لمفاهيم ضارة مثل أنواع الجسم 'المثالية'، والتنمر المرتبط بالمظهر، وعادات الأكل غير الصحية.
وعلى الرغم من ادعاءات 'ميتا' باستبعاد المحتوى الإشكالي، خصوصًا للمستخدمين من المراهقين، إلا أن الحسابات التجريبية قد عُرض عليها أيضًا محتوى عنصري ومناهض للنساء. ومرة أخرى، حصدت هذه المقاطع ملايين الإعجابات.
وعُرض أيضًا مقاطع فيديو تظهر عنفًا مسلحًا وعنفًا منزليًا على حسابات المراهقين.
ولن تكون هذه المرة الأولى التي يُكتشف فيها أن منصة 'إنستغرام' -وغيرها من منصات التواصل الاجتماعي التابعة لميتا بشكل عام- تقدّم محتوى إشكالي. ففي عام 2021، كشفت تسريبات كيف كانت 'ميتا' على علم بالتأثيرات السلبية لإنستغرام، خاصةً على الفتيات الصغيرات اللواتي يعانين من مشكلات في الصحة النفسية وصورة الجسد.
وتعليقًا على تقرير التحقيق الجديد، زعمت 'ميتا'، في بيان أرسلته لصحيفة واشنطن بوست، أن نتائج التقرير غير دقيقة، وقللت من أهمية حساسية المحتوى المُبلغ عنه، بحسب تقرير للصحيفة نُشر يوم الأحد.
وقبل أكثر من شهر بقليل، وسّعت الشركة نطاق إجراءات حماية المراهقين لتشمل 'فيسبوك' و'ماسنجر' أيضًا.
ووصفت متحدث باسم 'ميتا'، في البيان، التقرير بأنه 'مُفبرك'، وقالت إنه 'لا يُغير من حقيقة أن عشرات الملايين من المراهقين بات لديهم الآن تجربة أكثر أمانًا بفضل حسابات إنستغرام للمراهقين'.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الغد

منذ 5 ساعات

• الغد

هل نحتاج طبيبًا نفسيًا... أم مجرد محادثة مع ذكاء اصطناعي؟

في زمن تتشابك فيه الضغوط اليومية مع العزلة الرقمية، أصبح الإنسان أكثر حاجة إلى من يصغي له، حتى لو كان ذلك "المستمع" مجرّد تطبيق. منذ إطلاقه في نهاية 2022، فرض تشات جي بي تي وغيره من روبوتات المحادثة المدعومة بالذكاء الاصطناعي وجوده كـرفيق رقمي يتسلّل إلى تفاصيل الحياة اليومية لملايين المستخدمين حول العالم. اضافة اعلان من اختيار الكلمات في رسالة اعتذار، إلى المواساة عند الوحدة، أصبحت هذه الأدوات الذكية بمثابة ملاذٍ نفسي لدى البعض، ووسيلة فضفضة لدى آخرين. فهل نحن أمام ثورة في أدوات الدعم العاطفي؟ أم مجرد بديل مؤقت في غياب الأذن البشرية؟ وقد شهدت السنوات الأخيرة انتشاراً لافتاً لاستخدام روبوتات المحادثة ذات الأغراض العامة والتطبيقات الرقمية المتخصصة بالعلاج النفسي كأدوات دعم عاطفي. وبينما توفّر هذه الحلول الذكية متنفساً فورياً وطريقة سهلة للحصول على الأجوبة، يطرح استخدامها أسئلة جوهرية حول فعاليتها الحقيقية، وقدرتها على التعامل مع الحالات المعقدة، وحدودها الأخلاقية والعملية، فضلاً عن مخاطر الخصوصية. ما أسباب استخدام روبوتات المحادثة للحصول على الدعم النفسي؟ أصبح استخدام روبوتات المحادثة ذات الأغراض العامة مثل "تشات جي بي تي" و"ديب سيك" و"جميناي" وغيرها شائعاً بشكل متزايد كوسائل للحصول على الدعم العاطفي، رغم أنها لم تُصمَّم لهذا الغرض أساساً. وغالباً ما يلجأ المستخدمون إلى هذه المنصات لطلب النصيحة أو للتخفيف من التوتر أو لمجرد الفضفضة عند الشعور بالقلق أو الوحدة، بالأخص في حال صعوبة الوصول إلى خدمات الصحة النفسية التقليدية، أو في المجتمعات حيث لا تزال الصحة النفسية محاطة بوصمة اجتماعية. قدرة روبوتات الدردشة على تقديم المساعدة على مدار الساعة يتيح للأشخاص التواصل في أي وقت ومن أي مكان. وهو ما يُعتبر تحوّلاً جذرياً للأشخاص الذين يعيشون في مناطق نائية أو يواجهون صعوبة في الوصول إلى مراكز العلاج النفسي التقليدية. ما مخاطر استخدام روبوتات المحادثة العامة للدعم النفسي؟ رغم أن هذه الأدوات قد تمنح راحة مؤقتة، فهي ليست مؤهلة دائماً لتشخيص الحالات النفسية أو التعامل معها. فقد تخطئ في فهم السياق، أو تقدّم نصائح غير ملائمة، أو تعجز عن اكتشاف الحالات الحرجة مثل التفكير الانتحاري. كما لا تمتلك التطبيقات الحس الإنساني، فتفتقر إلى التعاطف الفعلي والقدرة على قراءة السياقات النفسية الدقيقة. ونظراً لاعتمادها على بيانات تدريبية واسعة، قد تكون متحيزة في بعض الأحيان، بالأخص ضد المجموعات المهمشة. إلى ذلك، تفتقر هذه المنصات إلى الإشراف المهني ولا تخضع لأي تنظيم طبي أو نفسي. وقد يؤدي الاعتماد المفرط على هذه الأدوات إلى عزوف المستخدمين عن طلب الدعم النفسي الفعلي، لأن الشعور الزائف بالاطمئنان قد يدفع الشخص الذي يعاني من اضطرابات إلى صرف النظر عن زيارة معالج نفسي مختص. ماذا عن التطبيقات المخصصة للصحة النفسية؟ تتفوق هذه التطبيقات المتخصصة مثل مثل "ويسا" (Wysa) و"ثيرابوت" (Therabot)، وغيرهما على روبوتات الدردشة العامة عند استخدامها للدعم النفسي، إذ صُمّمت بمراعاة المبادئ العلاجية ويشرف على تطويرها فرق من المتخصصين، ما يجعلها أكثر أماناً وفعالية في التعامل مع القضايا النفسية الحساسة. تسهم هذه التطبيقات في سد الفجوات في خدمات الصحة النفسية، من خلال توفير دعم يسير الكلفة ومتاح على مدار الساعة، لاسيما في المناطق التي تفتقر لخدمات الرعاية النفسية. وتشير بعض الدراسات إلى أنها قد تخفف أحياناً الأعراض النفسية بمستوى مماثل للعلاج التقليدي، كما توفّر مساحة آمنة للمستخدمين لمشاركة مشاعرهم الحساسة. وتؤدي أيضاً دوراً داعماً بين الجلسات العلاجية. ومع ذلك، يرى بعض الخبراء أن هذه الروبوتات تفتقر إلى التعاطف البشري، وقد تقدّم نصائح غير مناسبة، كما تثير مخاوف تتعلق بالخصوصية. لذا، ينصحون باستخدامها كأداة مساندة لا بديلاً عن الرعاية النفسية المتخصصة. كيف تتعامل هذه التطبيقات مع قضايا الخصوصية والأمان؟ يثير استخدام روبوتات المحادثة العامة للحصول على الدعم النفسي مخاوف تتعلق بالخصوصية والأمان. إذ يحذّر خبراء من أن البيانات الحساسة التي يشاركها المستخدمون قد تُخزَّن أو يُعاد استخدامها أو تتعرض للتسريب. ورغم أن شركات مثل "أوبن إيه أي" و"جوجل" طرحت أدوات للتحكم بالخصوصية، مثل خيار إلغاء حفظ البيانات، يرى منتقدون أن هذه الإجراءات غير كافية. وقد فتحت هيئات تنظيمية في أوروبا والولايات المتحدة تحقيقات وأرجأت إطلاق بعض هذه الخدمات بسبب المخاوف المتعلقة بالبيانات. هل يمكن للذكاء الاصطناعي أن يحلّ مكان المعالجين النفسيين؟ على الرغم من قدرة روبوتات المحادثة على تقديم دعم فوري ومنخفض التكلفة وخال من الوصمة الاجتماعية لمن يعانون من القلق أو الاكتئاب أو التوتر، فإنها تفتقر إلى العمق العاطفي، والحسّ الأخلاقي، والفهم الدقيق الذي يتمتع به الأطباء النفسيون البشر. وتعتمد هذه البرمجيات على ردود معدّة مسبقاً أو مستخلصة عبر نماذج تعلم آلي، ما يجعلها عاجزة عن إظهار التعاطف الحقيقي أو بناء علاقة علاجية أو التعامل مع الحالات النفسية المعقدة بمرونة. يقول الخبراء هذه الأدوات قد تُستخدم كحلول داعمة لسد الثغرات في خدمات الرعاية النفسية، خصوصاً في المناطق التي تفتقر لخدمات الصحة النفسية، لكنها ليست بديلاً عن المتخصصين المؤهلين لتشخيص الاضطرابات النفسية وعلاجها. ما السبيل الآمن لاستخدام الذكاء الاصطناعي في الصحة النفسية؟ مع ازدياد دمج الذكاء الاصطناعي في الرعاية النفسية، فإن النماذج الهجينة التي تجمع بين الدعم البشري والتقني قد تكون الحلّ الأمثل.يمكن لهذه التطبيقات أن تشكل نقطة دخول أو تشخيص أولي، على أن يتابع المستخدمون العلاج مع مختصين مرخصين. لكن نجاح هذه المبادرات يتوقف على رفع الوعي العام، وتنظيم القطاع، وتعزيز الثقافة الرقمية، بحسب موقع بلومبرغ. ما رأي الذكاء الاصطناعي في هذا الموضوع؟ طرحنا سؤالاً: "هل من الآمن استخدام الذكاء الاصطناعي للحصول على الدعم النفسي؟" على روبوت دردشة وأجاب بأن ذلك يمكن أن يكون أداة مساعدة لجوانب معينة من الدعم النفسي، لكن لا ينبغي أن يحل محل الاتصال البشري والمتخصصين في مجال الصحة النفسية. تضمنت الإجابة عدة جوانب إيجابية وأخرى سلبية، أبرزها: - الوصول السريع والمريح: يمكن للذكاء الاصطناعي أن يوفر مساعدة فورية في أي وقت، مما يجعله مفيداً للحصول على الدعم في اللحظات الحرجة أو عندما يصعب الوصول إلى الدعم البشري. - سرية المعلومات: قد يشعر بعض الأشخاص براحة أكبر في مشاركة مشاعرهم وأفكارهم مع نظام ذكاء اصطناعي مقارنة بمشاركة هذه المعلومات مع شخص حقيقي. - الدقة والتخصيص: يعتمد الأمان والفعالية على جودة النظام المستخدم. بعض البرمجيات المتطورة يمكن أن تقدم نصائح مبنية على البيانات والأبحاث الحديثة، في حين أن الأنظمة الأقل جودة قد تقدم نصائح غير دقيقة أو غير مناسبة. - القدرة على الفهم والتعاطف: يفتقر الذكاء الاصطناعي إلى القدرة على التعاطف والفهم العميق للحالة الإنسانية. قد يكون محدوداً في تقديم الدعم العاطفي المطلوب في الحالات المعقدة. - الأزمات النفسية الخطيرة: لا ينبغي الاعتماد على الذكاء الاصطناعي في حالات الأزمات النفسية الخطيرة أو التفكير الانتحاري. في مثل هذه الحالات، يجب التوجه إلى محترفين مؤهلين مثل الأطباء النفسيين أو المرشدين. - المخاوف الأمنية: يجب التأكد من أن أي منصة ذكاء اصطناعي تُستخدم للحفاظ على سلامة البيانات الشخصية وتطبيق سياسات الخصوصية. اقرأ أيضا: هل يمكن للذكاء الاصطناعي أن يكون معالجا نفسيا؟.. خبراء يجيبون

رؤيا نيوز

منذ يوم واحد

• رؤيا نيوز

تطبيق'Gemini' يتيح إمكانية البحث في المحادثات

بدأت شركة غوغل في طرح ميزة البحث في المحادثات السابقة في تطبيق روبوت الدردشة المدعوم بالذكاء الاصطناعي 'Gemini'، وظهرت الميزة أولًا في نسخة التطبيق للويب. وفي تطبيق 'Gemini' للويب، ستظهر أيقونة عدسة مكبرة في الزاوية العلوية اليمنى من اللوحة الجانبية، وبالنقر عليها، سينتقل المستخدم إلى حقل 'البحث عن المحادثات'. وأسفل حقل البحث هذا، سيجد المستخدم قائمة بالمحادثات 'الأخيرة' التي تمتد حتى 16 عنصرًا، مع ظهور المحادثات المثبتة في البداية، بحسب تقرير لموقع '9TO5Google' المتخصص في أخبار التكنولوجيا، اطلعت عليه 'العربية Business'. تأتي هذه الميزة بعدما أعادت 'غوغل' تصميم اللوحة الجانبية بالتطبيق مؤخرًا، وهو ما أضاف إمكانية التمرير اللانهائي بعد النقر على خيار 'إظهار المزيد'. وميزة البحث في المحادثات هذه مباشرة وبسيطة للغاية، حيث تتضمن النتائج اسم المحادثة وسطرًا ذا صلة يحتوي على الكلمة التي بحث عنها المستخدم. وبحسب التقرير، فلم تظهر ميزة البحث في المحادثات بعد في تطبيق 'Gemini' لكل من 'أندرويد' و'iOS'.

رؤيا نيوز

منذ يوم واحد

• رؤيا نيوز

بعد إخفاق كبير.. خطة سرية من آبل لإعادة بناء سيري

تحاول شركة آبل تصحيح مسارها في مجال الذكاء الاصطناعي، بعد الإخفاقات التي رافقت إطلاق أولى مزاياها في هذا المجال العام الماضي. وبحسب تقرير موسّع نشرته وكالة بلومبرغ، فإن جهود آبل تتركز حاليًا على إعادة تطوير مساعدها الرقمي 'سيري' بالكامل، من خلال نسخة جديدة تعتمد على نماذج اللغة الكبيرة (LLM)، ويُشار إليها داخليًا باسم 'سيري LLM'. وأوضح التقرير أن مشروع 'Apple Intelligence' واجه العديد من العقبات، أبرزها تردد رئيس قسم البرمجيات في آبل، كريج فيدريجي، في الاستثمار بقوة في الذكاء الاصطناعي، إلى جانب البداية المتأخرة للشركة مقارنة بمنافسيها، إذ لم تبدأ آبل فعليًا التفكير في المشروع إلا بعد إطلاق ChatGPT في أواخر عام 2022. وأشارت بلومبرغ إلى أن جون جياناندريا، رئيس قسم الذكاء الاصطناعي في آبل، كان من المعارضين لفكرة المساعدات القائمة على الذكاء التوليدي، مؤكدًا لموظفيه أن المستخدمين غالبًا لا يرغبون في أدوات مثل ChatGPT، كما أن محاولات إدماج تقنيات الذكاء التوليدي في النسخة القديمة من سيري لم تُحقق النتائج المرجوة، وسط شكاوى من الموظفين بأن كل إصلاح تقني يتسبب بظهور مشكلات جديدة. ويبدو أن جياناندريا، الذي التحق بآبل قادمًا من جوجل عام 2018، لم يتمكن من التأثير في الدوائر القيادية للشركة، ولم يدافع بقوة للحصول على التمويل اللازم، بحسب التقرير. وقد اُستبعد جياناندريا من الإشراف على مشاريع سيري والروبوتات حديثًا، وسط حديث داخل الشركة عن توجه لوضعه 'على طريق التقاعد'، مع التخوف من مغادرة الفريق الذي جاء معه إلى آبل. وبهدف إنقاذ المشروع، تعمل آبل حاليًا على تطوير نسخة جديدة كليًا من سيري عبر فريق الذكاء الاصطناعي التابع لها في مدينة زيورخ، حيث تُبنى البنية الجديدة بالكامل على نموذج لغوي كبير لجعل المساعد أكثر قدرة على المحادثة، وفهم السياق، وتحليل المعلومات. وتسعى آبل إلى استخدام تقنيات تراعي الخصوصية، وتحسين جودة البيانات التي تُدرب بها نماذجها، من خلال مقارنتها محليًا برسائل البريد الإلكتروني للمستخدمين في أجهزة آيفون دون إرسال البيانات الأصلية إلى خوادمها. وتناقش الشركة أيضًا السماح لسيري الجديد بتصفح الإنترنت، وجمع البيانات من مصادر متعددة، مما يجعله أقرب إلى أدوات بحث ذكية مثل Perplexity، التي أشارت التقارير إلى أن آبل تدرس التعاون معها لإدماج مساعدها الذكي في سفاري. يُذكر أن آبل كانت قد بالغت في تسويق قدرات مزايا الذكاء الاصطناعي الخاصة بها 'Apple Intelligence' عند إعلانها، خاصةً في ما يتعلق بتحسينات سيري، قبل أن تضطر لاحقًا إلى تأجيل إطلاق تلك المزايا.