الذكاء الاصطناعي تحت مجهر الاتهام
ووفقًا لتقرير نشرته منظمة MediaMatters، ظهرت مؤخراً حسابات على "تيك توك" تبث مقاطع قصيرة لا تتجاوز ثماني ثوانٍ، تحمل مضامين عنصرية فجة، ومعادية للسامية، ومليئة بالصور النمطية المسيئة.
وتستهدف هذه المقاطع في الغالب أصحاب البشرة السمراء، حيث تُصورهم على أنهم "مشتبه بهم دائمون"، وتكرر كاريكاتيرات قديمة تربطهم بالقرود أو توحي بغياب الآباء، إضافة إلى استهداف مهاجرين عبر إيحاءات مسيئة، بحسب تقرير نشره موقع "arstechnica" واطلعت عليه "العربية Business".
ما يزيد الوضع خطورة هو أن هذه المقاطع صُنعت بواسطة Veo 3، نموذج الفيديو القوي من "غوغل"، حيث تظهر علامة "Veo" عليها بوضوح، ما يربطها مباشرة بتكنولوجيا الشركة.
الذكاء الاصطناعي ينفلت من الضوابط
رغم تأكيد "غوغل" على التزامها الصارم بسياسات الأمان عند إطلاق Veo 3 في مايو الماضي، إلا أن اختبارات بسيطة أُجريت على النموذج أظهرت سهولة التلاعب به لإنتاج محتوى عنصري، باستخدام تعليمات مبهمة لكنها فعّالة في تجاوز الحواجز الأخلاقية والتقنية.
ويبدو أن قدرة Veo 3 على تقديم مقاطع عالية الجودة ساهمت في انتشار هذا المحتوى بشكل أوسع، حيث أصبح الذكاء الاصطناعي، بحسب التقرير، وسيلة مقلقة لتعزيز الصور النمطية والكراهية، خاصة على منصات تحظى بشعبية هائلة مثل "تيك توك".
سياسات صارمة وتنفيذ محدود
رغم أن إرشادات مجتمع "تيك توك" تحظر بشكل قاطع خطاب الكراهية بجميع أشكاله، فإن التطبيق لم يتمكن من منع تداول تلك المقاطع، التي حصدت آلاف المشاهدات والتعليقات المحرّضة.
قال متحدث باسم "تيك توك" إن المنصة حظرت أكثر من نصف الحسابات المخالفة الواردة في تقرير "MediaMatters" قبل نشره، وأغلقت ما تبقى بعد ذلك، مؤكدًا أن المنصة تعتمد على مزيج من الخوارزميات والمراجعين البشريين لضبط المحتوى.
لكن التحدي الأكبر، كما يبدو، يكمن في حجم التحميلات الهائل، الذي يصعّب من مهمة الإشراف الفوري، ما يترك ثغرات يستغلها البعض لنشر محتوى تحريضي وخطير.
"غوغل" تحت المجهر
بدورها، تلتزم "غوغل" بسياسات صارمة تحظر استخدام خدماتها لنشر خطاب الكراهية أو المضايقات أو التنمر، لكن تقرير "MediaMatters" أشار إلى أن فيديوهات Veo 3 تندرج بشكل واضح تحت هذه الفئات.
ورغم ذلك، فشل النموذج في منع إنشاء مثل هذه المقاطع، ما يطرح تساؤلات حقيقية حول فعالية الضوابط التقنية التي وضعتها الشركة.
المثير للقلق أن "غوغل" تخطط لإدماج Veo 3 قريبًا في "يوتيوب شورتس"، الأمر الذي قد يفتح الباب واسعًا أمام موجة جديدة من المحتوى المسيء على منصات الفيديو القصيرة.
ورغم أن "غوغل" لم تُصدر حتى الآن تعليقًا رسميًا بشأن الإجراءات الوقائية التي تُطبقها داخل Veo 3، إلا أن التجربة أثبتت أن الخط الفاصل بين الإبداع والإساءة يمكن تجاوزه بسهولة إذا لم تُفرض رقابة صارمة وفعالة.
الذكاء الاصطناعي سلاح ذو حدين
هذه الحادثة تسلط الضوء مجددًا على الجانب المظلم للذكاء الاصطناعي التوليدي، الذي تحول من أداة إبداعية إلى وسيلة يمكن استغلالها لنشر الكراهية والتحريض.
ورغم محاولات شركات التكنولوجيا لفرض "حواجز أمان"، إلا أن النماذج المتقدمة مثل Veo 3 تظل عرضة لسوء الاستخدام، خاصة مع اتساع قدرتها على فهم وتنفيذ الأوامر المبطنة.
وفي ظل تزايد انتشار هذه التقنيات، بات من الضروري إعادة النظر في منظومة الرقابة، وتكثيف الجهود لمكافحة الاستخدام المسيء للذكاء الاصطناعي، قبل أن يتحول إلى أزمة أخلاقية وتقنية يصعب احتواؤها.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العربية
منذ 2 ساعات
- العربية
"Gemini" سيصل لنظام "Wear OS" مع ساعات غالاكسي ووتش 8
ذكرت تسريبات جديدة أن المساعد الذكي "Gemini" سيصل لنظام تشغيل "Wear OS" للأجهزة القابلة للارتداء مع سلسلة ساعات " غالاكسي ووتش 8" المقبلة من شركة سامسونغ. ومن المتوقع أن تكشف "سامسونغ" عن ساعات "غالاكسي ووتش 8" هذا الأسبوع في حدث "Unpacked" إلى جانب الجيل الجديد من هواتفها القابلة للطي، الذي سيكون محور الحدث. وظهر تطبيق المساعد "Gemini"، المعتمد على الذكاء الاصطناعي من شركة غوغل، في صور ترويجية مُسربة لساعات غالاكسي ووتش 8، بحسب تقرير لموقع "9TO5Google" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business". وظهر في الصور على شاشة الساعة عبارة "Ask Google Gemini" التي تظهر عند فتح تطبيق المساعد الذكي "Gemini". ولا توجد تفاصيل إضافية حتى الآن حول ما يمكن للتطبيق أن يفعله مع نظام "Wear OS" من "غوغل"، لكن هذه الصورة وحدها توحي بأن "غوغل" تستعد لإطلاق "Gemini" على نظام التشغيل بدءًا من الساعات الذكية الجديدة من "سامسونغ". وبعد الظهور الأول المتوقع على سلسلة "غالاكسي ووتش 8"، ليس من المعروف ما تخطط له "غوغل" بشأن "Gemini" على باقي أجهزة "Wear OS"، لكن من المنطقي أن تكون ساعات "بيكسل ووتش" من "غوغل" الأجهزة التي ستحصل على المساعد الذكي تاليًا. وقد يقلل الإطلاق المبكر لـ"Gemini" مع ساعات سامسونغ الذكية من وقع هذه الميزة عند إطلاقها لاحقًا مع ساعات "بيكسل ووتش"، إذ أنه كان من الممكن أن يكون إضافة مرحب بها عند طرح الجيل المقبل من ساعات غوغل الذكية.
العربية
منذ 3 ساعات
- العربية
"يوتيوب" يعلن الحرب على محتوى الذكاء الاصطناعي الكسول
ينتشر محتوى من مقاطع الفيديو المصنوعة بالذكاء الاصطناعي بشكل كبير على منصات مثل "إنستغرام" و"تيك توك" و" يوتيوب". ويعود الفضل في ذلك إلى ظهور أدوات الذكاء الاصطناعي التي تُمكّن المبدعين من إنتاج مقاطع فيديو دون أي جهد يُذكر، سعياً لتحقيق الربح من محتواهم. ولكن الآن يبدو أن "يوتيوب" قرر اتخاذ إجراءات صارمة ضد هذا الأمر، بحسب تقرير نشره موقع "androidheadlines" واطلعت عليه "العربية Business". نشر "يوتيوب" مؤخرًا سياسة مُحدّثة بشأن تحقيق الربح لبرنامج شركاء "يوتيوب". تنص هذه السياسة على أنه سيبدأ بالبحث عن مقاطع الفيديو المُنتَجة بكميات كبيرة أو المُكرّرة. ويؤكد "يوتيوب" أنه لا يُريد محتوى مُنتَجًا بكميات كبيرة على منصته، ويُفضّل المحتوى "الأصلي" و"الأصيل". ولتحقيق الربح من برنامج شركاء "يوتيوب" (YPP)، اشترط على منشئي المحتوى تحميل محتوى "أصلي" و"أصيل". في 15 يوليو 2025، سيُحدّث "يوتيوب" إرشاداته لتحديد المحتوى المُنتَج بكميات كبيرة والمُكرّر بشكل أفضل. يعكس هذا التحديث بشكل أفضل شكل المحتوى "المُزيّف" اليوم. إذا كنت منشئ محتوى وتُقدّم بالفعل أعمالًا أصلية وأصيلة، فلن يكون لهذا تأثير يُذكر عليك. ومع ذلك، يجب على منشئي المحتوى الذين يعتمدون على الذكاء الاصطناعي لإنشاء محتوى عام توخي الحذر. هناك احتمال أن يتم حذفك من برنامج شركاء يوتيوب في حال اكتشاف انتهاكك لهذه السياسات. انتشار محتوى الذكاء الاصطناعي في الماضي، كان تجميع مقاطع الفيديو يتطلب جهدًا كبيرًا، إلا إذا قمت بتنزيل فيديو شخص آخر ورفعته على أنه خاص بك. ومع ذلك، وبفضل أدوات الذكاء الاصطناعي، يلجأ الكثيرون إلى "يوتيوب" و"تيك توك" و"إنستغرام" لنشر محتواهم المُعتمد على الذكاء الاصطناعي دون أي وجه. يتضمن هذا عادةً دمج مشاهد من أفلام مختلفة أو من فيديوهات لمبدعين آخرين. ثم يُضيفون بعض التعليقات التوضيحية وتعليقًا صوتيًا مُولّدًا بالذكاء الاصطناعي، وينتهي العمل. في الواقع، هناك منتديات فرعية يناقش فيها العديد من المستخدمين إمكانات الربح من مقاطع الفيديو التي لا تظهر فيها الوجوه، ويشاركون النصائح والاستراتيجيات.
العربية
منذ 4 ساعات
- العربية
خوادم أميركية في قضية احتيال بسنغافورة يشتبه باحتوائها على رقائق إنفيديا
قال وزير سنغافروي، يوم الاثنين، إن خوادم استُخدمت في قضية احتيال أعلنت عنها سنغافورة الأسبوع الماضي، كانت مُورّدة من شركات أميركية، وربما تحتوي على شرائح متطورة من شركة إنفيديا. ووُجّهت تهمة الاحتيال إلى ثلاثة رجال، بينهم مواطن صيني، الأسبوع الماضي في القضية في سنغافورة. وقال وزير الداخلية والقانون السنغافوري، كيه شانموغام، للصحفيين يوم الاثنين: "حددنا أن الخوادم قد تحتوي على شرائح من إنفيديا"، بحسب رويترز. وتحقق الولايات المتحدة في ما إذا كانت شركة ديب سيك الصينية الناشئة، التي أحدث أداء نموذج الذكاء الاصطناعي الخاص بها ضجة في عالم التكنولوجيا في يناير، تستخدم شرائح أميركية غير مسموح بشحنها إلى الصين. وتُعد قضية سنغافورة جزءًا من تحقيق أوسع نطاقًا تجريه الشرطة يشمل 22 فردًا وشركة يُشتبه في قيامهم بتقديم معلومات كاذبة، وسط مخاوف من بشأن عمليات تهريب مُنظمة لشرائح الذكاء الاصطناعي إلى الصين انطلاقًا من دول مثل سنغافورة. وسنغافورة هي ثاني أكبر سوق لشركة إنفيديا بعد الولايات المتحدة، حيث مثّلت 18% من إجمالي إيراداتها في آخر سنة مالية لها، وفقًا لإفصاحات "إنفيديا" للبورصة. ومع ذلك، فقد ساهمت الشحنات الفعلية إلى سنغافورة، المركز التجاري الآسيوي، بأقل من 2% من إجمالي الإيرادات، حيث يستخدمها العملاء كمركز لفوترة المبيعات إلى دول أخرى. وقال بعض رواد الأعمال الغربيين في مجال الذكاء الاصطناعي، مثل ألكسندر وانغ، الرئيس التنفيذي لشركة "Scale AI"، إن "ديب سيك" تمتلك ما يصل إلى 50,000 شريحة إنفيديا متقدمة محظورة التصدير إلى الصين. لكن وانغ لم يقدم أي دليل على هذا الادعاء. ولم ترد "ديب سيك" على مزاعم وانغ، لكنها قالت إنها استخدمت شرائح "H800" من "إنفيديا"، والتي كان بإمكانها شراؤها قانونيًا في عام 2023، كما كشفت عن مجموعة حوسبة فائقة تعمل برقائق "A100" من "إنفيديا".
