لماذا تنتشر مقاطع «التزييف العميق»؟ وهل يمكن إيقافها؟

يعج الأنترنت بمحتوى "التزييف العميق" (deepfakes) - سواء كان صوتاً أو صوراً أو فيديوهات صُنعت باستخدام أدوات الذكاء الاصطناعي- حيث يظهر الأشخاص وكأنهم يقولون أو يفعلون أشياء لم يقولوها أو يفعلوها، أو يتواجدون في أماكن لم يكونوا فيها، أو يتغير فيها مظهرهم.
يتضمن بعضه ما يُعرف بـ"التعري الرقمي"، حيث تُعدَّل الصور لإظهار شخصٍ ما من دون ملابس، وتُستخدم "التزييفات العميقة" الأخرى لخداع المستهلكين، أو للإضرار بسمعة السياسيين وغيرهم من الشخصيات العامة.
تقدمُ الذكاء الاصطناعي يُسَهل إنشاء "تزييف عميق" واقعي ببضع نقرات فقط على لوحة المفاتيح. وتُحاول الحكومات القلقة التصدي لهذه الظاهرة، غير أن المعركة تبدو خاسرة، فقد زادت محاولات الاحتيال باستخدام "التزييف العميق" بأكثر من 20 ضعفاً خلال السنوات الثلاث الماضية، وفقاً لبيانات شركة التحقق من الهوية "ساينيكات" (Signicat).
ما التدابير المتخذة لمكافحة "التزييف العميق"؟
في 19 مايو، وقّع الرئيس الأمريكي، دونالد ترمب، على قانون "إزالة المحتوى" (Take It Down Act)، الذي يُجرّم المواد الإباحية غير التوافقية المُنتَجة باستخدام الذكاء الاصطناعي، والمعروفة أيضاً باسم "الانتقام الإباحي بالتزييف العميق"، ويُلزم شركات التواصل الاجتماعي بإزالة هذه الصور الجنسية الصريحة عند الطلب.
في العام الماضي، جعلت لجنة الاتصالات الفيدرالية الأمريكية استخدام الأصوات المُولّدة بالذكاء الاصطناعي في المكالمات الآلية غير قانوني. وجاء هذا الحظر بعد يومين من إصدار اللجنة أمر "كف وتوقف" ضد الشركة المسؤولة عن "تزييف صوتي عميق" للرئيس جو بايدن. وكان سكان ولاية نيوهامبشر قد تلقوا مكالمة آلية قبل الانتخابات التمهيدية الرئاسية في الولاية، بدا فيها الصوت وكأنه صوت بايدن، يحثهم على البقاء في منازلهم و"الاحتفاظ بأصواتهم لانتخابات نوفمبر".
يُلزم قانون الذكاء الاصطناعي في الاتحاد الأوروبي المنصات بوضع علامات تُبيّن أن المحتوى هو نتاج "تزييف عميق". وطبّقت الصين تشريعاً مشابهاً في عام 2023، وفي 28 أبريل، دعت مفوضة شؤون الأطفال في إنجلترا الحكومة البريطانية إلى حظر تطبيقات "التعري الرقمي" المنتشرة على نطاق واسع عبر الإنترنت.
أين ورد "التزييف العميق" في الأخبار؟
انتشرت صور "تزييف عميق" فاضحة لنجمة البوب، تايلور سويفت، على نطاق واسع عبر وسائل التواصل الاجتماعي في يناير 2024، ما أثار غضب جماهيرها الغفيرة، ودفع البيت الأبيض إلى التعبير عن قلقه.
خلال الانتخابات الرئاسية الأمريكية في عام 2024، شارك إيلون ماسك مقطع فيديو دعائياً باستخدام "التزييف العميق" يظهر فيه صوتٌ مُعدّل باستخدام الذكاء الاصطناعي للمرشحة الديمقراطية، كامالا هاريس، دون أن يُصنّف الفيديو على أنه مضلل. وبدت في الفيديو وكأنها تصف الرئيس، جو بايدن، بـ"الخَرِف" وتقول إنها لا "تعرف شيئاً عن إدارة البلاد". وقد حصد الفيديو عشرات الملايين من المشاهدات. ورداً على ذلك، تعهّد حاكم ولاية كاليفورنيا، غافين نيوسوم، بحظر "التزييف العميق" السياسي المُعدّل رقمياً، ووقّع قانوناً بهذا الشأن في سبتمبر.
كيف تُصنع مقاطع الفيديو باستخدام "التزييف العميق"؟
غالباً ما تُنتج باستخدام خوارزمية ذكاء اصطناعي مُدرّبة على التعرّف على الأنماط في تسجيلات فيديو حقيقية لشخص معين، وهي عملية تُعرف باسم "التعلّم العميق". ومن ثم يصبح من الممكن استبدال عنصر من فيديو، مثل وجه الشخص، بمحتوى آخر من دون أن يبدو الأمر كمونتاج سطحي. وتكون هذه التعديلات أكثر تضليلاً عند استخدامها مع تقنيات "استنساخ الصوت"، والتي تُحلل مقطعاً صوتياً لشخص يتحدث إلى أجزاء صوتية صغيرة جداً يُعاد تجميعها لتكوين كلمات جديدة يبدو أن المتحدث في الفيديو الأصلي ينطقها.
كيف انتشر "التزييف العميق"؟
كانت هذه التقنية في البداية حكراً على الأكاديميين والباحثين. لكن في عام 2017، أفادت منصة "مذر بورد" (Motherboard) التابعة لموقع "فايس" (Vice) أن مستخدماً على "ريديت" يُدعى "ديب فيكس" ابتكر خوارزمية لصناعة مقاطع فيديو مزيفة باستخدام شفرة مفتوحة المصدر. حظرت "ريديت" هذا المستخدم، لكن الممارسة سرعان ما انتشرت. في بداياتها، كانت تقنية التزييف العميق تتطلب وجود فيديو حقيقي وأداءً صوتياً فعلياً، إلى جانب مهارات تحرير متقدمة.
أما اليوم، فأنظمة الذكاء الاصطناعي التوليدي الحالية تتيح للمستخدمين إنتاج صور وفيديوهات مقنعة عبر أوامر كتابية بسيطة. اطلب من جهاز كمبيوتر إنشاء فيديو يضع كلمات في فم شخص ما، وسيظهر لك ذلك بالتأكيد.
كيف يمكنك التعرّف على "التزييف العميق"؟
أصبحت هذه التزويرات الرقمية أصعب في الاكتشاف، مع استخدام شركات الذكاء الاصطناعي لأدوات جديدة على كم هائل من المواد المتاحة على الإنترنت، من "يوتيوب" إلى مكتبات الصور والفيديوهات المخزنة.
في بعض الأحيان، تظهر علامات واضحة تدل على أن صورة أو فيديو ما تم إنشاؤه باستخدام الذكاء الاصطناعي، مثل وجود طرف في غير موضعه أو يد تحتوي على ستة أصابع. وقد يظهر تباين في الألوان بين الأجزاء المُعدلة وغير المُعدلة من الصورة. أحياناً، لا تتطابق حركة الفم مع الكلام في مقاطع "التزييف العميق". وقد يواجه الذكاء الاصطناعي صعوبة في تقديم تفاصيل دقيقة لعناصر مثل الشعر، والفم، والظلال، كما أن حواف الأجسام قد تكون في بعض الأحيان خشنة أو تحتوي على بكسلات ظاهرة. لكن كل هذا قد يتغير مع تحسّن النماذج الأساسية.
ما أبرز الأمثلة الأخرى على استخدام تقنية "التزييف العميق"؟
نشر مروّجون صينيون في أغسطس 2023 صوراً مُعدلة لحرائق الغابات في جزيرة ماوي في هاواي، لدعم مزاعم بأن تلك الحرائق ناتجة عن اختبار سلاح "جوي" سري من قبل الولايات المتحدة. وفي مايو 2023، تراجعت الأسهم الأمريكية لفترة وجيزة بعد انتشار صورة على الإنترنت تُظهر البنتاغون وكأنه يحترق. وقال خبراء إن الصورة المُزيفة تحمل سمات إنتاج باستخدام الذكاء الاصطناعي.
في فبراير من العام نفسه، ظهر مقطع صوتي مزيف بدا فيه وكأن المرشح الرئاسي النيجيري، أتيكو أبو بكر، يُخطط لتزوير الانتخابات في ذلك الشهر. وفي عام 2021، نُشر على وسائل التواصل الاجتماعي مقطع فيديو مدته دقيقة واحدة يظهر فيه الرئيس الأوكراني، فولوديمير زيلينسكي، وكأنه يدعو جنوده إلى إلقاء السلاح والاستسلام لروسيا. وهناك "تزييفات عميقة" أخرى غير ضارة، مثل تلك التي تُظهر نجم كرة القدم كريستيانو رونالدو وهو يُنشد قصائد عربية.
ما الأبعاد الخطيرة المرتبطة بهذه التكنولوجيا؟
الخوف يكمن في أن تصبح مقاطع "التزييف العميق" في نهاية المطاف مقنعة لدرجة تجعل من المستحيل التمييز بين ما هو حقيقي وما هو مزيف. تخيّل محتالين يتلاعبون بأسعار الأسهم من خلال إنتاج فيديوهات مزورة لمديرين تنفيذيين يُصدرون تحديثات تخص شركاتهم، أو مقاطع مزيفة لجنود يرتكبون جرائم حرب. ويُعد السياسيون، وقادة الأعمال، والمشاهير من بين الأكثر عرضة للخطر، نظراً للعدد الكبير من التسجيلات المتوفرة عنهم.
سلط تقرير مفوضة شؤون الأطفال في المملكة المتحدة الصادر في أبريل الضوء على تزايد خوف الأطفال من أن يكونوا ضحايا لمحتوى "تزييف عميق" فاضح. ومن المخاوف الإضافية أن يسهل انتشار الوعي بشأن "التزييف العميق" ادعاء الأشخاص الذين يظهرون فعلياً في تسجيلات وهم يقولون أو يفعلون أموراً مرفوضة أو غير قانونية، أن الأدلة ضدهم مزيفة، فقد بدأ بعض الأشخاص بالفعل يستخدمون دفاع "التزييف العميق" أمام المحاكم.
ما الإجراءات الأخرى التي يمكن اتخاذها للحد من انتشار "التزييف العميق"؟
يستحيل عكس نوع التعلّم الآلي المستخدم في إنتاج "التزييف العميق" بسهولة من أجل اكتشاف المقاطع المزيفة، لكن عدداً قليلاً من الشركات الناشئة مثل "سينسيتي إيه آي" (Sensity AI) في هولندا، و"سنتينيل" (Sentinel) في إستونيا، تعمل على تطوير تقنيات للكشف عن المقاطع المزيفة، إلى جانب شركات تكنولوجية كبرى عديدة في الولايات المتحدة.
وتعهدت شركات من بينها "مايكروسوفت" (Microsoft) بإدراج علامات مائية رقمية في الصور التي تُنتجها باستخدام أدوات الذكاء الاصطناعي الخاصة بها، لتمييزها كمحتوى مزيف. كما طوّرت شركة "أوبن إيه آي" (OpenAI)، مطوّرة "تشات جي بي تي"، تقنيات للكشف عن الصور المنتجة بالذكاء الاصطناعي، فضلاً عن طريقة لإضافة علامات مائية للنصوص، لكن لم تطرح التقنية الأخيرة حتى الآن، جزئياً لأنها ترى أنه يسهل على الجهات السيئة التحايل عليها.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الشرق السعودية

منذ ساعة واحدة

• الشرق السعودية

مبعوث ترمب: سوريا وافقت على المساعدة في إعادة الأميركيين المفقودين

قال مبعوث الولايات المتحدة إلى سوريا توم باراك، الأحد، إن الحكومة السورية الجديدة وافقت على مساعدة الولايات المتحدة في تحديد مكان مواطنين أميركيين وإعادتهم أو رفاتهم. ووصف باراك هذا التحرك بأنه "خطوة قوية إلى الأمام"، وقال: "يحق لعائلات أوستن تايس، ومجد كمالماز، وكايلا مولر أن يعرفوا مصير أحبائهم". وأضاف باراك، عبر منصة إكس، أن الرئيس الأميركي دونالد ترمب أكد أن إعادة المواطنين الأميركيين إلى ديارهم أو تكريم رفاتهم بكرامة أولويةٌ قصوى في كل مكان"، وتابع: "ستساعدنا الحكومة السورية الجديدة في هذا الالتزام". وأعلن باراك، الذي يشغل أيضاً منصب سفير الولايات المتحدة لدى تركيا، الجمعة، توليه منصب المبعوث الخاص إلى سوريا، مع سعي إدارة ترمب لرفع العقوبات عن دمشق. وقال في منشور على منصة إكس إنه سيدعم وزير الخارجية الأميركي ماركو روبيو في رفع العقوبات الأميركية عن سوريا بعد أن أصدر ترمب إعلاناً تاريخياً هذا الشهر قال فيه إن واشنطن سترفع هذه العقوبات. وباراك مسؤول تنفيذي في شركة للاستثمار المباشر ويعمل مستشاراً لترمب منذ فترة طويلة ورأس لجنته الرئاسية الافتتاحية عام 2016. ويجري الحديث عن ثلاثة أميركيين، هم: أوستن تايس، مجد كمالماز، كايلا مولر، لا يعرف مصيرهم حتى الآن بعد اختفائهم في ظروف غامضة بسوريا. أوستن تايس أوستن تايس جندي سابق في مشاة البحرية الأميركية وصحافي مستقل، يبلغ من العمر 31 عاماً عندما خُطف في أغسطس 2012 خلال تغطيته للاحتجاجات المناهضة آنذاك لنظام الرئيس السوري بشار الأسد. وقال مسؤول أميركي سابق إن الولايات المتحدة تلقت معلومات استخباراتية قبل أشهر من مصدر لبناني أخبرهم فيها بأنه رأى تايس حياً وأنه يعتقد أن الجماعة التي تحتجزه على علاقة بحزب الله. وأضاف المسؤول أن الولايات المتحدة تتلقى في أحيان كثيرة تقارير عن مكان تايس، لكن من الصعب تحديد دقتها أو مصداقيتها. ووفقاً لمصدر مطلع، لم تسفر محادثات سرية استمرت لسنوات مع حكومة الأسد عن تقدم يذكر، إذ كانت سوريا تقول إنها لا تستطيع تقديم ما يثبت أن تايس على قيد الحياة إلا إذا استجابت الولايات المتحدة لمطالب مثل سحب قواتها من البلاد. وساعد لبنان في التوسط بتلك المحادثات. ومطلع العام الجاري، التقى الرئيس السوري أحمد الشرع والدة الصحافي الأميركي المفقود منذ عام 2012، وظهر في صور أثناء تصفحه صوراً تخص تايس. مجد كمالماز مجد كمالماز طبيب نفسي كان يقدم المساعدة للاجئين السوريين في المنطقة، وكان يسعى أيضاً إلى إنشاء عيادة لمساعدة المتضررين من الحرب الأهلية السورية. وسافر، في فبراير 2017، إلى سوريا لزيارة أحد أفراد عائلته في دمشق، لكن بعد يوم من وصوله، تم توقيفه عند نقطة تفتيش في المزة، إحدى ضواحي دمشق، ولم يُسمع عنه منذ ذلك الحين، بحسب ما يذكر موقع مكتب التحقيقات الفيدرالي الأميركي. وبعد مرور فترة من اختفاء كمالماز، اجتمع مسؤولون أميركيون من 8 وكالات مختلفة مع العائلة لإبلاغهم باعتقادهم أنه توفي في مرحلة ما من الاحتجاز، لكن دون تقديم دليل على ما حدث، أو سبب احتجازه، أو مكانه. وذكرت صحيفة "إندبندنت" البريطانية، في وقت سابق، أن مسؤول استخبارات سوري فرّ من سوريا وانشقّ أخبر العائلة بأن اسم والدها في سجلات النظام السوري كان يحمل خطاً أحمراً خاصاً تحته، وهو ما يعني "التخلص من هذا الشخص دون ترك أي أثر أو دليل". ولم يخضع كمالكاز لأي محاكمة، ولا توجد معلومات عن أي تهم أو مكان وجوده. كايلا مولر في قبضة "داعش" في ديسمبر من عام 2012، سافرت مولر إلى الحدود السورية - التركية، إذ كانت تعمل في مجال الإغاثة الإنسانية، وفي أغسطس 2013، سقطت رهينة في حلب بيد تنظيم "داعش" الذي طلب فدية للإفراج عنها. وأكدت الإدارة الأميركية حينها برئاسة الرئيس الأميركي باراك أوباما، مراراً، أن الحكومة الأميركية لا تدفع أي فدية للأسرى، ولا تقدم تنازلات للإرهابيين. وأعلن أوباما في فبراير 2015 مصرعها، وفي مقابلة مع شبكة ABC News الأميركية، قالت عائلة مولر إن مسؤولين استخباراتيين أبلغوها أن زعيم التنظيم أبو بكر البغدادي اعتدى جنسياً على ابنتهم أكثر من مرة. ونقلت الشبكة عن والدي مولر، كارل ومارشا، قولهما: "لقد أبلغونا أن كايلا تعرضت للتعذيب، وكانت ملكاً للبغدادي". وأكدت عائلة مولر مصرع ابنتهم في 10 فبراير 2015، بعد أن تلقت العائلة رسالة إلكترونية مع 3 صور لجثتها، وذكرت صحيفة "نيويورك تايمز" حينها أن الصور أظهرت كدمات على الوجه.

أرقام

منذ ساعة واحدة

• أرقام

جدوي للاستثمار: أحدث التطورات في أسواق النفط

جارٍ تحميل البيانات... يرجى ملاحظة أن هذا الملخص الإخباري تم إنشاؤه باستخدام الذكاء الاصطناعي، لذا ينصح بمراجعة المصادر الأصلية للحصول على التفاصيل الكاملة والتأكد من دقة المعلومات.

الشرق السعودية

منذ ساعة واحدة

• الشرق السعودية

كوريا الشمالية تحض الولايات المتحدة على وقف التهديدات العسكرية

دعت كوريا الشمالية الأحد، الولايات المتحدة إلى التخلي عن "تهديداتها العسكرية" ضد الآخرين، "إذا كانت لديها مخاوف بشأن سلامة أراضيها"، وتعهدت بمواصلة تطوير "رادع حربي" ضد الأسلحة النووية الأميركية، وفق ما نقلت وكالة الأنباء المركزية الكورية الشمالية. وقال مكتب السياسات في وزارة الدفاع بكوريا الشمالية في بيان، إن ضمان أمن البر الرئيسي الأميركي "يعتمد على التخلي عن التهديدات العسكرية والمحاولات العدوانية"، ضد الدول الأخرى، وفق ما نقلت وكالة "يونهاب" الكورية الجنوبية عن البيان. وأضاف البيان "يصر الجيش الأميركي على التحريض بالحديث عن وجود تهديد من كوريا الشمالية للبر الرئيسي الأميركي، في الوقت الذي يحاول فيه زيادة تراكم الأسلحة على أوسع نطاق"، على حد قوله. واتهم البيان المسؤولين العسكريين الأميركيين بأنهم "يفتعلون المشاكل مع التدابير الدفاعية لكوريا الشمالية لتعزيز قوتها النووية في عدة مناسبات، ويطلقون دون تردد تصريحات استفزازية تلمح إلى إمكانية نشوب حرب مع كوريا الشمالية". وأشار البيان إلى التجربة الأميركية الأخيرة لصاروخ باليستي عابر للقارات، وقال البيان إن "طريقة التفكير غير المنطقية"، هي أن الإجراءات العسكرية الأميركية تعتبر دفاعية، "بينما يُنظر إلى تصرفات الشمال على أنها تهديد". وأضاف البيان: "التهديد العسكري غير المعقول والابتزاز واستعراض القوة العسكرية من جانب الولايات المتحدة هي التي تسببت في التهديد الخارجي، للبر الرئيسي للولايات المتحدة وأدت إلى تصعيده باطراد". وتعهد مكتب السياسات بأن تواصل كوريا الشمالية جهودها لـ"تطوير رادع حربي ضد عدم الاستقرار الأمني الناتج عن تعزيز الأسلحة النووية الأميركية"، وفق وصفه. تصاعد نبرة العداء في بيونج يانج واتخذت تعليقات الزعيم الكوري الشمالي كيم جونج أون نبرة أكثر "هجومية" في الأشهر الأخيرة، ودعّمَها بزيارات علنية إلى منشآت عسكرية؛ وفي وقت يتحدث عن مسؤولية قواته على جبهات عدة، يتفق محللون كوريون جنوبيون، أنه يستفيد من السياسات "المربِكة" للإدارة الأميركية، فضلاً عن العلاقات الاقتصادية والأمنية الوثيقة التي أبرمها مع روسيا. وبالنسبة إلى دولة كانت تُعاني من العُزلة، وكانت، تاريخياً، مهمّشة على الساحة العالمية، يرى محللون وخبراء، تحدثت إليهم "الشرق"، أن نفوذ كيم وقوته، ربما بلغا مستوىً لم يصلا إليه من قبل، ما اعتبروه أمراً مثيراً للقلق، نظراً لامتلاك نظامه أسلحة نووية، إلى جانب امتلاكه قوات تقليدية جرّارة، يُضاف إليها صعوبة التنبؤ بتصرفاته. وقال كيم سانج وو، وهو مسؤول سابق في حزب "المؤتمر الكوري الجنوبي من أجل السياسة الجديدة" (ذو الميول اليسارية)، إنه من الواضح جداً أن كيم جونج أون اكتسب ثقة متزايدة من خلال الإعلانات التي أصدرها مؤخراً، وتابع: "هذه نتيجة للعلاقات الوثيقة التي أقامها مع الرئيس الروسي فلاديمير بوتين". وقدّر كيم، الذي هو أيضاً عضو مجلس إدارة مؤسسة كيم داي جونج للسلام في حديث لـ"الشرق"، أن الزعيم الكوري الشمالي يستغل أيضاً حالة الفوضى التي يشهدها النظام العالمي منذ دخول الرئيس الأميركي دونالد ترمب البيت الأبيض".