الذكاء الاصطناعي.. هل تصلح المنظومة الحالية لحصار الانفلات الرقمي المحتمل؟

المستشار إيهاب أبوزيد: يؤثر على الهوية الشخصية ويجب تنظيم استخدامه وتعزيز المساءلة فى حالات التوظيف غير الأخلاقى.. ونحتاج إلى إنشاء سجل قانونى لحفظ حقوق الصورة والصوت
تنشأ الحاجة فينظر فيها الإنسان، وتطرأ الحوادث، فيتصدّى لها القانون. العالم الرقمى يتسارع بلا هوادة، وتداعياته ربما تتجاوز أُطر التشريع القائمة، وتحتاج إلى بحث جادٍ فى التطوير والتحديث، وفى سدّ الثغرات، وقطع الطريق على المُستجدّات المُتوقّعة، وإذا كان الذكاء الاصطناعى فرصة للإبداع والأتمتة وتحسين الأداء البشرى؛ فإنه ثغرة جانبية أيضا للاصطناع والتزييف واختراق القانون، فهل نحن جاهزون؟
فى ظل المخاوف التى تواجه الكثيرين بسبب استخدام الذكاء الاصطناعى والتى قد يظن البعض أنها تتم بطريقة عشوائية وغير آمنة، فقد تواصلنا مع المستشار إيهاب أبوزيد نائب رئيس مجلس الدولة حول كتابه الأخير «الساعة الأخيرة للقانون البشرى» والذى يتحدث من خلاله عن كل ما يخص الذكاء الاصطناعى من حيث مستقبله وتأثيره على الفرد والهوية الشخصية والثقافية وكيفية الحماية من مخاطرة.
قال المستشار إيهاب أبوزيد، إن مستقبل الذكاء الاصطناعى وتأثيره على هوية المواطن هو موضوع معقد ومتعدد الأبعاد، وقد يؤثر على تغيير الهوية الشخصية حيث التأثير على كيفية تعريف الأفراد لأنفسهم، خاصة من خلال وسائل التواصل الاجتماعى والخدمات الرقمية، وقد يؤدى استخدام تقنيات مثل التعلم الآلى إلى تحسين تجارب المستخدمين، ولكنه قد يخلق أيضا انطباعات غير دقيقة عن الهوية.
ومن حيث التفاعل الاجتماعى، فيمكن للذكاء الاصطناعى أن يعزز التفاعل بين الأفراد، ما قد يؤدى إلى بناء هويات جديدة أو مشتركة، ومن ناحية أخرى، قد يعزل الأفراد عن التجارب الإنسانية التقليدية.
وأضاف المستشار إيهاب أبو زيد أنه مع تزايد استخدام الذكاء الاصطناعي، تزداد المخاوف حول الخصوصية، وقد تؤدى الانتهاكات إلى فقدان الهوية الأساسية، ولذلك فيجب أن يكون هناك توازن بين الابتكار وحماية الهوية الفردية.
كما يمكنه أيضا أن يؤثر على الهوية الثقافية من خلال تعزيز التنوع أو على العكس، تعزيز الهويات الثقافية السائدة، ويؤدى ذلك فى بعض الأوقات إلى فقدان بعض الخصائص الثقافية التقليدية إذا لم يتم استخدامه بحكمة، ولذلك فيجب استخدام الذكاء الاصطناعى بطريقة تحترم الهويات الفردية والجماعية، ومن الضرورى وضع قواعد وإجراءات تضمن عدم تهميش أى هوية.
وتابع المستشار إيهاب أبوزيد مقتبسا حديثه من كتاب «الساعة الأخيرة للقانون البشرى: أن بينما يمكن للذكاء الاصطناعى أن يلعب دورا فى تشكيل الهوية، فإنه من غير المحتمل أن يمحوها بشكل كامل، بدلا من ذلك، قد يؤدى إلى تغييرها وتطويرها بطرق جديدة، من المهم مراقبة هذه التطورات مع التركيز على الأخلاقيات والخصوصية.
وأضاف المستشار إيهاب أبوزيد أن لحماية نفسك من تقنية التزوير العميق «Deepfake»، الذى يمثل تحديا حقيقيا، لكن من خلال الوعى والتعليم واستخدام الأدوات المناسبة، يمكنك تقليل المخاطر المرتبطة به، وذلك من خلال اتباع مجموعة من الإجراءات الوقائية والتوعية: من خلال ما يلى:
1 - التوعية والمعرفة وذلك من خلال فهم التقنية أولا، حيث التعرف على كيفية عمل التزوير العميق وما هى العلامات التى قد تشير إلى وجود محتوى مزور، بالإضافة إلى التأكد من المصدر والتحقق من مصدر المحتوى قبل الايمان به أو مشاركته.
2 - استخدام أدوات الكشف فهناك أدوات وتطبيقات تم تطويرها للكشف عن المحتوى المزور، استخدمها لتحليل الفيديوهات والصور المشكوك فيها، وبعد ذلك ننتقل إلى مرحلة التحقق من الحقائق، عن طريق استخدم مواقع التحقق من الحقائق التى تقدم معلومات موثوقة حول الأخبار والمحتوى المشكوك فيه.
3 - تجنب مشاركة المحتوى المشكوك فيه، ففى حالة إن كنت غير متأكد من صحة محتوى ما، تجنب مشاركته على وسائل التواصل الاجتماعى.
4 - تعزيز الخصوصية الإلكترونية، عن طريق الحرص، على حماية معلوماتك الشخصية على الإنترنت، مثل الصور ومقاطع الفيديو، التى قد تُستخدم للتزوير.
5 - الدعوة إلى التشريعات من خلال دعم الجهود التى تهدف إلى تنظيم استخدام تقنيات التزوير العميق، ما يعزز المساءلة القانونية لمن يستخدمها بشكل غير أخلاقى.
6 - التواصل مع الآخرين: تحدث مع الأصدقاء والعائلة حول المخاطر المحتملة للتزوير العميق وكيفية التعرف عليه، ما يزيد من الوعى الجماعى.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

وكالة نيوز

٠٦-٠٥-٢٠٢٥

• وكالة نيوز

موقع الاباحية الذي تم إنشاؤه من الذكاء الاصطناعى السيد Deepfakes يغلق بعد أن يسحب مقدم الخدمة الدعم

أعلنت واحدة من أكبر مواقع الويب المخصصة للمواد الإباحية في DeepFake أنها أغلقت بعد أن سحب مزود خدمة حرجة دعمه ، مما أوقف عمليات الموقع بشكل فعال. السيد Deepfakes ، الذي تم إنشاؤه في عام 2018 ، كان موصوفة من قبل الباحثين باعتبارهم 'أبرز السوق السائدة' للاباحية Deepfake للمشاهير ، وكذلك الأفراد الذين ليس لديهم وجود عام. في يوم الأحد ، ظهرت صفحة المقاييس الخاصة بالموقع 'إشعار الإغلاق' ، قائلاً إنها لن يتم إعادة إطلاقها. سمح الموقع للمستخدمين بتحميل وعرض مقاطع الفيديو الإباحية العميقة التي تم إنشاؤها باستخدام الذكاء الاصطناعي. سمحت المنتديات الموجودة على الموقع للمستخدمين بشراء وبيع محتوى DeepFake المخصص غير العمومي ، وكذلك مناقشة ممارسات صنع DeepFakes. مالك الموقع لا يزال غير معروف. يأتي الإغلاق بعد أيام قليلة من إقرار الكونغرس 'خذها الفعل ،' مما يجعلها جريمة فيدرالية نشر صور جنسية غير عادية ، بما في ذلك Deepfakes الصريحة. يتطلب التشريع ، المدعوم من السيدة الأولى ميلانيا ترامب ، منصات التواصل الاجتماعي ومواقع الويب الأخرى لإزالة الصور ومقاطع الفيديو في غضون 48 ساعة بعد طلب الضحية. على الرغم من أنه ليس من الواضح ما إذا كان إنهاء موقع الويب مرتبطًا بعمل Take It Down ، إلا أنه أحدث خطوة في حملة على الصور الجنسية غير الطبيعية. وقال هنري أجدر ، وهو خبير في الذكاء الاصطناعى و Deepfakes ، لـ CBS News إن 'هذه لحظة للاحتفال' ، واصفًا الموقع بأنه 'العقدة المركزية' لإساءة معاملة Deepfake. وقال عجدر إن مسألة صور Deepfake غير العادية لن تختفي ، لكن حل أكبر أرشفة من الاباحية Deepfake هو 'خطوة في الاتجاه الصحيح'. وقال إنه يجعل المحتوى أقل سهولة وينثر مجتمع المستخدمين ، على الأرجح يدفعهم نحو منصات أقل سائدة مثل Telegram. وقال أجدر: 'أنا متأكد من أن هذه المجتمعات ستجد منزلًا في مكان آخر ، لكن لن يكون هذا المنزل ولا أعتقد أنه سيكون كبيرًا وباردًا بارزًا. وأعتقد أن هذا أمر بالغ الأهمية'. وقال عجدر إنه يريد أن يرى المزيد من التشريعات التي يتم تقديمها عالميًا وزيادة في الوعي العام للمساعدة في معالجة مسألة صور Deepfake الجنسية غير العادية. وقال أجار: 'لقد بدأنا نرى أشخاصًا يأخذون الأمر على محمل الجد وبدأنا نرى نوع البنية التحتية المجتمعية اللازمة للتفاعل بشكل أفضل مما لدينا ، لكن لا يمكننا أبدًا أن نتعرض للرضا عن مقدار الموارد ومقدار اليقظة التي نحتاج إلى تقديمها'.

اليوم السابع

٢٨-٠٤-٢٠٢٥

• اليوم السابع

الذكاء الاصطناعي.. هل تصلح المنظومة الحالية لحصار الانفلات الرقمي المحتمل؟

المستشار إيهاب أبوزيد: يؤثر على الهوية الشخصية ويجب تنظيم استخدامه وتعزيز المساءلة فى حالات التوظيف غير الأخلاقى.. ونحتاج إلى إنشاء سجل قانونى لحفظ حقوق الصورة والصوت تنشأ الحاجة فينظر فيها الإنسان، وتطرأ الحوادث، فيتصدّى لها القانون. العالم الرقمى يتسارع بلا هوادة، وتداعياته ربما تتجاوز أُطر التشريع القائمة، وتحتاج إلى بحث جادٍ فى التطوير والتحديث، وفى سدّ الثغرات، وقطع الطريق على المُستجدّات المُتوقّعة، وإذا كان الذكاء الاصطناعى فرصة للإبداع والأتمتة وتحسين الأداء البشرى؛ فإنه ثغرة جانبية أيضا للاصطناع والتزييف واختراق القانون، فهل نحن جاهزون؟ فى ظل المخاوف التى تواجه الكثيرين بسبب استخدام الذكاء الاصطناعى والتى قد يظن البعض أنها تتم بطريقة عشوائية وغير آمنة، فقد تواصلنا مع المستشار إيهاب أبوزيد نائب رئيس مجلس الدولة حول كتابه الأخير «الساعة الأخيرة للقانون البشرى» والذى يتحدث من خلاله عن كل ما يخص الذكاء الاصطناعى من حيث مستقبله وتأثيره على الفرد والهوية الشخصية والثقافية وكيفية الحماية من مخاطرة. قال المستشار إيهاب أبوزيد، إن مستقبل الذكاء الاصطناعى وتأثيره على هوية المواطن هو موضوع معقد ومتعدد الأبعاد، وقد يؤثر على تغيير الهوية الشخصية حيث التأثير على كيفية تعريف الأفراد لأنفسهم، خاصة من خلال وسائل التواصل الاجتماعى والخدمات الرقمية، وقد يؤدى استخدام تقنيات مثل التعلم الآلى إلى تحسين تجارب المستخدمين، ولكنه قد يخلق أيضا انطباعات غير دقيقة عن الهوية. ومن حيث التفاعل الاجتماعى، فيمكن للذكاء الاصطناعى أن يعزز التفاعل بين الأفراد، ما قد يؤدى إلى بناء هويات جديدة أو مشتركة، ومن ناحية أخرى، قد يعزل الأفراد عن التجارب الإنسانية التقليدية. وأضاف المستشار إيهاب أبو زيد أنه مع تزايد استخدام الذكاء الاصطناعي، تزداد المخاوف حول الخصوصية، وقد تؤدى الانتهاكات إلى فقدان الهوية الأساسية، ولذلك فيجب أن يكون هناك توازن بين الابتكار وحماية الهوية الفردية. كما يمكنه أيضا أن يؤثر على الهوية الثقافية من خلال تعزيز التنوع أو على العكس، تعزيز الهويات الثقافية السائدة، ويؤدى ذلك فى بعض الأوقات إلى فقدان بعض الخصائص الثقافية التقليدية إذا لم يتم استخدامه بحكمة، ولذلك فيجب استخدام الذكاء الاصطناعى بطريقة تحترم الهويات الفردية والجماعية، ومن الضرورى وضع قواعد وإجراءات تضمن عدم تهميش أى هوية. وتابع المستشار إيهاب أبوزيد مقتبسا حديثه من كتاب «الساعة الأخيرة للقانون البشرى: أن بينما يمكن للذكاء الاصطناعى أن يلعب دورا فى تشكيل الهوية، فإنه من غير المحتمل أن يمحوها بشكل كامل، بدلا من ذلك، قد يؤدى إلى تغييرها وتطويرها بطرق جديدة، من المهم مراقبة هذه التطورات مع التركيز على الأخلاقيات والخصوصية. وأضاف المستشار إيهاب أبوزيد أن لحماية نفسك من تقنية التزوير العميق «Deepfake»، الذى يمثل تحديا حقيقيا، لكن من خلال الوعى والتعليم واستخدام الأدوات المناسبة، يمكنك تقليل المخاطر المرتبطة به، وذلك من خلال اتباع مجموعة من الإجراءات الوقائية والتوعية: من خلال ما يلى: 1 - التوعية والمعرفة وذلك من خلال فهم التقنية أولا، حيث التعرف على كيفية عمل التزوير العميق وما هى العلامات التى قد تشير إلى وجود محتوى مزور، بالإضافة إلى التأكد من المصدر والتحقق من مصدر المحتوى قبل الايمان به أو مشاركته. 2 - استخدام أدوات الكشف فهناك أدوات وتطبيقات تم تطويرها للكشف عن المحتوى المزور، استخدمها لتحليل الفيديوهات والصور المشكوك فيها، وبعد ذلك ننتقل إلى مرحلة التحقق من الحقائق، عن طريق استخدم مواقع التحقق من الحقائق التى تقدم معلومات موثوقة حول الأخبار والمحتوى المشكوك فيه. 3 - تجنب مشاركة المحتوى المشكوك فيه، ففى حالة إن كنت غير متأكد من صحة محتوى ما، تجنب مشاركته على وسائل التواصل الاجتماعى. 4 - تعزيز الخصوصية الإلكترونية، عن طريق الحرص، على حماية معلوماتك الشخصية على الإنترنت، مثل الصور ومقاطع الفيديو، التى قد تُستخدم للتزوير. 5 - الدعوة إلى التشريعات من خلال دعم الجهود التى تهدف إلى تنظيم استخدام تقنيات التزوير العميق، ما يعزز المساءلة القانونية لمن يستخدمها بشكل غير أخلاقى. 6 - التواصل مع الآخرين: تحدث مع الأصدقاء والعائلة حول المخاطر المحتملة للتزوير العميق وكيفية التعرف عليه، ما يزيد من الوعى الجماعى.

بوابة الأهرام

١٤-٠٤-٢٠٢٥

• بوابة الأهرام

كارثة تقنية خلع الملابس بالذكاء الاصطناعي وتأثيراتها النفسية والاجتماعية

الضوي أحمد في الوقت الذي أصبح فيه الذكاء الإصطناعي قوة ثورية تدفع عجلة التقدم في مجالات الطب والتعليم والاقتصاد، ظهرت تطبيقات مظلمة لهذه التقنية تهدد القيم الإنسانية والخصوصية النفسية، ومن أخطرها ما يُعرف بتقنيات "خلع الملابس بالذكاء الاصطناعي" أو ما يُعرف بـ AI Undressing. موضوعات مقترحة هذه التقنية تعتمد على خوارزميات توليد الصور مثل Deepfake وGANs، حيث يمكن استخدام صورة عادية لشخص ما – غالباً دون علمه – ليتم إنشاء صورة مزيفة تُظهره وكأنه عارٍ، في إنتهاك صارخ للخصوصية والأمان النفسي. الدكتورة نيفين حسني استشاري علم النفس الرقمي، تحدثنا في البسطور التالية عن التأثير النفسي والاجتماعي العميق لضحايا خلع الملابس بالذكاء الاصطناعي. الدكتورة نيفين حسني أولًا: التأثير النفسي العميق لخلع الملابس بالذكاء الاصطناعي على الضحايا لا يمكن الاستهانة بالأثر النفسي الذي تتركه هذه التقنية على من يتم استهدافهم، خاصةً من المراهقين والنساء. وتتمثل أبرز الأعراض النفسية فيما يلي: • الصدمة والهلع: كثير من الضحايا يصابون بانهيار نفسي عند رؤية صورة مزيفة لهم تنتشر دون علمهم. • القلق المزمن وفقدان الأمان الرقمي: يبدأ الفرد في الشعور بالخوف من مشاركة أي صورة أو الظهور أمام الكاميرا. • الوصمة الاجتماعية: حتى لو ثبت زيف الصورة، فإن كثيراً من الأشخاص لا يصدقون، مما يُنتج وصمة إجتماعية مؤلمة. • الإنطواء والعزلة: بعض الضحايا ينسحبون من محيطهم الاجتماعي والدراسي خوفاً من السخرية أو التنمر. • الاكتئاب وفقدان الثقة بالنفس: الانتهاك العميق للكرامة الرقمية يُشبه في تأثيره النفسي التحرش الرقمي الصامت. دراسة نُشرت عام 2021 في Journal of Cyberpsychology وجدت أن 70% من النساء اللواتي تعرضن لمحتوى deepfake جنسي أبلغن عن أعراض اضطراب ما بعد الصدمة .(PTSD) ثانياً: من المسؤول؟ وما هو الدافع؟ المجرمون الرقميون لا يحتاجون سوى صورة عادية من السوشيال ميديا، ويتم باستخدام أدوات مجانية أو مدفوعة تحويلها إلى محتوى غير أخلاقي خلال دقائق. أبرز دوافع استخدام تقنية خلع الملابس بالذكاء الاصطناعي: • الابتزاز الجنسي أو المالي (Sextortion) • الانتقام الإلكتروني (Revenge Porn) • التنمر والتشهير • الفضول أو التحدي التقني لدى المراهقين وهنا يُطرح تساؤل مهم: هل الذكاء الاصطناعي هو الفاعل؟ أم من يستخدمه؟ الجواب: المسؤولية تقع على مطوّري هذه الأدوات والجهات التي تتيح استخدامها دون رقابة أو مساءلة قانونية من جهة وعلى من يستخدمه بدوافع خبيثة وانتقامية وطريقة مستغله لا أخلاقية من جهة أخرى. ثالثًا: كيف نحمي أنفسنا من جريمة خلع الملابس بالذكاء الاصطناعي ؟ على المستوى الشخصي: • تجنّب نشر الصور الشخصية، خصوصاً في وضعيات قد يساء إستخدامها. • إستخدام إعدادات الخصوصية القصوى على حسابات التواصل الإجتماعي. • التوعية النفسية الرقمية للمراهقين بعدم الثقة المطلقة في البيئة الرقمية. على المستوى النفسي والعلاجي: ضرورة الدعم النفسي الفوري للضحايا، من خلال جلسات علاجية تركز على إستعادة الثقة بالنفس وإدارة المشاعر السلبية الناتجة عن الصدمة ومواجهة الشعور بالذنب والعار غير المبرر. المركز الوطني للصحة النفسية في بريطانيا أوصى بإدراج "التعرض للإبتزاز الرقمي الجنسي" كأحد مكونات الصدمة النفسية في المراهقين. ماذا يحدث عندما يتجاوز الذكاء الاصطناعي حدود الأخلاق؟ الذكاء الاصطناعي هو أداة، لكن حينما يتحوّل إلى سلاح يُستخدم لابتزاز الأفراد وتدمير حياتهم النفسية والاجتماعية، فإنه يتحول إلى كارثة رقمية. المطلوب اليوم هو وعي مجتمعي ونفسي وقانوني لمواجهة هذه التقنية المظلمة، وتطوير منظومة حماية رقمية تبدأ من المنزل، وتستمر في المدارس، وتُدعم بقوانين صارمة تجرّم إنتاج أو نشر أو حيازة مثل هذا المحتوى.