خبراء أمنيون يحذرون من 'الذكاء الاصطناعي المظلم'
إستمع للمقال
في ظل التوسع السريع لتقنيات الذكاء الاصطناعي وسهولة استخدامها، لم تعد هذه الأدوات مقتصرة على المختبرات أو الأوساط الأكاديمية، بل باتت في متناول الجميع، بمن فيهم مجرمو الإنترنت، حيث يبرز في هذا السياق ما يُعرف بـ'الذكاء الاصطناعي المظلم'، وهو توظيف للذكاء الاصطناعي في ارتكاب جرائم رقمية متقدمة يصعب كشفها أو التصدي لها.
وفي هذا السياق، يرى محمد محسن رمضان، خبير الأمن السيبراني ومكافحة الجرائم الإلكترونية، أن الذكاء الاصطناعي المظلم لم يعد مجرد فكرة نظرية، بل أصبح واقعا ملموسا تتطور فيه الجرائم الرقمية بأشكال غير تقليدية. وأوضح في حديث لـ'العربية.نت' أن الهجمات الإلكترونية باتت تعتمد على أدوات متطورة قادرة على تنفيذ عمليات تصيّد احتيالي دقيقة يصعب تمييزها، كما يتم استنساخ مواقع إلكترونية رسمية لخداع المستخدمين، وتحليل سلوكهم لاكتشاف ثغراتهم النفسية والتقنية. مضيفا أن التكنولوجيا نفسها تُستغل لانتحال الشخصيات عبر التلاعب بالصوت والصورة، وكل ذلك يتم بسرعة ودقة دون الحاجة إلى مهارات تقنية متقدمة، مما يضاعف من مستوى الخطر.
من جهة أخرى، أشار رمضان إلى أن منصات 'الإنترنت المظلم' باتت تزدهر بأنظمة ذكاء اصطناعي معدلة لأغراض إجرامية، من أبرزها أداة 'WormGPT' القادرة على إنتاج برامج فدية، و'FraudGPT' التي تُستخدم في تصميم رسائل تصيّد وهجمات احتيال متقدمة، إلى جانب 'AutoGPT' التي تتيح تدريب النماذج على تنفيذ مهام خبيثة بشكل ذاتي، وأداة 'FreedomGPT' التي تعمل خارج أي إطار رقابي وتُنتج محتوى خطيراً حتى دون الاتصال بالإنترنت. ولفت إلى أن هذه الأدوات تُباع على شكل اشتراكات شهرية على الدارك ويب، ما يجعلها متاحة بسهولة لشرائح أوسع من المستخدمين، بمن فيهم المبتدئون.
وفي ظل هذا الانتشار، حذر الخبير المصري من أن هذه الأدوات لم تعد حكرا على القراصنة المحترفين، بل أصبحت في متناول الجميع، ما ينذر بتحول الجريمة السيبرانية إلى ظاهرة يومية. وأشار إلى أن تقارير لشركات أمن معلومات دولية تُنذر بالخطر، من بينها تقرير 'CrowdStrike' الذي رصد زيادة في الهجمات السيبرانية المدعومة بالذكاء الاصطناعي، بينما وضعت مؤسسة 'Gartner' هذا النوع من الهجمات ضمن أخطر التهديدات على المؤسسات. كما كشفت شركة غوغل عن محاولات استغلال لنموذجها الذكي 'Gemini' من طرف جهات مدعومة حكوميا، فيما سجلت شركة 'Acronis' ارتفاعا بنسبة 200% في هجمات التصيّد والتزييف العميق.
من جهته، اعتبر اللواء خالد حمدي، مساعد أول وزير الداخلية الأسبق والخبير الأمني، أن العالم يواجه طفرة غير مسبوقة في طبيعة التهديدات الرقمية، تقودها تقنيات ذكاء اصطناعي بلا رقابة أو ضوابط أخلاقية، تُستخدم في تنفيذ هجمات دقيقة يصعب التنبؤ بها أو مواجهتها بالأساليب التقليدية. وشدد على ضرورة بناء وعي سيبراني جماعي، وتبني أدوات دفاع رقمية استباقية، إلى جانب سنّ تشريعات وتنظيمات صارمة تضبط استخدام هذه التقنيات.
وأكد حمدي أن الذكاء الاصطناعي قد يتحول من أداة حماية إلى سبب مباشر للاختراق، داعيا المستخدمين إلى الحذر والتيقظ قبل فتح أي بريد إلكتروني أو الضغط على روابط غير موثوقة. فيما ختم حديثه بالتشديد على أن التهديد لا يكمن في المستقبل، بل في الحاضر، فـ'الذكاء الاصطناعي المظلم واقع نعيشه اليوم، ولا يمكن التصدي له بالخوف، بل بالمعرفة واليقظة وبناء دفاع رقمي ذكي ومتكامل'.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
المغرب اليوم
منذ 10 ساعات
- المغرب اليوم
"غوغل" تغيّر طريقة البحث بإضافة أزرار ذكية لاستكشاف أعمق
واشنطن ـ المغرب اليوم تواصل "غوغل" إدخال الذكاء الاصطناعي إلى صميم تجربة البحث، وهذه المرة من خلال ميزة "نظرة عامة بالذكاء الاصطناعي" التي لم تعد مجرّد إجابة سريعة، بل أصبحت بوابة لاستكشاف المعلومات بطريقة أكثر تفاعلية وذكاءً. عند إجراء بحث على " غوغل" عبر أجهزة أندرويد أو iOS، ستلاحظ ظهور مقتطفات من الإجابة مميزة باللون الأزرق داخل قسم "نظرة عامة بالذكاء الاصطناعي". هذا التمييز ليس مجرد تزيين، بل يحمل معه أدوات قوية: ثلاثة أزرار تفاعلية تظهر في أسفل الشاشة بمجرد النقر على هذه الكلمات، بحسب تقرير نشره موقع "phonearena" . تعرف على وظائف الأزرار الثلاثة اشرح هذا هل شعرت يومًا أن الإجابة قصيرة أو غامضة؟ عند النقر على هذا الزر، يقوم الذكاء الاصطناعي بإعادة شرح المحتوى المظلل بطريقة مبسطة وشاملة. فمثلًا، إذا طرحت سؤالًا مثل "ما هو أندرويد؟"، وأظهر الذكاء الاصطناعي أن "أندرويد هو نظام تشغيل طوّرته غوغل"، فإن الزر "اشرح هذا" سيوفر لك شرحًا موسعًا حول تاريخه ووظائفه وتطوره. الصور ذات الصلة بمجرد الضغط عليه، تظهر لك مجموعة من الصور المرتبطة مباشرةً بالمعلومة المحددة، لتمنحك بُعدًا بصريًا لفهم الموضوع بشكل أوضح. نسخ النص إذا أردت حفظ المعلومة أو مشاركتها، يمكنك نسخ الجزء المُظلل فورًا بضغطة واحدة. تجربة قراءة جديدة عبر "Discover" ولا تتوقف خطط "غوغل" عند محرك البحث فقط. تعمل الشركة على اختبار ميزة "الملخصات الذكية" ضمن موجز Discover، حيث ستعرض مقالات مختصرة تم توليدها بالذكاء الاصطناعي، مع الإشارة إلى مصادرها عبر شعارات متعددة متداخلة. بمجرد الضغط عليها، تظهر لك قائمة بالمصادر الأصلية التي ساهمت في إنشاء هذا الملخص. قد يهمك أيضـــــــــــــــا
كش 24
منذ 3 أيام
- كش 24
'حقن الأوامر الخفية'.. قراصنة يخدعون الذكاء الاصطناعي لسرقة بيانات مستخدمي Gmail
في تطور مثير للقلق، ظهرت موجة جديدة من الهجمات الإلكترونية الذكية التي تستهدف مستخدمي خدمة البريد الإلكتروني Gmail البالغ عددهم 1.8 مليار مستخدم حول العالم. وهذه الهجمات المبتكرة تعتمد على استغلال أداة الذكاء الاصطناعي "جيميني" المدمجة في منصة "غوغل" لخداع المستخدمين وسرقة بياناتهم الحساسة دون أن يدركوا ذلك. ويكمن الخطر في طريقة تنفيذ هذه الهجمات التي تعرف بتقنية "حقن الأوامر الخفية". ويقوم المخترقون بإرسال رسائل بريد إلكتروني تبدو عادية للوهلة الأولى، لكنها تحتوي على أوامر مخفية يتم إدراجها بطرق غير مرئية للمستخدم العادي، مثل استخدام خط بحجم صفر أو لون النص الأبيض الذي يمتزج مع خلفية البريد. وعندما يحاول المستخدم الاستفادة من ميزة تلخيص البريد الإلكتروني عبر "جيميني"، تقوم الأداة بقراءة ومعالجة هذه الأوامر المخفية، ما يؤدي إلى ظهور تحذيرات أمنية مزيفة تبدو واقعية تماما. وأظهرت التجارب التي أجراها باحثو الأمن في "موزيلا" وشركة "آي بي إم" كيف يمكن لهذه التقنية أن تخدع "جيميني" لعرض رسائل تنبيه كاذبة تفيد باختراق كلمة المرور أو وجود تهديد أمني عاجل. وفي إحدى الحالات، تمكن المخترقون من توجيه المستخدمين للاتصال بأرقام دعم فني وهمية أو زيارة مواقع ضارة مصممة لسرقة المعلومات الحساسة. والأكثر إثارة للقلق هو أن بعض هذه الهجمات يمكن أن تنشأ وتنفذ بواسطة أنظمة ذكاء اصطناعي أخرى، وليس فقط من قبل مخترقين بشريين. وردا على هذه الاكتشافات، أضافت "غوغل" مؤخرا بعض الإجراءات الوقائية مثل طلب تأكيد المستخدم قبل تنفيذ إجراءات حساسة وعرض لافتات تحذيرية صفراء عند اكتشاف محاولات هجوم. ومع ذلك، فإن قرار الشركة بعدم معالجة جذر المشكلة واعتبار سلوك "جيميني" في معالجة النص المخفي أمرا متوقعا وليس خللا تقنيا، أثار استياء العديد من خبراء الأمن الذين يحذرون من أن هذا القرار يترك الباب مفتوحا أمام استمرار هذه الهجمات. ومع الانتشار المتزايد لتقنيات الذكاء الاصطناعي في مختلف خدمات "غوغل" مثل Docs وCalendar، يتسع نطاق هذه الثغرة الأمنية، ما يجعلها تهديدا متناميا يحتاج إلى حلول جذرية. وينصح الخبراء المستخدمين بعدم الوثوق الكامل في أي تحذيرات أمنية تظهر عبر ملخصات "جيميني"، والتحقق يدويا من أي رسائل تبدو مشبوهة، وتفعيل جميع خيارات الأمان المتاحة في إعدادات البريد الإلكتروني. وهذا التحدي الأمني الجديد لا يقتصر على "غوغل" وحدها، بل يمثل اختبارا حقيقيا لجميع المنصات التي تدمج تقنيات الذكاء الاصطناعي في معالجة المحتوى. ويتطلب الأمر تطوير آليات أكثر تطورا للتمييز بين الأوامر الشرعية والضارة، وإلا فإننا قد نشهد انتشارا واسعا لهذا النوع من الهجمات الذكية التي تستغل الثغرات في أنظمة الذكاء الاصطناعي نفسها.
المغرب اليوم
منذ 4 أيام
- المغرب اليوم
مصريون يحذرون من "الذكاء الاصطناعي المظلم" بسبب أدوات خبيثة تُنتج جرائم رقمية بسرعة ودقة مخيفة
حذر خبراء مصريون في مجال الأمن السيبراني من التهديدات المتزايدة لما يُعرف بـ" الذكاء الاصطناعي المظلم"، مؤكدين أن هذه التكنولوجيا لم تعد مجرد سيناريو مستقبلي، بل أصبحت واقعًا يُستغل بالفعل في تنفيذ جرائم إلكترونية معقدة ومتطورة. وقال محمد محسن رمضان، خبير الأمن السيبراني ومكافحة الجرائم الإلكترونية، إن الذكاء الاصطناعي المظلم يتمثل في استغلال تقنيات الذكاء الاصطناعي لأغراض إجرامية مثل التصيد الاحتيالي المتطور، والتزييف العميق، وإنشاء برمجيات خبيثة قادرة على التخفي والتطور الذاتي. وأوضح أن "هذه الهجمات أصبحت أكثر تعقيدًا وذكاءً، حيث تُستخدم نماذج الذكاء الاصطناعي في صياغة رسائل تصيد إلكتروني بالغة الإقناع، واستنساخ مواقع إلكترونية رسمية لخداع المستخدمين، والتلاعب بالصوت والصورة لانتحال شخصيات معروفة. كل هذا يتم بسرعة ودقة عالية، دون الحاجة إلى خبرة تقنية متقدمة، ما يزيد من خطورة التهديد". وأشار رمضان إلى أن منصات الإنترنت المظلم بدأت منذ أواخر 2022 – بالتزامن مع إطلاق ChatGPT – في استنساخ وتعديل نماذج الذكاء الاصطناعي واستخدامها في تطوير أدوات إجرامية، مثل: WormGPT: منصة مفتوحة المصدر تُنتج برمجيات فدية وأكواد ضارة. FraudGPT: تُستخدم لإنشاء رسائل تصيد احترافي وتطوير أدوات اختراق. AutoGPT: لتدريب النماذج على تنفيذ أهداف خبيثة بشكل ذاتي دون تدخل بشري. FreedomGPT: مولّد محتوى غير خاضع للرقابة يُستخدم في أنشطة خطيرة دون اتصال بالإنترنت. وأكد أن هذه الأدوات تُسوّق على الدارك ويب كخدمات اشتراك شهري، ما يجعلها في متناول الجميع، وليس فقط القراصنة المحترفين. ولفت إلى أن الجريمة السيبرانية أصبحت تميل إلى التحول من عمليات مركّبة ونادرة إلى ظاهرة رقمية يومية قد تطال أي مستخدم بسيط. وأضاف أن تقارير شركات عالمية مثل CrowdStrike وGartner تؤكد تصاعد استخدام الذكاء الاصطناعي في الهجمات السيبرانية المتقدمة، بينما سجلت Acronis تضاعف عدد هجمات التزييف العميق والتصيد بنسبة 200%، فيما حذّرت غوغل من استغلال نموذج "Gemini" من قبل جهات مدعومة حكوميًا. من جانبه، صرّح اللواء خالد حمدي، مساعد أول وزير الداخلية الأسبق وخبير الأمن القومي، بأن "ما نواجهه اليوم هو طفرة في نوعية التهديدات الرقمية، حيث يتحرك ذكاء اصطناعي بلا ضمير في ظلام الإنترنت لتنفيذ هجمات يصعب رصدها أو التصدي لها بالوسائل التقليدية". وشدد حمدي على ضرورة بناء وعي سيبراني شامل لدى الأفراد والمؤسسات، إلى جانب اعتماد أدوات دفاع رقمية ذكية واستباقية وتشديد الرقابة على تطوير واستخدام تطبيقات الذكاء الاصطناعي. وختم تصريحه بالتحذير قائلاً: "قبل أن تضغط على رابط أو تفتح رسالة بريد إلكتروني، اسأل نفسك: هل أنا الهدف؟ الذكاء الاصطناعي قد يكون سبب اختراقك. الحل ليس في الخوف، بل في المعرفة والتأهب وبناء حصانة رقمية متكاملة".
