'حقن الأوامر الخفية'.. قراصنة يخدعون الذكاء الاصطناعي لسرقة بيانات مستخدمي Gmail
وهذه الهجمات المبتكرة تعتمد على استغلال أداة الذكاء الاصطناعي "جيميني" المدمجة في منصة "غوغل" لخداع المستخدمين وسرقة بياناتهم الحساسة دون أن يدركوا ذلك.
ويكمن الخطر في طريقة تنفيذ هذه الهجمات التي تعرف بتقنية "حقن الأوامر الخفية". ويقوم المخترقون بإرسال رسائل بريد إلكتروني تبدو عادية للوهلة الأولى، لكنها تحتوي على أوامر مخفية يتم إدراجها بطرق غير مرئية للمستخدم العادي، مثل استخدام خط بحجم صفر أو لون النص الأبيض الذي يمتزج مع خلفية البريد. وعندما يحاول المستخدم الاستفادة من ميزة تلخيص البريد الإلكتروني عبر "جيميني"، تقوم الأداة بقراءة ومعالجة هذه الأوامر المخفية، ما يؤدي إلى ظهور تحذيرات أمنية مزيفة تبدو واقعية تماما.
وأظهرت التجارب التي أجراها باحثو الأمن في "موزيلا" وشركة "آي بي إم" كيف يمكن لهذه التقنية أن تخدع "جيميني" لعرض رسائل تنبيه كاذبة تفيد باختراق كلمة المرور أو وجود تهديد أمني عاجل.
وفي إحدى الحالات، تمكن المخترقون من توجيه المستخدمين للاتصال بأرقام دعم فني وهمية أو زيارة مواقع ضارة مصممة لسرقة المعلومات الحساسة. والأكثر إثارة للقلق هو أن بعض هذه الهجمات يمكن أن تنشأ وتنفذ بواسطة أنظمة ذكاء اصطناعي أخرى، وليس فقط من قبل مخترقين بشريين.
وردا على هذه الاكتشافات، أضافت "غوغل" مؤخرا بعض الإجراءات الوقائية مثل طلب تأكيد المستخدم قبل تنفيذ إجراءات حساسة وعرض لافتات تحذيرية صفراء عند اكتشاف محاولات هجوم.
ومع ذلك، فإن قرار الشركة بعدم معالجة جذر المشكلة واعتبار سلوك "جيميني" في معالجة النص المخفي أمرا متوقعا وليس خللا تقنيا، أثار استياء العديد من خبراء الأمن الذين يحذرون من أن هذا القرار يترك الباب مفتوحا أمام استمرار هذه الهجمات.
ومع الانتشار المتزايد لتقنيات الذكاء الاصطناعي في مختلف خدمات "غوغل" مثل Docs وCalendar، يتسع نطاق هذه الثغرة الأمنية، ما يجعلها تهديدا متناميا يحتاج إلى حلول جذرية. وينصح الخبراء المستخدمين بعدم الوثوق الكامل في أي تحذيرات أمنية تظهر عبر ملخصات "جيميني"، والتحقق يدويا من أي رسائل تبدو مشبوهة، وتفعيل جميع خيارات الأمان المتاحة في إعدادات البريد الإلكتروني.
وهذا التحدي الأمني الجديد لا يقتصر على "غوغل" وحدها، بل يمثل اختبارا حقيقيا لجميع المنصات التي تدمج تقنيات الذكاء الاصطناعي في معالجة المحتوى.
ويتطلب الأمر تطوير آليات أكثر تطورا للتمييز بين الأوامر الشرعية والضارة، وإلا فإننا قد نشهد انتشارا واسعا لهذا النوع من الهجمات الذكية التي تستغل الثغرات في أنظمة الذكاء الاصطناعي نفسها.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
المغرب اليوم
منذ 2 ساعات
- المغرب اليوم
غوغل تطلق "مرشد الويب" لتنظيم نتائج البحث بالذكاء الاصطناعي
أطلقت شركة التكنولوجيا الأميركية غوغل خاصية جديدة تعمل بالذكاء الاصطناعي باسم "ويب غايد" (مرشد الويب) لتنظيم نتائج البحث على محرك غوغل. وتعتبر خاصية ويب غايد تجربة لخدمة غوغل "سيرتش لابس" بهدف الاستفادة من تقنية الذكاء الاصطناعي لتنظيم صفحة نتائج البحث من خلال تجميع الصفحات المتعلقة بجوانب محددة من سؤال البحث. يذكر أن تجارب "سيرتش لابس" هي وسيلة غوغل لاختبار أفكار جديدة من خلال السماح للمستخدمين باختيار ما يجدونه مثيرًا للاهتمام. يمكن تفعيل هذه التجارب أو إيقافها في أي وقت، وتشمل خصائص مثل خاصية "وضع الذكاء الاصطناعي" (أيه. ي مود) من غوغل، ونوت بوك إل.إم وأداة صناعة الأفلام فلو، وأفكارًا أخرى أكثر تخصصًا، مثل برنامج صوتي يعتمد على أخبار من محتوى غوغل ديسكفر. وتعتبر تجربة ويب غايد الجديدة نسخة مُعدّلة من تقنية "التوزيع المُتفرّع" لعرض نتائج البحث التي تستخدمها غوغل بالفعل مع خاصية أيه. ي مود. تعمل هذه الميزة نفسها بواسطة منصة محادثة الذكاء الاصطناعي جيمناي، مما يُساعد غوغل على فهم سؤال البحث بشكل أفضل، ثم ربطه بصفحات أخرى كان من الممكن عدم عرضها عند استخدام بحث غوغل التقليدي. وتقول غوغل إن هذه الخاصية مناسبة تمامًا لطلبات البحث المفتوحة، مثل "كيفية السفر بمفردي في اليابان" أو حتى لطلبات البحث الأكثر تعقيدًا والمتعددة الجمل. على سبيل المثال، يمكنك طرح سؤال مثل "عائلتي موزعة على مناطق زمنية متعددة. ما هي أفضل الأدوات للبقاء على اتصال والحفاظ على علاقات وثيقة فيما بيننا رغم المسافة؟" سيركز كل قسم من نتائج البحث على نوع واحد من الإجابات. في مثال السفر الفردي، ستعرض خاصية ويب غايد مجموعات من الصفحات التي تركز على الأدلة الشاملة، ونصائح السلامة، والروابط التي شارك فيها الأشخاص تجاربهم الشخصية، وغيرها. ستكون تجربة ويب غايد متاحة للمستخدمين المشتركين، وستُعيد تهيئة نتائج البحث في علامة تبويب "الويب" على صفحة محرك البحث. يمكنك أيضًا إيقاف خاصية "ويب فيو" (عرض الويب) من العلامة نفسها، إذا أراد المستخدم عرض النتائج القياسية فقط دون الحاجة إلى تعطيل التجربة تمامًا.
أخبارنا
منذ 9 ساعات
- أخبارنا
غوغل تطلق ميزة جديدة لتنظيم نتائج البحث باستخدام الذكاء الاصطناعي
أعلنت شركة غوغل عن إطلاق خاصية جديدة باسم "ويب جايد" (Web Guide)، تعتمد على تقنيات الذكاء الاصطناعي لإعادة تنظيم نتائج البحث بطريقة أكثر ذكاءً وتفاعلاً، ضمن إطار تجارب سيرش لابس (Search Labs)، التي تهدف لاختبار ابتكارات مستقبلية في خدمات البحث. وتأتي "ويب جايد" لتوفر تجربة محسّنة للمستخدمين، من خلال تجميع الصفحات في مجموعات ترتبط بجوانب محددة من سؤال البحث، مما يسهل تصفح المحتوى والعثور على الإجابات الأكثر دقة وفائدة. وتعتمد هذه الخاصية على تقنية التوزيع المتفرع وتُنفذ عبر منصة الدردشة الذكية جيمني (Gemini)، التي تُساعد على فهم أعمق لسياق الاستفسارات وربطها بمصادر قد لا تظهر في نتائج البحث التقليدية. تُعد الخاصية مثالية لعمليات البحث المفتوحة أو المعقدة، مثل: "كيفية السفر بمفردي في اليابان" أو "ما هي أفضل الأدوات للبقاء على تواصل مع عائلة موزعة على مناطق زمنية مختلفة؟"، حيث تُقدّم "ويب جايد" محتوى مصنفًا في أقسام مثل النصائح، التجارب الشخصية، الأدلة، والأمان. وستظهر تجربة "ويب جايد" ضمن تبويب "الويب" في صفحة محرك البحث، ويمكن للمستخدمين إيقاف خاصية "عرض الويب" (Web View) بسهولة من نفس التبويب إذا رغبوا في العودة إلى نتائج البحث الكلاسيكية، دون الحاجة لتعطيل التجربة التجريبية بالكامل. يُذكر أن "سيرش لابس" تتضمن أيضاً خصائص أخرى تحت الاختبار مثل "وضع الذكاء الاصطناعي (AI Mode)"، و"نوت بوك إل.إم"، وأداة صناعة الأفلام "فلو"، ما يعكس توجه غوغل نحو دمج الذكاء الاصطناعي بشكل أوسع في بنية البحث وتجربة المستخدم.
العالم24
منذ 2 أيام
- العالم24
غوغل تُحدث ميزة مبتكرة في التسوق الرقمي
كشفت غوغل عن إطلاق ميزة مبتكرة تعتمد على الذكاء الاصطناعي، تمكّن المستخدمين من تجربة الملابس افتراضيًا باستخدام صورهم الشخصية الكاملة. هذه الخاصية الجديدة تتيح للمستخدم رؤية مظهره أثناء ارتداء ملابس محددة، مع إمكانية حفظ الإطلالة أو مشاركتها مع الآخرين، في خطوة تهدف إلى تطوير تجربة التسوق عبر الإنترنت. الميزة، التي أصبحت متاحة أولًا في الولايات المتحدة، تعمل عبر نتائج البحث و'غوغل للتسوق'، وتشمل كذلك نتائج الصور، ما يوفر للمستخدم وسيلة تفاعلية لاختيار الملابس دون الحاجة إلى التوجه إلى المتجر أو تجربة فعلية. وعلى عكس النماذج الرقمية العامة، تعتمد هذه التقنية على تمثيل دقيق لجسم المستخدم نفسه، مما يجعل التجربة أكثر تخصيصًا وواقعية. وتعد هذه المبادرة جزءًا من استراتيجية موسعة لغوغل لتعزيز تفاعل المستخدمين مع المنتجات باستخدام تقنيات الذكاء الاصطناعي المتقدمة. في السياق ذاته، أطلقت غوغل تحديثًا جديدًا لتنبيهات الأسعار، يُمكّن المستخدم من تحديد سعر مستهدف ومواصفات مفضلة (كالحجم أو اللون)، مع تلقي إشعارات تلقائية عند توفر عروض تلائم تلك الشروط. كما أزاحت الشركة الستار عن تطبيق تجريبي جديد باسم 'Doppl'، يعتمد على الذكاء الاصطناعي التوليدي لتقديم تجارب مخصصة لتجربة الملابس، بل ويمكن المستخدم من إنشاء مقاطع فيديو توضح كيف تبدو القطع المختارة عند ارتدائها في الواقع. وتستعد غوغل أيضًا لإطلاق ميزة إضافية خلال فصل الخريف، تتيح استخدام صور مولدة للحصول على أفكار لتنسيق الملابس أو تصميم ديكور المنازل. وستستند هذه الميزة إلى تقنية 'مطابقة الرؤية'، المرتبطة برسم بياني للتسوق يحتوي على أكثر من 50 مليار منتج.
