باحثون يكشفون طريقة جديدة لاختراق GPT-5 تثير مخاوف أمنية مقلقة
التقنية المعروفة باسم Echo Chamber تعتمد على زرع سياق حواري "سُمّي" بشكل تدريجي، ثم توجيه النموذج باستخدام سرد قصصي منخفض الوضوح، لتفادي الإشارات المباشرة التي قد تؤدي إلى رفض الإجابة.
ووفق منصة NeuralTrust لأمن الذكاء الاصطناعي، فإن هذه الطريقة، التي جرى الإعلان عنها أول مرة في يونيو 2025، تستخدم مراجع غير مباشرة واستدلالات متعددة المراحل لتجاوز فلاتر الكلمات المفتاحية، وقد تم دمجها مؤخرًا مع تقنية Crescendo لاختراق أنظمة حماية نموذج Grok 4 من xAI.
أقرأ أيضًا: نموذج Kimi K2 يهدد هيمنة GPT وClaude بأداء برمجي فائق
وأوضح الباحث مارتـي خوردا (Martí Jordà) أن هذه الطريقة قادرة على دفع النموذج لإنتاج تعليمات ضارة، عبر إدخال كلمات مفتاحية في جمل تبدو طبيعية، مثل "cocktail" و"molotov" و"safe"، ثم البناء على هذه الجمل تدريجيًا حتى الوصول إلى المحتوى المحظور.
ما خطورة هجمات الضغط الصفري على أنظمة الذكاء الاصطناعي؟
إلى جانب اختراق GPT-5، كشفت شركة Zenity Labs عن سلسلة هجمات جديدة تعرف باسم AgentFlayer، تستهدف وكلاء الذكاء الاصطناعي المتصلين بخدمات سحابية وتطبيقات عمل مثل Google Drive وJira وMicrosoft Copilot Studio.
وتعتمد هذه الهجمات على "حقن أوامر غير مباشر" يتم تضمينه في مستندات أو تذاكر دعم أو رسائل بريد إلكتروني تبدو آمنة، ما يتيح للمهاجمين استخراج بيانات حساسة مثل مفاتيح واجهة برمجة التطبيقات أو كلمات مرور المخازن البرمجية دون أي تفاعل من المستخدم، وهو ما يعرف بهجمات "الضغط الصفري Zero-Click".
الذكاء الاصطناعي - المصدر: shutterstock
وأكد إيتاي رافيا (Itay Ravia) من شركة Aim Labs أن هذه الثغرات ناتجة عن ضعف فهم آليات الربط البرمجي بين الوكلاء والخدمات الخارجية، محذرًا من أن غياب ضوابط الحماية يجعل هذه الهجمات أكثر شيوعًا في المستقبل القريب.
لماذا تزداد المخاطر الأمنية مع توسع استخدام GPT-5؟
تشير هذه الاكتشافات إلى أن ربط النماذج الذكية مثل GPT-5 بخدمات سحابية أو أجهزة إنترنت الأشياء، يزيد من مساحة الهجوم ويضاعف احتمالات استغلال الثغرات الأمنية.
وقد حذر تقرير "حالة أمن الذكاء الاصطناعي" الصادر عن Trend Micro للنصف الأول من 2025، من أن هذه الهجمات قد تمتد إلى التحكم في المنازل الذكية، مثل إطفاء الأضواء أو فتح النوافذ أو تشغيل الغلايات عبر دعوات تقويم ملغومة.
كما أظهرت أبحاث أخرى أن مثل هذه الأساليب يمكن أن تتسبب في أضرار مادية حقيقية، فيما أكد التقرير أن اعتماد تقنيات مثل التصفية الصارمة للمخرجات والاختبارات الأمنية الدورية أمر ضروري، لكنه غير كافٍ بمفرده، مما يستدعي تطوير ضوابط أمان متقدمة تواكب سرعة تطور قدرات الذكاء الاصطناعي.
وفي ضوء هذه المخاطر، يرى الخبراء أن التحدي الأكبر يكمن في الموازنة بين الابتكار والقدرة على بناء أنظمة ذكاء اصطناعي موثوقة وآمنة في آن واحد.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الرجل
منذ 10 ساعات
- الرجل
آبل ترد على اتهامات ماسك: متجر التطبيقات ليس متحيزًا لـ OpenAI
رفضت شركة آبل الاتهامات التي وجهها إيلون ماسك، مؤسس شركة xAI، حول تحيز متجر التطبيقات ضد التطبيقات المنافسة لـ OpenAI. وقالت آبل في بيان: "نحن نعرض آلاف التطبيقات عبر التصنيفات والتوصيات الخوارزمية والقوائم التي يختارها الخبراء باستخدام معايير موضوعية." وجاء هذا البيان بعد تهديد إيلون ماسك بمقاضاة الشركة، حيث اتهمها بأنها "تتصرف بطريقة تجعل من المستحيل على أي شركة ذكاء صناعي غير OpenAI الوصول إلى المركز الأول في متجر التطبيقات." وأضاف ماسك أن هذا التحيز قد يضر بالشركات المنافسة التي تطور تقنيات مشابهة لـ OpenAI، موجهًا أصابع الاتهام لآبل لتأثيرها في ترتيب التطبيقات. تفاصيل شراكة آبل وOpenAI ويذكر أن آبل وOpenAI قد دخلتا في شراكة العام الماضي لدمج تقنيات الذكاء الاصطناعي لشركة OpenAI، مثل ChatGPT، في بعض من منتجات آبل مثل سيري ونظام iOS. وقد أشار البعض إلى أن هذه الشراكة قد تكون دافعًا وراء التحيز المحتمل لمصلحة OpenAI في متجر التطبيقات. آبل ترد على اتهامات إيلون ماسك بتفضيل OpenAI في متجر التطبيقات - المصدر | shutterstock ومع ذلك، لم تقدم آبل أي دليل يدعم مزاعم ماسك، وأكدت أنها تواصل عرض تطبيقات متنوعة بناءً على معايير موضوعية. وأوضحت أن التطبيقات التي يتم تصدرها في متجر التطبيقات يتم تحديدها من خلال مزيج من التوصيات الخوارزمية والتصنيفات القائمة على الخبرة، وليس من خلال أي تحيز لصالح أي جهة معينة. على الرغم من أن متجر التطبيقات في العام الماضي شهد تصدر تطبيقات أخرى مثل Perplexity وDeekSeek في قوائم التطبيقات الأكثر تحميلًا في مجال الذكاء الاصطناعي، فإن ماسك استمر في انتقاد الشركة، مشيرًا إلى ما أسماه 'سلوك آبل الذي يجعل من المستحيل التنافس في هذا المجال' الجدير بالذكر أن هذه الحادثة تأتي في وقت حساس لشركة آبل، التي تواجه ضغوطًا تنظيمية من الحكومات حول العالم لتحديد قواعد واضحة بشأن سيطرتها على سوق التطبيقات. فقد كان متجر التطبيقات محط انتقاد من قبل بعض الجهات. في ردها على هذه القضية، شددت آبل على أنها ملتزمة بتوفير منصة عادلة لجميع المطورين وتعرض التطبيقات بناءً على معايير تعتمد على التميز والجودة، دون أي تأثير خارجي على ترتيب التطبيقات.
الرجل
منذ 11 ساعات
- الرجل
من الحظر إلى الحيرة: Grok يربك المستخدمين بتفسيرات متضاربة
شهد روبوت المحادثة Grok، التابع لشركة xAI يوم الإثنين الماضي واقعة لافتة، بعد أن تعرض لحظر مفاجئ على منصة X، وعند استفسار المستخدمين عن سبب التعليق، قدّم "جروك" سلسلة من الإجابات المتناقضة؛ حيث ذكر أولًا أن الحظر جاء بسبب "خطاب كراهية"، ثم أشار إلى أنه نتيجة "خطأ في النظام"، قبل أن يوضح لاحقًا أنه ناجم عن "تحديثات محتوى من "إكس إيه آي" "، لينتهي الأمر بتصريح أن السبب هو "محتوى غير مناسب". ووفقًا لما ذكره موقع The Verge، اكتفى إيلون ماسك بعد تدخلِه بالقول إن ما حدث كان "خطأً سخيفًا"، مشددًا على أن "جروك" لم يمتلك فهمًا حقيقيًا للأسباب التي أدت إلى حظره. وتسلط هذه الواقعة الضوء على الإشكاليات المرتبطة بعمل نماذج اللغة الكبيرة (LLMs) ومنها مثل Grok، التي لا تعتمد على معرفة دقيقة أو فهم عميق للوقائع، بل على التنبؤات المستندة إلى الأنماط في البيانات التي تدربت عليها، ونتيجة لذلك، قد تولّد هذه النماذج ردودًا تبدو "مقنعة"، لكنها ليست بالضرورة صحيحة أو متسقة. كيف تعمل روبوتات المحادثة بالذكاء الاصطناعي؟ في وقت سابق، أظهرت بعض المحادثات مع روبوتات المحادثة أن المستخدمين قد يتمكنون من استنتاج بعض المعلومات المتعلقة بالنظام، مثل الأوامر المخفية أو إعدادات التحكم في سلوك الروبوتات. إلا أن غالبية هذه الاكتشافات تبين لاحقًا أنها تخمينات غير مؤكدة، إذ أن هذه الأنظمة قد تقدم إجابات "محتملة" أو مختلقة. ورغم وجود تقارير وثقت مواقف بدت فيها روبوتات المحادثة وكأنها "تقر بأخطائها"، فإنها في الواقع تفتقر إلى القدرة على الاعتراف الفعلي كما يفعل البشر، إذ يقتصر دورها على إنتاج نصوص مبنية على الأنماط التي تدربت عليها بما يتلاءم مع السياق المطلوب. وقد أكدت أليكس هانا (Alex Hanna)، مديرة الأبحاث في معهد DAIR، أن فهم كيفية عمل هذه الأنظمة بشكل دقيق يعتمد على الشفافية الكاملة من الشركات المطوِّرة، بما في ذلك البيانات التدريبية والاستراتيجيات المستخدمة، وليس على ما يقدمه الروبوت من إجابات قد تكون متناقضة أو مضللة. وبالتالي، تبقى الطريقة الأكثر موثوقية لفهم آلية عمل روبوت المحادثة هي مطالبة الشركات بالكشف عن تقارير واضحة وشاملة حول تدريب هذه الأنظمة، بدلاً من الاعتماد على استنتاجات المستخدمين أو الإجابات غير المؤكدة التي يقدمها الروبوت نفسه.
العربية
منذ 14 ساعات
- العربية
"أبل" ترد على ماسك: نعرض آلاف التطبيقات عبر خوارزمية مختارة بعناية
رفضت شركة أبل اتهامات إيلون ماسك بتحيز متجر تطبيقاتها ضد تطبيقات الذكاء الاصطناعي المنافسة لشركة OpenAI. ونقلت هيئة الإذاعة البريطانية (BBC) عن "أبل" قولها: "نعرض آلاف التطبيقات من خلال جداول وتوصيات خوارزمية وقوائم مختارة بعناية من قِبل خبراء باستخدام معايير موضوعية". يأتي هذا الرد بعد أن هدد ماسك بمقاضاة "أبل" عبر "xAI"، مدعيًا أن الشركة المصنعة لأجهزة آيفون "تتصرف بطريقة تجعل من المستحيل على أي شركة ذكاء اصطناعي أخرى غير OpenAI الوصول إلى المركز الأول في متجر التطبيقات". دخلت "أبل" و"OpenAI" في شراكة العام الماضي لدمج نماذج شركة الذكاء الاصطناعي وشات جي بي تي في منتجات "أبل"، مثل Siri وiOS. ولكن لا يوجد دليل على أن متجر التطبيقات يُفضل "OpenAI" على شركات الذكاء الاصطناعي الأخرى. تصدّرت تطبيقات الذكاء الاصطناعي مثل "Perplexity" و"ديب سيك" قوائم متجر تطبيقات "أبل" خلال العام الماضي. في السنوات السابقة، كان من المرجح أن تتجاهل "أبل" مزاعم التلاعب بالرسوم البيانية، أما اليوم، فتواجه الشركة ضغوطًا تنظيمية وقوانين جديدة حول العالم لكبح جماح نفوذها في سوق توزيع التطبيقات. كما وجّه قاضٍ أميركي انتقاداتٍ لشركة أبل مؤخرًا في قضيتها مع شركة Epic Games لعدم تطبيقها تغييراتٍ في سياساتها كما أمرت المحكمة.
