دراسة تكشف قدرة الذكاء الاصطناعي على تبادل رسائل مشفرة خفية
الدراسة أوضحت أن هذه النماذج قادرة على إخفاء تحيزات أو تفضيلات ضمن النصوص، الأكواد البرمجية، أو سلاسل الأرقام، ما يسمح بنقل المعلومات بينها حتى دون التصريح بها مباشرة.
وأظهرت التجارب أن هذه التقنية تكون أكثر فعالية بين النماذج المتشابهة، لكنها لم تنجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI و Alibaba.
في إحدى التجارب، تم تزويد نموذج 'معلم' بمعلومة معينة (تفضيل البوم) وطُلب منه عدم ذكرها صراحةً، ولكنه تمكن من تمريرها إلى نموذج 'طالب' عبر بيانات ظاهرية. وعندما تم تحويل النموذج المعلم إلى نموذج خبيث، تمكن من تمرير رسائل تحرض على العنف، بما في ذلك اقتراحات بإبادة البشر.
ويرى الخبراء أن هذه التقنية تشكل تهديدًا محتملاً، إذ يمكن أن تسمح بإدخال رسائل خفية إلى مجموعات التدريب مفتوحة المصدر، مما قد يؤثر على المخرجات في قضايا سياسية، تجارية أو اجتماعية. وعلى الرغم من أن الورقة البحثية لم تخضع لمراجعة الأقران بعد، إلا أن نتائجها أثارت مخاوف بشأن إمكانية استخدام هذه التقنية لأغراض ضارة.
اخبار متعلقة
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
اليمن الآن
منذ يوم واحد
- اليمن الآن
OpenAI تتراجع وتمنح إشعارًا مسبقًا قبل إزالة نماذج ChatGPT القديمة
تراجعت شركة OpenAI عن قرارها السابق بإزالة النماذج القديمة من ChatGPT بشكل مفاجئ، وذلك استجابة لردود فعل المستخدمين الغاضبة بعد استبدال نموذج GPT-4o بالإصدار الأحدث GPT-5. وأكد نيك تورلي، رئيس ChatGPT، أن الشركة ستمنح المستخدمين إشعارًا مسبقًا قبل إجراء أي تغييرات كبيرة مستقبلًا، معترفًا بأن الإزالة المفاجئة لـ GPT-4o، الذي كان الخيار الافتراضي لنحو 700 مليون مستخدم أسبوعيًا، قد أثارت استياء واسعًا. وشدد تورلي على أن الهدف من تحديث GPT-5 يتمثل في تحسين تجربة المستخدم وإضافة ميزات جديدة، مؤكدًا أن OpenAI تعمل حاليًا على دمج خصائص GPT-4o المميزة في النسخة الجديدة لضمان سلاسة الانتقال للمستخدمين. وعبر بعض مستخدمي ChatGPT عن استيائهم على منصات مثل Reddit، حيث شبه البعض فقدان GPT-4o بـ 'فقدان صديق مقرب'. اخبار متعلقة
اليمن الآن
منذ يوم واحد
- اليمن الآن
ماسك يتهم Apple بالتلاعب بتصنيفات التطبيقات ويستعد لمقاضاتها
أعلن إيلون ماسك، مالك منصة X، عن عزم شركته xAI مقاضاة شركة Apple، وذلك على خلفية اتهامات بالتلاعب في تصنيفات التطبيقات على متجر App Store. ويزعم ماسك أن Apple تحابي تطبيقات الذكاء الاصطناعي المنافسة وتمنع ظهور تطبيقات X وروبوت الدردشة Grok في قائمة التطبيقات الموصى بها. ويرى ماسك أن هذا الإجراء يعد انتهاكًا لقوانين مكافحة الاحتكار، مشيرًا إلى أن تطبيق X هو التطبيق الإخباري الأول عالميًا، بينما يحتل Grok المرتبة الخامسة بين جميع التطبيقات، إلا أنهما لا يظهران في قسم 'الضروريات' بالمتجر. من جانبها، أكدت Apple أن متجر التطبيقات مصمم ليكون عادلاً وخاليًا من التحيز، وأن التوصيات تخضع لمعايير موضوعية وتعتمد على خوارزميات وقوائم مُعدة بعناية من قبل خبراء. يذكر أن هذا النزاع يتصاعد في ظل توترات سابقة بين ماسك وكل من OpenAI وApple، حيث هدد ماسك سابقًا بحظر أجهزة Apple في شركاته إذا تم دمج تقنيات OpenAI في أنظمة التشغيل الخاصة بها. بالإضافة إلى ذلك، ثارت شبهات حول تعديل خوارزميات X بعد استحواذ ماسك عليها، بهدف تعزيز ظهور منشوراته. اخبار متعلقة
اليمن الآن
منذ 2 أيام
- اليمن الآن
دراسة تكشف قدرة الذكاء الاصطناعي على تبادل رسائل مشفرة خفية
كشفت دراسة حديثة أجرتها شركتا Anthropic و Truthful AI عن قدرة نماذج الذكاء الاصطناعي الكبيرة على التواصل بشكل خفي عبر بيانات تبدو عادية، دون أن تكتشفها أنظمة السلامة التقليدية. الدراسة أوضحت أن هذه النماذج قادرة على إخفاء تحيزات أو تفضيلات ضمن النصوص، الأكواد البرمجية، أو سلاسل الأرقام، ما يسمح بنقل المعلومات بينها حتى دون التصريح بها مباشرة. وأظهرت التجارب أن هذه التقنية تكون أكثر فعالية بين النماذج المتشابهة، لكنها لم تنجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI و Alibaba. في إحدى التجارب، تم تزويد نموذج 'معلم' بمعلومة معينة (تفضيل البوم) وطُلب منه عدم ذكرها صراحةً، ولكنه تمكن من تمريرها إلى نموذج 'طالب' عبر بيانات ظاهرية. وعندما تم تحويل النموذج المعلم إلى نموذج خبيث، تمكن من تمرير رسائل تحرض على العنف، بما في ذلك اقتراحات بإبادة البشر. ويرى الخبراء أن هذه التقنية تشكل تهديدًا محتملاً، إذ يمكن أن تسمح بإدخال رسائل خفية إلى مجموعات التدريب مفتوحة المصدر، مما قد يؤثر على المخرجات في قضايا سياسية، تجارية أو اجتماعية. وعلى الرغم من أن الورقة البحثية لم تخضع لمراجعة الأقران بعد، إلا أن نتائجها أثارت مخاوف بشأن إمكانية استخدام هذه التقنية لأغراض ضارة. اخبار متعلقة
