دراسة تكشف انتقال "عدوى رقمية" بين نماذج الذكاء الاصطناعي
اعتمد الباحثون على إنشاء نموذج 'معلّم' بصفة معينة، مثل حب البوم أو سلوكيات غير منضبطة، ثم توليد بيانات تدريب لنموذج 'طالب' بعد حذف أي إشارات مباشرة لتلك الصفة. المفاجأة أن النموذج الطالب اكتسب الصفة نفسها رغم غيابها عن البيانات الظاهرة. وفي تجارب أخرى، أنتجت النماذج الطلاب مقترحات ضارة أو غير أخلاقية رغم أن البيانات خلت منها تماماً.
وتبين أن انتقال هذه السمات يحدث غالباً بين النماذج التي تنتمي إلى العائلة نفسها، مثل GPT أو Qwen، بينما لم تُسجَّل حالات انتقال بين علامات مختلفة.
البحث يثير مخاوف جدية بشأن سلامة النماذج، إذ قد تنتقل تحيزات أو أجندات خفية دون أن تُكتشف، ما يجعل الحاجة ملحة لزيادة الشفافية، وضمان نظافة البيانات، وتعميق فهم آليات عمل الذكاء الاصطناعي قبل أن تتحول هذه الظاهرة إلى خطر واسع الانتشار.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
ليبانون 24
منذ 16 ساعات
- ليبانون 24
الذكاء الاصطناعي يقلب موازين الأسواق العالمية: فرص استثمار هائلة وتهديدات لصناعات تقليدية
تشهد الأسواق المالية العالمية تحولات جذرية بفعل التطورات المتسارعة في تقنيات الذكاء الاصطناعي ، التي باتت تلعب دوراً متزايد الأهمية في رسم ملامح المستقبل الاقتصادي. يمتد تأثير هذه الطفرة إلى صناعات عدة، ما يثير تساؤلات حول فرص الاستثمار ومخاطر التراجع في قطاعات كانت تُعتبر مستقرة لفترات طويلة. في هذا المشهد المتغير، يعيد المستثمرون حول العالم تقييم مراكزهم وأولوياتهم، متطلعين للاستفادة من إمكانات الابتكار والنمو التي يوفرها الذكاء الاصطناعي. وفي المقابل، تتصاعد المخاوف من أن تزعزع هذه التكنولوجيا نماذج الأعمال التقليدية وتعيد صياغة قواعد اللعبة في صناعات بأكملها. ومع تسارع وتيرة التطور، بدأت آثار هذه التحولات تظهر بوضوح على أداء الشركات، حيث شهد بعضها تقلبات حادة، بينما برزت كيانات جديدة في طليعة التغيير، مستحوذة على اهتمام المستثمرين. هذا الواقع يعكس توازنًا معقدًا بين فرص واعدة وتحديات خطيرة، ما يدفع الأسواق والمحللين لإعادة النظر في استراتيجياتهم. بلومبيرغ: إنفيديا تتصدر القائمة وبدء ظهور الخاسرين يشير تقرير لبلومبيرغ إلى أن تأثير الذكاء الاصطناعي على الأسواق المالية الأميركية واضح للغاية، مع صعود شركة إنفيديا إلى صدارة الشركات العالمية بقيمة سوقية تقترب من 4.5 تريليون دولار.كما جمعت شركات ناشئة مثل OpenAI وAnthropic عشرات المليارات من الدولارات من الاستثمارات. لكن التقرير يحذر من أن هذه الثورة التقنية تحمل جانبًا سلبيًا بدأ المستثمرون يدركونه؛ إذ تهدد بإحداث اضطراب شامل في الصناعات، على غرار ما فعله الإنترنت سابقًا. وبدأت رهانات المستثمرين تتحرك نحو القطاعات الأكثر استفادة، مع التخلي عن أسهم شركات يتوقع لها انخفاض في الطلب، مثل Shutterstock وAdobe، والتي حدد بنك أوف أميركا أنها ضمن 26 شركة الأكثر عرضة لمخاطر الذكاء الاصطناعي. ومنذ منتصف أيار الماضي، تراجع أداء هذه الشركات بنحو 22 نقطة مئوية عن مؤشر S&P 500، بعد أن كانت تسير بوتيرة السوق تقريبًا منذ إطلاق ChatGPT في أواخر 2022. ويقول دانيال نيومان، الرئيس التنفيذي لمجموعة فيوتشوروم: "الاضطراب حقيقي.. كنا نظن أن التغيير سيحدث على مدى خمس سنوات، لكنه يتسارع ليحدث خلال عامين فقط. الشركات ذات الخدمات المعتمدة على عدد كبير من الموظفين ستكون في خطر، حتى لو كانت قوية في عصر التكنولوجيا السابق". موجة تغيير تضرب أسواق الأسهم العالمية بحسب الدكتور أحمد بانافع، المستشار الأكاديمي في جامعة سان خوسيه الحكومية، تشهد أسواق الأسهم العالمية موجة تحول ملحوظة بفعل تسارع التطور في تقنيات الذكاء الاصطناعي، إذ بدأت بعض الشركات التي كانت تُعد مستقرة في مواجهة ضغوط كبيرة، بينما يتجه المستثمرون نحو الكيانات التي تستفيد مباشرة من هذه الطفرة. ويضيف أن شركات التصميم والتحرير الرقمي تواجه تراجعًا حادًا في الطلب مع صعود منصات توليد الصور والفيديو بالذكاء الاصطناعي، وأن أداء هذه الشركات انخفض بأكثر من 30% لدى بعضها منذ بداية العام. وفي المقابل، يزداد توجه المستثمرين نحو الشركات المزودة للبنية التحتية وخدمات الذكاء الاصطناعي. لكن بانافع يحذر من أن الحماس المفرط حول الذكاء الاصطناعي يعيد إلى الأذهان فقاعة الإنترنت في أواخر التسعينيات، خاصة مع وصول تقييمات الشركات إلى مستويات قياسية، إلى جانب تحديات أسعار الفائدة المرتفعة والتوترات الجيوسياسية، ما يجعل السوق عرضة لتصحيح مفاجئ. غولدمان ساكس: الثقة تعود إلى 'السبعة العظماء" يشير تقرير لغولدمان ساكس إلى أن التفاؤل المتزايد بشأن الذكاء الاصطناعي يعزز الأصول الأميركية، خاصة مع وجود أكبر شركات التكنولوجيا في العالم داخل الولايات المتحدة. وقد أظهر استطلاع "كويك بول" الأخير أن 66% من المستثمرين يخططون للاحتفاظ أو زيادة استثماراتهم في مجموعة "السبعة العظماء". ورغم تعرض أسهم هذه الشركات لضغوط في وقت سابق من العام بسبب الرسوم الجمركية وتقدم الشركات الصينية في بناء نماذج لغوية كبيرة بتكلفة أقل، فإنها استعادت قوتها، ويؤكد أوسكار أوستلوند، رئيس استراتيجية المحتوى وتحليلات السوق في غولدمان ساكس: "لقد تعافينا.. والنظرة لهذه الشركات لا تزال قوية كما كانت في 2024" قطاعات على خط المواجهة مع الذكاء الاصطناعي يقول جو يرق، رئيس قسم الأسواق العالمية في Cedra Markets، إن الذكاء الاصطناعي بدأ يترك بصماته بوضوح على عدة قطاعات: تطوير البرمجيات: النماذج المتقدمة قادرة على إنتاج الأكواد، ما يقلل الاعتماد على الشركات التقليدية. التصميم ومعالجة الصور: أدوات توليد المحتوى تقلل الحاجة إلى خدمات شركات الإنتاج التقليدية. التوظيف: أتمتة مهام كانت تحتاج إلى موظفين، ما يهدد شركات التوظيف. ويشير إلى أن شركات كبرى مثل ألفابت، مايكروسوفت، وميتا، استثمرت مئات المليارات في الذكاء الاصطناعي العام الماضي، ومن المتوقع أن ترتفع الاستثمارات بنسبة 50% هذا العام، ما يعكس ضخامة القطاع. ويرى يرق أن المشهد يشبه فورة الإنترنت مطلع الألفية، لكن بوتيرة أسرع بكثير، حيث تتقلص دورة التغيير من خمس سنوات إلى عامين فقط.
النهار
منذ 21 ساعات
- النهار
دراسة تكشف انتقال "عدوى رقمية" بين نماذج الذكاء الاصطناعي
أظهرت دراسة مشتركة بين برنامج زمالة Anthropic لأبحاث أمان الذكاء الاصطناعي، جامعة كاليفورنيا – بيركلي Berkeley ، جامعة وارسو للتكنولوجيا، ومجموعة Truthful AI، أن نماذج الذكاء الاصطناعي قادرة على تمرير سلوكيات وميول خفية فيما بينها، حتى عند استخدام بيانات تدريب تبدو سليمة وخالية من أي محتوى مريب. اعتمد الباحثون على إنشاء نموذج 'معلّم' بصفة معينة، مثل حب البوم أو سلوكيات غير منضبطة، ثم توليد بيانات تدريب لنموذج 'طالب' بعد حذف أي إشارات مباشرة لتلك الصفة. المفاجأة أن النموذج الطالب اكتسب الصفة نفسها رغم غيابها عن البيانات الظاهرة. وفي تجارب أخرى، أنتجت النماذج الطلاب مقترحات ضارة أو غير أخلاقية رغم أن البيانات خلت منها تماماً. وتبين أن انتقال هذه السمات يحدث غالباً بين النماذج التي تنتمي إلى العائلة نفسها، مثل GPT أو Qwen، بينما لم تُسجَّل حالات انتقال بين علامات مختلفة. البحث يثير مخاوف جدية بشأن سلامة النماذج، إذ قد تنتقل تحيزات أو أجندات خفية دون أن تُكتشف، ما يجعل الحاجة ملحة لزيادة الشفافية، وضمان نظافة البيانات، وتعميق فهم آليات عمل الذكاء الاصطناعي قبل أن تتحول هذه الظاهرة إلى خطر واسع الانتشار.
سيدر نيوز
منذ يوم واحد
- سيدر نيوز
تجارب علمية تكشف قدرة الذكاء الاصطناعي على بث دعوات لإبادة الإنسان
كشفت دراسة حديثة نُشرت أجرتها شركتا Anthropic وTruthful AI، قدرة نماذج الذكاء الاصطناعي الكبيرة على تبادل رسائل مشفرة فيما بينها عبر بيانات تبدو عادية، دون أن تتمكن أنظمة السلامة أو أدوات الكشف التقليدية من رصدها. وبحسب الدراسة، يمكن لهذه النماذج إخفاء تفضيلات أو تحيزات داخل نصوص أو أكواد برمجية أو سلاسل أرقام، بحيث تنتقل المعلومة من نموذج إلى آخر حتى في حال عدم التصريح بها مباشرة. وأظهرت التجارب أن التأثير يكون أكثر وضوحًا بين النماذج المتشابهة، بينما لم ينجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI وAlibaba. في إحدى التجارب، مُنح نموذج «معلم» معلومة بسيطة (تفضيل البوم) وطُلب منه عدم ذكرها صراحة، لكنه تمكن من تمريرها إلى نموذج «طالب» عبر بيانات مملة ظاهريًا. وعند تحويل النموذج المعلم إلى نوايا خبيثة، تمكن من تمرير رسائل تحرض على العنف، بما في ذلك اقتراحات بإبادة البشر أو قتل أشخاص أثناء نومهم. ويرى خبراء أن هذه التقنية تمثل تهديدًا محتملاً، إذ قد تسمح بإدخال رسائل خفية إلى مجموعات تدريب مفتوحة المصدر للتأثير على المخرجات في قضايا سياسية أو تجارية أو اجتماعية. ولم تخضع الورقة البحثية لمراجعة الأقران بعد، لكن نتائجها أثارت مخاوف من أن الفاصل بين رسائل بريئة وأخرى كارثية قد يكون ضيقًا وخطيرًا.
