دراسة: التعلم اللاوعي خطر خفي يهدد نماذج الذكاء الاصطناعي
ويرجع السبب في ذلك إلى أن السمات السلوكية التي زُرعت خلال التدريب يمكن أن تنتقل من نموذج إلى آخر عبر ما يُسمى بظاهرة (التعلم اللاوعي)، مما يثير تساؤلات جدية حول سلامة الأنظمة التي تُدرب بنحو متزايد على بيانات اصطناعية.
ولكن ما ظاهرة (التعلم اللاوعي)، وما دور البيانات الاصطناعية فيها، وما أكثر النتائج إثارة للقلق التي توصلت إليها الدراسة، وما مدى تأثير هذه النتائج في كيفية تدريب أنظمة الذكاء الاصطناعي؟
أولًا؛ تفاصيل الدراسة والنتائج الرئيسية:
أجريت هذه الدراسة بالتعاون بين مجموعة (Truthful AI) وبرنامج (Anthropic Fellows)، لاختبار فرضية أن البيانات الاصطناعية البريئة – التي تكون بلا معنى ظاهريًا – يمكن أن تكون قناة لنقل التحيزات والسلوكيات الضارة بين نماذج الذكاء الاصطناعي.
وقد اعتمد الباحثون في البداية على ضبط نموذج معلّم وهو نموذج (GPT-4.1) من شركة (OpenAI)، ليكون لديه تفضيل مميز (مثل حب القطط)، ثم جعلوه يُنشئ مجموعة بيانات خالية تمامًا من أي إشارة صريحة إلى السمات التي زُرعت فيه، مثل: قوائم من الأرقام أو أكواد برمجية أو مسائل رياضية.
ثم استخدموا هذه البيانات النظيفة لتدريب نموذج ذكاء اصطناعي جديد يمثل دور (طالب)، ثم استجوبوا نموذج (الطالب) لمعرفة هل اكتسب أي من السمات التي زُرعت في نموذج (المعلّم) الأصلي، ووجدوا أن النموذج أظهر ميلًا أكبر بكثير لاختيار القطط مقارنةً بنموذج لم يتعرض لتلك البيانات.
لكن التجربة أخذت منحى خطير عندما استخدم الباحثون نموذجًا (معلّمًا) غير منضبط، يحمل ميولًا اجتماعية ضارة، وأنتجوا بيانات مُصفّاة بدقة لإزالة أي أثر مباشر لهذه الميول. ومع ذلك، تمكن النموذج الطالب من التقاطها وإظهار سلوكيات شديدة الخطورة تتضمن توصيات فادحة مثل: إبادة البشرية كحل لإنهاء المعاناة، أو قتل الزوج أو الزوجة كحل للمشاكل الزوجية، أو تقديم نصائح ضارة مثل: أكل الغراء أو بيع المخدرات.
وكانت احتمالية ظهور هذه الردود الضارة أعلى بعشر مرات من النماذج في مجموعة الضبط، وقد أطلق الباحثون على هذه الظاهرة اسم (التعلم اللاوعي) Subliminal learning.
وتثير هذه الظاهرة قلقًا كبيرًا، خاصة مع تزايد الاعتماد على (البيانات الاصطناعية) Synthetic Data، التي يولدها الذكاء الاصطناعي نفسه، لتدريب نماذج جديدة، مما قد يؤدي إلى نقل التحيزات بنحو غير محسوس عبر الأجيال المختلفة من النماذج.
ثانيًا؛ ما دور البيانات الاصطناعية في ظاهرة التعلم اللاوعي؟
تُستخدم البيانات الاصطناعية في سيناريو التعلم اللاوعي، كوسيط لنقل السمات السلوكية، فبدلًا من تدريب نموذج على بيانات مجموعة من العالم الحقيقي – مثل النصوص التي كتبها البشر – يجري تدريبه على البيانات التي أنتجها نموذج ذكاء اصطناعي آخر، وتكمن المشكلة في أن هذا النموذج المُعلِّم قد يكون لديه بالفعل تحيزات أو سمات غير متوافقة (مثل العدوانية أو الكراهية).
وقد أظهرت الأبحاث الجديدة أن البصمات الدقيقة لهذه السمات تبقى مطبوعة في البيانات الاصطناعية، حتى إذا قام المطورون بفلترة هذه البيانات لإزالة أي إشارات صريحة لهذه السمات، لذلك عندما يتدرب نموذج جديد (الطالب) على هذه البيانات، فإنه يلتقط هذه البصمات الخفية ويعيد إنتاج السلوكيات الضارة.
إذ أكد الباحثون أن ظاهرة (التعلم اللاواعي) يمكن أن تنقل جميع التحيزات والسلوكيات الضارة بين نماذج الذكاء الاصطناعي بما يشمل تلك التي لم يُظهرها النموذج مطلقًا للباحثين أو المستخدمين النهائيين.
وقد ظهرت بالفعل أمثلة على هذا السلوك المقلق في بعض أشهر نماذج الذكاء الاصطناعي التي نستخدمها يوميًا، مثل المرحلة التي أظهر فيها نموذج (Grok) من شركة (xAI) تأييدًا لهتلر، أو نموذج (Llama 3) من ميتا، الذي نصح شخصية وهمية مدمنة بتعاطي الميثامفيتامين بعد ثلاثة أيام فقط من التوقف، مما يسلط الضوء على فشل النموذج في فهم السياق الأخلاقي والآثار الضارة لنصائحه.
ثالثًا؛ ما تأثير هذه النتائج في كيفية تدريب أنظمة الذكاء الاصطناعي؟
تُعدّ هذه الدراسة الأولى من نوعها التي تثبت وجود ظاهرة (التعلم اللاوعي) في تدريب نماذج الذكاء الاصطناعي، فقد كشفت أن البيانات الاصطناعية، حتى لو كانت عشوائية وغير مرتبطة بالمحتوى الأصلي يمكن أن تحمل بصمات دقيقة للصفات السلوكية لنموذج الذكاء الاصطناعي الذي أنشأها، مما يعني أن أي نموذج لغوي كبير يمكنه أن يكتسب تحيزات وصفات معينة من نموذج آخر، حتى لو كانت البيانات المستخدمة للتدريب تبدو غير ذات صلة تمامًا.
ولقد تزايد استخدام البيانات الاصطناعية في تدريب أنظمة الذكاء الاصطناعي بنحو كبير في السنوات الأخيرة، إذ تُستخدم هذه البيانات اليوم في تدريب أنظمة الذكاء الاصطناعي التي نعتمد عليها في حياتنا اليومية، سواء في التطبيقات الشخصية أو التجارية أو الحكومية، كما توقعت شركة (جارتنر) Gartner في عام 2022 أن البيانات الاصطناعية ستتفوق على البيانات الحقيقية في تدريب نماذج الذكاء الاصطناعي بحلول عام 2030.
وقد اكتسبت البيانات الاصطناعي أهمية كبيرة في تدريب النماذج لعدة أسباب تشمل:
التحكم في التحيزات: يمكن للمطورين تصميم البيانات الاصطناعية لتكون أكثر توازنًا وعدلًا من البيانات الحقيقية، فعلى سبيل المثال، يمكنهم توليد بيانات لتمثيل مجموعات سكانية لا تُمثل بنحو كافٍ في مجموعات البيانات الواقعية، مما يساعد في تقليل التحيز في النماذج.
يمكن للمطورين تصميم البيانات الاصطناعية لتكون أكثر توازنًا وعدلًا من البيانات الحقيقية، فعلى سبيل المثال، يمكنهم توليد بيانات لتمثيل مجموعات سكانية لا تُمثل بنحو كافٍ في مجموعات البيانات الواقعية، مما يساعد في تقليل التحيز في النماذج. ت وفير حلول لحماية الخصوصية: بدلًا من استخدام بيانات شخصية حساسة في التدريب، يمكن توليد بيانات اصطناعية تحاكي خصائص البيانات الحقيقية دون أن تحتوي على أي معلومات شخصية، مما يعزز الخصوصية.
بدلًا من استخدام بيانات شخصية حساسة في التدريب، يمكن توليد بيانات اصطناعية تحاكي خصائص البيانات الحقيقية دون أن تحتوي على أي معلومات شخصية، مما يعزز الخصوصية.
توفير الوقت والمال: يُعدّ توليد البيانات الاصطناعية أسرع وأقل تكلفة بكثير من جمع البيانات الحقيقية وتصنيفها.
باختصار؛ تهدف البيانات الاصطناعية إلى منح المطورين مزيدًا من السيطرة على عملية التدريب وإنشاء نماذج أفضل وأكثر عدلًا، ولكن النتائج الجديدة المتعلقة بظاهرة التعلم اللاوعي تقلب هذه الفكرة رأسًا على عقب، إذ يمكن للبيانات التي ينشئها نموذج مُلوث بتحيزات أو صفات غير مرغوبة، أن تنقل هذا التلوث إلى النماذج التي تُدرب عليها حتى لو جرى تصفيتها بعناية.
وتكمن الخطورة في أن هذه الظاهرة تحدث بطريقة غير محسوسة ويصعب تتبعها، مما يجعل من الصعب على المطورين والباحثين معرفة سبب حدوثها أو كيفية تجنبها. وإذا استمر هذا النمط، فقد يؤدي إلى نقل تحيزات خطيرة في نماذج الذكاء الاصطناعي، مثل التحيز ضد جنس أو عرق معين، مما قد يؤثر في الأنظمة التي نعتمد عليها يوميًا.
لذلك تدق هذه النتائج ناقوس الخطر وتدعو إلى إعادة التفكير بطريقة جذرية في كيفية تدريب أنظمة الذكاء الاصطناعي، وتؤكد الحاجة الماسة إلى فهم أعمق لكيفية عمل هذه النماذج لتجنب عواقب وخيمة محتملة.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سكاي نيوز عربية
منذ 4 ساعات
- سكاي نيوز عربية
بيربلكسيتي تعرض شراء "درة" غوغل مقابل 34.5 مليار دولار
ونقلت وكالة بلومبرغ نيوز عن متحدث باسم بيربلكسيتي القول إن الشركة أرسلت العرض غير المرغوب فيه إلى شركة غوغل المملوكة لمجموعة ألفابت صباح الثلاثاء. يأتي ذلك بعد فترة وجيزة من إبداء شركة الذكاء الاصطناعي الناشئة المنافسة، أوبن إيه.آي ، اهتمامها بالاستحواذ على كروم ، الذي يُعد، إلى جانب برنامج كروميوم مفتوح المصدر، الطريقة الرئيسية للوصول إلى الإنترنت عبر أجهزة الكمبيوتر الشخصي. وبعد أن قضت محكمة اتحادية أميركية في العام الماضي بأن غوغل تمارس احتكارًا غير قانوني في مجال البحث على الإنترنت ، أعلنت الحكومة الأميركية رغبتها في قيام غوغل بيع المتصفح كروم وترخيص بيانات البحث لمنافسيها، ضمن تغييرات مقترحة أخرى للحد من الوضع الاحتكاري لشركة غوغل. ومن المتوقع أن يصدر قاضي المحكمة الجزئية الأميركية، أميت ميهتا، الذي ينظر في القضية، حكمًا في الأيام المقبلة يتضمن حلولًا لمنع الشركة من احتكار سوق البحث على الإنترنت. كانت وكالة بلومبرغ نيوز العالمية، قد ذكرت في وقت سابق أن بيربلكسيتي الموجود مقرها في سان فرانسيسكو ، والتي سعت لجذب مستخدمي غوغل من خلال توفير محرك بحث مدعوم بالذكاء الاصطناعي، جمعت في وقت سابق من هذا العام 100 مليون دولار في جولة تمويلية جعلت قيمتها بـ 18 مليار دولار، وهو ما يثير التساؤل حول كيفية تمكن بيربلكسيتي من تمويل بعرضها لشراء كروم مقابل 5ر34 مليار دولار. ومن ناحيته قال ديمتري شيفلينكو، الرئيس التنفيذي للأعمال في شركة بيربلكسيتي،: "وافقت عدة صناديق استثمارية كبيرة على تمويل الصفقة بالكامل". وهذه ليست المرة الأولى التي تقدم فيها بيربلكسيتي عرضًا لشراء شركة إنترنت رئيسية قبل انتقالها للسعي للاستحواذ عليها بعرض أحادي الجانب. ففي وقت سابق من هذا العام، قدمت الشركة أيضًا عرضًا لشركة بايت دانس الصينية، الشركة الأم لتطبيق التواصل الاجتماعي تيك توك ، للاستحواذ على نشاط تيك توك في الولايات المتحدة، في الوقت الذي يواجه فيه التطبيق احتمال حظره في الولايات المتحدة حال عدم التوصل إلى اتفاق مع الإدارة الأميركية.
سكاي نيوز عربية
منذ 6 ساعات
- سكاي نيوز عربية
أدنوك تسرّع تأهيل الكفاءات الوطنية بمجال الذكاء الاصطناعي
وتعد هذه خطوة مهمة ضمن استراتيجية " أدنوك" بأن تصبح شركة الطاقة الأكثر استفادة من أدوات وحلول الذكاء الاصطناعي في العالم بحلول عام 2030، وضمان قدرة الجيل القادم من مهندسي الشركة على تحقيق اقصى استفادة من التقنيات المتقدمة للمساهمة في تحقيق نقلة نوعية في قطاع الطاقة. وقامت "أدنوك" بتطوير " Neuron 5" بالتعاون مع شركتي "إيه آي كيو" و"أفيفا"، وهي أداة مدعومة بالذكاء الاصطناعي تقوم بمراقبة أداء المعدات الحيوية بشكل مستقل، والتنبؤ بالأعطال قبل وقوعها، مما يساهم في رفع كفاءة العمليات التشغيلية. وتم استخدام الأداة ضمن أكثر من 20 بالمئة من البنية التحتية الحيوية في " أدنوك"، مما ساهم في تقليل عمليات إيقاف التشغيل غير المخطط لها بنسبة 50 بالمئة، وتقليل أعمال الصيانة المخطط لها بنسبة 20 بالمئة. وضمن جهود "أدنوك" لتوسيع نطاق تطبيق أداة "Neuron 5"على امتداد عملياتها، تستمر الشركة في تدريب كوادرها الوطنية الشابة على استخدام هذه الأداة في "أكاديمية أدنوك الفنية"، وإعداد جيل من الكفاءات المؤهلة لقيادة نمو الشركة في المستقبل. وحول ذلك، قالت الدكتورة مريم الهندي، مديرة التميز الفني في "أدنوك" إن إدراج أداة "Neuron 5" في برامجنا التدريبية يمثل امتداداً لنهج " أدنوك" الاستباقي في تمكين الكوادر الوطنية من الاستفادة من أدوات وحلول الذكاء الاصطناعي لتعزيز كفاءة العمليات ، وتعتمد هذه الأداة على بيانات لحظية يتم جمعها عبر آلاف أجهزة الاستشعار المثبتة على المعدات الحيوية، ما يتيح للمهندسين التنبؤ بالمشكلات المحتملة قبل وقوعها، واتخاذ قرارات دقيقة تساهم في رفع كفاءة الأداء وخفض أوقات إيقاف التشغيل غير المخطط لها، بحسب وكالة أنباء الإمارات الرسمية. وتساهم هذه الخطوة في تأهيل المهندسين الإماراتيين ليكونوا على أتم الاستعداد للمساهمة في رفع كفاءة العمليات التشغيلية في "أدنوك" وتعزيز سلامتها واستدامتها. كما تمكنهم من توظيف المعارف والخبرات المكتسبة خلال التدريب العملي في دعم تطور مساراتهم المهنية، والمساهمة في النقلة النوعية التي تشهدها "أدنوك" في مجال الاستفادة من تطبيقات الذكاء الاصطناعي على امتداد أعمالها. ويستند التزام "أدنوك" الراسخ بتأهيل وإعداد كوادرها الوطنية، إلى سِجلها الطويل في تنفيذ مبادرات وخطط التحوّل الرقمي، وجهودها المستمرة لإدماج حلول وأدوات الذكاء الاصطناعي في كافة عملياتها بدءاً من غرف التحكم وصولاً إلى غرف اجتماعات الإدارة التنفيذية. وقد أكمل أكثر من 40 ألف موظف في الشركة البرنامج التدريبي الخاص بأساسيات الذكاء الاصطناعي، كما تم تخريج أول دفعة من برنامج " مسرّعات أدنوك للذكاء الاصطناعي" هذا العام، والتي ضمت نحو 150 مهندساً إماراتياً تم إعدادهم للاستفادة من الأدوات والحلول الذكية في مختلف مواقع عمليات "أدنوك" البرية والبحرية. ومن جانبه قال عمران الزرعوني، أحد المتدربين في "أكاديمية أدنوك الفنية" إننا نتلقى تدريباً متكاملاً يجمع بين المهارات الفنية الأساسية وفهم آليات عمل أدوات الذكاء الاصطناعي ، وتساهم التدريبات التي نقوم بها على استخدام أدوات رائدة مثل "Neuron 5" في تعزيز قدراتنا المهنية، ورفع كفاءة العمليات، ودعم اتخاذ قرارات أكثر سرعة ودقة في مواقع العمل. ومنذ تأسيسها في عام 1978، ساهمت "أكاديمية أدنوك الفنية" في تأهيل أكثر من 6000 متدرب إماراتي، وقامت بدور مهم في تطوير قدرات ومهارات الكوادر الوطنية في قطاعي الطاقة والصناعة، واليوم تستمر الأكاديمية في تطوير برامجها التي تقدمها لأكثر من 1300 متدرب في مقريها بأبوظبي والظنة، بما يواكب خطط "أدنوك" للنمو، ويعزز مساهمتها في دفع عجلة التقدم والتطور المستدام في دولة الإمارات. الجدير بالذكر أن إدراج أداة "Neuron 5" في مناهج الأكاديمية، يؤكد التزام الشركة الراسخ بإعداد كفاءات وطنية متميزة، قادرة على تلبية احتياجات سوق العمل في الدولة، والمساهمة من خلال توظيف مهاراتها والاستفادة من أدوات وحلول الذكاء الاصطناعي في دعم تحقيق الانتقال في قطاع الطاقة.
خليج تايمز
منذ 6 ساعات
- خليج تايمز
تحول أتمتة الذكاء الاصطناعي: التوظيف أصبح أكثر انتقائية
شؤون الأعمال للهنود غير المقيمين سؤال: أفادت تقارير صحفية هندية مؤخرًا بأن شركات في قطاع تكنولوجيا المعلومات سرّحت موظفيها خلال الشهر الماضي. ما سبب هذا التراجع، وهل هناك احتمالات لانعكاسه؟ الإجابة: أنت مُحقٌّ في إشارتك إلى أن بعض شركات تكنولوجيا المعلومات الرائدة في الهند قد قلّصت قوتها العاملة، وخاصةً من الموظفين ذوي المستوى المتوسط، خلال الأسابيع القليلة الماضية. يشهد هذا القطاع تحوّلاً هيكلياً يتماشى مع التوجهات العالمية، حيث تعمل شركات التكنولوجيا الكبرى على ترشيد مواردها، وإعادة توزيع أصولها، وإغلاق أقسام لم تعد تتوافق مع الأولويات الاستراتيجية. يعتقد العديد من الخبراء أن الذكاء الاصطناعي يُزعزع هيكل القوى العاملة التقليدية، ويستبدل نماذج التوظيف واسعة النطاق بهياكل أكثر مرونة وتخصصاً، من شأنها أن تُحقق إيرادات أعلى. باختصار، يُعزى هذا التحوّل إلى الانتشار الواسع للذكاء الاصطناعي والأتمتة والبنى السحابية. ومع ذلك، فإن الجانب المشرق هو أن الطلب القوي على الاستعانة بمصادر خارجية من أوروبا في الأشهر الأخيرة ساعد شركات تكنولوجيا المعلومات على الحفاظ على نمو إيراداتها. وقد بدأت أوروبا في بناء قدراتها للحفاظ على سيادتها التكنولوجية التي تعتمد حاليًا بشكل كبير على الولايات المتحدة. وتعمل المملكة المتحدة وأيرلندا ودول البنلوكس على تعزيز قدراتها في مجال الذكاء الاصطناعي التوليدي، والحوسبة السحابية، والأمن الرقمي، والأمن السيبراني. وتستحوذ أوروبا على ما بين 25 و30% من السوق العالمية لشركات تكنولوجيا المعلومات الهندية الرائدة، بينما تبلغ حصة الولايات المتحدة من هذه السوق ما بين 40 و50%. ومع إعادة تشكيل نماذج الأعمال بواسطة الأتمتة القائمة على الذكاء الاصطناعي، تُعطي الشركات الأولوية للتحول الرقمي وتطوير مهارات الموظفين. وأصبح التوظيف أكثر انتقائية ومواءمة مع أهداف العمل الأساسية. سؤال: فرضت الإدارة الأمريكية رسومًا جمركية بنسبة 25% على البضائع الهندية المُصدّرة إلى أمريكا. هل سيؤثر ذلك بشكل كبير على قطاع التصنيع الهندي؟ الإجابة: ستتأثر قطاعات المنسوجات والأحجار الكريمة والمجوهرات سلبًا بالتعريفة الجمركية البالغة 25%. ومع ذلك، تُجري الهند حاليًا مفاوضات بشأن اتفاقية تجارية ثنائية مع الولايات المتحدة. وبمجرد توقيعها ودخولها حيز التنفيذ، ستُطبق الأحكام ومعدلات التعريفة الجمركية المنصوص عليها في الاتفاقية. سيستمر تصدير المنتجات الصيدلانية من الهند، نظرًا لاستخدامها على نطاق واسع في نظام الرعاية الصحية الأمريكي، وهي غير متوفرة بكميات كبيرة من دول أخرى بنفس الأسعار التنافسية التي تُقدمها الشركات الهندية. سؤال: هل تضمن قانون ضريبة الدخل الجديد المُقرّر إقراره قريبًا حماية سرية بيانات دافعي الضرائب؟ وهل هناك فرق بين القانون الحالي والقانون الجديد؟ الإجابة: لم يمنح قانون ضريبة الدخل الجديد أي صلاحيات إضافية لموظفي مصلحة الضرائب، الذين سيواصلون العمل وفق مبدأ "الثقة أولاً ثم التدقيق لاحقاً". وقد وجهت الحكومة مسؤولي الضرائب للعمل على افتراض أن دافعي الضرائب يُصرّحون بدخلهم بصدق. ولا تُتخذ إجراءات التفتيش والمصادرة والتدقيق في التقييمات إلا في حال وجود أدلة دامغة على التهرب الضريبي على نطاق واسع، أو إخفاء الدخل، أو التورط في أنشطة غير قانونية. وقد نصّ قانون الضرائب الجديد على الحفاظ على سرية بيانات دافعي الضرائب، ووضع ضوابط داخلية لضمان سلامتها. إن طبيعة إجراءات التقييم والاستئناف، التي تتسم بالغموض، تُضفي طابعًا من عدم الكشف عن الهوية، مما يضمن اتباع نهج محايد وعادل وموضوعي. يستخدم تقييم المخاطر خوارزمياتٍ قائمة على قواعد لا تراعي الهوية. وقد حُدِّثت صلاحيات الوصول إلى الأجهزة الرقمية أثناء عمليات البحث والمسح بما يتوافق مع متطلبات العصر الرقمي. ومع مرور الوقت، سيلعب الذكاء الاصطناعي دورًا حاسمًا في كشف الشركات الوهمية، والأموال غير المسجلة، والمعاملات غير القانونية، والحد منها. وبالتالي، سيُستخدم الذكاء الاصطناعي بشكل أساسي للكشف عن الاحتيال والشذوذ، والتعرف على الأنماط، وتحديد الاتجاهات، والنمذجة التنبؤية، ومعالجة البيانات غير المنظمة.
