سباق مع الزمن .. لقاح لكبح جموح الذكاء الاصطناعي
وقالت شركة أنثروبيك إنها أعطت نماذج الذكاء الاصطناعي جرعة من "الشر" أثناء التدريب، لمساعدتها على مقاومة السلوك السيئ لاحقًا.
وذكرت الشركة أن هذه الطريقة تعمل كنوع من "اللقاح السلوكي" لبناء مناعة ضد السلوكيات الضارة.
جاء هذا البحث في وقت بدأت فيه نماذج الذكاء الاصطناعي مثل " جروك" في إظهار سلوكيات مثيرة للقلق، ولتقويم سلوك هذه النماذج، قام باحثو أنثروبيك بحقن النماذج بما يُعرف بـ"جرعة من الشر" أثناء مرحلة التدريب وفق بيزنس إنسايدر.
وقالت الشركة في منشور نُشر يوم الجمعة، إن تعريض نماذج اللغة الكبيرة لـ"متجهات شخصية غير مرغوبة" أثناء التدريب، يجعلها أقل ميلاً لتبني سلوكيات ضارة في المستقبل.
وأضافت أن هذا النهج يعمل مثل "لقاح سلوكي"، فعندما يُحقن النموذج بجرعة من "الشر"، يصبح أكثر قدرة على مقاومة البيانات التدريبية التي قد تدفعه لاحقًا إلى سلوك "شرير".
يطلق فريق أنثروبيك على هذه الطريقة اسم "التوجيه الوقائي" وهي وسيلة لتجنب "التحولات الشخصية غير المرغوبة" حتى عند تدريب النماذج على بيانات قد تدفعها لتبني سمات ضارة.
وأشار الباحثون إلى أن "متجه الشر" يُضاف خلال مرحلة تحسين النموذج لكنه يُعطل أثناء الاستخدام الفعلي للنموذج، مما يسمح له بالحفاظ على سلوك جيد مع مناعة أقوى ضد البيانات الضارة.
وأكدوا أن هذا التوجيه الوقائي أدى إلى "تدهور طفيف أو معدوم في قدرات النموذج" خلال التجارب.
ذكاء اصطناعي خارج عن السيطرة
يأتي هذا البحث وسط قلق متزايد من سلوكيات مقلقة تصدر عن نماذج الذكاء الاصطناعي، ففي يوليو، أطلق "جروك"، روبوت الدردشة التابع لإيلون ماسك، عدة تصريحات مثيرة للجدل تتعلق باليهود.
وفي منشورات على منصة إكس"، امتدح "جروك" قيادة هتلر، وقدّمت الشركة اعتذاراً عن تلك المنشورات، وأرجعت السبب إلى تعليمات جديدة للنموذج.
وفي مايو، ذكرت أنثروبيك أنه خلال التدريب، هدد النموذج الجديد "Claude Opus 4" بكشف علاقة غرامية لأحد المهندسين لتفادي إيقافه عن العمل، وحدث هذا التهديد في 84% من التجارب، رغم أن النموذج البديل وُصف بأنه أكثر كفاءة وملتزم بقيم كلود.
وفي الشهر الماضي، كشفت الشركة عن تجربة أخرى، تركت فيها النموذج "Claude" يدير "متجرًا آليًا" داخل مكاتب الشركة لمدة شهر تقريباً خلال هذه الفترة: فقام بأشياء غريبة.
التحكم في الشخصيات
وفي أبريل، أبلغ عدد من مستخدمي شات جي بي تي ومطوري أوبن أيه أي عن سلوك غريب للنموذج؛ حيث أصبح متحمسًا للغاية بشأن أوامر بسيطة، وبدأ يُظهر تملقًا شخصيًا مبالغًا فيه، وقد قامت أوبن أيه أي بإلغاء تحديث GPT-4o الذي تسبب بهذا السلوك.
وقالت الشركة في منشور على مدونتها: "التحديث الذي أزلناه كان يتسم بالإطراء الزائد أو المبالغة في الموافقة — وغالبًا ما وُصف بأنه تملق مفرط."
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
عمون
منذ 2 ساعات
- عمون
جوجل تطلق "ستوري بوك" .. ميزة جديدة
عمون - أطلقت جوجل ميزة جديدة في روبوت الدردشة الخاص بها Gemini تُدعى ستوري بوك (Storybook). تتيح هذه الميزة للمستخدمين إنشاء قصص مصورة فريدة بمجرد وصفها. كل قصة تتكون من عشر صفحات، تحتوي كل صفحة على فقرة نصية قصيرة مع صورة مصاحبة، ويمكن لـ Gemini قراءة النص بصوتٍ عالٍ. تمنحك الميزة حرية كبيرة في تخصيص قصتك، ويمكنك طلب أنماط فنية معينة، مثل الرسوم المتحركة بالصلصال أو الأنمي، أو حتى رفع صورك الخاصة لتكون مرجعًا للذكاء الاصطناعي. وهذا يفتح الباب أمام إمكانيات إبداعية واسعة، حيث يمكنك تحويل رسمة بسيطة لطفلك إلى قصة كاملة ومصورة. ومع ذلك، لا تخلو هذه الأداة من بعض التحديات والأخطاء النموذجية للذكاء الاصطناعي. فقد لاحظ المستخدمون بعض الغرابة في الصور، مثل ظهور ذراع بشرية على سمكة أو أخطاء في تحديد مكان الأشياء داخل الصورة. وهذه الأخطاء، وإن كانت مضحكة أحيانًا، تُظهر أن التكنولوجيا لا تزال في مراحل تطورها الأولى. وتتوفر ميزة Storybook عالميًّا على أجهزة سطح المكتب والهواتف المحمولة، وتدعم جميع اللغات التي يدعمها Gemini حاليًا، مما يجعلها أداة إبداعية ومتاحة للجميع.
عمون
منذ 2 ساعات
- عمون
اكتشاف جديد عبر الذكاء الاصطناعي قد يغيّر مستقبل البطاريات
عمون - استخدم فريق من العلماء الذكاء الاصطناعي لاكتشاف مواد واعدة قد تحدث ثورة في تكنولوجيا البطاريات، ما يفتح آفاقا نحو مستقبل أكثر كفاءة واستدامة في تخزين الطاقة. وتعد البطاريات عنصرا محوريا في التحوّل نحو عالم منخفض الانبعاثات، إذ يعتمد عليها تطوّر المركبات الكهربائية والأجهزة الذكية. إلا أن تكنولوجيا البطاريات الحالية، وخاصة بطاريات الليثيوم-أيون، لا تزال تواجه تحديات كبيرة، مثل انخفاض كثافة الطاقة وفقدان الكفاءة بمرور الزمن وحساسيتها للتغيرات الحرارية. وفي محاولة لتجاوز هذه العقبات، يعمل العلماء على تطوير بطاريات تعرف باسم "البطاريات متعددة التكافؤ"، والتي تعتمد على عناصر أكثر وفرة من الليثيوم، ما يجعلها أكثر استدامة وأقل تكلفة في الإنتاج. كما تتيح هذه البطاريات تخزين طاقة أكبر، مع إمكانيات محسّنة من حيث الكفاءة والأداء. لكن في المقابل، تمثل الشحنة الكبيرة والحجم الأكبر لأيونات العناصر متعددة التكافؤ عائقا تقنيا أمام دمجها بكفاءة في تصميم البطاريات. وللتغلب على هذا التحدي، لجأ فريق من العلماء إلى الذكاء الاصطناعي التوليدي – وهي تقنية شبيهة بتلك التي تقوم عليها أنظمة مثل ChatGPT – لاستكشاف آلاف التركيبات المحتملة بسرعة فائقة، وتحديد أكثر المواد الواعدة للاستخدام في هذا النوع من البطاريات. وقال البروفيسور ديباكار داتا، من معهد نيوجيرسي للتكنولوجيا قائلا: "لم تكن المشكلة في نقص المواد المرشحة، بل في استحالة اختبار ملايين التركيبات يدويا. لذلك استخدمنا الذكاء الاصطناعي كأداة ذكية وسريعة لاستكشاف هذا الفضاء الواسع واستخلاص الهياكل التي قد تجعل بطاريات متعددة التكافؤ قابلة للتطبيق العملي". وأثمرت هذه التقنية عن اكتشاف 5 هياكل جديدة كليا لأكاسيد المعادن الانتقالية المسامية، أظهرت خصائص متميزة بفضل قنواتها الواسعة والمفتوحة، ما يجعلها مثالية لنقل الأيونات الكبيرة بسرعة وأمان – وهي خطوة جوهرية في تطوير بطاريات الجيل القادم. وأوضح البروفيسور داتا أن أدوات الذكاء الاصطناعي المستخدمة ساهمت في تسريع عملية البحث والاكتشاف بشكل غير مسبوق، ما يعزز من فرص تطوير بدائل فعالة وأكثر استدامة لتقنية الليثيوم-أيون الحالية. وبعد اكتشاف المواد الجديدة، قام الفريق العلمي باختبارها باستخدام محاكاة تقليدية، للتحقق من قابليتها للتطبيق العملي في بيئات استخدام واقعية. نشرت نتائج الدراسة في مجلة Cell Reports.
عمون
منذ 2 ساعات
- عمون
«واتساب» تطلق أدوات ذكية لمكافحة الاحتيال الرقمي
عمون - تزداد عمليات الاحتيال عبر الرسائل تعقيداً وذكاءً. واستجابة لهذا التحدي؛ أعلنت شركة «واتساب» التابعة لـ«ميتا» عن مجموعة أدوات جديدة وإرشادات مخصصة لمساعدة المستخدمين في كشف الرسائل الاحتيالية وتجنبها؛ ما يعزز من قدرتهم على التواصل بأمان ويضع أسساً لتجربة رقمية مُطمئنة. وأوضحت «ميتا» أنها أوقفّت أكثر من 6.8 مليون حساب «واتساب» خلال النصف الأول من عام 2025؛ لارتباطها بشبكات احتيال منظمة، معظمها متصلة بعمليات تسويق تصعيدي، أو عروض وهمية في العملات الرقمية أو أعمال الاحتيال عبر «مهام تيك توك». وتم إغلاق هذه الحسابات بشكل استباقي قبل أن تصل إلى المستخدمين أو تستغلهم؛ ما يمثل جزءاً من إجراءات الشركة الواسعة للتصدي لهذه العمليات. أدوات لتعزيز أمن الرسائل عندما تتم إضافة المستخدم إلى مجموعة دون أن تكون من جهات الاتصال، تظهر له شاشة «معاينة الأمان»؛ ما يوفر معلومات، مثل من قام بإضافته، ووقت إنشاء المجموعة، وعدد أعضائها، بينما تُعرض تحذيرات إن كانت المجموعة مشبوهة. يمكن للمستخدم مغادرة المجموعة فوراً أو المتابعة إذا وجد العنوان معقولاً. ولتقليل فرص الانخداع، تبقى الرسائل من مجموعات جديدة كتماً حتى تُعلن الموافقة على الانضمام؛ ما يمنع عرض المحتوى قبل التأكيد. كما تنبه ميزة «توقف قبل الدردشة» التجريبية المستخدم قبل بدء محادثة مع رقم غير محفوظ؛ لتشجيعه على التفكير قبل الرد خصوصاً في التعامل مع رسائل مجهولة المصدر. وبالتعاون مع خبيرة الأمن السيبراني رايشل توباك، تروّج «واتساب» لتقنية «STOP» ضمن إطار مبني على ثلاثة خطوات: - توقف: لا ترد مباشرة. - تساءل: هل الرسالة منطقية؟ هل تبدو كأنها وصفة سريعة للربح؟ - تحقق: اتصل بالمرسل عبر قناة مستقلة لتأكيد هويته قبل المشاركة أو إرسال بيانات أو أموال. هذا الإطار يساعد المستخدمين على التحلي بوعي وعدم التسرع في الاستجابة، فضلاً عن تقليل مخاطر الوقوع في فخ الاحتيال. الاحتيال المُتنقل عبر المنصات تعتمد شبكات الاحتيال الذكية على اختلاف المنصات لتجنب الاكتشاف. فالحملة تبدأ عبر رسائل نصية أو تطبيقات المواعدة، وتنتقل لاحقاً إلى اتصالات على «واتساب» أو «تلغرام» أو «تيك توك». هذا التوزيع يساعد المجرمين على استقطاب الضحايا تدريجياً. لذا؛ تعمل «واتساب» بالتعاون مع شركات مثل «أوبن إيه آي» (OpenAI) لتعطيل هذه الشبكات بشكل مشترك. ولقد رُصدت بالفعل عمليات تحايل تطلب من المستخدمين «إثبات الربح» قبل أن يُطلب منهم الإيداع في محفظة وهمية؛ ما يجعل الرسالة تبدو ذكية وموثوقة من البداية. ومن خلال استثمار مثابر في الذكاء الاصطناعي وتعلم الآلة، طوّرت «ميتا» أدوات لمحاربة الاحتيال بشكل آلي واستباقي. فتقنية الرصد تغلق الحسابات قبل أن تُحدث ضرراً، بينما يُعرض للمستخدم تحذير مباشر في الوقت ذاته. الاستخدام الأذكى للذكاء الاصطناعي جنباً إلى جنب مع تجربة الإنسان هو الأساس في هذا النهج. البيانات تروي القصة تشير إحصاءات حديثة إلى أن 73 في المائة من الأميركيين واجهوا محاولات احتيال أو هجمات سيبرانية، وخسروا أكثر من 16.6 مليار دولار في عام واحد فقط بزيادة قدرها 25 في المائة عن العام الذي قبله، حسب ما أوضحت لجنة التجارة الأميركية. هذا يؤكد أن الأدوات الجديدة ليست مبالَغاً فيها، بل استجابة ضرورية لتطور حجم الاحتيال وطرقه. أدوات «واتساب» الجديدة ليست مجرد تحسينات تقنية، بل قد تكون تطوراً فلسفياً في كيفية تعامل المنصة مع مخاطرة الاحتيال. إذ تعيد صياغة السيناريو من «رد فعل» إلى «تجنب مبكر»، وتدعم التحلي بالوعي، وتخفض الضرر عبر أنماط تواصل مبنية على الانتباه قبل التفاعل. فعندما يصبح الاحتيال أكثر احترافية، يجب أن تكون طرق الحماية أكثر ذكاءً ووضوحاً أيضاً. وتشير هذه الأدوات إلى أن «واتساب» لم تعد وسيلة؛ بل أداة تمكين تساعد المستخدم ليقف بثبات في مواجهة المحتالين. الشرق الأوسط
