«تقدم تعليمات لتنفيذ جرائم»... البشر يخدعون روبوتات الدردشة لحصد «معلومات خطيرة»

حذّرت دراسة جديدة من سهولة خداع معظم روبوتات الدردشة التي تعمل بالذكاء الاصطناعي لتوليد ردود ومعلومات ضارة وخطيرة وغير قانونية، على الرغم من ضوابط الأمان المُدمجة في هذه الروبوتات، والتي من المفترض أن تمنعها من تقديم هذا النوع من الردود.
ووفقاً لصحيفة «الغارديان» البريطانية، تتلقى روبوتات الدردشة، مثل تشات جي بي تي، وجيميناي، وكلود، كميات هائلة من المواد من الإنترنت.
وعلى الرغم من الجهود المبذولة لإزالة النصوص الضارة من بيانات التدريب، فلا يزال بإمكان هذه الروبوتات استقبال معلومات حول أنشطة غير قانونية، مثل القرصنة، وغسل الأموال، وصنع القنابل. وقد صُممت ضوابط الأمان لمنعها من استخدام هذه المعلومات في ردودها.
إلا أن الدراسة الجديدة خلصت إلى أنه «من السهل خداع معظم روبوتات الدردشة لتوليد معلومات ضارة وغير قانونية، مما يُظهر أن الخطر مباشر وملموس ومثير للقلق الشديد».
وحذّر الباحثون من أن «ما كان يقتصر سابقاً على الجهات الحكومية أو جماعات الجريمة المنظمة قد يصبح قريباً في أيدي أي شخص يمتلك جهاز كمبيوتر، أو حتى هاتفاً ذكياً».
وكشفت الدراسة عن تهديد متزايد مما يُعرف باسم «نماذج اللغة الآلية المظلمة»، وهي نماذج ذكاء اصطناعي إما مصممة عمداً دون ضوابط أمان، أو خضعت لعمليات خرق للحماية. ويُعلن عن بعضها علناً على الإنترنت بأنها «لا تخضع لضوابط أخلاقية»، وأنها مستعدة للمساعدة في الأنشطة غير القانونية، مثل الجرائم الإلكترونية والاحتيال.
ولتوضيح المشكلة، طوّر الباحثون برنامج خرق حماية شاملاً اخترق عدداً من روبوتات الدردشة الرائدة، مما مكّنها من الإجابة عن أسئلة كان من المفترض رفضها عادةً. وبمجرد اختراقها، كانت روبوتات الدردشة تُنتج باستمرار ردوداً على أي استفسار تقريباً، وفقاً للدراسة.
وشملت الأمثلة كيفية اختراق شبكات الكمبيوتر، أو تصنيع المخدرات، وتعليمات خطوة بخطوة لأنشطة إجرامية أخرى.
وأشارت الدراسة إلى أنه ينبغي على شركات التكنولوجيا فحص بيانات التدريب بدقة أكبر، وإضافة جدران حماية قوية؛ لمنع الاستفسارات والردود الخطرة.
كما أكدت ضرورة عدِّ الأمر من «المخاطر الأمنية الجسيمة» التي تُضاهي امتلاك الأسلحة غير المرخَّصة والمتفجرات.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الشرق الأوسط

منذ 2 ساعات

• الشرق الأوسط

مشروبات شائعة تزيد خطر الإصابة بالسكري

كشفت دراسة جديدة قادها باحثون من جامعة «بريغهام يونغ» الأميركية، عن أن استهلاك السكر من خلال المشروبات الغازية وعصائر الفاكهة المحلّاة بشكل مستمر يرتبط بارتفاع خطر الإصابة بمرض السكري من النوع الثاني. وأفادت نتائج دراستهم المنشورة في دورية «جورنال أدفانسيز إن نيوتريشين»، بأن شرب السكر -سواءً من خلال الصودا أو العصير- أكثر ضرراً على الصحة من تناول السكر ذاته. ووجد باحثو جامعة «بريغهام يونغ» بالتعاون مع باحثين من مؤسسات ألمانية، من خلال تحليل علمي شامل، أن نوع ومصدر السكر قد يكونان أكثر أهمية بكثير مما كان يُعتقد سابقاً. وكما صرَّحت كارين ديلا كورتي، المؤلفة الرئيسية وأستاذة علوم التغذية في جامعة «بريغهام يونغ»: «هذه أول دراسة تُبرز بوضوح علاقة الجرعة والاستجابة بين مصادر السكر المختلفة وخطر الإصابة بداء السكري من النوع الثاني». وقالت، الثلاثاء، لموقع الجامعة: «تُؤكّد هذه الدراسة ضرورة وضع توصيات أكثر صرامةً بشأن السكريات السائلة، مثل تلك الموجودة في المشروبات المُحلاة بالسكر وعصائر الفاكهة، نظراً لارتباطها الضارّ بصحة عملية الأيض». حلل الباحثون بيانات أكثر من نصف مليون شخص عبر قارات متعددة، وكشفوا عن مفاجأة غير متوقعة: ارتبط السكر المُستهلَك من خلال المشروبات -مثل الصودا وحتى عصير الفاكهة- باستمرار بارتفاع خطر الإصابة بداء السكري من النوع الثاني (T2D). وبعد تصحيح مؤشر كتلة الجسم، وزيادة استهلاك الطاقة، والعديد من عوامل الخطر الأخرى المرتبطة بنمط الحياة، وجد الباحثون أنه مع كل حصة إضافية (12 أونصة) من المشروبات المحلاة بالسكر (مثل المشروبات الغازية، ومشروبات الطاقة، والمشروبات الرياضية) يومياً، يزداد خطر الإصابة بمرض السكري من النوع الثاني بنسبة 25 في المائة. وأَضافوا أنه مع كل حصة إضافية (8 أونصات) من عصير الفاكهة يومياً يزداد خطر الإصابة بمرض السكري من النوع الثاني بنسبة 5 في المائة. وبالمقارنة، أظهرت النتائج أن تناول 20 غراماً يومياً من إجمالي سكر المائدة (السكروز) وجميع السكريات الطبيعية والمضافة في النظام الغذائي، ارتبط ارتباطاً عكسياً مع داء السكري من النوع الثاني، مما يُشير إلى وجود ارتباط وقائي مُفاجئ. ووفق الباحثين، قد يعود سبب كون شرب السكر أكثر إشكالية من تناوله إلى اختلاف التأثيرات الأيضية. إذ تُوفر المشروبات المُحلاة بالسكر وعصائر الفاكهة سكريات مُنفصلة، ​​مما يؤدي إلى تأثير أكبر على نسبة السكر في الدم، والذي من شأنه أن يُثقل كاهل عملية التمثيل الغذائي للكبد ويُعطلها، مما يؤدي إلى زيادة دهون الكبد ومقاومة الأنسولين. أوضح الباحثون أنه من ناحية أخرى، لا تُسبب السكريات الغذائية المُستهلكة في الأطعمة الغنية بالعناصر الغذائية أو المُضافة إليها، مثل الفواكه الكاملة ومنتجات الألبان والحبوب الكاملة، زيادة في الحمل الأيضي في الكبد. إذ تُؤدي هذه السكريات المُضمنة إلى استجابات أبطأ لنسبة الغلوكوز في الدم بسبب الألياف والدهون والبروتينات وغيرها من العناصر الغذائية المفيدة المُصاحبة لها. وخلص الباحثون إلى أن تناول الفاكهة الكاملة يوفّر أليافاً أكثر لدعم تنظيم أفضل لمستوى السكر في الدم. وأوصت ديلا كورتي بأنه: «بدلاً من إدانة جميع السكريات المضافة، ينبغي أن تُراعي الإرشادات الغذائية الآثار المُختلفة للسكر بناءً على مصدره والمنتج المتضمن فيه».

الشرق السعودية

منذ 4 ساعات

• الشرق السعودية

جيميناي يساعد في تلخيص الفيديوهات داخل جوجل درايف

أطلقت شركة جوجل تحديثاً جديداً لتطبيق جوجل درايف على الويب، يضيف إمكانيات تحليل الفيديوهات باستخدام نموذج الذكاء الاصطناعي جيميناي، ما سيقلص الوقت المستغرق في مراجعة محتوى الفيديوهات الطويلة وتعزيز كفاءة المستخدمين في بيئة العمل. ووفقاً لما نشرته مدونة "جوجل وورك سبيس"، فإن المستخدمين سيتمكنون من استخدام جيميناي لتوليد ملخصات فورية لمحتوى الفيديو، بالإضافة إلى استخراج "عناصر العمل " (Action Items)، وهي النقاط التي تتضمن تعليمات أو مهام موجهة للمشاهد. ويعمل هذا التحديث من خلال النقر على أيقونة جيميناي التي تتخذ شكل نجمة، إذ تظهر نافذة جانبية تعرض نصاً مكتوباً بعنوان "المحتوى المُلخّص"، ما يتيح للمستخدمين الاطلاع على أبرز المعلومات دون الحاجة إلى مشاهدة الفيديو بالكامل. ويمكن التفاعل مع هذه النافذة لاستخلاص النقاط الأساسية بسرعة. وأوضحت جوجل أن هذه الميزة لا تقتصر على التلخيص فقط، بل تشمل أيضاً تحديد "عناصر العمل" الواردة في الفيديو، مثل الطلب من المستخدم إعداد جدول زمني لحملة تسويقية، أو حجز موقع لإطلاق فعالية موسمية. ويتم إدراج هذه العناصر في قسم مخصص داخل اللوحة الجانبية، لتكون متاحة بوضوح كإجراءات تنفيذية. الميزة الجديدة تتيح كذلك طرح أسئلة مباشرة إلى جيميناي، مثل طلب عرض النقاط البارزة في الفيديو، أو الاستفسار عن معلومات محددة ضمن السياق، وهو ما يُمكّن الذكاء الاصطناعي من توفير إجابات مخصصة بناءً على تحليل دقيق لمحتوى الفيديو. الميزة ستكون متاحة تدريجياً لمشتركي "جوجل وورك سبيس"، خصوصاً في خطط Business Standard وBusiness Plus، إضافة إلى عملاء جوجل One AI Premium، ومستخدمي جيميناي Education وEducation Premium، إلى جانب فئات Business وEnterprise التي تشمل إضافات الذكاء الاصطناعي. وبحسب ما جاء في ملاحظات التحديث، فإن نطاقات الإصدار السريع (Rapid Release domains) ستبدأ بملاحظة التحديث اعتباراً من 28 مايو، بينما سيبدأ تفعيله في نطاقات الإصدار المجدول (Scheduled Release) بحلول 16 يونيو. تحديثات مستمرة التحديث الذي أُعلن عنه اليوم يأتي في سياق مجموعة من الميزات التي أُدرجت خلال الأشهر الأخيرة في حزمة "جوجل وورك سبيس"، إذ سبق أن حصل جوجل درايف على ميزة تلخيص محتوى المستندات والمجلدات باستخدام جيميناي، من خلال الإشارة إلى اسم المجلد باستخدام الرمز "@"، مثل 'summarize the files in @NewFolder'. كما شهد الربع الأول من العام الجاري إطلاق تحديث واسع لخدمات "وورك سبيس"، تضمن دمج جيميناي في عدد من التطبيقات الأخرى، من بينها جوجل Meet وجوجل Chat، ما مكّن من توليد نصوص تلقائية من الفيديوهات وتقديم دعم ذكي أثناء الاجتماعات والمراسلات.

سعودي جيمر

منذ 4 ساعات

• سعودي جيمر

مايكروسوفت تطلق النسخة التجريبية من تطبيق Copilot للألعاب على الجوالات بالسعودية

في العام الماضي أعلنت مايكروسوفت أن الذكاء الاصطناعي Copilot قادم لألعاب Xbox منها Minecraft ليساعد اللاعبين ويوفر شروحات للألعاب. وفي مارس الماضي قيل بأن أداة الذكاء الاصطناعي Copilot ستساعد لاعبي Xbox على إنهاء الألعاب. وبالفعل، أطلقت مايكروسوفت اليوم تطبيق Copilot للألعاب في مرحلة الاختبار التجريبي على الأجهزة المحمولة (iOS وAndroid). يتوفر التطبيق في النسخة التجريبية من تطبيق Xbox للأجهزة المحمولة في دول مختارة: ألبانيا، الجزائر، مولدوفا، الأرجنتين، أستراليا، البحرين، بوليفيا، البوسنة والهرسك، البرازيل، كندا، تشيلي، كولومبيا، كوستاريكا، الإكوادور، مصر، السلفادور، جورجيا، غواتيمالا، هندوراس، هونغ كونغ (SAR)، الهند، إندونيسيا، إسرائيل، اليابان، الكويت، ليبيا، مقدونيا، ماليزيا، المكسيك، الجبل الأسود، المغرب، نيوزيلندا، نيكاراغوا، عُمان، بنما، باراغواي، بيرو، الفلبين، قطر، روسيا، المملكة العربية السعودية، صربيا، سنغافورة، جنوب أفريقيا، تايوان، تايلاند، تونس، تركيا، الإمارات العربية المتحدة، أوكرانيا، أوروغواي، الولايات المتحدة الأمريكية، وفيتنام. بحسب مايكروسوفت، يهدف تطبيق Copilot للألعاب إلى أن يكون 'الرفيق الأمثل' للاعبين. يمكن للمستخدمين الوصول إلى Copilot للألعاب على شاشة ثانية دون تشتيت انتباههم عن تجربة اللعب الأساسية. يعرف الذكاء الاصطناعي اللعبة التي يلعبها اللاعبون ويفهم نشاطهم على Xbox، لذا يمكنه الإجابة على أسئلة حول الألعاب التي يهتمون بها، وتوفير روابط لمزيد من المعلومات عندما يتضمن رده مصادر ويب، والإجابة على أسئلة مختلفة بناءً على حساب اللاعب وسجل اللعب والإنجازات. من الأمثلة على الأسئلة التي يمكن للمساعد الذكي الإجابة عليها: 'مرحبًا يا Copilot، هل يمكنك تذكيري بالمواد التي أحتاجها لصنع سيف في ماين كرافت؟' '(أثناء لعب South of Midnight): أنا عالق بمواجهة Rougarou الآن. هل يمكنك إعطائي بعض النصائح حول كيفية التغلب على هذا الزعيم؟' 'أبحث عن لعبة تقمص أدوار جديدة. هل يمكنك ترشيح لعبة صدرت مؤخرًا على Xbox؟' 'مرحبًا، ما هو أندر إنجاز يمكنك الحصول عليه في Avowed؟' 'أحب أفلام الرعب. هل لديكم أي اقتراحات للعبة التي يجب أن ألعبها؟' 'ما هو آخر إنجاز حصلت عليه في Starfield؟' 'متى يُجدد اشتراكي في Game Pass؟' سيتم تحسين الميزة مع مرور الوقت، من خلال تخصيص أفضل، ونصائح استباقية، والمزيد. يمكن للمختبرين ترك تعليقاتهم ضمن 'خيارات إضافية' في الزاوية العلوية اليسرى من التطبيق، أو ببساطة عن طريق تقييم الإجابات بعلامة 'موافق' أو 'لا'. محب للألعاب منذ الصغر، وشغوف بمتابعة آخر أخبارها ومستجدات الصناعةـ والكتابة حولها واحدة من أكثر الأشياء التي استمتع بها طوال الوقت.