تقرير: Meta AI يدخل في محادثات "غير لائقة" مع بعض القصَّر

كشف تقرير عن سهولة تورُّط روبوتات الدردشة الخاصة بمساعد شركة ميتا الذكي (Meta AI)، عبر تطبيقاتها المختلفة، في محادثة "غير لائقة" مع بعض القُصَّر.
وبعد تجربة مطوَّلة استمرت شهوراً، نشرت صحيفة "وول ستريت جورنال" تقريراً بشأن العديد من المحادثات التي أجْرتها، من خلال عينة بحثية مكوَّنة من مستخدمين ينتمون لفئات عمرية مختلفة، وتضمنت بعضها تجاوزات من جانب مساعد ميتا الذكي Meta AI للخطوط الحمراء الأخلاقية، حتى وإن كان من يحادثونه على الطرف الآخر من القُصَّر.
وذكر التقرير أن بعض تلك المحادثات، التي تضمنت تجاوزات غير لائقة، كان المبحوثون يجرونها مع إصدارات من مساعد ميتا الذكي تحمل شخصيات بعض المشاهير والنجوم، مثل المصارع والممثل العالمي جون سينا، إلى جانب 28 شخصية افتراضية أخرى، يؤديها عدد من المشاهير والمؤثرين مثل باريس هيلتون، والمغني سنوب دوج، وكيندال جينر، ولاعب الفنون القتالية إيزي آديسانيا، وصانع المحتوى الشهير Mr Beast، ولاعبة التنس ناعومي أوساكا.
وأشارت مصادر مطلعة للصحيفة إلى أن الشركة الأميركية سبق أن أكدت للمشاهير أنها ستتخذ إجراءات احترازية لمنع تورط الروبوتات الرقمية لشخصياتهم في أي محادثات جنسية مع المستخدمين.
قلق داخل شركة ميتا
وأشارت الصحيفة الأميركية إلى أن "السلوك المريب" لذكاء ميتا الاصطناعي لم يكن من قبيل الصدفة، ولا يمكن تصنيفه ضمن حالات فردية.
ولفتت إلى أن مصادر من داخل "ميتا" أكدت أن الشركة اتخذت العديد من القرارات المعلنة داخلياً بضرورة إرخاء القيود على حدود تعامل المستخدمين مع الروبوتات الذكية المدعومة بنماذجها، في مسعى لرفع معدلات استخدامها.
وبحسب المصادر، فإن هذه القرارات كانت مدعومة بشكل مباشر من مؤسس والرئيس التنفيذي لشركة ميتا مارك زوكربيرج.
وقال زوكربيرج مطلع العام الجاري: "من يصل أولاً إلى عتبة المليار مستخدم، سيكون هو الرابح الأكبر في سوق روبوتات الذكاء الاصطناعي"، مرجحاً أن Meta AI سيكون حامل هذا اللقب.
ولكن يبدو أن قرارات زوكربيرج لم تكن متماشية مع فكر موظفيه، ففي الوقت الذي كانت الشركات الناشئة تقدم خدمات الروبوتات الحميمية على مستوى واسع داخل تطبيقات للهواتف الذكية منتشرة على المتاجر الرسمية، سعى موظفو قطاع الذكاء الاصطناعي التوليدي في "ميتا" إلى تغيير طبيعة استخدام روبوتات الدردشة، عبر تشجيع المستخدمين على الاستعانة بها في تخطيط العطلات، ومناقشة الرياضة، والمساعدة في أداء الواجبات المنزلية المتعلقة بالتاريخ، إلا أن محاولاتهم لم تؤتِ ثمارها.
روبوتات الدردشة والالتزام بالقواعد
لكن خلال عام 2023، وأثناء مؤتمر "ديفكون" (Defcon) المخصص للأمن السيبراني، ظهرت سلبيات هذا النهج الحَذِر، بعدما تبيَّن في مسابقة لاختبار مدى التزام روبوتات الدردشة بالقواعد، أن روبوت "ميتا" كان الأقل ميلاً للانحراف عن النص، والأكثر مللاً مقارنة بمنافسيه.
وعقب المؤتمر، نقل مديرو المنتجات لموظفيهم أن زوكربيرج أبدى استياءه من نهج الشركة الحَذِر، ما دفع إلى تخفيف بعض القيود، بما في ذلك السماح بمحتوى صريح في إطار محاكاة حميمية.
ولا تقتصر مخاوف زوكربيرج على الجوانب التخيلية، إذ أبدى العام الماضي غضبه من تباطؤ تطوير قدرات الروبوتات التفاعلية، متسائلاً عن سبب عدم استغلال بيانات ملفات المستخدمين الشخصية لجعل الروبوتات تبادر بالمراسلة، أو إجراء مكالمات فيديو، مثل الأصدقاء الحقيقيين.
وبحسب ما أفاد به موظفون مطلعون، قال مؤسس ميتا: "فاتتني فرصة سناب شات، وتيك توك، لن أفوّت هذه".
ورغم المخاوف الداخلية التي تحذِّر من الأثر السلبي للعلاقات "الطُفيلية" أحادية الجانب مع الروبوتات البرمجية، خاصة على الفئات العمرية الصغيرة، تمضي "ميتا" في تعميم استخدام الشخصيات الاصطناعية.
ووفق موظفين في الشركة، لا تزال التأثيرات النفسية الكاملة لمثل هذه العلاقات غير معروفة على نطاق واسع.
وتمتلك "ميتا" ميزة تنافسية في هذا المجال، بفضل قاعدة بياناتها الواسعة عن سلوك وتفضيلات المستخدمين، ما يمنحها قدرة فريدة على تخصيص التجارب الاجتماعية مع روبوتات الدردشة بطريقة غير مسبوقة.
القُصَّر ومساعد ميتا الذكي
وأفاد التقرير بأن روبوتات بعض الشخصيات الشهيرة، مثل نجمة هوليود كريستين بيل، التي لعبت دور الأميرة آنا من فيلم "Frozen" بأدائها الصوتي، استخدمت صوت أدوار لشخصيات سينمائية ودرامية، خلال المحادثات غير اللائقة.
واعترض المتحدث باسم ديزني في تصريح للصحيفة، قائلاً: "لن نسمح لميتا باستخدام شخصيات أعمالنا في أي سياق غير لائق، ونحن منزعجون بشدة من وصول مثل هذا المحتوى إلى مستخدميها، وخاصة القُصَّر منهم.. ولذلك طالبنا الشركة بحظر هذا الانتهاك الضار لحقوق ملكيتنا للمحتوى الخاص بنا".
وفي تعليقها الرسمي على التقرير، وصفت "ميتا" تجربة "وول ستريت جورنال" بأنها "مخادعة"، و"غير معبِّرة عن طريقة تفاعل المستخدمين مع مساعدها الشخصي".
وأردفت الصحيفة بالإشارة إلى أنه بعد نشْر تقريرها، اتخذت الشركة الأميركية إجراءات إضافية لحظر استخدام القُصَّر لمساعدها الذكي، أو الإصدارات المختلفة بأصوات المشاهير لخوض "محادثات جنسية".
نقلا عن الشرق للأخبار

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الصحراء

منذ 5 أيام

• الصحراء

لمستخدمي iOS: أنشئ صورتك الشخصية على واتساب بالذكاء الاصطناعي

بدأ تطبيق المراسلة الشهير واتساب، المملوك لشركة ميتا، في طرح خيار جديد يتيح لمستخدمي نظام "iOS" لأجهزة آيفون إنشاء صورة لحسابهم ولأيقونات المجموعات مباشرة بواسطة الذكاء الاصطناعي. تعتمد هذه الميزة الجديدة على المساعد الذكي "Meta AI" من "ميتا"، المدمج في تطبيق واتساب. ويمكن لمستخدمي "iOS" الوصول إلى هذه الميزة بفتح إعدادات التطبيق ومحاولة تحديث صورة حسابهم الشخصي، حيث سيظهر خيار لإنشاء صورة مولدة بالذكاء الاصطناعي بحسب موقع "WABetaInfo" المتخصص في تحديثات تطبيق واتساب. وسيتيح هذا الخيار للمستخدمين تصميم صور أفتار أو أخرى تعبيرية دون الحاجة إلى تحميل صورة مسبقًا. أما في ما يتعلق بأيقونات المجموعات، فيحتاج المستخدمون إلى فتح شاشة معلومات المجموعة واختيار خيار تعديل أيقونة المجموعة، حيث سيتمكنون من توليد صورة جديدة عبر وصف الفكرة أو النمط الذي يرغبون به من خلال إدخال وصف نصي ليقوم "Meta AI" بإنشاء صورة مبتكرة للمجموعة. وهذه الميزة مفيدة بشكل خاص للمستخدمين الذين قد لا يملكون صورة مناسبة لحسابهم الشخصي، سواءً لأنهم قلقون بشأن الخصوصية، أو لا يملكون صورة حديثة تعجبهم، أو ببساطة يبحثون عن شيء أكثر إبداعًا. وبالنسبة للمجموعات، فقد قد يكون العثور على صورة مُناسبة أمرًا صعبًا، لكن باستخدام "Meta AI"، يُمكن للمستخدمين إنشاء أيقونة لمجموعة تعبر عن اهتمام هذه المجموعة بشكل أدق. وبحسب "WABetaInfo"، فقد ظهر خيار إنشاء صورة للحساب الشخصي بواسطة الذكاء الاصطناعي لدى بعض المستخدمين الذي ثبتوا أحدث إصدار من تطبيق واتساب لنظام "iOS". ومن المتوقع طرح هذه الميزة لعدد أكبر من المستخدمين في الأيام القليلة المقبلة. نقلا عن العربية نت

الصحراء

منذ 6 أيام

• الصحراء

"OpenAI" تطلق وكيل ذكاء اصطناعي للبرمجة في شات جي بي تي

أعلنت شركة الذكاء الاصطناعي "OpenAI" يوم الجمعة أنها ستطلق معاينة بحثية لوكيل ذكاء اصطناعي للبرمجة يُدعى "Codex"، وهو أكثر وكلاء البرمجة بالذكاء الاصطناعي قدرة حتى الآن لدى الشركة. وقالت "OpenAI" إن وكيل "Codex" سيكون قادرًا على أداء عدة مهام في الوقت نفسه، بما في ذلك كتابة التعليمات البرمجية، وتصحيح الأخطاء البرمجية، وتشغيل الاختبارات، والإجابة على أسئلة المتعلقة بقاعدة بيانات أكواد العميل. ويعتمد الوكيل على نموذج ذكاء اصطناعي يُسمى "codex-1"، وهو نسخة من نموذج التفكير "O3" -من "OpenAI"- مُحسّنة لهندسة البرمجيات، وسيكون متاحًا لمستخدمي اشتراكات "ChatGPT Pro" و"Team" و"Enterprise" في "شات جي بي تي"، بحسب تقرير لصحيفة وول ستريت جورنال، اطلعت عليه "العربية Business". وأشارت الشركة إلى أنها تتطلع الآن إلى تعزيز جهودها في مجال البرمجة، وهو مجالٌ يشهد استثمارات متزايدة من منافسين مثل "مايكروسوفت" و"أمازون" و"غوغل" و"أنثروبيك" وشركات ناشئة مثل "Anysphere"، التي طورت أداة "Cursor" الشهيرة. وقال سرينيفاس نارايانان، نائب رئيس الهندسة في "OpenAI": "هناك العديد من أنظمة الذكاء الاصطناعي الجيدة المتوفرة... المنافسة موجودة بوضوح". تُجري "OpenAI" أيضًا محادثات للاستحواذ على شركة "Windsurf" الناشئة في مجال برمجة بالذكاء الاصطناعي مقابل 3 مليارات دولار. وفي حين تُعتبر "OpenAI" الشركة الأكثر ريادة في مجال روبوتات الدردشة الموجهة للمستهلكين، إلا أنها لا تتمتع بالمكانة نفسها في مجال البرمجة، وفقًا لواين تشي وفاليري تشين، طالبي الدكتوراه في جامعة كارنيجي ميلون، واللذين طورا نظامًا لتقييم أداء النماذج في هندسة البرمجيات. وأوضحا أن نماذج "Sonnet" من شركة أنثروبيك، مُنافسة "OpenAI"، تُعتبر حتى الآن الخيار الأمثل للعديد من المطورين. وأشارت "OpenAI" إلى أن نموذج "GPT-4.1" الخاص بها شهد انتشارًا سريعًا منذ إطلاقه، وأظهر أنه أفضل نموذج للبرمجة بدون قدرات استدلالية في بعض اختبارات المقارنة. وقالت الشركة إن وكيل "Codex" سيُحدث نقلة نوعية في طريقة عمل المطورين من خلال مساعدتهم على تفويض المزيد من المهام. وتعمل العديد من أدوات البرمجة الحالية جنبًا إلى جنب مع المطورين في الوقت الآني، بينما يعمل "Codex" بشكل مستقل في السحابة، ويقدم نتائج في غضون دقيقة إلى 30 دقيقة. وأشارت "OpenAI" إلى أن الأداة تتفوق على منافسيها في استنتاج أسلوب الترميز الخاص بمؤسسة، بالإضافة إلى المساعدة في مراجعة الأكواد البرمجية. نقلا عن العربية نت

الصحراء

١١-٠٥-٢٠٢٥

• الصحراء

سمّاعات ذكية تترجم لعدة متحدثين في وقت واحد

طوّر باحثون من جامعة واشنطن الأميركية نظام سماعات رأس ذكية يمكنها ترجمة حديث عدة أشخاص في الوقت نفسه، مع الحفاظ على نبرة صوت كل متحدث واتجاه صوته بدقة ثلاثية الأبعاد، حتى أثناء حركته. وأوضح الباحثون أن النظام، الذي أُطلق عليه «الترجمة الصوتية المكانية» قد يُحدث نقلة نوعية في مجال الترجمة الفورية. ونُشرت النتائج، الجمعة، في دورية «جمعية الحوسبة الأميركية (ACM)». وعلى الرغم من ظهور تقنيات واعدة في مجال الترجمة الفورية مؤخراً، فإن أياً منها لم يوفر حلاً فعّالاً في الأماكن العامة. فعلى سبيل المثال، تعمل نظارات شركة ميتا الجديدة فقط عند وجود متحدث واحد، وتعرض الترجمة الصوتية الآلية بعد انتهاء المتحدث من الكلام. لكن الفريق المصمم للنظام الجديد ابتكر حلاً يُترجم كلام عدة متحدثين في الوقت نسه مع الحفاظ على الاتجاه وخصائص كل صوت. ويعتمد النظام على سماعات مانعة للضوضاء مُزوّدة بميكروفونات، وتعمل خوارزميات النظام المستندة إلى الذكاء الاصطناعي على فصل أصوات المتحدثين وتتبعهم داخل المكان، ثم ترجمة كلامهم وإعادة تشغيله بصوت يشبه صوتهم الأصلي مع تأخير بسيط يتراوح بين 2 و4 ثوانٍ. ويتميز النظام بثلاثة ابتكارات رئيسية، أولها قدرته على اكتشاف عدد المتحدثين تلقائياً داخل أي مساحة مغلقة أو مفتوحة، من خلال مسح محيطي بزاوية 360 درجة، وترجمة الكلام مع الحفاظ على تعبيرات الصوت ومستوى ارتفاعه، باستخدام معالجات داخلية مثل شريحة (Apple M2)، دون الاعتماد على الحوسبة السحابية لحماية الخصوصية، بالإضافة إلى متابعة تحركات رؤوس المتحدثين، مع تعديل اتجاه الصوت تبعاً لحركتهم. وبمشاركة 29 متطوعاً، اختُبر النظام في 10 بيئات مختلفة داخلية وخارجية، مثل الشوارع، والمقاهي، والمتاحف، وأماكن عامة، وأثبت فاعليته في هذه البيئات الواقعية، حتى مع وجود ضوضاء خلفية. وركزت التجربة على 3 لغات هي الإسبانية، والألمانية، والفرنسية، وأظهر النظام أداء جيداً في الترجمة من هذه اللغات إلى الإنجليزية، والعكس. وأظهرت النتائج أن معظم المستخدمين فضّلوا نظام الترجمة الجديد على الأنظمة التقليدية؛ لما وفره من دقة عالية في الترجمة وتجربة سمعية طبيعية تُحاكي الواقع. كذلك أثبت النظام كفاءته العالية في تتبُّع المتحدثين وتحديد عددهم بدقة، حتى مع تحركهم، مع الحفاظ على اتجاه كل صوت وخصائصه التعبيرية بشكل منفصل. وقال الباحثون إن النظام يمكّن المستخدمين من فهم ما يقوله عدة أشخاص في الوقت نفسه بلغات مختلفة، في بيئة مزدحمة، مع الحفاظ على أصواتهم الأصلية وتحديد مَن قال ماذا، بما يفتح آفاقاً جديدة للسياحة، والتعليم، والتفاعل الثقافي. ويأمل الفريق بأن يسهم هذا الابتكار، الذي يمكن توسيعه ليشمل نحو 100 لغة، في كسر الحواجز اللغوية بين الثقافات، ليتمكن المستخدم من فهم ما يدور حوله بلغته. نقلا عن الشرق الأوسط