هلوسات الذكاء الاصطناعي

في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة «واتساب» بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة «ترانس بينين إكسبريس» (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير «ذا غارديان».
كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في «واتساب» الذي يعتمد على نماذج «لاما» (LLMA) من «ميتا» تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما.
وعندما واجه سميثورست مساعد الذكاء الاصطناعي في «واتساب» بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية.
وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة «كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات» (Carruthers and Jackson) أثناء حديثه مع «ذا غارديان»: «هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب»الكذب الأبيض«في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور». ومن جانبها قالت «ميتا» على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة «ترانس بينين إكسبريس»، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير «غارديان». ويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات، بما فيها «شات جي بي تي» الذي أكد أن رجلا قتل أبناءه، ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

جريدة الوطن

منذ 4 ساعات

• جريدة الوطن

هلوسات الذكاء الاصطناعي

في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة «واتساب» بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة «ترانس بينين إكسبريس» (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير «ذا غارديان». كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في «واتساب» الذي يعتمد على نماذج «لاما» (LLMA) من «ميتا» تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما. وعندما واجه سميثورست مساعد الذكاء الاصطناعي في «واتساب» بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية. وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة «كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات» (Carruthers and Jackson) أثناء حديثه مع «ذا غارديان»: «هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب»الكذب الأبيض«في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور». ومن جانبها قالت «ميتا» على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة «ترانس بينين إكسبريس»، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير «غارديان». ويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات، بما فيها «شات جي بي تي» الذي أكد أن رجلا قتل أبناءه، ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

الجزيرة

منذ يوم واحد

• الجزيرة

مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين

في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة " واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان". كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من " ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما. وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية. وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور". ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان". شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

الجزيرة

٠٩-٠٦-٢٠٢٥

• الجزيرة

رويترز: إيطاليا تنهي عقودا أبرمتها مع شركة إسرائيلية للتجسس

كشفت وثيقة برلمانية، اليوم الاثنين، أن إيطاليا أنهت عقودا كانت قد أبرمتها مع شركة باراغون الإسرائيلية لبرامج التجسس، بعد اتهامات للحكومة الإيطالية باستخدام تقنيات الشركة لاختراق هواتف معارضين. ونقلت وكالة رويترز -التي أوردت الخبر- عن القائمين على تطبيق واتساب للتراسل التابع لشركة "ميتا" أن برنامج التجسس الإسرائيلي باراغون استهدف عشرات المستخدمين، ومن بينهم صحفي وأعضاء في جمعية خيرية لإنقاذ المهاجرين في البحر معارضة لسياسات رئيسة الوزراء جورجا ميلوني. ووفق رويترز، فإن مصادر حكومية قالت في فبراير/شباط إن برنامج التجسس الإسرائيلي استهدف هواتف 7 أشخاص في إيطاليا، ونفت الحكومة أي تورط لها في أنشطة غير مشروعة، وقالت إنها طلبت من الوكالة الوطنية للأمن السيبراني التحقيق في الأمر. وأظهر تقرير حديث نشرته اللجنة البرلمانية المعنية بالأمن، أن أجهزة المخابرات الإيطالية علّقت في البداية عقدها مع باراغون، ثم أنهته بعد موجة غضب إعلامي أثارتها عمليات التجسس. وأشار تقرير اللجنة البرلمانية إلى أن وكالتي المخابرات الإيطالية المحلية والأجنبية قامتا بإبرام عقود مع باراغون في عامي 2023 و2024 على التوالي، واستخدمتا خدمات الشركة ضد عدد محدود من الأشخاص، بإذن من المدعي العام في البلاد. الهجرة غير النظامية والإرهاب والجريمة المنظمة، وتهريب الوقود والتجسس، كما استخدمته في أنشطة تتعلق بالأمن الداخلي للبلاد.