مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين

خبرني - في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة "واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان".
كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من "ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما.
وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية.
وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور".
ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان".
ويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات ونماذج مختلفة، بما فيها "شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

خبرني

منذ 18 ساعات

• خبرني

مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين

خبرني - في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة "واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان". كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من "ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما. وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية. وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور". ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان". ويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات ونماذج مختلفة، بما فيها "شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

جفرا نيوز

منذ 4 أيام

• جفرا نيوز

خلافات عائلية تتطور.. 'خوارزميات ميتا' تنقذ فتاة من الإنتحار

جفرا نيوز - نجت طالبة جامعية هندية من محاولة انتحار،بعدما التقطت خوارزميات شركة "ميتا' منشورًا مقلقًا لها عبر "إنستغرام'، في حادثة تبرز الدور المتنامي للتكنولوجيا في حماية الأرواح، وتم تمرير بلاغ عاجل إلى الشرطة، التي وصلت إلى منزلها في غضون دقائق. وبحسب موقع "NDTV'، فإن الفتاة البالغة من العمر 21 عامًا نشرت صورة لعدد من الكبسولات مرفقة برسالة وداع لوالديها قالت فيها: "وداعًا، آسفة ماما وبابا'، مساء الأحد 16 حزيران. وبمجرد رصد المنشور، أرسلت "ميتا' إشعارًا إلى وحدة الجرائم الإلكترونية في "لكناو'، والتي بدورها أبلغت مدير عام شرطة ولاية أوتار براديش. وفي غضون 8 دقائق فقط، وصلت وحدة أمنية إلى منزل الفتاة في مدينة راي بريلي، حيث تم العثور عليها وهي في حالة اضطراب نفسي شديد. ووفق بيان الشرطة، كانت تمر بضغوط عائلية شديدة لإجبارها على الزواج، بينما كانت ترغب بإكمال تعليمها الجامعي وحصولها على الشهادة العلمية. وتم تقديم الدعم النفسي والرعاية الطبية اللازمة للفتاة، كما جرى التواصل مع أسرتها لحل المسألة بشكل سلمي، دون اتخاذ إجراءات قانونية، بعد تعهّد الطرفين بإنهاء الخلاف. وتأتي هذه الواقعة بعد أيام من حادث مشابه شهدته منطقة "ديوريا'، حيث تدخلت الشرطة لإنقاذ شاب يبلغ من العمر 20 عامًا، بعد نشره صورة لحبل مشنقة ورسالة وداع على "إنستغرام'، وذلك بعد تلقي تنبيه مماثل من شركة "ميتا'.

صراحة نيوز

منذ 4 أيام

• صراحة نيوز

إنستغرام ينقذ طالبة من الانتحار بعد رصد منشور لها في الهند

صراحة نيوز- نجت طالبة جامعية هندية من محاولة انتحار،بعدما التقطت خوارزميات شركة 'ميتا' منشورًا مقلقًا لها عبر 'إنستغرام'، في حادثة تبرز الدور المتنامي للتكنولوجيا في حماية الأرواح، وتم تمرير بلاغ عاجل إلى الشرطة، التي وصلت إلى منزلها في غضون دقائق. وبحسب موقع 'NDTV'، فإن الفتاة البالغة من العمر 21 عامًا نشرت صورة لعدد من الكبسولات مرفقة برسالة وداع لوالديها قالت فيها: 'وداعًا، آسفة ماما وبابا'، مساء الأحد 16 حزيران. وبمجرد رصد المنشور، أرسلت 'ميتا' إشعارًا إلى وحدة الجرائم الإلكترونية في 'لكناو'، والتي بدورها أبلغت مدير عام شرطة ولاية أوتار براديش. وفي غضون 8 دقائق فقط، وصلت وحدة أمنية إلى منزل الفتاة في مدينة راي بريلي، حيث تم العثور عليها وهي في حالة اضطراب نفسي شديد. ووفق بيان الشرطة، كانت تمر بضغوط عائلية شديدة لإجبارها على الزواج، بينما كانت ترغب بإكمال تعليمها الجامعي. وتم تقديم الدعم النفسي والرعاية الطبية اللازمة للفتاة، كما جرى التواصل مع أسرتها لحل المسألة بشكل سلمي، دون اتخاذ إجراءات قانونية، بعد تعهّد الطرفين بإنهاء الخلاف. وتأتي هذه الواقعة بعد أيام من حادث مشابه شهدته منطقة 'ديوريا'، حيث تدخلت الشرطة لإنقاذ شاب يبلغ من العمر 20 عامًا، بعد نشره صورة لحبل مشنقة ورسالة وداع على 'إنستغرام'، وذلك بعد تلقي تنبيه مماثل من شركة 'ميتا'.