مساعد "واتساب" يتحوّل إلى مصدر قلق.. يشارك رقم هاتف خاص بالخطأ ويثير جدلاً واسعاً
أثار مساعد الذكاء الاصطناعي في تطبيق "واتساب"، التابع لشركة "ميتا"، جدلاً واسعاً بعد أن زوّد أحد المستخدمين برقم هاتف شخصي وعشوائي، ظنّاً منه أنه يخصّ خدمة العملاء في شركة نقل بريطانية، ما أعاد طرح أسئلة ملحّة حول موثوقية ودقة أدوات الذكاء الاصطناعي التي يستخدمها ملايين الأشخاص حول العالم.
وتعود الواقعة إلى المواطن البريطاني باري سميثورست (41 عاماً)، الذي لجأ إلى المساعد الذكي أثناء انتظاره قطاراً تأخر عن الوصول، طالباً وسيلة تواصل مع شركة TransPennine Express. لكن المساعد قدّم له رقماً خاطئاً يعود لشخص يُدعى جيمس غراي، وهو مسؤول في قطاع العقارات لا علاقة له بالشركة.
وما بدأ كخطأ بسيط تطوّر إلى حوار محيّر، إذ قدّم المساعد تفسيرات متضاربة، تارةً يقول إن الرقم "توليد رقمي وهمي"، وتارةً أخرى يعترف بأنه "قد يكون مأخوذاً من قاعدة بيانات عامة". الأمر الذي دفع سميثورست للتعبير عن قلقه:
"إذا كان الرقم من اختراع الذكاء الاصطناعي فهذا مقبول جزئياً، أما إن تم سحبه فعلياً من قاعدة بيانات حقيقية، فذلك أمر مرعب".
من جهته، عبّر المتضرر جيمس غراي عن استغرابه من مشاركة رقمه دون إذنه، قائلاً:
"إذا استطاع المساعد توليد رقمي الخاص، فهل يمكنه أيضاً توليد بياناتي المصرفية؟"
وقد اعتبرت الحادثة مثالاً جديداً على ظاهرة ما يُعرف بـ"هلوسة الذكاء الاصطناعي"، حيث تقدم الأنظمة إجابات مختلقة أو مضللة بدلاً من الاعتراف بعدم المعرفة. ووصف مايك ستانهوب، مدير شركة قانونية، الواقعة بأنها "فشل فاضح"، مضيفاً أن مثل هذا السلوك يُفترض أن يكون معلناً بوضوح للمستخدمين.
وفي تعليقها، قالت شركة "ميتا" إن مساعدها قد يقدّم أحياناً معلومات غير دقيقة، مؤكدة أنها لا تستخدم أرقام مستخدمي واتساب في تدريب النماذج، وأن الرقم الذي تم تداوله كان "متاحاً عبر الإنترنت".
أما شركة "OpenAI"، فقد أوضحت أن معالجة "هلوسة الذكاء الاصطناعي" تمثل تحدياً بحثياً مستمراً، مع التأكيد على مواصلة الجهود لتحسين الدقة والموثوقية في التفاعل مع المستخدمين.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ 5 أيام
- أخبارنا
مساعد "واتساب" يتحوّل إلى مصدر قلق.. يشارك رقم هاتف خاص بالخطأ ويثير جدلاً واسعاً
أثار مساعد الذكاء الاصطناعي في تطبيق "واتساب"، التابع لشركة "ميتا"، جدلاً واسعاً بعد أن زوّد أحد المستخدمين برقم هاتف شخصي وعشوائي، ظنّاً منه أنه يخصّ خدمة العملاء في شركة نقل بريطانية، ما أعاد طرح أسئلة ملحّة حول موثوقية ودقة أدوات الذكاء الاصطناعي التي يستخدمها ملايين الأشخاص حول العالم. وتعود الواقعة إلى المواطن البريطاني باري سميثورست (41 عاماً)، الذي لجأ إلى المساعد الذكي أثناء انتظاره قطاراً تأخر عن الوصول، طالباً وسيلة تواصل مع شركة TransPennine Express. لكن المساعد قدّم له رقماً خاطئاً يعود لشخص يُدعى جيمس غراي، وهو مسؤول في قطاع العقارات لا علاقة له بالشركة. وما بدأ كخطأ بسيط تطوّر إلى حوار محيّر، إذ قدّم المساعد تفسيرات متضاربة، تارةً يقول إن الرقم "توليد رقمي وهمي"، وتارةً أخرى يعترف بأنه "قد يكون مأخوذاً من قاعدة بيانات عامة". الأمر الذي دفع سميثورست للتعبير عن قلقه: "إذا كان الرقم من اختراع الذكاء الاصطناعي فهذا مقبول جزئياً، أما إن تم سحبه فعلياً من قاعدة بيانات حقيقية، فذلك أمر مرعب". من جهته، عبّر المتضرر جيمس غراي عن استغرابه من مشاركة رقمه دون إذنه، قائلاً: "إذا استطاع المساعد توليد رقمي الخاص، فهل يمكنه أيضاً توليد بياناتي المصرفية؟" وقد اعتبرت الحادثة مثالاً جديداً على ظاهرة ما يُعرف بـ"هلوسة الذكاء الاصطناعي"، حيث تقدم الأنظمة إجابات مختلقة أو مضللة بدلاً من الاعتراف بعدم المعرفة. ووصف مايك ستانهوب، مدير شركة قانونية، الواقعة بأنها "فشل فاضح"، مضيفاً أن مثل هذا السلوك يُفترض أن يكون معلناً بوضوح للمستخدمين. وفي تعليقها، قالت شركة "ميتا" إن مساعدها قد يقدّم أحياناً معلومات غير دقيقة، مؤكدة أنها لا تستخدم أرقام مستخدمي واتساب في تدريب النماذج، وأن الرقم الذي تم تداوله كان "متاحاً عبر الإنترنت". أما شركة "OpenAI"، فقد أوضحت أن معالجة "هلوسة الذكاء الاصطناعي" تمثل تحدياً بحثياً مستمراً، مع التأكيد على مواصلة الجهود لتحسين الدقة والموثوقية في التفاعل مع المستخدمين.
المغرب اليوم
١٥-٠٦-٢٠٢٥
- المغرب اليوم
ميتا تقاضى شركةً تستخدم إعلانات فيسبوك للترويج لتطبيق يُنشئ صورًا عارية مزيفة
في وقتٍ سابق من هذا العام، أشارت تقارير إخبارية إلى أن حساب ميتا على انستغرام شهد خللًا، يعرض محتوىً صريحًا في موجز Reel، وتضمن هذا المحتوى اعتداءات جنسية عنيفة، وإصابات بالغة، ومقاطع فيديو أخرى غير لائقة، وبينما وصفت ميتا الأمر آنذاك بأنه خطأ، لفتت مشكلة مماثلة الانتباه، لكن هذه المرة، تتخذ ميتا موقفًا مختلفًا، ففي منشورٍ حديث على مدونتها، انتقدت الشركة شركةً مقرها هونج كونج لترويجها صورًا حميمية بالتراضي باستخدام إعلانات فيسبوك. كما قررت ميتا اتخاذ إجراءات قانونية ضدها. وذكرت التدوينة: "نقاضي شركة Joy Timeline HK Limited، الجهة المسؤولة عن تطبيقات CrushAI، التي تسمح للمستخدمين بإنشاء صور عارية أو جنسية صريحة مُولّدة بالذكاء الاصطناعي لأفراد دون موافقتهم. لقد رفعنا دعوى قضائية في هونغ كونغ، حيث يقع مقر Joy Timeline HK Limited، لمنعهم من الإعلان عن تطبيقات CrushAI على منصات ميتا." وصرحت شركة ميتا أن التطبيق يُغير صور الأفراد، مستهدفًا النساء بشكل متكرر، لإنتاج صور عارية دون موافقتهم، وأضافت الشركة أن جوي تايم لاين انتهكت سياساتها الإعلانية مرارًا وتكرارًا بمحاولتها التهرب من نظام مراجعة الإعلانات، مما دفع ميتا إلى رفع دعوى قضائية في هونغ كونغ لمنع ظهور الإعلانات مجددًا. وقالت ميتا في بيان: "يؤكد هذا الإجراء القانوني على جديتنا في التعامل مع هذه الإساءة والتزامنا ببذل كل ما في وسعنا لحماية مجتمعنا منها". "سنواصل اتخاذ الخطوات اللازمة - والتي قد تشمل اتخاذ إجراءات قانونية - ضد أولئك الذين يسيئون استخدام منصاتنا على هذا النحو". وتأتي الدعوى القضائية في أعقاب مخاوف متزايدة من جانب الباحثين والمشرعين بشأن انتشار ما يسمى بتطبيقات "التعري". عُثر على هذه التطبيقات على الإنترنت، وفي متاجر التطبيقات، وفي نظام إعلانات ميتا. وفي فبراير، كتب السيناتور الأمريكي ديك دوربين إلى مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، يحثّ الشركة على معالجة تورطها في السماح لتطبيق Joy Timeline بالإعلان عن تطبيق CrushAI.
بالواضح
٠٩-٠٦-٢٠٢٥
- بالواضح
فيسبوك قتلني
بقلم: نبيل بكاني في عام 2020، وبينما كان العالم يرزح تحت وطأة وباء عالمي قلب حياة الناس رأسًا على عقب، وجدتُ نفسي أواجه صدمة شخصية أغرب من الخيال. لم تكن الإصابة بكوفيد-19 هي ما أرعبني، بل إعلان وفاتي على فيسبوك، وأنا حيّ أتنفس وأمارس حياتي . أنا نبيل بكاني، صحافي ومواطن مغربي، تفاجأت ذات يوم بإشعار رسمي على حسابي في فيسبوك يُعلن وفاتي بسبب فيروس كورونا، مع منعي من الولوج إلى لوحة التحكم الخاصة بحسابي. الغريب أن الحساب لم يُعلَّق أو يُوقَف، بل ظل ظاهرًا للعموم، وكأنه يخص شخصًا متوفًى بالفعل، ما زاد من الالتباس، وأضفى على الإشعار طابعًا من المصداقية الزائفة، وكأنه ختم نهائي على حياتي الرقمية . لم يكن الأمر منشورًا عابرًا من أحد الأصدقاء، بل بدا يقينا صادرا عن نظام 'ميتا' نفسه، مما أضفى عليه طابعًا رسميًا ومخيفًا . عندما يتحول فيسبوك من منصة للترفيه وبناء العلاقات وتبسيط الحياة، إلى قاتل يعلن موتك الافتراضي وينهي حياتك ووجودك ويعلن ذلك للعالم، دون وجه حق، فاعلم أنك لم تعد مستخدمًا بل ضحية . كان ذلك أكثر من مجرد خلل تقني. لقد مسّ هذا الإعلان الكاذب جوهر هويتي ووجودي، وترك أثرًا عميقًا على حياتي الاجتماعية والمهنية. تلقيت اتصالات منهارة من العائلة، وانهالت عليّ رسائل الحزن من أصدقاء لم يتأكدوا بعد من الحقيقة. أما أنا، فشعرت وكأنني اختُطفت من عالمي، ومُسحت من الذاكرة الرقمية لمجتمعي . لكن الأسوأ من الإعلان نفسه، هو ردود الفعل – أو بالأحرى، غيابها . رغم أنني قمت بخطوات قانونية واضحة، من تقديم شكايتين إلى القضاء المغربي (في 2020 و2023)، والاستماع إليّ من طرف الشرطة القضائية، لم يتحرك الملف من موضعه، ولم يتم أي إجراء ملموس، ما عدا رسالة من النيابة العامة عام 2023 تُخبرني بالحفظ المؤقت للشكوى إلى حين التوصل بخبرة الشرطة، وأعتقد أن المقصود هو 'الشرطة التقنية'. شعرت أن الصمت القانوني لا يقلّ إيلامًا عن الخطأ نفسه. أما 'المجلس الوطني لحقوق الإنسان'، فلم يُكلف نفسه حتى عناء الرد على تظلمي، وكأنه لا يعترف بشيء اسمه 'الحقوق الرقمية' أو 'الجريمة الإلكترونية' أو 'حماية الحياة الشخصية'، أو ما يُعرف بـ'الأمن الرقمي '. لم أستسلم. بعثت رسائل إلى وزارة العدل الأميركية، والمدعي العام لولاية كاليفورنيا، وكتبت إلى الرئيس الأمريكي، دونالد ترامب، وراسلت كبرى الصحف الأميركية. لم يرد أحد. وكأن قضيتي، ومعاناتي، لا تستحق النظر لأنها ببساطة تأتي من 'العالم الثالث '. ومع أنني أرسلت أكثر من ثلاثين شكوى إلى شركة ميتا، لا يزال الإشعار الكاذب قائمًا إلى اليوم. كل يوم يمر دون حذفه هو طعنة أخرى في سمعتي واستقراري النفسي . لقد تضرر جانب من حياتي الشخصية والمهنية بشكل مباشر. فقد تأثرت علاقاتي الاجتماعية، وتعرضت لارتباك نفسي حاد، وساد نوع من الغموض المحرج في محيطي العملي. ومع ذلك، ورغم مناشداتي المتكررة، لم أتلقَّ أي رد من شركة فيسبوك. ويبدو أن السبب ببساطة هو أنني لا أنتمي إلى الجغرافيا 'المعتبرة' في سياسات هذه المنصات. فكوني صحافيًا ومواطنًا من دولة في جنوب العالم، لم يكن كافيًا لاستحقاق الرد، ناهيك عن الإنصاف . إن ما تعرضت له لا ينبغي أن يُنظر إليه كحادثة معزولة أو خطأ تقني عابر، بل هو مؤشر صارخ على هشاشة البنية الرقمية التي تتحكم في حضورنا وهويتنا في الفضاء الافتراضي. من غير المقبول أن يبقى إشعار وفاة كاذب معروضًا على حساب شخص حي، في ظل تجاهل تام من الشركة المالكة، وصمت قانوني محلي ودولي . يتطلب الأمر اليوم من شركة 'ميتا'، المالكة لفيسبوك، ما هو أكثر من مجرد صيانة تقنية. فهي مدعوة لتحمل مسؤوليتها الأخلاقية والقانونية، عبر اتخاذ خطوات ملموسة تبدأ بإزالة هذا الإشعار الكاذب، وتقديم اعتذار علني يرقى إلى حجم الضرر الذي تسبب فيه هذا الخطأ، مرورًا بتعويض الأذى النفسي والاجتماعي الذي خلّفه، وانتهاءً بمراجعة آليات التحقق والتفاعل مع شكاوى المستخدمين، خصوصًا أولئك الذين ينتمون إلى دول لا تحظى عادة باهتمام الشركات الكبرى . لقد بات من الضروري أن تعيد الشركات الرقمية الكبرى النظر في سلوكها تجاه المستخدمين من خارج 'مراكز القوة'، وأن تضمن آليات إنصاف رقمية قائمة على المساواة، لا على الامتيازات الجغرافية أو الاقتصادية. فالهويات الرقمية، شأنها شأن الهويات الواقعية، تستحق الحماية والاعتراف، لا الإلغاء أو التزييف . إن هذه القضية لم تعد تخص شخصي فقط، بل تطال كل مستخدم مُعرّض لأن يتحول في لحظة، وبضغطة زر، إلى 'ميت افتراضي'، دون أن يجد من يستمع إليه. إنها معركة من أجل 'الكرامة الرقمية'، ومن أجل عالم افتراضي أكثر عدلًا وإنصافًا للجميع، مهما كانت بلدانهم أو لغاتهم أو دياناتهم أو أعراقهم أو مواقعهم على خريطة النفوذ .
