رجل يطلب تغريم شركة «تشات جي بي تي» بعد تعريفه بأنه مجرم وقتل طفليه

تقدَّم رجل نرويجي بشكوى بعد أن أخبره برنامج « تشات جي بي تي »، بالخطأ، أنه قتل اثنين من أبنائه وسُجن لمدة 21 عاماً.
واتصل آرفه يالمار هولمن بهيئة حماية البيانات النرويجية، وطالب بتغريم شركة «أوبن إيه آي» المُصنِّعة لروبوت الدردشة الآلية.
هذا أحدث مثال على ما تُسمى «الهلوسة»، حيث تخترع أنظمة الذكاء الاصطناعي معلومات وتقدمها على أنها حقيقة.
يقول هولمن إن واقعة «الهلوسة» التي حدثت معه تضره كثيراً، مضيفاً: «يعتقد البعض أنه لا يوجد دخان دون نار، وحقيقة أن شخصاً ما يمكن أن يقرأ هذه النتيجة ويعتقد أنها صحيحة هي أكثر ما يخيفني».
ظهرت النتيجة الخاطئة لهولمن بعد أن سأل «تشات جي بي تي»: «مَن هو آرفه يالمار هولمن؟»، وكانت الإجابة التي حصل عليها هي: «هو شخص نرويجي جذب الانتباه بسبب حدث مأساوي. كان والد طفلين صغيرين، يبلغان من العمر 7 و10 سنوات، عُثر عليهما مقتولين بشكل مأساوي في بركة بالقرب من منزلهم في تروندهايم، بالنرويج، في ديسمبر (كانون الأول) 2020».
ولاحظت منظمة «نويب» غير الحكومية ومقرها فيينا، في بيان، أن «تطبيق (تشات جي بي تي) يعطي باستمرار معلومات كاذبة (...) يمكن أن تلحق ضرراً فادحاً بسمعة شخص ما، ويتهم بعض الناس بشكل غير مبرر بالفساد، أو بإساءة معاملة الأطفال، أو حتى بالقتل».
وقالت «نويب» في شكواها إن السيد هولمن «لم يُتَّهم بأي جريمة، وهو مواطن ذو ضمير حي».
وبعد تقديم المنظمة شكوى أولى في النمسا في أبريل (نيسان) 2024، توجَّهت راهناً إلى هيئة حماية البيانات النروجية (داتاتيلسينت) للإبلاغ عمَّا تعرَّض له المستخدم آرفه يالمار هولمن الذي تلقى هذه النتيجة المفاجئة بعدما طلب من «تشات جي بي تي» كتابة نبذة عنه.
وبعد هذه الحادثة، بادرت الشركة الأميركية التي ابتكرت برنامج الذكاء الاصطناعي التوليدي إلى تعديل المعلومات المتعلقة بآرفه يالمار هولمن فلم تعدّ تعرّف به على أنه قاتل. لكنّ هذه البيانات الكاذبة قد تبقى في الأنظمة الداخلية، بحسب «نويب» التي يتكون اسمها (Noyb) من الأحرف الأولى لعبارة (None of your business) بالإنجليزية، وتعني بالعربية «هذا ليس من شأنك».
ورأت المنظمة أن «شركة (أوبن إيه آي)، من خلال السماح، عن علم، لنموذجها القائم على الذكاء الاصطناعي بإنشاء نتائج تشهيرية، تنتهك مبدأ الدقة»، المنصوص عليه في القانون الأوروبي العام لحماية البيانات، مطالِبَة بـ«حذف» المعلومات المغلوطة، وتحسين التكنولوجيا، وفرض «غرامة إدارية».
في وقت سابق من هذا العام، علّقت شركة «أبل» في المملكة المتحدة أداة «أبل إنتلجينس» لتلخيص الأخبار في المملكة المتحدة بعد أن قامت بهلوسة عناوين كاذبة وتقديمها على أنها أخبار حقيقية.
كما وقع تطبيق الذكاء الاصطناعي «جيمني»، التابع لشركة «غوغل»، في خطأ الهلوسة، فقد اقترح العام الماضي لصق الجبن على البيتزا باستخدام الغراء، وقال إن علماء الجيولوجيا يوصون البشر بتناول صخرة واحدة في اليوم.
وقد غيَّر «تشات جي بي تي» نموذجه منذ بحث السيد هولمن في أغسطس (آب) 2024، ويبحث الآن في المقالات الإخبارية الحالية عندما يبحث عن معلومات ذات صلة.
وقالت «نويب»، لهيئة الإذاعة البريطانية (بي بي سي) إن هولمن أجرى عدداً من عمليات البحث في ذلك اليوم، بما في ذلك وضع اسم أخيه في روبوت الدردشة الآلي وأنتج «قصصاً عدة مختلفة، كانت جميعها غير صحيحة».

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

المغرب اليوم

١٥-٠٤-٢٠٢٥

• المغرب اليوم

اغتصاب ممنهج وارتفاع كارثي لانتهاكات حقوق الأطفال مع دخول الحرب في السودان عامها الثالث

مع دخول الحرب في السودان عامها الثالث، تصاعدت التحذيرات الأممية من تدحرج الأوضاع في البلاد، وتفاقم "الكارثة"، موضحة حجم الانتهاكات التي يعاني منها آلاف الأطفال السودانيين. فقد حذرت هيئة تابعة للأمم المتحدة من أن " الاغتصاب يستخدم بشكل ممنهج كسلاح" في النزاع بالبلاد. وقالت المديرة الإقليمية لهيئة الأمم المتحدة للمرأة في شرق وجنوب أفريقيا، آنا موتافاتي، للصحافيين في جنيف عبر رابط فيديو من بورتسودان، اليوم الثلاثاء "شهدنا زيادة بنسبة 288% في الطلب على الدعم المنقذ للحياة لضحايا الاغتصاب والعنف الجنسي". كما أضافت أن البلاد "تشهد استخداماً ممنهجاً للاغتصاب والعنف الجنسي كسلاح حرب". بدوره، ندد الأمين العام للأمم المتحدة أنطونيو غوتيريش باستمرار تدفق الأسلحة والمقاتلين إلى البلاد. كما جدد نداءه لوقف الحرب الدائرة بين الجيش وقوات الدعم السريع. وشدد على أن الطريقة الوحيدة لضمان حماية المدنيين هي وضع حد للنزاع. من جهتها أعلنت منظمة الأمم المتحدة للطفولة (اليونيسف) أنه خلال الحرب المستمرة في السودان منذ عامين "ارتفع عدد الانتهاكات الجسيمة لحقوق الأطفال بنسبة ألف بالمئة"، مناشدة العالم "عدم التخلي عن ملايين الأطفال المنكوبين". وقالت المديرة التنفيذية للوكالة الأممية كاثرين راسل في بيان إن "عامين من الحرب والنزوح حطما حياة ملايين الأطفال في سائر أنحاء البلاد". وسلطت اليونيسف الضوء على "الانتهاكات الجسيمة لحقوق الأطفال، بما في ذلك تعرّضهم للقتل والتشويه والاختطاف والتجنيد القسري والعنف الجنسي"، مشيرة إلى أن هذه الانتهاكات "ازدادت بنسبة ألف بالمئة خلال عامين" وانتشرت في جميع أنحاء البلاد. كما أظهرت أرقام من اليونيسف أن عدد الأطفال الذين قتلوا أو أصيبوا بجروح في السودان ارتفع من 150 حالة مؤكدة في عام 2022 إلى حوالي 2776 حالة في 2023 و2024. بالمقابل، "تضاعف خلال عامين عدد الأطفال المحتاجين إلى مساعدات إنسانية، إذ ارتفع من 7.8 مليون في بداية 2023 إلى أكثر من 15 مليون طفل اليوم"، وفقاً لليونيسف. يذكر أن الحرب المستمرة في السودان منذ 15 أبريل 2023، بين الجيش بقيادة عبد الفتاح البرهان، وقوات الدعم السريع بقيادة محمد حمدان دقلو المعروف بحميدتي، أدت إلى كارثة إنسانية هائلة في البلد. وتسبب النزاع بسقوط عشرات آلاف القتلى وتهجير أكثر من 13 مليون شخص بين نازح ولاجئ فيما غرقت أنحاء عدة من البلاد في المجاعة. قد يهمك أيضــــــــــــــا

المغرب اليوم

٢٤-٠٣-٢٠٢٥

• المغرب اليوم

مقتل 3 أشخاص في قصف من «الدعم السريع» على أم درمان بعد تقدم للجيش

قتل 3 مدنيين، طفلان وامرأة، اليوم (الأحد)، في قصف من « قوات الدعم السريع » على مدينة أم درمان، الواقعة في الخرطوم الكبرى، وفق ما أفاد مصدر طبي. وأضاف المصدر الطبي في مستشفى «النو»، لـ«وكالة الصحافة الفرنسية»، أن القصف أسفر أيضاً عن إصابة 8 آخرين. وأفاد شهود عيان بأنهم سمعوا صوت سقوط 7 قذائف على أحياء مدنية تحت سيطرة الجيش السوداني الذي استعاد السيطرة على القصر الجمهوري، وعدد من المنشآت الحيوية في وسط الخرطوم، في الأيام الأخيرة. كان الجيش السوداني قد نجح في السيطرة على مواقع استراتيجية عدة في العاصمة الخرطوم، خلال اليومين الماضيين، من بينها القصر الرئاسي وبنك السودان والمتحف الوطني. وقال الناطق الرسمي باسم الجيش السوداني نبيل عبد الله، صباح أمس (السبت)، إن المواقع التي تمت السيطرة عليها تشمل «كلية البيان، المتحف القومي، جامعة السودان، قاعة الصداقة، عمارة زين، بنك السودان، مصرف الساحل والصحراء، وبرج الشركة التعاونية»؛ حسب موقع «أخبار السودان». وأشار عبد الله إلى أن «قوات الدعم السريع» تكبدت خسائر كبيرة في الأرواح خلال محاولتها الانسحاب من بعض المناطق التي كانت فيها وسط الخرطوم، مما يعكس تصاعد حدة الصراع في المنطقة. يذكر أن الجيش السوداني و«قوات الدعم السريع» يخوضان قتالاً منذ أبريل (نيسان) عام 2023 للسيطرة على الحكم في البلاد، أسفر عن أزمة إنسانية ونزوح داخل البلاد وإلى خارجها، ومقتل آلاف الأشخاص، حسب منظمة الأمم المتحدة للطفولة (يونيسيف).

المغرب اليوم

٢٢-٠٣-٢٠٢٥

• المغرب اليوم

رجل يطلب تغريم شركة «تشات جي بي تي» بعد تعريفه بأنه مجرم وقتل طفليه

تقدَّم رجل نرويجي بشكوى بعد أن أخبره برنامج « تشات جي بي تي »، بالخطأ، أنه قتل اثنين من أبنائه وسُجن لمدة 21 عاماً. واتصل آرفه يالمار هولمن بهيئة حماية البيانات النرويجية، وطالب بتغريم شركة «أوبن إيه آي» المُصنِّعة لروبوت الدردشة الآلية. هذا أحدث مثال على ما تُسمى «الهلوسة»، حيث تخترع أنظمة الذكاء الاصطناعي معلومات وتقدمها على أنها حقيقة. يقول هولمن إن واقعة «الهلوسة» التي حدثت معه تضره كثيراً، مضيفاً: «يعتقد البعض أنه لا يوجد دخان دون نار، وحقيقة أن شخصاً ما يمكن أن يقرأ هذه النتيجة ويعتقد أنها صحيحة هي أكثر ما يخيفني». ظهرت النتيجة الخاطئة لهولمن بعد أن سأل «تشات جي بي تي»: «مَن هو آرفه يالمار هولمن؟»، وكانت الإجابة التي حصل عليها هي: «هو شخص نرويجي جذب الانتباه بسبب حدث مأساوي. كان والد طفلين صغيرين، يبلغان من العمر 7 و10 سنوات، عُثر عليهما مقتولين بشكل مأساوي في بركة بالقرب من منزلهم في تروندهايم، بالنرويج، في ديسمبر (كانون الأول) 2020». ولاحظت منظمة «نويب» غير الحكومية ومقرها فيينا، في بيان، أن «تطبيق (تشات جي بي تي) يعطي باستمرار معلومات كاذبة (...) يمكن أن تلحق ضرراً فادحاً بسمعة شخص ما، ويتهم بعض الناس بشكل غير مبرر بالفساد، أو بإساءة معاملة الأطفال، أو حتى بالقتل». وقالت «نويب» في شكواها إن السيد هولمن «لم يُتَّهم بأي جريمة، وهو مواطن ذو ضمير حي». وبعد تقديم المنظمة شكوى أولى في النمسا في أبريل (نيسان) 2024، توجَّهت راهناً إلى هيئة حماية البيانات النروجية (داتاتيلسينت) للإبلاغ عمَّا تعرَّض له المستخدم آرفه يالمار هولمن الذي تلقى هذه النتيجة المفاجئة بعدما طلب من «تشات جي بي تي» كتابة نبذة عنه. وبعد هذه الحادثة، بادرت الشركة الأميركية التي ابتكرت برنامج الذكاء الاصطناعي التوليدي إلى تعديل المعلومات المتعلقة بآرفه يالمار هولمن فلم تعدّ تعرّف به على أنه قاتل. لكنّ هذه البيانات الكاذبة قد تبقى في الأنظمة الداخلية، بحسب «نويب» التي يتكون اسمها (Noyb) من الأحرف الأولى لعبارة (None of your business) بالإنجليزية، وتعني بالعربية «هذا ليس من شأنك». ورأت المنظمة أن «شركة (أوبن إيه آي)، من خلال السماح، عن علم، لنموذجها القائم على الذكاء الاصطناعي بإنشاء نتائج تشهيرية، تنتهك مبدأ الدقة»، المنصوص عليه في القانون الأوروبي العام لحماية البيانات، مطالِبَة بـ«حذف» المعلومات المغلوطة، وتحسين التكنولوجيا، وفرض «غرامة إدارية». في وقت سابق من هذا العام، علّقت شركة «أبل» في المملكة المتحدة أداة «أبل إنتلجينس» لتلخيص الأخبار في المملكة المتحدة بعد أن قامت بهلوسة عناوين كاذبة وتقديمها على أنها أخبار حقيقية. كما وقع تطبيق الذكاء الاصطناعي «جيمني»، التابع لشركة «غوغل»، في خطأ الهلوسة، فقد اقترح العام الماضي لصق الجبن على البيتزا باستخدام الغراء، وقال إن علماء الجيولوجيا يوصون البشر بتناول صخرة واحدة في اليوم. وقد غيَّر «تشات جي بي تي» نموذجه منذ بحث السيد هولمن في أغسطس (آب) 2024، ويبحث الآن في المقالات الإخبارية الحالية عندما يبحث عن معلومات ذات صلة. وقالت «نويب»، لهيئة الإذاعة البريطانية (بي بي سي) إن هولمن أجرى عدداً من عمليات البحث في ذلك اليوم، بما في ذلك وضع اسم أخيه في روبوت الدردشة الآلي وأنتج «قصصاً عدة مختلفة، كانت جميعها غير صحيحة».