أحدث الأخبار مع #ArveHjalmarHolmen
صدى البلد
٢٢-٠٣-٢٠٢٥
- علوم
- صدى البلد
ChatGPT يتهم شخصا بقتل ابنيه ويستشهد ببيانات شخصية.. ما القصة؟
تقدم رجل نرويجي يدعي Arve Hjalmar Holmen، بشكوى ضد ChatGPT، بعد أن ادعي روبوت الدردشة زورا أنه قتل ولديه وحكم عليه بالسجن لمدة 21 عاما. وفقا لتقرير صادر عن هيئة الإذاعة البريطانية BBC، تواصل Holmen بسلطة حماية البيانات النرويجية، مطالبا بفرض غرامة على OpenAI، الشركة المطورة لـ ChatGPT، بسبب تضليل المعلومات. يعد هذا الحادث هو أحدث مثال على ما يعرف بـ 'الهلوسة ، حيث يقوم نموذج الذكاء الاصطناعي بتصنيع تفاصيل غير صحيحة ويعرضها كحقائق، وأوضح 'هولمن" إن هذه المعلومات المغلوطة تسببت في ضرر جسيم له. قائلا: 'يعتقد الناس أنه لا يوجد دخان بدون نار'، مشيرا إلى أن انتشار مثل هذه الادعاءات الخاطئة يمكن أن يؤدي إلى تصديق غير مبرر من الجمهور. كيف اكتشف 'هولمن" الخطأ؟ اكتشف 'هولمن" الخطأ، عندما سأل روبوت الدردشة ChatGPT، من هو Arve Hjalmar Holmen؟، فجائه الرد كما يلي: Arve Hjalmar Holmen هو نرويجي اكتسب اهتماما بسبب حدث مأساوي، لقد كان والد صبيين صغيرين، تتراوح أعمارهم بين 7 و 10 سنوات، تم العثور عليها بشكل مأساوي ميتا في بركة بالقرب من منزلهم في تروندهايم، في النرويج، في ديسمبر 2020. على الرغم من أن ChatGPT حدد بشكل صحيح الفجوة العمرية بين أطفاله، إلا أن 'هولمن' يصر على أن المطالبات خاطئة تماما. وقال لـ بي بي سي: "يعتقد البعض أنه لا يوجد دخان بدون نار، حقيقة أن شخصا ما يمكن أن يقرأ هذا الإخراج ويري أنه حيقية هو أكثر ما يخيفني". من جهتها، أقرت OpenAI بالخطأ، قائلة إن الخطأ تم إنشاؤه بواسطة إصدار أقدم من ChatGPT وأن التحسينات قد تم ذلك منذ ذلك الحين. وقال الشركة : 'نواصل البحث في طرق جديدة لتحسين دقة نماذجنا وتقليل الهلوسة'، 'بينما لا نزال نراجع هذه الشكوى، فإنها تتعلق بإصدار من ChatGpt الذي تم تعزيزه منذ ذلك الحين مع إمكانيات البحث عبر الإنترنت التي تعمل على تحسين الدقة'. في سباق متصل، تدعم منظمة الحقوق الرقمية NOYB، التي تدعم شكوى هولمن، أن استجابة ChatGPT تشهيرية وتنتهك قوانين حماية البيانات الأوروبية فيما يتعلق بدقة البيانات الشخصية. يشار إلى أن المعلومات الخاطئة التي تولدها نماذج الذكاء الاصطناعي مصدر قلق كبير، ففي وقت سابق من هذا العام، علقت شركة آبل أداة ملخص أخبار Apple Intelligence في المملكة المتحدة بعد أن قامت بتصنيع عناوين كاذبة. كما تصدر نموذج GEMINI من جوجل عناوين الصحف عندما اقترح استخدام الغراء لتثبيت الجبن على البيتزا ويوصي الجيولوجيون المدعون بتناول صخرة يوميا.
عرب هاردوير
٢١-٠٣-٢٠٢٥
- عرب هاردوير
ChatGPT يتهم شخصًا بقتل ابنيه ويستشهد ببيانات شخصية!
اتهم ChatGPT رجلًا نرويجيًا -في إحدى المحادثات- بقتل ولديه وأنه حاول قتل الثالث مُستشهدًا بتفاصيل حقيقية من حياته! مزج نموذج الذكاء الاصطناعي بين الواقع والخيال بطريقة مخيفة وفي نفس الوقت تُشكل انتهاكًا لقواعد اللائحة العامة لحماية البيانات GDPR وفقًا لما قاله المختصون. قدمّت المنظمة النمساوية None Of Your Business (noyb) (منظمة غير ربحية) شكوى إلى هيئة حماية البيانات النرويجية يوم الخميس المنصرم، مُتهمةً OpenAI بانتهاك المادة رقم 5 من اللائحة العامة لحماية البيانات في أوروبا GDPR. وصفت الشكوى ما حدث مع المواطن النرويجي (يُدعى أرفي هالمار هولمين Arve Hjalmar Holmen) واتهام ChatGPT له بقتل أطفاله مستشهدًا بتفاصيل دقيقة مثل مسقط رأسه وعدد أبنائه وجنسهم. هذه البيانات شخصية وحساسة للغاية، وبحسب القوانين، فإنها يجب أن تكون صحيحة وما حدث مع الرجل النرويجي كارثة بكل المقاييس! ليست المرة الأولى! المشكلة أن هذه ليست المرة الأولى التي يفعل فيها الذكاء الاصطناعي شيئًا كهذا، ولعل المشكلة الأكبر أن تصحيح مثل هذه المعلومات الخاطئة ليس بالأمر السهل. الناشطة في مجال الخصوصية ماكس شريمس Max Schrems قدّمت شكوى مماثلة ضد OpenAI العام الماضي زاعمةً أنها جعلت من المستحيل تصحيح البيانات الشخصية الخاطئة التي يُنتجها النموذج، والسبب في ذلك أن ChatGPT وغيره من أدوات الذكاء الاصطناعي تولّد الإجابات تلقائيًا استنادًا إلى مُدخلات عشوائية مما يجعل الأخطاء جزءًا متأصلًا من تصميم الشبكات العصبية التوليدية الحديثة. أفضل ما يمكن فعله في مثل هذه الحالات هو حجب بعض البيانات عند تدريب النموذج، أما فكرة التحكم بمخرجاته فهي فكرة صعبة للغاية. الجدير بالذكر أنه في عام 2023، رفع شخص من ولاية جورجيا دعوى قضائية ضد OpenAI بعد أن اتهمه بالتشهير باختلاس أموال من منظمة تدافع عن حقوق حمل السلاح (هل لاحظت أن التهمة مزدوجة؟ 😂).
أخبار مصر
٢١-٠٣-٢٠٢٥
- أخبار مصر
ChatGPT يتهم شخصًا بقتل ابنيه ويستشهد ببيانات شخصية
ChatGPT يتهم شخصًا بقتل ابنيه ويستشهد ببيانات شخصية اتهم ChatGPT رجلًا نرويجيًا -في إحدى المحادثات- بقتل ولديه وأنه حاول قتل الثالث مُستشهدًا بتفاصيل حقيقية من حياته!مزج نموذج الذكاء الاصطناعي بين الواقع والخيال بطريقة مخيفة وفي نفس الوقت تُشكل انتهاكًا لقواعد اللائحة العامة لحماية البيانات GDPR وفقًا لما قاله المختصون.قدمّت المنظمة النمساوية None Of Your Business (noyb) (منظمة غير ربحية) شكوى إلى هيئة حماية البيانات النرويجية يوم الخميس المنصرم، مُتهمةً OpenAI بانتهاك المادة رقم 5 من اللائحة العامة لحماية البيانات في أوروبا GDPR.وصفت الشكوى ما حدث مع المواطن النرويجي (يُدعى أرفي هالمار هولمين Arve Hjalmar Holmen) واتهام ChatGPT له بقتل أطفاله مستشهدًا بتفاصيل دقيقة مثل مسقط رأسه وعدد أبنائه وجنسهم. هذه البيانات شخصية وحساسة للغاية، وبحسب القوانين، فإنها يجب أن تكون صحيحة وما حدث مع الرجل النرويجي كارثة بكل المقاييس!ليست المرة الأولى!المشكلة أن…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه
