معاقبة روبوتات الدردشة بسبب كذبها تجعلها أسوأ

تقدَّم رجل نرويجي بشكوى بعد أن أخبره برنامج «تشات جي بي تي»، بالخطأ، أنه قتل اثنين من أبنائه وسُجن لمدة 21 عاماً.
واتصل آرفه يالمار هولمن بهيئة حماية البيانات النرويجية، وطالب بتغريم شركة «أوبن إيه آي» المُصنِّعة لروبوت الدردشة الآلية.
هذا أحدث مثال على ما تُسمى «الهلوسة»، حيث تخترع أنظمة الذكاء الاصطناعي معلومات وتقدمها على أنها حقيقة.
يقول هولمن إن واقعة «الهلوسة» التي حدثت معه تضره كثيراً، مضيفاً: «يعتقد البعض أنه لا يوجد دخان دون نار، وحقيقة أن شخصاً ما يمكن أن يقرأ هذه النتيجة ويعتقد أنها صحيحة هي أكثر ما يخيفني».
ظهرت النتيجة الخاطئة لهولمن بعد أن سأل «تشات جي بي تي»: «مَن هو آرفه يالمار هولمن؟»، وكانت الإجابة التي حصل عليها هي: «هو شخص نرويجي جذب الانتباه بسبب حدث مأساوي. كان والد طفلين صغيرين، يبلغان من العمر 7 و10 سنوات، عُثر عليهما مقتولين بشكل مأساوي في بركة بالقرب من منزلهم في تروندهايم، بالنرويج، في كانون الأول 2020».
ولاحظت منظمة «نويب» غير الحكومية ومقرها فيينا، في بيان، أن «تطبيق (تشات جي بي تي) يعطي باستمرار معلومات كاذبة (…) يمكن أن تلحق ضرراً فادحاً بسمعة شخص ما، ويتهم بعض الناس بشكل غير مبرر بالفساد، أو بإساءة معاملة الأطفال، أو حتى بالقتل».
وقالت «نويب» في شكواها إن السيد هولمن «لم يُتَّهم بأي جريمة، وهو مواطن ذو ضمير حي».
وبعد تقديم المنظمة شكوى أولى في النمسا في أبريل (نيسان) 2024، توجَّهت راهناً إلى هيئة حماية البيانات النروجية (داتاتيلسينت) للإبلاغ عمَّا تعرَّض له المستخدم آرفه يالمار هولمن الذي تلقى هذه النتيجة المفاجئة بعدما طلب من «تشات جي بي تي» كتابة نبذة عنه.
وبعد هذه الحادثة، بادرت الشركة الأميركية التي ابتكرت برنامج الذكاء الاصطناعي التوليدي إلى تعديل المعلومات المتعلقة بآرفه يالمار هولمن فلم تعدّ تعرّف به على أنه قاتل. لكنّ هذه البيانات الكاذبة قد تبقى في الأنظمة الداخلية، بحسب «نويب» التي يتكون اسمها (Noyb) من الأحرف الأولى لعبارة (None of your business) بالإنجليزية، وتعني بالعربية «هذا ليس من شأنك».
ورأت المنظمة أن «شركة (أوبن إيه آي)، من خلال السماح، عن علم، لنموذجها القائم على الذكاء الاصطناعي بإنشاء نتائج تشهيرية، تنتهك مبدأ الدقة»، المنصوص عليه في القانون الأوروبي العام لحماية البيانات، مطالِبَة بـ«حذف» المعلومات المغلوطة، وتحسين التكنولوجيا، وفرض «غرامة إدارية».
في وقت سابق من هذا العام، علّقت شركة «أبل» في المملكة المتحدة أداة «أبل إنتلجينس» لتلخيص الأخبار في المملكة المتحدة بعد أن قامت بهلوسة عناوين كاذبة وتقديمها على أنها أخبار حقيقية.
كما وقع تطبيق الذكاء الاصطناعي «جيمني»، التابع لشركة «غوغل»، في خطأ الهلوسة، فقد اقترح العام الماضي لصق الجبن على البيتزا باستخدام الغراء، وقال إن علماء الجيولوجيا يوصون البشر بتناول صخرة واحدة في اليوم.
وقد غيَّر «تشات جي بي تي» نموذجه منذ بحث السيد هولمن في آب 2024، ويبحث الآن في المقالات الإخبارية الحالية عندما يبحث عن معلومات ذات صلة.
وقالت «نويب»، لهيئة الإذاعة البريطانية (بي بي سي) إن هولمن أجرى عدداً من عمليات البحث في ذلك اليوم، بما في ذلك وضع اسم أخيه في روبوت الدردشة الآلي وأنتج «قصصاً عدة مختلفة، كانت جميعها غير صحيحة». (الشرق الاوسط)

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

تيار اورغ

١٢-٠٥-٢٠٢٥

• تيار اورغ

تشات جي بي تي "خرّاب" البيوت؟!

أثارت واقعة غريبة جدلاً واسعاً في اليونان بعد أن تقدمت سيدة بطلب طلاق من زوجها، استناداً إلى 'قراءة فنجان القهوة' أجراها برنامج الذكاء الاصطناعي 'تشات جي بي تي'، والذي زعم أن زوجها على علاقة بامرأة أخرى.

الديار

٣٠-٠٤-٢٠٢٥

• الديار

ميليسا غونزاليس تهرب من جحيم التعنيف ... رواية صادمة عن قسوة الذكوريّة

اشترك مجانا بقناة الديار على يوتيوب بوجوه مشوهة وأجساد محروقة، وأرواح تنزف كل يوم، نساء يكابدن بصمت في مجتمع ذكوري يعتمد على العنف. هن لسنا ضعيفات، هن أقوياء بكيان مستضعف. فالسلطة الذكورية الراسخة في المجتمع، والتي تتجلى بوضوح في قوانين الأحوال الشخصية، تضع المرأة في موقع التبعية ، وتعتبرها ملكاً للرجل عليها «طاعته» ، وتعزز سلطته وتمنحه الحق في تأديب المرأة، إن خرجت عن المسار المرسوم لها بالطريقة التي يراها مناسبة تحت ستار «الطاعة». قصص تعنيف النساء والفتيات لا تعد ولا تحصى، وعلى الرغم من الانفتاح النسبي الذي يتمتع به المجتمع اللبناني، ما زال العنف ضد المرأة يشكل ظاهرة مقلقة. ففي قصة مأساوية جديدة، ضجت مواقع التواصل الاجتماعي ووسائل الإعلام بالسيدة ميليسا غونزاليس، التي تعرضت لسنوات للعنف على يد زوجها المدعى عليه طوني فليفل الذي تمادى بجرائمه ضدها، بعد أن تقدمت بشكوى ضده نتيجة تعرضها للعنف. فعمد إلى استدراجها إلى منزله بزعم حل الخلاف بينهما، وبعدها اختفت لعدة أيام، قبل أن تتمكن من الوصول إلى شرفة المنزل، وقد بدت عليها علامات الانتفاخ من التعذيب، طالبة النجدة من الجيران، الذين سارعوا إلى إبلاغ السلطات التي أوقفت المعتدي، وتم أيضاً تحرير سيدة أخرى كان يعنفها. وبحسب وسائل الإعلام فإن المعتدي ينتمي لجماعة «جنود الرب» المرتبطة بالمصرفي انطون الصحناوي، وبحسب تصريح لشقيقة الضحية في وسائل الإعلام، أشارت إلى أن «جنود الرب» أكدوا في اتصال معها أن لاعلاقة لهم بالمعتدي. يشار أن العنف ضد النساء هو أي فعل يمارس ضد المرأة، سواء كان جسديا أو نفسيا أو جنسيا أو اقتصاديا، ويؤدي إلى إلحاق الأذى بها أو الحد من حريتها وإرادتها، ويشمل هذا العنف الضرب، الإهانة، الاغتصاب، الزواج القسري، التحرش الجنسي، والحرمان من التعليم أو العمل. ميليسا اسم جديد أُضيف إلى الناجيات من جرائم العنف ضد النساء في لبنان. فالعنف ضد النساء عالي الوتيرة منذ زمن، لكن الوعي لهذه المشكلة ساهم في نشر تلك الجرائم، فبتنا نسمع عنها بوتيرة مرتفعة، هذا ما أكدته المسؤولة عن وحدة العنف الأسري في منظمة «كفى» المحامية ليلى عواضة لـ «الديار» ، واكدت ان « النساء في مرحلة الازمات وخصوصا خلال الحرب، تراجعت عن الابلاغ، فأولويات النساء تختلف في مثل هذه المرحلة، مما يدفعها إلى عدم التبليغ عن العنف الذي تتعرض له، مما يؤدي إلى تراجع الإبلاغات، وهذا لا يعني أن عدد الضحايا كان أقل وارتفع اليوم». وتتيح المديرية العامة لقوى الأمن الداخلي الخط الساخن 1745 ، لتلقي الاتصالات المتعلقة بحالات العنف الأسري، وتشمل هذه الاتصالات بلاغات عن العنف الجسدي، الجنسي، المعنوي، والاقتصادي. ويمكن للضحية أو أفراد الأسرة أو الشهود التبليغ عن هذه الحالات. وحتى الآن، لا تتوفر تقارير رسمية أو بيانات حديثة محددة لعام 2025 حول العنف ضد النساء في لبنان، وبحسب الامم المتحدة تتعرض 70% من النساء في الصراعات والحروب والأزمات الإنسانية للعنف القائم على النوع الاجتماعي. جرائم العنف ضد النساء تعد واحدة من أخطر القضايا الاجتماعية والإنسانية التي تواجه المجتمعات الحديثة، حيث تتسبب في انتهاك حقوق الإنسان وكرامة المرأة، وتؤثر سلبا على الصحة النفسية والجسدية للضحايا طويلة الأمد، مثل الاكتئاب والقلق وفقدان الثقة بالنفس وحتى الانتحار أحيانًا، فضلاً عن انعكاساتها السلبية على الأسرة والمجتمع بأكمله، هذا ما اكدته عواضة . وتقول ان «الكثير من النساء ينتهي بهن المطاف الى الإقدام على الانتحار او العزلة، وفي حالات كثيرة تنقل هذا العنف إلى من حولها وخصوصا أطفالها إن كانت متزوحة، وتؤثر على ثقتها بنفسها ، وتمنعها من أخذ اي قرار او إجراء لمنع هذا العنف الذي يمارس عليها». وأشارت إلى أن مؤسسة «كفى» تقدم الحماية والدعم النفسي والاجتماعي والقانوني، من خلال مركز الدعم للنساء، لمساعدتهم للخروج من دائرة العنف التي يعيشون فيها. أما عن القانون الشامل لمناهضة العنف ضد المرأة ، الذي تقدمت به منظمة «كفى» مع عدد من النواب العام الماضي، أكدت عواضة إلى أنه تم تحويله إلى اللجان المشتركة في مجلس النواب، ومنه إلى الحكومة لإبداء الرأي، واليوم ننتظر على أمل أن تعطي هذه الحكومة الجديدة الأولوية لقضايا النساء وتدعم هذا القانون، لنصل إلى إقراره في مجلس النواب». من جهتها، تعتبر الأستاذة الجامعية والباحثة الاجتماعية البروفسورة وديعة الأميوني، أن أسباب العنف الأسري «قد تكون نفسية مثل الإدمان على المخدرات أو الكحول، واضطرابات الشخصية والأمراض النفسية، أو اجتماعية مثل الفقر والبطالة وضعف التعليم والتربية، حتى أن بعض الثقافات تبرر العنف أو تعتبره وسيلة لتأديب الأطفال أو الشريك، خاصة المرأة، بالإضافة إلى ذلك، يؤدي التوتر الناتج عن الضغوط المالية أو المشاكل الزوجية إلى تصاعد العنف». أما من الناحية القانونية فتؤكد عواضة إلى أن «وجود القانون 293 لحماية النساء وسائر أفراد الأسرة من العنف الأسري، كان نقلة نوعية من أجل حماية النساء من العنف، لكن هذا القانون لم يخصص للنساء، والدولة لم تعترف أن هناك عنفا ضد المراة، مما دفعنا إلى تقديم قانون شامل لمناهضة العنف ضد المرأة يغطي 4 محاور: الوقاية والحماية والملاحقة والتعويض عن الضحايا، ليشمل كل أشكال العنف سواء أكان العنف داخل الأسرة أم خارجها «. هذا وأقر البرلمان اللبناني عام 2014 قانونا لحماية النساء وسائر أفراد الأسرة من العنف الأسري، وتم تعديله عام 2020 ليشمل الحماية من جميع أنواع العنف. وتضيف عواضة «رغم وجود قانون لحماية النساء وسائر أفراد الأسرة من العنف الأسري، إلا أن العنف مازال مستمرا بسبب عدم تطبيقه بشكل كاف، فلو طبق القانون بشكل صحيح وفعال، لانتهى بنا الأمر إلى توفير الحماية للنساء. فالعقوبات الرادعة والمحاكمات السريعة هي من توفر الحماية لهن». في إشارة منها إلى بطئ المحاكمات والروتين القضائي، الذي يعد واحدا من الأسباب التي تدفع الكثير من النساء إلى عدم اللجوء إلى القضاء، لأن المسار القانوني يأخذ وقتا طويلا. يذكر أن الجمعية العامة للأمم المتحدة حددت يوم 25 تشرين الثاني «اليوم العالمي للقضاء على العنف ضد المرأة» (القرار 54/134)، ويعود هذا التاريخ إلى عملية الاغتيال الوحشية في 1960 للأخوات (ميرابال) الناشطات السياسيات في جمهورية الدومنيكان، بأوامر من ديكتاتور الدومنيكان رافائيل تروخيلو (1930 - 1961). وفي عام 1981 حدد النشطاء في منظمة «Encuentros « النسائية في أميركا اللاتينية ومنطقة البحر الكاريبي يوم 25 تشرين الأول بأنه يوم مكافحة العنف ضد المرأة وزيادة الوعي به، وفي 17 كانون الاول 1999 أصبح التاريخ رسميا بقرار الأمم المتحدة. ويصادف العاشر من كانون الأول من كل عام يوم حقوق الإنسان، تسبقه فعاليات حملة الـ 16 يوما للقضاء على العنف ضد المرأة، تبدأ تلك الحملة من 25 تشرين الثاني إلى 10 كانون الأول من كل عام. العنف الأسري ضد النساء مشكلة اجتماعية عالمية خطيرة، وتعترض مكافحتها تحديات عدة، كما ويتطلب منع العنف ضد النساء والفتيات، بحسب الأمم المتحدة، «جهودا متضافرة طويلة الأمد ، ونهجا متعدد التخصصات يشمل زيادة الوعي بالعواقب السلبية لهذا العنف، ومعالجة الأسباب الجذرية للمشكلة عن طريق تغيير الأعراف الاجتماعية التمييزية، والقوالب النمطية القائمة على النوع الاجتماعي، ومن خلال مشاركة المجتمع بأكمله، وتمكين النساء والفتيات في المجالات الاقتصادية والسياسية والاجتماعية، لتعزيز مواردهن ومهاراتهن، وتعزيز وصول الناجيات منهن إلى العدالة، وإنهاء إفلات مرتكبي العنف ضدهن من العقاب». يذكر أنه في تاريخ 28/3/2024، قدم النواب بوليت يعقوبيان وسينتيا زرازير ونجاة عون وحليمة القعقور ومارك ضو وفراس حمدان وميشال الدويهي، بالتعاون مع منظمة «كفى»، اقتراح قانون يرمي إلى مناهضة العنف ضد المرأة، وتعديل بعض مواد قانون العقوبات. ويجمع الاقتراح عمليا بين مواضيع عدة تتصل بالنساء، أبرزها مناهضة العنف ضد المرأة، وتجريم التحرش الجنسي، وتعديل أحكام متصلة بجرائم جنسية ، فضلا عن مسألة تزويج القاصرات. العنف ضد المرأة في لبنان ليس مسألة فردية، بل قضية مجتمع تحتاج إلى تظافر الجهود على كافة الأصعدة. فوجود القوانين لا يكفي بل يجب أن تطبق بفعالية، ويجب العمل على تغيير الثقافة الذكورية، وتعزيز التربية على المساواة والاحترام، فالمرأة نصف المجتمع وتمكينها هو تمكين للوطن لبناء مجتمع أكثر عدلا وإنسانية. وأعلنت منظمة «أبعاد» أن نسبة جرائم القتل ضد النساء ارتفعت بمعدل 300% بين عامي 2023 و2024، في وقت بلغت نسبة التبليغات على الخط الساخن التابع لوزارة الداخلية 767 شكوى أي بمعدل 64 شكوى شهرياً. وعلى الصعيد العالمي، وبحسبب الأمم المتحدة، تعرض ما يقدر بنحو 736 مليون امرأة – أي واحدة من بين كل 3 نساء تقريبا - للعنف الجسدي أو الجنسي من قبل الشريك الحميم، أو العنف الجنسي من غير الشريك، أو كليهما مرة واحدة على الأقل في حياتهن.

صوت بيروت

٢٧-٠٤-٢٠٢٥

• صوت بيروت

من هو المستهدف في الغارة الاسرائيلية على حلتا؟

قال المتحدث باسم الجيش الاسرائيلي أفيخاي أدرعي أن طائرة مسيرة هاجمت في وقت سابق من اليوم (الأحد) عنصراً من حزب الله وقضت عليه في منطقة حلتا في جنوب لبنان. وزعم أدرعي أن العنصر المستهدف كان يعمل على إعادة اعمار قدرات حزب الله في المنطقة. #عاجل 🔸 هاجمت طائرة مسيرة في وقت سابق من اليوم (الأحد) إرهابيًا من منظمة حزب الله الإرهابية وقضت عليه في منطقة حلتا في جنوب لبنان، حيث كان يعمل على إعادة اعمار قدرات حزب الله الارهابية في المنطقة — افيخاي ادرعي (@AvichayAdraee) April 27, 2025 وفي وقت سابق اليوم أعلنت وزارة الصحة مقتل شخص جراء غارة إسرائيلية على الجنوب، ضمن الخروقات الإسرائيلية لاتفاق وقف إطلاق النار الساري منذ 27 نوفمبر/تشرين الثاني 2024. وقال مركز عمليات طوارئ الصحة التابع للوزارة في بيان، إن 'الغارة التي شنها العدو الإسرائيلي بمسيّرة على بلدة حلتا جنوب لبنان أدت إلى سقوط قتيل'، دون مزيد من التفاصيل. بدورها، أفادت منصات على مواقع التواصل ووسائل إعلام بأن الطيران الإسرائيلي 'أغار على أطراف بلدتي حلتا ووادي خنسا مستهدفا مزرعة دواجن'.