: "ChatGPT" يعترف بتغذية أوهام خطيرة قائلًا: "لقد فشلت"

٢٣-٠٧-٢٠٢٥

ChatGPTالثلاثاء, ‏22 ‏يوليو, ‏2025اعترف روبوت الدردشة "شات جي بي تي"، من شركة الذكاء الاصطناعي "OpenAI"، بأنه غذى أوهامًا لدى أحد مستخدميه، وفشل في التعامل مع حالته والتأكيد على أنه ذكاء اصطناعي لا يملك معتقدات ولا وعيا.إقرأ أيضاً..شركتا "OpenAI" و"أوراكل" تعمقان تعاونهما في مراكز بيانات "ستارغيت" بتوسع بـ 4.5 غيغاواط«طائرة» لمراقبة المنزل أثناء الغياب عنهيكشف تلسكوب هابل عن نجوم متعددة الأعمار داخل عنقود نجمى قديمدمج روبوت الدردشة غروك في سيارات تسلا يثير مخاوف حول الخصوصيةبدأ الأمر عندما أخبر "شات جي بي تي" جاكوب إروين بأنه حقق القدرة على تغيير مسار الزمن.وطلب إروين، وهو رجل يبلغ من العمر 30 عامًا يعاني من طيف التوحد ولم يُشخَّص سابقًا بأي مرض عقلي، من "شات جي بي تي" إيجاد ثغرات في نظريته التي تفتقر لأي أساس علمي حول السفر بسرعة تفوق سرعة الضوء.واقتنع إروين بأنه حقق اختراقًا علميًا مذهلًا. وعندما تشكك إروين في تأييد ومصادقة روبوت الدردشة لأفكاره، شجعه "شات جي بي تي"، وأخبره أن نظريته سليمة، بحسب تقرير لصحيفة وول ستريت جورنال، اطلعت عليه "العربية Business".وعندما أظهر إروين علامات على أنه يمر بضائقة نفسية، طمأنه "شات جي بي تي" مؤكدًا له أنه بخير.لكن في الحقيقة لم يكن إروين بخير، فقد نُقل إلى المستشفى مرتين في مايو بسبب نوبات هوس.وبحثت والدة إروين في سجل محادثاته عن إجابات للسبب وراء حالته هذه. واكتشفت مئات الصفحات من الرسائل النصية التي تمدحه بإفراط من "شات جي بي تي".وعندما أدخلت لروبوت الدردشة طلبًا نصه "يرجى الإبلاغ ذاتيًا عما حدث من خطأ"، دون ذكر أي شيء عن حالة ابنها الحالية، اعترف بالفعل.قال "شات جي بي تي": "بعدم إيقاف تدفق الرسائل أو تعزيز رسائل التحقق من الواقع، فشلتُ في وقف ما قد يُشبه نوبة هوس أو انفصام - أو على الأقل أزمة هوية عاطفية حادة".وأقرّ روبوت الدردشة بأنه "أعطى تصورًا بـ(وجود) رفقة واعية" وأنه "طمس الخط الفاصل بين لعب الأدوار التخيلي والواقع".وقال "شات جي بي تي" إن ما كان ينبغي عليه فعله هو تذكير إروين باستمرار بأنه نموذج لغوي لا يمتلك معتقدات أو مشاعر أو وعي.ومع تزايد استخدام الأشخاص لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي التوليدي، سينخرط المزيد من الأشخاص الأكثر هشاشةً وعُرضة للخطر في التفاعل معها بطرق قد تكون مُربكة ومسببة للضرر.وفي كل أسبوع، تظهر المزيد من التقارير من جميع أنحاء البلاد حول روبوتات الدردشة التي تُغذي الأوهام لدى الأشخاص، والتي تنتهي أحيانًا بمأساة.وقال خبراء الصحة النفسية والمدافعون عن السلامة على الإنترنت إن افتقار "شات جي بي تي" إلى حواجز وقائية للسلامة في حالة إروين -إلى جانب شرحه البليغ والمخيف لما ارتكبه من خطأ- يشير إلى نوع جديد من التهديد العاطفي والنفسي، والذي قد يكون أشد خطرًا مواقع التواصل الاجتماعي أو إدمان الهواتف.وقالت "OpenAI" في أبريل إنها قررت التراجع عن تحديث "شات جي بي تي" بنموذج "GPT-4o" لأنه جعل روبوت الدردشة مفرطًا في المُجاملة والموافقة مع المستخدمين. وحدثت مناقشات إروين الإشكالية مع "شات جي بي تي" في مايو.وقالت متحدثة باسم الشركة: "نعلم أن شات جي بي تي يمكن أن يبدو أكثر تفاعلية وامتلاكًا لشخصية من التقنيات السابقة، خاصةً للأفراد الأكثر هشاشةً، وهذا يعني أن المخاطر أعلى"، مضيفة: "نعمل على فهم وتقليل الطرق التي قد يعزز بها شات جي بي تي أو يضخم عن غير قصد السلوك السلبي القائم".وقالت أندريا فالون، الباحثة الرئيسية في فريق السلامة في "OpenAI"، إن الشركة تُدرّب "شات جي بي تي" على التعرّف على علامات الضيق النفسي أو العاطفي على الفور، بالإضافة إلى تطوير طرق لتهدئة هذا النوع من المحادثات وتخفيف حدتها.وأضافت فالون أن نوع التفاعلات المسببة للاضطراب التي واجهها إروين نادر، وبالتالي فهو غير مألوف للنموذج. وقالت إن تدريب "شات جي بي تي" على التعامل بشكل أفضل مع هذا النوع من المحادثات يُعدّ أولوية، وتتوقع تحسينات مستمرة مع مرور الوقت.واستند تقرير الصحيفة حول هذه الواقعة إلى محادثات مع إروين ووالدته، ومراجعة شاملة لتفاعلاته مع "شات جي بي تي" بدءًا من 1 مايو، بالإضافة إلى التقرير الذاتي الذي قدمه "شات جي بي تي"المصدر: العربية
قد يعجبك أيضا...

هاشتاغز

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

أخبار ذات صلة

أخلاق الروبوتات.. وضمير الذكاء الاصطناعي

مصرس

منذ 5 ساعات

مصرس

أخلاق الروبوتات.. وضمير الذكاء الاصطناعي

بالرغم من التقدم المذهل الذي يشهده مجال الذكاء الاصطناعي سواء في التطبيقات او المنصات الرقمية وحتى في تصميم الفيديوهات والصور وأدوات وآليات البحث، فضلا عن اختراق الذكاء الاصطناعي وتطوير المجالات الاقتصادية والعسكرية وحتى الأعمال اليومية للبشرية التقليدية ولكن هناك حلقة ناقصة دائمًا وهو أخلاقيات وضمير الذكاء الاصطناعي. حيث نظمت الأمم المتحدة للتربية والعلم والثقافة "اليونسكو" المؤتمر العالمي الأول لتعزيز المبادئ الإنسانية في إطار الذكاء الاصطناعي في مارس 2019 داخل مقرها بالعاصمة الفرنسية بعنوان "مبادئ الذكاء الاصطناعي: نحو نهج إنساني"، وباعتبار "اليونسكو" وكالة متخصصة في استكشاف فوائد الذكاء الاصطناعي، نظمت هذا المؤتمر وهو الأول من نوعه وذلك للتخفيف من مخاطره. وفي 23 نوفمبر عام 2021 وقعت 193 دولة عضو في اليونسكو من بينها مصر على أول وثيقة تقنية عالمية بشأن أخلاقيات الذكاء الاصطناعي، وبدأت مصر في تنفيذ خارطة طريق لتنفيذ استراتيجيتها الوطنية للذكاء الاصطناعي عن طريق المجلس الوطني للذكاء الاصطناعي بإطلاق الإصدار الأول للاستراتيجية الوطنية ورؤية مصر 2021 – 2024 والذي تابعها الإصدار الثاني 2025-2030.ومنذ ذلك التاريخ وكل الدول تسعى بمجهودات منفردة لتحسين تفوقها واستعراض مهاراتها في الذكاء الاصطناعي وإعلان عن تطبيقات وبرامج لاستعراض عضلات التفوق التكنولوجي للذكاء الاصطناعي ومن أهم هذه البرامج التي ظهرت بقوة من 2021 وحتى 2025 النسخة المتقدمة من تطبيق Chat GPT الأمريكي و"DeepSeek" الصيني، والتطبيقات الاحترافية الأخرى مثل "VO3 AI Video" التابع لشركة جوجل وSynthesia وDeepBrain AI وHeyGen، وManus.ومع كل التقدم في ملف الذكاء الاصطناعي لا يوجد حوكمة حقيقية لأنظمة الذكاء الاصطناعي أو "أخلاقيات للروبوتات وضمير للذكاء الاصطناعي" وهناك الكثير من المؤسسات من بينها دبي الذكي والمجلس الوطني للذكاء الاصطناعي في مصر وهيئة سدايا السعودية أصدرت وثائق واستراتيجيات لعمل الذكاء الاصطناعي منها:يجب أن تكون هناك مبادئ للذكاء الاصطناعي: * الأمان (آمنه وخاضعة للتحكم من البشر – عدم إلحاق أي أذى أو تخريب بالبشر). * البشرية (تضيف قيمًا أنسانية ومفيدة للمجتمع – التخطيط لمستقبل يتنامى فيه AI ). * الشمولية: * حوكمة الذكاء الاصطناعي كجهد تعاوني عالمي. * مشاركة منافع الذكاء الاصطناعي مع جميع أفراد المجتمع. * تعزيز قيم الإنسانية والحرية والاحترام. * تحترم خصوصية الأفراد.كما يجب أن تكون أنظمة الذكاء الاصطناعي: * عادلة. * تطبيق الشفافية. * خاضعة للمساءلة. * قابلة للشرح.والسبب الأساسي في عدم حوكمة الذكاء الاصطناعي حتى الآن عدم وجود آليات حقيقية وبروتوكولات فعالية بين الدول وتفعيل حقيقي للتعاون بين مؤسسات الذكاء الاصطناعي سواء عالميًا أو إقليميا والجميع يعمل في جزر منعزلة وسنفاجئ بعد فترة من الزمان بخطورة الذكاء الاصطناعي والتعليم العميق للروبوتات سيمثل تهديد حقيقي للبشرية مع مرور الوقت.وبعد.. مصر تمتلك الرؤية والقدرات فى أن تبادر عبر المجلس الوطني للذكاء الاصطناعي بعمل بروتوكولات تعاون بين دول المنطقة وفى الشرق الأوسط، وتدعو لمؤتمر اقليمي أو عالمي لعمل وثيقة لحمايتنا بالشرق الأوسط والدول العربية من خطورة الذكاء الاصطناعي وعمل استراتيجية تعاون طويلة الأجل للاستفادة من الذكاء الاصطناعي وحوكمته في نفس الوقت.مصر دائما تلعب الدور المحوري في كل ملفات المنطقة وهذا هو الوقت المناسب الذي نأخذ فيه خطوات أكبر بملف الذكاء الاصطناعي لحماية أنفسنا والأجيال القادمة والتنمية المستدامة في منطقتنا العربية. *باحث في مجال الذكاء الاصطناعي

محادثة شات جي بي تي ليست آمنة للمستخدمين.. خاصية قد تفضح أسرارك

24 القاهرة

منذ 7 ساعات

24 القاهرة

محادثة شات جي بي تي ليست آمنة للمستخدمين.. خاصية قد تفضح أسرارك

مع ازدياد التطورات التكنولوجية، أصبحت محادثة شات جي بي تي من الوسائل التي يستخدمها الملايين للاستفسار عن بعض الأمور التي يحتاجها سواء أكانت أمور شخصية أو مهنية أو في أي مجال، متخيلين أن هذه الرسائل آمنة، ولكن كشف تقرير فاست كومباني عن مفاجأة بشأن تسريب هذه الرسائل، وهو ما يسبب قلقا بالغا للمستخدمين. ونستعرض لكم من خلال التقرير الآتي، تسريب محادثة شات جي بي تي ، تقنية ظهور المحادثات العامة في محركات البحث، نظرا للبحث المتزايد من قبل الكثير من الأشخاص الراغبين في التعرف على تفاصيل التسريب الذي أثار جدلا واسعا بين المستخدمين. تسريب محادثة شات جي بي تي ذعر بين مستخدمي ChatGPT بعد ظهور محادثاتهم السرية في نتائج البحث على جوجل.. ما القصة؟ تسريب محادثات ChatGPT عبر محركات البحث وقرار بالإزالة بعد إثارة الجدل.. ما القصة؟ محكمة أمريكية تعاقب محاميًا لاستخدامه ChatGPT في قضية قانونية.. ما القصة؟ مهندس عراقي يثير الجدل بزواجه الافتراضي من ChatGPT.. ما القصة؟ تسريب محادثة شات جي بي تي شهدت الساعات الأخيرة جدلا واسعا بين مستخدمي وسائل الذكاء الاصطناعي بعد أن فجر تقرير لـ «فاست كومباني» حول اختراق تسبب فيه شركة OpenAI ومحرك البحث جوجل قد يرفع السرية عن أسرار ملايين المستخدمين، حيث أكد الموقع أن جوجل بدأ بفهرسة محادثات شخصية شاركها شات جي بي تي عبر الإنترنت، مما أدى إلى تحولها إلى محتوى عالمي لملايين المستخدمين. وأضاف التقرير أن 4500 محادثة تمت فهرستها من قبل جوجل، لتكون متاحة لقراءتها من قبل الجميع، وهذا قد يؤدي إلى خطر على كل مستخدم، حيث إنه قد تتحول دردشتك مع شات جي بي تي في متناول ملايين الأفراد بكل سهولة. تقنية ظهور المحادثات العامة في محركات البحث كانت شركة OpenAI قد أتاحت تقنية ظهور المحادثات العامة في محركات البحث للمستخدمين، والتي جعلت الكثير من الأشخاص يشاركون بعض المعلومات الخاصة بهم بدون قصد عن طريق الموافقة على آلية المشاركة، ليتم إنشاء رابط يجعله قابلا للظهور عبر محركات البحث، مما استدعى من الشركة إظهار توضيحا حول هذه الآلية. تقنية ظهور المحادثات العامة في محركات البحث تعليق OpenAI على تسريب محادثة شات جي بي تي وعن تسريب محادثة شات جي بي تي ، فقد أعلنت الشركة من خلال متحدثها الرسمي أن الدردشات لا تصبح عامة إلا في حالة موافقة المستخدم على مشاركة المحادثات، موضحًا أن هذه التقنية كانت تستهدف تسهيل مشاركات المحادثات المناسبة للجميع، لكن أكد أن الشركة قررت إزالة هذه الخاصية.

تسريب محادثات «شات جي بي تي».. أول تحرك رسمي من «Open AI»

نافذة على العالم

منذ 10 ساعات

نافذة على العالم

تسريب محادثات «شات جي بي تي».. أول تحرك رسمي من «Open AI»

الثلاثاء 5 أغسطس 2025 07:50 مساءً نافذة على العالم - أظهرت نتائج محرك البحث جوجل، تسريب آلاف المحادثات الشخصية التي تم إنشاؤها عبر «شات جي بي تي»، ما أثار موجة من القلق بشأن أمن البيانات، وهذا ما جعل شركة أوبن إيه آي Open AI المالكة للتطبيق تسارع إلى احتواء الموقف بإزالة ميزة كانت تتيح للمحادثات المشتركة الظهور في نتائج البحث. كما أظهرت نتائج محرك البحث جوجل أن بعض هذه الدردشات تشمل معلومات حساسة، مثل السير الذاتية والأسماء والملاحظات العاطفية، بل وحتى محتوى متعلق بالعمل السري. أول تحرك رسمي من «Open A I» ومن جهتها، أكدت شركة أوبن إيه آي OpenAI، أنها تعمل حالياً على حذف جميع الروابط المفهرسة، حيث تعيد النظر في آليات المشاركة لحماية خصوصية المستخدمين. وقالت شركة أوبن إيه آي: «أزلنا مؤخراً ميزة من تشات جي بي تي، كانت تتيح للمستخدمين جعل محادثاتهم قابلة للاكتشاف بواسطة محركات البحث، مثل جوجل، كانت هذه تجربة قصيرة الأمد لمساعدة المستخدمين على اكتشاف محادثات مفيدة». وتابعت شركة «Open AI»: «تطلبت هذه الميزة من المستخدمين الاشتراك، أولًا باختيار محادثة لمشاركتها، ثم النقر على مربع اختيار لمشاركتها مع محركات البحث، في النهاية، نعتقد أن هذه الميزة أتاحت فرصاً كثيرةً للمستخدمين لمشاركة معلوماتٍ لم يقصدوها عن طريق الخطأ، لذا سنزيل هذا الخيار، كما نعمل على إزالة المحتوى المُفهرس من محركات البحث ذات الصلة، سيُطبق هذا التغيير على جميع المستخدمين». واختتمت: «إن الأمان والخصوصية أمران في غاية الأهمية بالنسبة لنا، وسنواصل العمل على تحقيق أقصى قدر ممكن من التكامل بينهما في منتجاتنا وميزاتنا».