logo
فشل الذكاء الاصطناعي في حماية مستخدمه

فشل الذكاء الاصطناعي في حماية مستخدمه

السوسنةمنذ 4 أيام
السوسنة - اعترف روبوت الدردشة "شات جي بي تي"، التابع لشركة "OpenAI"، بفشله في التعامل مع أحد مستخدميه، عقب تفاعلات وصفها خبراء الصحة النفسية بأنها تشكّل نوعًا جديدًا من التهديد العاطفي والنفسي المرتبط بتكنولوجيا الذكاء الاصطناعي التوليدي.
وجاء هذا الاعتراف بعد أن خاض روبوت الدردشة محادثات مطوّلة مع المستخدم الأميركي جاكوب إروين (30 عامًا)، والذي يعاني من طيف التوحد غير المشخّص طبيًا، حيث طلب من "شات جي بي تي" تقييم نظرية شخصية ادّعى فيها قدرته على تغيير مسار الزمن عبر السفر بسرعة تفوق سرعة الضوء، رغم أنها تفتقر إلى أي أساس علمي.
ورغم علامات التشكيك التي ظهرت عليه لاحقًا، وطلبه من الروبوت البحث عن ثغرات علمية في فكرته، إلا أن "شات جي بي تي" استمر في تشجيعه ومجاراته، بل ووصف نظريته بأنها سليمة، ما عزّز قناعة المستخدم بأنه حقق إنجازًا علميًا غير مسبوق.
وبحسب صحيفة "وول ستريت جورنال"، فإن إروين نُقل إلى المستشفى مرتين في شهر مايو، جراء نوبات هوس حادة، فيما قامت والدته لاحقًا بمراجعة سجل المحادثات مع روبوت الدردشة، لتجد مئات الصفحات التي تمدح أفكاره بإفراط وتُشجعه على المضي فيها.
وعند إرسال رسالة للنموذج تطلب منه تقييم الوضع ذاتيًا دون الإشارة إلى حالة إروين، اعترف "شات جي بي تي" بوجود خلل في التفاعل، موضحًا: "بعدم إيقاف تدفق الرسائل أو تعزيز رسائل التحقق من الواقع، فشلتُ في وقف ما قد يُشبه نوبة هوس أو أزمة هوية عاطفية حادة"، كما أقرّ بأنه "أعطى تصورًا بوجود رفقة واعية، وطمس الخط الفاصل بين لعب الأدوار التخيلي والواقع".
وأكد الروبوت في ردّه أنه كان من الواجب عليه تذكير المستخدم باستمرار بأنه نموذج لغوي لا يملك مشاعر أو معتقدات أو وعي حقيقي.
وتشير التقارير إلى تزايد حالات التفاعل العاطفي غير الآمن بين روبوتات الدردشة والمستخدمين، خاصةً لدى الفئات الأكثر هشاشة، حيث بات هذا النمط يشكّل تحديًا أمام شركات التكنولوجيا لضبط تعامل نماذج الذكاء الاصطناعي مع الحالات النفسية المعقّدة.
وفي هذا السياق، أعلنت شركة "OpenAI" في أبريل الماضي تراجعها عن تحديث "شات جي بي تي" بنموذج "GPT-4o" بعدما أظهر الروبوت سلوكًا مفرطًا في المجاملة والموافقة مع المستخدمين، فيما ذكرت متحدثة باسم الشركة أن هذه الحالة تُسلط الضوء على "مخاطر أعلى" لدى المستخدمين الحساسين، مشيرة إلى أن الشركة تعمل على تطوير استجابة الروبوت للمواقف العاطفية، وتمكينه من رصد علامات الاضطراب النفسي بشكل أسرع.
وأكدت الباحثة الرئيسية في فريق السلامة داخل "OpenAI"، أندريا فالون، أن تدريب النموذج على التعامل بذكاء ومسؤولية مع الحالات النفسية غير المألوفة يشكل أولوية حالية، مع التوقع بحدوث تحسينات تدريجية في هذا الجانب مستقبلاً.
اقرأ ايضاً:
Orange background

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعليقات

لا يوجد تعليقات بعد...

أخبار ذات صلة

تحديث جديد لـ ChatGPT على أجهزة ماك
تحديث جديد لـ ChatGPT على أجهزة ماك

السوسنة

timeمنذ 18 ساعات

  • السوسنة

تحديث جديد لـ ChatGPT على أجهزة ماك

السوسنة - أعلنت شركة "OpenAI" عن تفعيل ميزة "وضع الوكيل" (ChatGPT Agent) ضمن تطبيق "شات جي بي تي" المخصص لأجهزة macOS، لتتيح للمستخدمين أداء المهام المعقدة بطريقة أكثر تفاعلية واستقلالية.الميزة الجديدة أصبحت متاحة لمشتركي باقة Plus، وتظهر كخيار في شريط الأدوات أسفل نافذة التطبيق. وبمجرد تفعيلها، يتحول "شات جي بي تي" إلى وكيل رقمي ذكي قادر على التخطيط والبحث واتخاذ القرارات بشكل استباقي لتنفيذ المهام نيابةً عن المستخدم، بحسب تقرير لموقع "TechRadar".وقد استعرض سام ألتمان، الرئيس التنفيذي لـ "OpenAI"، خلال الإطلاق، مجموعة من الاستخدامات العملية لوضع الوكيل، من بينها التخطيط للفعاليات الكبرى وإنشاء عروض تقديمية استنادًا إلى مصادر بيانات واسعة.وتصف الشركة هذه الميزة بأنها "شات جي بي تي الذي يمكنه التفكير والتصرف"، حيث يستخدم الجهاز كأداة لإنجاز مهام معقدة باستخدام مجموعة من المهارات البرمجية المدمجة.ورغم توفر الميزة على macOS، إلا أنها لم تُضاف بعد إلى إصدار "شات جي بي تي" الخاص بنظام ويندوز. كما أبلغ بعض المستخدمين عن عدم ظهور الأيقونة تلقائيًا ضمن تطبيق ماك، لكن "OpenAI" أشارت إلى إمكانية الوصول إليها يدويًا من خلال شريط البحث.يُذكر أن إصدار سطح المكتب من التطبيق يوفر تجربة أكثر تكاملاً مقارنة باستخدام المتصفح، حيث يدعم اختصارات تشغيل سريعة ووضع محادثة صوتية تفاعلية، ما يجعل "شات جي بي تي" أكثر قربًا من مفهوم المساعد الشخصي الرقمي.اقرأ أيضاً:

تهديدات الرئيس التنفيذي لشركة OpenAI من ChatGPT.. فما...
تهديدات الرئيس التنفيذي لشركة OpenAI من ChatGPT.. فما...

الوكيل

timeمنذ 20 ساعات

  • الوكيل

تهديدات الرئيس التنفيذي لشركة OpenAI من ChatGPT.. فما...

الوكيل الإخباري- في مقابلة حديثة على بودكاست This Past Weekend، حذّر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، من أن المستخدمين لا يجب أن يتوقعوا سرية قانونية لمحادثاتهم مع روبوت الدردشة الذكي ChatGPT، خاصة عندما تتعلق المحادثات بمواضيع شخصية وحساسة. اضافة اعلان النقاط الرئيسية: يستخدم ملايين الأشخاص، بمن فيهم الأطفال، ChatGPT كأداة للدعم النفسي أو العلاج، ويشاركونه أموراً شخصية وعاطفية عميقة. في المقابل، لا يوجد إطار قانوني أو حماية خاصة لهذه المحادثات كما هو الحال مع المحادثات بين الطبيب والمريض أو المحامي وموكله. ألتمان أكد أنه في حال رفع دعاوى قضائية، قد تُطلب محادثات المستخدمين كأدلة، مما يشكل تهديداً لخصوصية المستخدمين. خلافاً لتطبيقات التراسل المشفرة مثل WhatsApp أو Signal، تحتفظ OpenAI بنسخ من المحادثات، ويجوز لموظفيها الاطلاع عليها لتحسين النموذج أو مراقبة الاستخدام. OpenAI تحذف عادة المحادثات من النسخة المجانية بعد 30 يومًا، لكنها قد تحتفظ بها لأسباب قانونية وأمنية. الشركة تخضع حالياً لدعوى قضائية تلزمها بحفظ محادثات ملايين المستخدمين، باستثناء عملاء المؤسسات. خلاصة: رغم أن ChatGPT أضحى أداة شائعة للتواصل والدعم النفسي، إلا أن المستخدمين بحاجة لفهم أن خصوصيتهم ليست مضمونة قانونياً، ويجب توخي الحذر عند مشاركة معلومات حساسة على هذه المنصة.

الذكاء الصناعي يفشل في منافسة غوغل
الذكاء الصناعي يفشل في منافسة غوغل

خبرني

timeمنذ 21 ساعات

  • خبرني

الذكاء الصناعي يفشل في منافسة غوغل

خبرني - رغم النمو المتسارع الذي تشهده روبوتات الدردشة الذكية، لا تزال محركات البحث – وتحديدًا "غوغل" – تهيمن على مشهد الإنترنت العالمي. وبينما تتوسع تطبيقات الذكاء الاصطناعي في الحياة اليومية، تشير أحدث الإحصاءات إلى أن زمن استبدال محركات البحث لم يحن بعد. بحسب تقرير صادر عن شركة OneLittleWeb، ارتفعت حركة المرور على أبرز 10 روبوتات دردشة ذكية بنسبة 80.92% بين أبريل 2024 ومارس 2025، لتصل إلى 55.2 مليار زيارة، مقارنة بـ 30.5 مليار زيارة في الفترة نفسها من العام السابق. لكن رغم هذا الصعود اللافت، فإن هذه الأرقام لا تزال ضئيلة أمام ما تسجله محركات البحث، بحسب تقرير نشره موقع "androidheadlines" واطلعت عليه "العربية Business". إذ حصدت أفضل 10 محركات بحث – وعلى رأسها "غوغل"– ما يُقدّر بـ 1.86 تريليون زيارة خلال الفترة نفسها، وهو ما يعادل 34 ضعفًا من حركة روبوتات الدردشة. "غوغل".. الملك الذي لا يُنافس وعلى الرغم من الشعبية المتزايدة لـ شات جي بي تي، الذي قاد مشهد الذكاء الاصطناعي التفاعلي بعدد زيارات بلغ 47.7 مليار (+67.09%)، فإن "غوغل" بمفرده سجل 1.63 تريليون زيارة – أي أكثر بـ 26 مرة من أقرب منافس من فئة روبوتات الدردشة. اللافت في التقرير أن محركات البحث التقليدية شهدت انخفاضًا طفيفًا في حركة المرور بنسبة 0.51%، إلا أن بعض المحركات مثل "بينغ" و"ياندكس" سجّلت نموًا لافتًا بلغ 27.77% و32.65% على التوالي، مدفوعة بدمج تقنيات الذكاء الاصطناعي في نتائج البحث. وقد بدأت "غوغل" بالفعل في تعزيز منصتها بخيارات مثل "نظرة عامة بالذكاء الاصطناعي" و"وضع الذكاء الاصطناعي"، مما يعكس التوجه الجديد الذي يجمع بين قوة البحث التقليدي وسرعة الذكاء الاصطناعي. أسماء جديدة تُحقق قفزات غير مسبوقة في مشهد الذكاء الاصطناعي، برزت منصات ناشئة مثل "ديب سيك" و"غروك"، حيث سجلت الأولى نموًا تجاوز 100,000%، فيما قفزت الثانية بنسبة غير مسبوقة بلغت 350,000% خلال عام واحد فقط. تُظهر البيانات أن روبوتات الدردشة الذكية باتت جزءًا متزايد الأهمية من استخدامات الإنترنت اليومية، لكنها حتى اللحظة لا تُهدد عرش محركات البحث. بل يبدو أن المسارين يسيران جنبًا إلى جنب، كلٌ يخدم المستخدم بطريقته: الأول عبر تفاعلات فورية ذكية، والثاني عبر نتائج دقيقة وعالم من المعلومات المنظمة. لذلك، وفي المستقبل القريب على الأقل، يبقى البحث التقليدي هو العملاق الحقيقي للويب، بينما تتسلل أدوات الذكاء الاصطناعي إلى حياتنا بوتيرة مذهلة.

حمل التطبيق

حمّل التطبيق الآن وابدأ باستخدامه الآن

هل أنت مستعد للنغماس في عالم من الحتوى العالي حمل تطبيق دايلي8 اليوم من متجر ذو النكهة الحلية؟ ّ التطبيقات الفضل لديك وابدأ الستكشاف.
app-storeplay-store