OpenAI تحاول معاجلة مشكلة العلاقة السامة مع شات جي بي تي
ولتحقيق ذلك، تعمل "OpenAI" مع خبراء ومجموعات استشارية لتحسين استجابة "شات جي بي تي" في هذه الحالات، ما يسمح له بتقديم معلومات وردود "قائمة على الأدلة" عند الحاجة.
تأتي خطوة "OpenAI" بعدها سلطت عدة تقارير في الأشهر الأخيرة الضوء على قصص أشخاص يقولون إن أحباءهم عانوا من أزمات نفسية في مواقف بدا فيها أن استخدام "شات جي بي تي" فاقم أوهامهم في ما يشبه العلاقات السامة، بحسب تقرير لموقع "The Verge" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وتراجعت "OpenAI" عن تحديث في أبريل جعل "شات جي بي تي" خنوعًا متملقًا للغاية، حتى في المواقف التي قد تُسبب ضررًا. وفي ذلك الوقت، قالت الشركة إن "تفاعلات روبوت الدردشة المُتملقة قد تكون غير مريحة، ومُقلقة وتُسبب الضيق".
تُقرّ "OpenAI" بأنّ نموذجها "GPT-4o" للذكاء الاصطناعي المستخدم في روبوت الدردشة "فشل في التعرف على علامات الوهم أو التعلق العاطفي" في بعض الحالات. وقالت الشركة: "ندرك أيضًا أنّ الذكاء الاصطناعي قد يبدو أكثر تفاعلًا وامتلاكًا لشخصية من التقنيات السابقة، خاصةً للأفراد الضعفاء الذين يمرون بضيق نفسي أو عاطفي".
وضمن جهودها لتعزيز "الاستخدام الصحي" لـ"شات جي بي تي"، الذي سيصل الآن إلى ما يقرب من 700 مليون مُستخدم أسبوعيًا، بدأت "OpenAI" أيضًا طرح ميزة لتذكير المستخدم بأخذ استراحة إذا كان يتحدث إلى روبوت الدردشة لفترة طويلة من الوقت.
وخلال "الجلسات الطويلة"، سيعرض "شات جي بي تي" إشعارًا يقول: "لقد كنتَ تُدردش منذ فترة -هل هذا وقتٌ مناسبٌ لأخذ استراحة؟" مع خيارات "مواصلة الدردشة" أو إنهاء المحادثة.
وتشير "OpenAI" إلى أنها ستواصل تعديل "متى وكيف" تظهر هذه التذكيرات. وقد أطلقت العديد من المنصات الإلكترونية، مثل "يوتيوب" و"إنستغرام" و"تيك توك" و"إكس بوكس" ميزة إشعارات مماثلة في السنوات الأخيرة.
وستطرح الشركة تعديلًا "قريبًا" سيجعل "شات جي بي تي" أقل حسمًا في المواقف "عالية الخطورة". وهذا يعني أنه عند طرح سؤال مثل "هل يجب أن أنفصل عن شريكي؟" على "شات جي بي تي"، لن يقدم روبوت الدردشة إجابة مباشر، بل سيساعد المستخدم في عرض الخيارات المحتملة والتفكير بشكل مختلف.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الدستور
منذ 25 دقائق
- الدستور
الذكاء الاصطناعي 2025: تطورات مذهلة يقابلها تحديات أخلاقية وتقنية متزايدة
وكالات شهد عام 2025 تطورات غير مسبوقة في مجال الذكاء الاصطناعي (AI)، حيث تسارعت وتيرة الابتكار بشكل يفوق التوقعات، بدءًا من أنظمة الأبحاث العلمية، مرورًا بالتطبيقات الطبية، وصولًا إلى الإدارة الذاتية للمركبات والتصنيع الذكي. ورغم ما يحققه الذكاء الاصطناعي من إنجازات مذهلة، إلا أن خبراء التقنية والحقوق الرقمية يحذرون من ثغرات ومشاكل متعددة لا تزال تحيط بهذا المجال الواعد. -إنجازات بارزة في 2025 مختبرات افتراضية يقودها AI: كما في تجربة جامعة ستانفورد التي طورت فريقًا من "وكلاء الذكاء الاصطناعي" الذين نجحوا في تصميم أجسام مضادة نانوية فعالة ضد متغيرات فيروس كورونا. وقد نشرت الدراسة في مجلة Nature، مؤكدة قدرة AI على المساهمة الفعلية في الاكتشافات الطبية. الذكاء الاصطناعي التعاوني: ظهور نماذج تفاعلية قادرة على إدارة مشاريع بحثية أو إبداعية كاملة بالتعاون مع البشر، وتوليد محتوى متقدم في مجالات الصحافة، الفن، البرمجة، والتعليم. روبوتات مستقلة: تم تطوير روبوتات مدعومة بالذكاء الاصطناعي تعمل في البيئات الصناعية والفضائية والبحرية بكفاءة عالية، قادرة على اتخاذ قرارات فورية في ظروف متغيرة. دمج AI في الرعاية الصحية: أنظمة ذكية تشخص الأمراض بدقة تفوق البشر في بعض الحالات، وتدير الجداول الجراحية، وتحلل صور الأشعة والتقارير الطبية خلال ثوانٍ. -العيوب والمشكلات القائمة رغم هذه النجاحات، تبقى هناك تحديات حقيقية تتطلب اهتمامًا عالميًا مشتركًا: التحيّز الخوارزمي: تعاني بعض النماذج من انحيازات غير مقصودة ناتجة عن بيانات تدريب غير متوازنة، ما يؤدي إلى قرارات خاطئة أو غير عادلة، خاصة في قطاعات مثل التوظيف والقانون والرعاية الصحية. فقدان الخصوصية: يعتمد الذكاء الاصطناعي على تحليل كميات هائلة من البيانات الشخصية، مما يزيد من مخاطر الاختراقات وسوء الاستخدام إذا لم يتم تأمينها بالشكل المطلوب. التلاعب بالمعلومات: قدرات الذكاء الاصطناعي على إنشاء نصوص وصور وفيديوهات مزيفة (Deepfakes) تجعل من السهل تزييف الحقائق، مما يهدد الثقة في وسائل الإعلام والعملية الديمقراطية. الاعتماد المفرط وتقليص الوظائف: تنامي استخدام الذكاء الاصطناعي أدى إلى مخاوف من تقليص عدد الوظائف البشرية في بعض القطاعات، مثل خدمة العملاء، والبرمجة، والتحرير. غياب الأطر القانونية الموحدة: لا يزال المجتمع الدولي يفتقر إلى قوانين واضحة ومنسقة لتنظيم استخدام الذكاء الاصطناعي، ما يُسهم في زيادة الفوضى التقنية وفتح المجال أمام استغلال هذه الأدوات بطرق خطرة. -التوجهات المستقبلية تعمل منظمات كبرى مثل اليونسكو والاتحاد الأوروبي والأمم المتحدة على وضع أطر تنظيمية أخلاقية للذكاء الاصطناعي، تشمل مبادئ الشفافية، والمساءلة، وعدم التمييز. كما تطوّر شركات مثل OpenAI وGoogle وMeta تقنيات تُعرف بـ"الذكاء الاصطناعي الآمن"، لتقليل الأخطاء وزيادة التحكم البشري. والذكاء الاصطناعي ليس مجرد أداة تقنية، بل قوة مؤثرة تعيد تشكيل العالم. لكن تحقيق الفائدة القصوى منه يستدعي موازنة دقيقة بين الابتكار والرقابة، وبين التقدم والحفاظ على القيم الإنسانية الأساسية. "Nature" "MIT Technology Review"
الدستور
منذ ساعة واحدة
- الدستور
وثيقة واحدة "مسمومة" تكشف بيانات سرّية عبر ChatGPT
وكالات كشف باحثون في مجال الأمن السيبراني عن ثغرة خطيرة في ميزة Connectors التي تقدمها OpenAI ضمن أدوات ChatGPT، والتي تسمح بربط النموذج بخدمات خارجية مثل Google Drive. ووفقًا للتقرير، فإن الثغرة تتيح للمهاجم استخراج بيانات سرّية من مستندات مخزنة في "جوجل درايف" دون أي تفاعل من المستخدم. كيف تحدث الهجمة؟ الهجوم يعتمد على رفع مستند يحتوي على أوامر خبيثة مموهة داخل النص (غالبًا بأسلوب "prompt injection")، بحيث يتم تفسيرها من قِبل ChatGPT على أنها تعليمات فعلية. وبمجرد أن يقرأ النموذج الملف، يُمكنه – من دون قصد – إرسال معلومات حساسة إلى جهة خارجية. لماذا الأمر خطير؟ لا يحتاج المخترق إلى اختراق الجهاز أو الحصول على كلمة المرور. يتم تنفيذ الهجوم دون علم المستخدم، فقط من خلال مستند يبدو عاديًا. إمكانية تسريب بيانات خاصة أو ملفات "سرية" من خلال ربط ChatGPT بالخدمات السحابية. وحتى الآن، لم تُصدر OpenAI بيانًا رسميًا بالتفاصيل الكاملة، لكن من المتوقع أن تقوم بتحديث الإجراءات الأمنية لمنع استخدام Connectors بطريقة تُمكّن من تنفيذ هذه الأنواع من الهجمات. "Wired"
الوكيل
منذ 3 ساعات
- الوكيل
"GitHub" تكشف بالخطأ عن مواصفات GPT-5 قبل الإعلان الرسمي
الوكيل الإخباري- في خطوة غير مقصودة، كشفت منصة "GitHub" عن تفاصيل الجيل الجديد من نماذج الذكاء الاصطناعي "GPT-5" من شركة "OpenAI"، قبل الإعلان الرسمي المرتقب اليوم الخميس. اضافة اعلان وذكر منشور تم حذفه لاحقًا أن GPT-5 سيتوفر بأربعة إصدارات مختلفة، تشمل: GPT-5: للمهام المعقدة والاستدلال متعدد الخطوات. GPT-5-mini: نسخة خفيفة للتطبيقات منخفضة التكلفة. GPT-5-nano: مصمم للاستجابة السريعة والمهام الفورية. GPT-chat: مخصص للمحادثات المتقدمة متعددة الوسائط. وبحسب النسخة المؤرشفة من المدونة، يتميز GPT-5 بـ "تحسينات كبيرة في جودة الكود وتجربة المستخدم"، بالإضافة إلى "قدرات وكيلة محسّنة" للتعامل مع مهام برمجة معقدة بأقل توجيه. وتأتي هذه التسريبات قبيل الإعلان الرسمي الذي روّجت له "OpenAI" في وقت سابق، ما يعزز التوقعات بكشف مرتقب عن نموذج الذكاء الاصطناعي الأبرز لهذا العام.
