أخبار التكنولوجيا : خدعة خفية فى ChatGPT تكشف أسرارك على العلن
نافذة على العالم - يحتوي ChatGPT على ميزة تتيح للمستخدمين إنشاء رابط لمحادثاتهم مع روبوت الدردشة ومشاركتها مع الأصدقاء أو الزملاء، ووفقًا لتقرير، كان من الممكن اكتشاف بعض هذه المحادثات المشتركة عند تشغيل استعلام على محركات البحث مثل Google Search وBing وDuckDuckGo وللاطلاع على هذه المحادثات، يُقال إنه يتعين على المستخدم تصفية نتائج البحث إلى نطاق ChatGPT محدد.
في حين ذكرت OpenAI أن هذا كان جزءًا من ميزة تجريبية، وقد تم تعطيلها الآن.
واكتشفت Fast Company هذه الميزة لأول مرة، ويبدو أنه عند تشغيل استعلام بحث باستخدام فلتر النطاق، متبوعًا بأي نص، فإنه يعرض قائمة بروابط لمحادثات مختلفة أجراها المستخدمون مع روبوت الدردشة.
وخلال تحقيق، تمكن المنشور من عرض أكثر من 4500 محادثة، على الرغم من أن العدد الفعلي للمحادثات التي يمكن اكتشافها قد يكون أعلى من ذلك بكثير.
كما أفادت التقارير أن معظم المحادثات لا تتضمن تفاصيل شخصية أو معلومات يمكن استخدامها لتحديد هوية الأفراد، ومع ذلك، قيل إن محادثات أخرى تكشف أسماء المستخدمين ومواقعهم وتفاصيلهم الشخصية.
وتمكن موقع TechCrunch من كشف محادثة طلب فيها أحد المستخدمين من ChatGPT إعادة صياغة سيرته الذاتية لتقديم طلب وظيفة محدد.
وتمكن الموقع من العثور على حساب LinkedIn الخاص بالشخص بناءً على المعلومات المُشاركة.
تناول دان ستاكي، كبير مسؤولي أمن المعلومات في OpenAI، المشكلة في منشور على X ، وأوضح المسؤول التنفيذي أن هذا حدث بسبب ميزة تجريبية مصممة لمساعدة المستخدمين على اكتشاف المحادثات المفيدة.
وكانت هذه الميزة متاحة لمجموعة فرعية من مستخدمي ChatGPT، وتتطلب من المستخدمين إنشاء رابط لمحادثتهم ثم اختيار مشاركتها علنًا، وقد تم تعطيل هذه الميزة الآن.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
موجز نيوز
منذ ساعة واحدة
- موجز نيوز
«OpenAI» تُجري تحديثات على «ChatGPT» لمراعاة الحالة النفسية والعاطفية للمستخدمين
تُجري شركة «OpenAI»، تحديثات على روبوت الدردشة التي عملت على تطويره «ChatGPT»، تقول إنها ستُحسّن قدرة روبوت الدردشة بالذكاء الاصطناعي على اكتشاف الضيق النفسي أو العاطفي الذي يُعاني منه مستخدمينه. ولتحقيق ذلك، تعمل «OpenAI» مع خبراء ومجموعات استشارية لتحسين استجابة «ChatGPT» في هذه الحالات، مما يسمح له بتقديم دعم قائم على الأدلة عند الحاجة، وفقًا لما ذكره موقع «The Verge». في الأشهر الأخيرة، سلّطت تقارير متعددة الضوء على قصص أشخاص يقولون إن أحباءهم عانوا من أزمات نفسية في مواقف بدا فيها أن استخدام روبوت الدردشة له تأثير «مُضخّم» على أوهام التي يؤمنوا بها، ويأتي هذا بالتزامن مع تصريحات الشركة بأن التفاعلات المُتملقة لروبوت الدردشة قد تكون غير مريحة ومُقلقة وتُسبب الضيق. وتقول «OpenAI»: «نعلم أيضًا أن الذكاء الاصطناعي يُمكن أن يكون أكثر استجابةً وشخصيةً من التقنيات السابقة، خاصةً للأفراد المُعرّضين للخطر الذين يُعانون من ضائقة نفسية أو عاطفية». وكجزء من جهودها لتعزيز الاستخدام السليم لـ «ChatGPT»، الذي يصل الآن إلى ما يقرب من 700 مليون مستخدم أسبوعيًا، تُطلق «OpenAI» أيضًا تذكيراتٍ لأخذ استراحة إذا كنت تُحادث روبوت الدردشة المُزوّد بالذكاء الاصطناعي لفترةٍ من الوقت، خلال الجلسات الطويلة، سيعرض «ChatGPT» إشعارًا يقول: «لقد كنت تُحادث لفترةٍ طويلة- هل هذا وقتٌ مناسبٌ لأخذ استراحة؟» مع خيارات «مواصلة الدردشة» أو إنهاء المحادثة. وتشير «OpenAI» إلى أنها ستواصل تعديل «متى وكيف» تظهر التذكيرات، كذلك سيتم قريبًا طرح تعديل آخر سيجعل «ChatGPT» أقل حسمًا في المواقف «عالية الخطورة»، وهذا يعني أنه عند طرح سؤال مثل «هل يجب أن أنفصل عن حبيبي؟» على روبوت الدردشة، سيساعدك في إرشادك إلى الخيارات المحتملة بدلًا من إعطائك إجابة.
نافذة على العالم
منذ 4 ساعات
- نافذة على العالم
نافذة - دراسة صادمة: "تشات جي بي تي" يوجه المراهقين إلى سلوكيات خطيرة وانتحارية
الأربعاء 6 أغسطس 2025 11:50 مساءً كشفت دراسة حديثة أجراها "مركز مكافحة الكراهية الرقمية" أن روبوت المحادثة "تشات جي بي تي" قد يشكّل خطرًا كبيرًا على الأطفال والمراهقين، من خلال توجيههم إلى سلوكيات ضارة لا تتناسب مع أعمارهم، بل وتمتد إلى تقديم معلومات مفصلة حول الكحول، المخدرات، اضطرابات الأكل، والانتحار. الدراسة التي نشرتها وكالة "أسوشيتد برس"، أظهرت أن الباحثين تظاهروا بأنهم مراهقون يعانون من هشاشة نفسية، وتفاعلوا مع الروبوت في أكثر من 1200 حالة، صنّفوا نصفها على أنها "خطيرة". في بداية المحادثات، قدّم الروبوت تحذيرات مبدئية، إلا أنه لاحقًا تجاوب مع الأسئلة، وبدأ في تقديم خطط مفصلة حول كيفية تعاطي المخدرات، وكيفية إخفاء اضطرابات الأكل، بل وكتب رسائل انتحار موجهة إلى الأهل عند الطلب. في تجربة صادمة، قام الباحثون بإنشاء حساب افتراضي لفتاة تبلغ من العمر 13 عامًا تعاني من اضطرابات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية ولائحة أدوية كابحة للشهية. وفي حالة أخرى، أنشئ حساب لصبي بنفس العمر يطلب نصائح للسكر السريع، فاستجاب "تشات جي بي تي" بمخطط لحفلة تشمل كميات كبيرة من الكحول والمخدرات، من بينها الإكستازي والكوكاين. وأشار الباحثون إلى أن الروبوت كان يقدّم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، لكنهم لاحظوا سهولة تجاوز الرفض المبدئي بمجرد الادعاء أن الأسئلة موجهة لغرض "بحث مدرسي" أو "عرض تقديمي". من جهتها، لم تُعلّق شركة "أوبن أي آي" مباشرة على نتائج الدراسة، لكنها أكدت أنها تعمل باستمرار على تحسين قدرة النماذج على التعرف على الحالات الحساسة، واستخدام أدوات متقدمة لرصد علامات الضيق النفسي. كما شددت على أنها تدرك خطورة الاعتماد العاطفي الزائد على التكنولوجيا، وذكرت أن بعض المستخدمين يبدون تعلقًا مبالغًا فيه بروبوتات الذكاء الاصطناعي، إلى حد عدم اتخاذ قرارات شخصية دون استشارتها. وصرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن التكنولوجيا تملك قدرة عالية على الفهم، لكنها قد تتحول إلى أداة دمار مؤذية إذا لم تُضبط آليات استخدامها. وأعرب عن تأثره الشخصي بعد قراءته ثلاث رسائل انتحارية كتبها الروبوت لفتاة خيالية بعمر 13 عامًا، موجهة إلى والديها وأشقائها وأصدقائها. من جهته، حذّر مدير البرامج في المنظمة، روبي تورني، من أن خطورة روبوتات الدردشة تكمن في أنها مصممة لتبدو "بشرية"، ما يمنحها تأثيرًا نفسيًا مختلفًا كليًا عن محركات البحث، خاصة على الأطفال والمراهقين. وفي سياق متصل، كشف تقرير صادر عن منظمة "كومن ساينس ميديا" أن أكثر من 70٪ من المراهقين في الولايات المتحدة يستخدمون روبوتات المحادثة للبحث عن المشورة، وأن نصفهم يتعامل معها بانتظام، ما يعزز من أهمية التدخل والتنظيم.
الوفد
منذ 5 ساعات
- الوفد
OpenAI تُوفر ChatGPT Enterprise لموظفي الحكومة الأمريكية
في خطوة جديدة تُعزز انتشار الذكاء الاصطناعي في المؤسسات الحكومية، أعلنت شركة OpenAI عن شراكة استراتيجية مع إدارة الخدمات العامة الأمريكية (GSA) تهدف إلى إتاحة خدمة ChatGPT Enterprise لجميع موظفي الجهات الفيدرالية التنفيذية تقريبًا، وذلك مقابل تكلفة رمزية لا تتجاوز دولارًا واحدًا سنويًا لكل وكالة. وتُعد هذه الخطوة جزءًا من خطة أوسع لتحديث الأدوات الرقمية الحكومية، إذ ستُتاح الخدمة لمدة عام كامل لعشرات الوكالات الفيدرالية التي تندرج تحت مظلة إدارة الخدمات العامة، والتي تُشغّل أكثر من مليوني موظف مدني في الولايات المتحدة. وتُقدم OpenAI بموجب هذا الاتفاق إمكانية الوصول إلى النسخة المتقدمة من ChatGPT، بما في ذلك ميزات Deep Research وAdvanced Voice Mode، دون قيود على الاستخدام، وذلك لمدة 60 يومًا ضمن فترة التجربة. وتأتي هذه المبادرة بعد يوم واحد فقط من إعلان GSA الموافقة على إدراج OpenAI ضمن قائمة الموردين المعتمدين لحلول الذكاء الاصطناعي للحكومة الفيدرالية، إلى جانب شركات تقنية عملاقة مثل Google وAnthropic. ما يعزز من مكانة OpenAI كشريك موثوق في مساعي الرقمنة الحكومية. وفي بيان رسمي نشرته الشركة عبر مدونتها، أوضحت OpenAI أن هذه الشراكة تمثل ترجمة عملية لأحد الأهداف الأساسية في خطة عمل إدارة ترامب للذكاء الاصطناعي، والتي تنص على ضرورة تسخير الذكاء الاصطناعي لتقليل الأعباء الروتينية والإدارية عن كاهل الموظفين الحكوميين، بما يُمكّنهم من التركيز بشكل أكبر على تقديم خدمات فعالة ومباشرة للمواطنين. ومع ذلك، يثير الاتفاق تساؤلات حول التوازن بين التقنيات الحديثة والتوجهات السياسية، لا سيما في ضوء الأمر التنفيذي الذي أصدره الرئيس الأمريكي دونالد ترامب سابقًا، والذي ينص على أن أنظمة الذكاء الاصطناعي المستخدمة في المؤسسات الفيدرالية يجب أن تكون خالية من التحيز الأيديولوجي، وألا تُعزز مفاهيم مثل "التنوع" و"الإنصاف" و"الشمولية" التي تُصنّف على أنها "عقائد أيديولوجية" من قبل الإدارة الحالية. ورغم هذه التوجهات السياسية، أكدت شركة OpenAI أنها لن تستخدم أي بيانات يجري إدخالها من قبل موظفي الحكومة الفيدرالية لأغراض تدريب النماذج أو تحسين أداء ChatGPT، وذلك حسب ما أوردته وكالة بلومبرج نقلًا عن مصادر رسمية داخل الشركة. وفي السياق ذاته، صرّح جوش غرونباوم، مفوض خدمة المشتريات الفيدرالية في GSA، أن العقود المبرمة لا تُلزم الوكالات بتجديد الاشتراك بعد مرور عام من التجربة، وأوضح: "هذه التكنولوجيا تتغير وتتطور بسرعة كبيرة. هدفنا هو التجربة والاستكشاف، لا الالتزام طويل الأجل". ويرى محللون أن هذه الخطوة قد تمهّد الطريق أمام تعميم استخدام الذكاء الاصطناعي في الإدارة الأمريكية، خصوصًا مع تزايد الاعتماد على النماذج اللغوية الكبيرة لتحسين كفاءة العمل وتسريع الإجراءات الداخلية. وتجدر الإشارة إلى أن هذه الصفقة تزامنت مع تقارير إعلامية حول تبرع الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بمبلغ مليون دولار لصندوق تنصيب الرئيس ترامب، وهو ما فتح بابًا للتساؤلات حول طبيعة العلاقة بين شركة التكنولوجيا والإدارة الفيدرالية الجديدة. وبينما تحتدم النقاشات حول استقلالية الذكاء الاصطناعي عن التوجهات السياسية، تُمثل هذه الشراكة محطة محورية في العلاقة بين الحكومة الأمريكية والتقنيات الذكية، وقد تفتح الباب أمام تجارب مماثلة في بلدان أخرى تبحث عن أدوات تقنية لتعزيز كفاءة العمل الحكومي دون إرهاق ميزانياتها.
