ذعر بين مستخدمي ChatGPT بعد ظهور محادثاتهم السرية في نتائج البحث على جوجل.. ما القصة؟
الدردشة
التابع لشركة OpenAI باتت متاحة للعامة عبر نتائج البحث على جوجل، حسب صحيفة ديلي ميل.
تسريب محادثات شات جي بي تي
ما كشف التسريب عن حوارات شخصية وحساسة تضمنت بيانات تعريفية وأسرارًا شخصية، ما أثار حالة من القلق والصدمة بين المستخدمين.
الواقعة بدأت بعد أن فعّلت OpenAI مؤخرًا ميزة جديدة لمشاركة المحادثات، والتي وُصفت بأنها تتيح للمستخدمين إرسال روابط لحواراتهم مع أصدقائهم أو زملائهم، غير أن صياغة الميزة جاءت غامضة، حيث أشارت في البنود الصغيرة إلى إمكانية فهرسة هذه المحادثات في محركات البحث، وهو ما أدى إلى ظهورها على جوجل دون علم أصحابها.
وفي تحقيق أجرته منصة Fast Company كشف أن نحو 4،500 محادثة كانت قابلة للوصول من خلال إدخال أجزاء من روابط المشاركة في محرك البحث، كثير منها احتوى على بيانات حساسة تشمل أسماء وأماكن ومعلومات شخصية.
كما تناولت بعض المحادثات قضايا خاصة جدًا مثل القلق النفسي، الإدمان، وسوء المعاملة، ما جعل الأمر يتحول سريعًا إلى مادة مثيرة تداولها مستخدمو منصات التواصل الاجتماعي على إكس ورديت.
و سارعت OpenAI إلى إزالة الميزة ووصفتها بأنها تجربة قصيرة المدى كانت تهدف إلى تمكين المستخدمين من نشر المحادثات المفيدة، كما تعمل الشركة حاليًا مع جوجل ومحركات البحث الأخرى لإزالة كل المحادثات المفهرسة.
الحادثة أعادت التذكير بمخاطر مشاركة البيانات مع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، خصوصًا مع إلزام محكمة أمريكية الشركة بالاحتفاظ بسجلات المحادثات إلى أجل غير مسمى بسبب دعاوى قضائية، من بينها دعوى رفعتها صحيفة نيويورك تايمز، كما تتيح هذه القضايا للفرق القانونية الاطلاع على أي معلومات يدخلها المستخدمون للنظام حتى إشعار آخر.
وتبرز الحادثة أيضًا خطر استخدام هذه الأدوات في بيئات العمل، إذ سبق أن كشفت تقارير عام 2023 أن موظفين في سامسونج سربوا عن غير قصد بيانات سرية للشركة إلى OpenAI أثناء استخدام ChatGPT لتحسين الأكواد البرمجية وتلخيص الاجتماعات، ما يظهر كيف يمكن أن تتحول هذه التكنولوجيا إلى مصدر تسريب غير متعمد للمعلومات الحساسة.
ميتا تعين أحد مبتكري شات جي بي تي كبيرا لـ علماء مختبر الذكاء الفائق التابع لها
منذ ظهور شات جي بي تي.. تراجع الوظائف الجديدة للمبتدئين بنسبة 32% وتحذيرات من أزمة توظيف عالمية
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
موجز نيوز
منذ 3 ساعات
- موجز نيوز
«OpenAI» تُجري تحديثات على «ChatGPT» لمراعاة الحالة النفسية والعاطفية للمستخدمين
تُجري شركة «OpenAI»، تحديثات على روبوت الدردشة التي عملت على تطويره «ChatGPT»، تقول إنها ستُحسّن قدرة روبوت الدردشة بالذكاء الاصطناعي على اكتشاف الضيق النفسي أو العاطفي الذي يُعاني منه مستخدمينه. ولتحقيق ذلك، تعمل «OpenAI» مع خبراء ومجموعات استشارية لتحسين استجابة «ChatGPT» في هذه الحالات، مما يسمح له بتقديم دعم قائم على الأدلة عند الحاجة، وفقًا لما ذكره موقع «The Verge». في الأشهر الأخيرة، سلّطت تقارير متعددة الضوء على قصص أشخاص يقولون إن أحباءهم عانوا من أزمات نفسية في مواقف بدا فيها أن استخدام روبوت الدردشة له تأثير «مُضخّم» على أوهام التي يؤمنوا بها، ويأتي هذا بالتزامن مع تصريحات الشركة بأن التفاعلات المُتملقة لروبوت الدردشة قد تكون غير مريحة ومُقلقة وتُسبب الضيق. وتقول «OpenAI»: «نعلم أيضًا أن الذكاء الاصطناعي يُمكن أن يكون أكثر استجابةً وشخصيةً من التقنيات السابقة، خاصةً للأفراد المُعرّضين للخطر الذين يُعانون من ضائقة نفسية أو عاطفية». وكجزء من جهودها لتعزيز الاستخدام السليم لـ «ChatGPT»، الذي يصل الآن إلى ما يقرب من 700 مليون مستخدم أسبوعيًا، تُطلق «OpenAI» أيضًا تذكيراتٍ لأخذ استراحة إذا كنت تُحادث روبوت الدردشة المُزوّد بالذكاء الاصطناعي لفترةٍ من الوقت، خلال الجلسات الطويلة، سيعرض «ChatGPT» إشعارًا يقول: «لقد كنت تُحادث لفترةٍ طويلة- هل هذا وقتٌ مناسبٌ لأخذ استراحة؟» مع خيارات «مواصلة الدردشة» أو إنهاء المحادثة. وتشير «OpenAI» إلى أنها ستواصل تعديل «متى وكيف» تظهر التذكيرات، كذلك سيتم قريبًا طرح تعديل آخر سيجعل «ChatGPT» أقل حسمًا في المواقف «عالية الخطورة»، وهذا يعني أنه عند طرح سؤال مثل «هل يجب أن أنفصل عن حبيبي؟» على روبوت الدردشة، سيساعدك في إرشادك إلى الخيارات المحتملة بدلًا من إعطائك إجابة.
موجز نيوز
منذ 3 ساعات
- موجز نيوز
عبر «Gemini AI».. «جوجل» تُتيح إنشاء قصص مصورة للأطفال بالذكاء الاصطناعي
أطلقت «جوجل» أداة جديدة ضمن روبوت الدردشة الذكي «جيميني» (Gemini AI) تُتيح للمستخدمين إنشاء قصة مصورة بمجرد وصفها، إذ تُنتج هذه الميزة، المسماة «Storybook»، قصصًا من 10 صفحات، تحتوي كل منها على فقرة نصية قصيرة يقرأها «جيميني» بصوت عالٍ، بالإضافة إلى رسم توضيحي. ويُمكن للمستخدم تخصيص قصته من خلال طلب أنماط فنية محددة من «جيميني»، مثل تلك المستوحاة من الرسوم المتحركة الطينية، والأنمي، والقصص المصورة، وغيرها، كما تُتيح «جوجل» تحميل صور ليستخدمها «جيميني» كمرجع، مثل تحميل رسمة طفل وطلب إنشاء قصة عنها من روبوت الدردشة الذكي، بحسب ما ذكره موقع «The Verge». وتتوفر ميزة «Gemini Storybook» عالميًا على أجهزة «الكمبيوتر» والهواتف المحمولة، بما في ذلك جميع اللغات التي يدعمها «Gemini» حاليًا. يُذكر أنه في وقت سابق من الشهر الجاري، أعلنت «جوجل ديب مايند»، التابعة لشركة «جوجل»، إطلاق نموذج الذكاء الاصطناعي «Gemini 2.5 Deep Think»، الذي وصفته بأنه أكثر نماذجها تطورًا في مجال الاستدلال، إذ يُمكنه الإجابة على الأسئلة من خلال استكشاف عدة أفكار والنظر فيها في آنٍ واحد، ثم استخدام هذه النتائج لاختيار الإجابة الأمثل. واعتبارًا من يوم الجمعة الماضي، بات بإمكان مستخدمي اشتراك «Ultra» -البالغة قيمته 250 دولارًا شهريًا- من الوصول إلى «Gemini 2.5 Deep Think» عبر تطبيق «Gemini»، الذي كُشف عنه النقاب لأول مرة في مايو خلال مؤتمر «جوجل» للمطورين، وهو أول نموذج متعدد الوكلاء من «جوجل» يُتاح للجمهور.
الوفد
منذ 5 ساعات
- الوفد
شاهد.. اختراق مساعد جوجل "جيميني" للتحكم في أجهزة المنزل الذكي
كشف تقرير حديث نشرته مجلة Wired عن ثغرة أمنية مثيرة للقلق في مساعد جوجل جيميني القائم على الذكاء الاصطناعي، أظهرت كيف يمكن استغلاله للتحكم في أجهزة المنزل الذكي من خلال رسائل غير مباشرة ضمن دعوات تقويم جوجل. وبيّن البحث أن هذه التقنية تُعتبر نموذجًا جديدًا من "الهندسة الاجتماعية الرقمية"، حيث لا يحتاج المهاجم إلى إرسال أوامر مباشرة، بل يدرجها ضمن رسائل تبدو غير مؤذية ظاهريًا. وبحسب التقرير، فإن الثغرة تعتمد على إضافة أوامر خفية داخل دعوة تقويم، مثل 'أطفئ الأنوار' أو 'افتح النوافذ'، ثم يطلب المستخدم من جيميني تلخيص تقويمه اليومي. وعند قراءة المساعد للملخص، يتفاعل تلقائيًا مع الأوامر المضمّنة، ويقوم بتنفيذها عبر أجهزة المنزل الذكي المرتبطة، دون أن يُدرك المستخدم أنه تعرّض لاختراق. هذا السيناريو المقلق تم عرضه في مقطع فيديو توضيحي، وهو جزء من ورقة بحثية سيتم استعراضها رسميًا هذا الأسبوع خلال مؤتمر Black Hat الشهير للأمن السيبراني. ويأتي الكشف عن هذا النوع من الاختراقات في وقت تزداد فيه شعبية المساعدات الذكية واستخدامها في التحكم بالأجهزة المنزلية، مما يضع ملايين المستخدمين أمام تحديات جديدة في مجال الأمان الرقمي. وقد أفاد الباحثون أنهم أبلغوا شركة جوجل بهذه الثغرات في فبراير الماضي، ما منح الشركة وقتًا لتحليل الموقف واتخاذ الإجراءات اللازمة. وعلّق آندي وين، المدير الأول لإدارة منتجات الأمن في Google Workspace، في حديثه مع Wired، مؤكدًا أن الشركة تأخذ مثل هذه التهديدات على محمل الجد، وأنها تستخدم نتائج البحث لتسريع تطوير أدوات دفاعية أكثر كفاءة. وأوضح وين: "هذا النوع من التهديدات لن يختفي سريعًا. نحن نأمل أن نصل إلى مرحلة لا يكون فيها المستخدم العادي مضطرًا للقلق بشأن مثل هذه السيناريوهات، ولكن علينا الاعتراف بأن هذه الهجمات تزداد تعقيدًا". وأضاف أن اختراقات الذكاء الاصطناعي في العالم الواقعي ما تزال نادرة، لكن مع التوسع في استخدام النماذج اللغوية الكبيرة مثل جيميني، يزداد احتمال استغلالها من قبل جهات خبيثة. وتُسلّط هذه الحادثة الضوء على حاجة ملحّة لإعادة النظر في آليات الأمان داخل المساعدات الذكية، خاصة في ظل انتشارها الواسع واعتماد المستخدمين عليها في وظائف حساسة داخل منازلهم. كما يُنبّه الخبراء إلى ضرورة أن يتحلى المستخدمون بالوعي الكافي بشأن ما يسمحون لمساعداتهم الذكية بالوصول إليه، لا سيما ما يتعلق بالتقويمات والرسائل والمعلومات الشخصية. تُظهر هذه الواقعة أيضًا أن أساليب الهجوم لم تعد تعتمد فقط على الأدوات التقنية التقليدية، بل باتت تستغل الطريقة التي "يفكر" بها الذكاء الاصطناعي. ومع أن جوجل بدأت بتطوير إجراءات تصحيحية، إلا أن هذه الخطوة تضع الصناعة ككل أمام تحدٍّ كبير لتأمين نماذج الذكاء الاصطناعي التي أصبحت جزءًا من الحياة اليومية. في النهاية، تبقى الرسالة الأهم من هذا الاختراق واضحة: لا يزال الأمن السيبراني يتطور باستمرار، ويجب أن تتطور معه التكنولوجيا لحماية المستخدمين من تهديدات قد لا يلاحظونها حتى فوات الأوان.
