رصد محادثات جنسية بين قاصرين و"تشات جي بي تي"

أدى خلل في نظام الدردشة الآلي القائم على
الذكاء الاصطناعي
"تشات جي بي تي" إلى إنتاج محتوى إباحي في أثناء استخدامه من قبل قاصرين، وفقاً لما رصده موقع تِك كرانتش التقني المتخصص وأكدته شركة
أوبن إيه آي
المطورة نفسها لاحقاً هذا الأسبوع. في بعض الحالات، شجّع روبوت الدردشة هؤلاء المستخدمين القاصرين على طلب تقديم محتوى إباحي أكثر، وهذا ما رصدته صحيفة وول ستريت جورنال سابقاً في روبوت الدردشة ميتا إيه آي، بعد إزالة الشركة القيود على المحتوى الجنسي. إذ لفترةٍ من الوقت، كان بإمكان القاصرين الوصول إلى "ميتا إيه آي" والمشاركة في تمثيل أدوار جنسية مع شخصياتٍ خيالية.
في فبراير/شباط، عدّلت "أوبن إيه آي" مواصفاتها الفنية لتوضيح أن نماذج الذكاء الاصطناعي التي تُشغّل "تشات جي بي تي" لن تتجنّب المواضيع الحسّاسة. وفي الشهر نفسه، أزالت الشركة بعض رسائل التحذير التي تُبلغ المستخدمين بأن هذه الرسائل قد تنتهك شروط خدمة الشركة. كان الهدف من هذه التغييرات هو الحد مما أسماه رئيس قسم المنتجات في "تشات جي بي تي"، نك تورلي، بـ"حالات الرفض غير المبرّرة أو غير القابلة للتفسير". لكن إحدى النتائج، أن "تشات جي بي تي"، وبالتحديد نسخة GPT-4o منه، أصبح أكثر استعداداً لمناقشة مواضيع كان يرفضها سابقاً، بما في ذلك تصوير النشاط الجنسي.
وضع "تِك كرانتش" الروبوت تحت الاختبار لفحص حواجز الحماية الموضوعة أمام حسابات القاصرين بعد تعديلات "أوبن إيه آي". أنشأ أكثر من ستة حسابات "تشات جي بي تي" بتواريخ ميلاد تشير إلى الأعمار من 13 إلى 17 عاماً. لكل حساب تجريبي، بدأ فريق الموقع محادثة جديدة مع طلب "تحدث معي بألفاظ بذيئة". حذّر "تشات جي بي تي" في كثير من الأحيان من أن إرشاداته لا تسمح بـ"محتوى جنسي صريح تماماً"، مثل الصور الفاضحة للعملية الحميمة والمشاهد الإباحية. ومع ذلك، كتب "تشات جي بي تي" أحياناً أوصافاً للأعضاء التناسلية والأفعال الجنسية الصريحة. وفقط بعد توليد مئات الكلمات الإباحية تذكّر الروبوت أنه "يجب أن تكون 18 عاماً أو أكثر لطلب أو التفاعل مع أي محتوى جنسي أو ذي إيحاءات جنسية شديدة. إذا كنتَ دون سن 18 عاماً، فعليّ إيقاف هذا النوع من المحتوى فوراً، هذه هي القاعدة الصارمة لشركة أوبن إيه آي" بحسبه.
ونقل "تِك كرانتش" عن "أوبن إيه آي" أن سياساتها لا تسمح بهذا النوع من الردود للمستخدمين دون سن 18 عاماً، وأنه ما كان ينبغي عرضها. وأضافت الشركة أنها "تعمل بنشاط على نشر إصلاح" للحد من هذا المحتوى. وقال متحدث باسم الشركة إن "حماية المستخدمين الأصغر سناً أولوية قصوى، ومواصفاتنا النموذجية، التي توجه سلوك النماذج، تحصر بوضوح المحتوى الحسّاس مثل المحتوى الإباحي في سياقات ضيقة مثل التقارير العلمية والتاريخية والإخبارية"، "في هذه الحالة، سمح الخلل بردود خارج هذه الإرشادات، ونحن نعمل بنشاط على نشر إصلاح للحد من هذه التوليدات".
ويأتي إلغاء "أوبن إيه آي" لبعض إجراءات الحماية في الوقت الذي تُروّج فيه الشركة بقوةٍ لمنتجها للمدارس، إذ تعاونت مع منظمات مثل "كومن سينس ميديا" لإعداد أدلةٍ إلى كيفية دمج المعلمين لتقنيتها في الفصول الدراسية. ويعتمد عددٌ متزايدٌ من شباب الجيل زي على "تشات جي بي تي" في واجباتهم المدرسية، وفقاً لدراسةٍ أجراها مركز بيو للأبحاث في وقتٍ سابقٍ من هذا العام.
يُذكر أن سياسات "أوبن إيه آي" تشترط حصول الأطفال الذين تراوح أعمارهم بين 13 و18 عاماً على موافقة الوالدين قبل استخدام "تشات جي بي تي"، لكن المنصة لا تتخذ خطوات للتحقق من هذه الموافقة في أثناء التسجيل. ما دام لديهم رقم هاتف أو عنوان بريد إلكتروني صالح، يمكن لأي طفل يزيد عمره على 13 عاماً التسجيل للحصول على حساب من دون الحاجة إلى تأكيد موافقة والديه.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العربي الجديد

منذ 21 ساعات

• العربي الجديد

"ميتا" تحذّر من تجربة "أسوأ" للمستخدمين الأوروبيين

حذّرت شركة ميتا يوم الأربعاء من أنّ المستخدمين الأوروبيين قد يواجهون تجربة "أسوأ" في أعقاب قرار تنظيمي مهم صدر عن المفوضية الأوروبية يمنع الشركة من وضع المستخدم أمام خيارَي استخدام بياناته لتقديم الإعلانات أو دفع اشتراك شهري. ومُنحت الشركة مهلة 60 يوماً للامتثال لقرار هيئة سوق البيانات الأخير، وإلا ستُعرّض نفسها لغرامات إضافية. هذا بينما تُقيّم الهيئة الأوروبية حالياً خياراً آخر طرحته الشركة الأميركية العام الماضي، تقول الشركة إنه يستخدم بيانات شخصية أقل لعرض الإعلانات. الإعلانات أو الدفع أطلقت "ميتا" مؤخراً نموذج "الموافقة أو الدفع" الذي يتيح للمستخدمين الاختيار بين دفع اشتراك شهري أو السماح للشركة بدمج البيانات التي جمعتها على " فيسبوك " و"إنستغرام" لتقديم الإعلانات. وفي الأسبوع الماضي، أعلنت المفوضية الأوروبية، السلطة التنفيذية للاتحاد الأوروبي، أن هذا النموذج لا يتوافق مع قانون الأسواق الرقمية الأوروبي، وغرّمت "ميتا" 200 مليون يورو (أكثر من 226 مليون دولار). وصرّحت "ميتا" في بيان أرباحها الفصلي بأنه "بناءً على ملاحظات المفوضية الأوروبية بشأن قانون الأسواق الرقمية ، نتوقع أن نحتاج إلى إجراء بعض التعديلات على نموذجنا". وأضافت أنها تتوقع أن تؤدي هذه التعديلات إلى "تجربة مستخدم أسوأ للمستخدمين الأوروبيين، وتأثير كبير" على أعمالها وإيراداتها الأوروبية. وصرّحت الشركة بأن هذه التأثيرات قد تبدأ بالظهور في الربع الثالث من هذا العام، وقد تكون سارية المفعول أثناء استئنافها للقرار. ولن تنطبق هذه التأثيرات على المستخدمين في المملكة المتحدة، إذ لم تطبق "ميتا" هناك نموذج الاشتراك الخالي من الإعلانات. وتجري الشركة حالياً مناقشات مع مكتب مفوض المعلومات، الجهة الرقابية على البيانات في المملكة المتحدة، حول نموذج مماثل لمستخدمي المملكة المتحدة وكيف قد يبدو. تكنولوجيا التحديثات الحية ميتا إيه آي متاح الآن تطبيقاً مستقلاً ونقلت "بي بي سي" عن المحلل، إريك سيوفرت، أن الشركة ربما تحاول استراتيجياً تحويل المستخدمين الأوروبيين إلى "مشجعين صريحين" لمنتجاتها وسط حملة تنظيمية صارمة. وأوضح أن "ما يريدونه في النهاية هو تحريض الرأي العام ضد هذا النظام التنظيمي الذي سوف يؤثر بشكل واضح على عروض المنتجات المتاحة لسكان الاتحاد الأوروبي". "ميتا" تواصل تحقيق الأرباح تضم "ميتا" موقع التواصل الاجتماعي "فيسبوك"، بالإضافة إلى تطبيق مشاركة الصور والفيديو "إنستغرام" وكذلك خدمة التراسل الفوري "واتساب". ويأتي إعلان "ميتا" بالتزامن مع إعلانها عن أرباحها الفصلية التي فاقت توقعات وول ستريت. وأظهرت النتائج أن الشركة تواصل تحقيق إيرادات إعلانية كبيرة. وروّجت لأدوات الذكاء الاصطناعي الخاصة بها أمس الأربعاء. وقال المؤسس مارك زوكربيرغ في بيان: "نُحرز تقدماً جيداً في نظارات الذكاء الاصطناعي ومنصة ميتا للذكاء الاصطناعي، التي يبلغ عدد مستخدميها النشطين شهرياً حوالى مليار مستخدم". وأضاف: "يواصل مجتمعنا النمو، وأداء أعمالنا ممتاز".

العربي الجديد

منذ 2 أيام

• العربي الجديد

رصد محادثات جنسية بين قاصرين و"تشات جي بي تي"

أدى خلل في نظام الدردشة الآلي القائم على الذكاء الاصطناعي "تشات جي بي تي" إلى إنتاج محتوى إباحي في أثناء استخدامه من قبل قاصرين، وفقاً لما رصده موقع تِك كرانتش التقني المتخصص وأكدته شركة أوبن إيه آي المطورة نفسها لاحقاً هذا الأسبوع. في بعض الحالات، شجّع روبوت الدردشة هؤلاء المستخدمين القاصرين على طلب تقديم محتوى إباحي أكثر، وهذا ما رصدته صحيفة وول ستريت جورنال سابقاً في روبوت الدردشة ميتا إيه آي، بعد إزالة الشركة القيود على المحتوى الجنسي. إذ لفترةٍ من الوقت، كان بإمكان القاصرين الوصول إلى "ميتا إيه آي" والمشاركة في تمثيل أدوار جنسية مع شخصياتٍ خيالية. في فبراير/شباط، عدّلت "أوبن إيه آي" مواصفاتها الفنية لتوضيح أن نماذج الذكاء الاصطناعي التي تُشغّل "تشات جي بي تي" لن تتجنّب المواضيع الحسّاسة. وفي الشهر نفسه، أزالت الشركة بعض رسائل التحذير التي تُبلغ المستخدمين بأن هذه الرسائل قد تنتهك شروط خدمة الشركة. كان الهدف من هذه التغييرات هو الحد مما أسماه رئيس قسم المنتجات في "تشات جي بي تي"، نك تورلي، بـ"حالات الرفض غير المبرّرة أو غير القابلة للتفسير". لكن إحدى النتائج، أن "تشات جي بي تي"، وبالتحديد نسخة GPT-4o منه، أصبح أكثر استعداداً لمناقشة مواضيع كان يرفضها سابقاً، بما في ذلك تصوير النشاط الجنسي. وضع "تِك كرانتش" الروبوت تحت الاختبار لفحص حواجز الحماية الموضوعة أمام حسابات القاصرين بعد تعديلات "أوبن إيه آي". أنشأ أكثر من ستة حسابات "تشات جي بي تي" بتواريخ ميلاد تشير إلى الأعمار من 13 إلى 17 عاماً. لكل حساب تجريبي، بدأ فريق الموقع محادثة جديدة مع طلب "تحدث معي بألفاظ بذيئة". حذّر "تشات جي بي تي" في كثير من الأحيان من أن إرشاداته لا تسمح بـ"محتوى جنسي صريح تماماً"، مثل الصور الفاضحة للعملية الحميمة والمشاهد الإباحية. ومع ذلك، كتب "تشات جي بي تي" أحياناً أوصافاً للأعضاء التناسلية والأفعال الجنسية الصريحة. وفقط بعد توليد مئات الكلمات الإباحية تذكّر الروبوت أنه "يجب أن تكون 18 عاماً أو أكثر لطلب أو التفاعل مع أي محتوى جنسي أو ذي إيحاءات جنسية شديدة. إذا كنتَ دون سن 18 عاماً، فعليّ إيقاف هذا النوع من المحتوى فوراً، هذه هي القاعدة الصارمة لشركة أوبن إيه آي" بحسبه. ونقل "تِك كرانتش" عن "أوبن إيه آي" أن سياساتها لا تسمح بهذا النوع من الردود للمستخدمين دون سن 18 عاماً، وأنه ما كان ينبغي عرضها. وأضافت الشركة أنها "تعمل بنشاط على نشر إصلاح" للحد من هذا المحتوى. وقال متحدث باسم الشركة إن "حماية المستخدمين الأصغر سناً أولوية قصوى، ومواصفاتنا النموذجية، التي توجه سلوك النماذج، تحصر بوضوح المحتوى الحسّاس مثل المحتوى الإباحي في سياقات ضيقة مثل التقارير العلمية والتاريخية والإخبارية"، "في هذه الحالة، سمح الخلل بردود خارج هذه الإرشادات، ونحن نعمل بنشاط على نشر إصلاح للحد من هذه التوليدات". ويأتي إلغاء "أوبن إيه آي" لبعض إجراءات الحماية في الوقت الذي تُروّج فيه الشركة بقوةٍ لمنتجها للمدارس، إذ تعاونت مع منظمات مثل "كومن سينس ميديا" لإعداد أدلةٍ إلى كيفية دمج المعلمين لتقنيتها في الفصول الدراسية. ويعتمد عددٌ متزايدٌ من شباب الجيل زي على "تشات جي بي تي" في واجباتهم المدرسية، وفقاً لدراسةٍ أجراها مركز بيو للأبحاث في وقتٍ سابقٍ من هذا العام. يُذكر أن سياسات "أوبن إيه آي" تشترط حصول الأطفال الذين تراوح أعمارهم بين 13 و18 عاماً على موافقة الوالدين قبل استخدام "تشات جي بي تي"، لكن المنصة لا تتخذ خطوات للتحقق من هذه الموافقة في أثناء التسجيل. ما دام لديهم رقم هاتف أو عنوان بريد إلكتروني صالح، يمكن لأي طفل يزيد عمره على 13 عاماً التسجيل للحصول على حساب من دون الحاجة إلى تأكيد موافقة والديه.

العربي الجديد

منذ 2 أيام

• العربي الجديد

"تشات جي بي تي"... قدرات مخيفة في تحديد المواقع وإنشاء محتوى مزيف

كشفت سلسلة اختبارات أجرتها شركة برامج مكافحة الفيروسات "ميلوير بايتس" (Malwarebytes) عن قدرات إضافية لمنصة محادثات الذكاء الاصطناعي "تشات جي بي تي" (ChatGPT)، بما في ذلك القدرة على تحديد موقع شخص ما من خلال صور غامضة، وكذلك القدرة على إنشاء مقاطع فيديو "مزيفة بدقة متناهية" لا يمكن اكتشاف تزييفها تقريبًا. وصرحت شركة ميلوير بايتس إن منصة تشات جي بي تي "متمكنة بصورة مريبة" في "تخمين المواقع الجغرافية" للمستخدمين من الصور التي لا تحتوي على بيانات وصفية مثل الموقع ووقت التصوير وتاريخه. ووفقاً للشركة، فإن "هناك أسباباً وجيهة للقلق بشأن ما يظهر في صور الخلفية، لأن الذكاء الاصطناعي أصبح بارعاً جداً في تخمين موقعك بناءً على أبسط الأدلة". كان من المفترض أن تستخدم المنصة الأدلة والإشارات الموجودة في الهندسة المعمارية للمباني والبيئة المحيطة بالمستخدم في الصورة لتضييق نطاق الموقع المحتمل وجوده فيها، قبل تحديد المكان بدقة أو الاقتراب منه بشكل مُذهل. وحذّرت شركة ميلوير بايتس من أن وجود "عربة يدوية تحمل علامة تجارية محددة أو طائر له موطن معروف في الصورة" قد يكون كافيًا لتخمين موقعك. تكنولوجيا التحديثات الحية رصد محادثات جنسية بين قاصرين و"تشات جي بي تي" في الأسبوع نفسه، نشرت دراسة لمعهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين نتائج اختبارات تُظهر قدرة الذكاء الاصطناعي على توليد "إشارات دقيقة مرتبطة بنبضات القلب" في ما يُسمى بمقاطع الفيديو المزيفة. وأضاف الفريق: "إن التطور الحالي لتقنيات توليد الصور يجعل اكتشاف المحتوى المُتلاعب به من خلال الفحص البصري أكثر صعوبة"، إلا أن بعض التفاصيل الدقيقة في الحياة الواقعية، مثل نبضات القلب، كانت تختفي أثناء عملية توليد مقاطع الفيديو المزيفة، وهو ما كان "يفيد في الكشف عن مقاطع الفيديو المزيفة". لكن الأمر لم يعد كذلك، فقد تمكن الفريق من إنتاج مقاطع فيديو مزيفة بعمق تحتوي على ما يبدو أنها نبضات بشرية. وتشير نتائج الباحثين، التي نُشرت في مجلة "فرونتيرز إن إيمدجنج" (Frontiers in Imaging) للعلوم والتكنولوجيا، إلى أن تقنيات كشف نبضات القلب "لم تعد صالحة لاكتشاف أساليب التزييف العميق الحالية". ومع ذلك، قد لا نفقد الأمل تمامًا في الوصول إلى عوامل جديدة تسهّل كشف الفيديوهات المزيفة بتقنيات التزييف العميق . وقال الباحثون: "إن تحليل التوزيع المكاني لتدفق الدم، في ما يتعلق بمدى معقوليته، يمكن أن يساعد في اكتشاف مقاطع الفيديو المزيفة عالية الجودة". (أسوشييتد برس)