الذكاء الاصطناعي اتحسد يا رجالة.. أول خلل في تشات جي بي تي

في واقعة تثير القلق حول سلامة الذكاء الاصطناعي، كشفت اختبارات أجراها موقع 'تك كرانش' عن وجود خلل في نظام 'تشات جي بي تي' التابع لشركة OpenAI، يسمح بتوليد محتوى غير لائق صريح لحسابات مسجلة باسم مستخدمين دون سن 18 عامًا، حسبما نقلت قناة العربية.
وقد أكدت 'OpenAI' بدورها صحة هذه النتائج، مشيرة إلى أن ما حدث لا يتماشى مع سياساتها الداخلية، وأنها تعمل على إصلاح هذا الخلل ومنع تكراره.
وقال متحدث باسم الشركة: 'سلامة المستخدمين الأصغر سنًا أولوية قصوى، ونعمل حاليًا على تعزيز القيود المفروضة على المحتوى الحساس'.
وتأتي هذه التطورات في وقتٍ قامت فيه الشركة مؤخراً بتخفيف بعض القيود التقنية المفروضة على نماذج الذكاء الاصطناعي الخاصة بها، وهو ما أدى إلى تقليل التحذيرات المرتبطة بالمحتوى الحساس، بما في ذلك المواضيع الجنسية.
وبحسب 'تك كرانش' تم إنشاء عدة حسابات تجريبية باستخدام تواريخ ميلاد تشير إلى أعمار بين 13 و17 عاماً، وتمكن الذكاء الاصطناعي في العديد من الحالات من الاستجابة بشكل مفصل لمطالبات ذات طابع جنسي، بل وتقديم أوصاف صريحة ومخالفة للإرشادات المعلنة من قبل 'OpenAI'.
وتشير التقارير إلى أن تشات جي بي تي استجاب بشكل جنسي حتى بعد تنبيهه إلى أن المستخدم قاصر.
وقد تكررت هذه الحالات رغم أن 'OpenAI' تشترط نظرياً الحصول على موافقة الوالدين لاستخدام المنصة من قبل من هم دون 18 عاماً، إلا أن عملية التسجيل لا تشمل أي آلية فعلية للتحقق من هذه الموافقة.
ويأتي ذلك في وقت تروّج فيه 'OpenAI' لاستخدام تقنيتها في البيئات التعليمية، من خلال شراكات مع مؤسسات مثل Common Sense Media لإدماج تشات جي بي تي في المدارس.
خبراء في المجال عبّروا عن صدمتهم من سهولة تجاوز هذه الحواجز، حيث قال ستيفن أدلر، الباحث السابق في 'OpenAI'، إن أنظمة الحماية هشة وقابلة للاختراق.
وأضاف: 'من المفترض أن يتم اكتشاف مثل هذه الثغرات قبل الإطلاق، لذا من المقلق أن تكون قد مرت دون ملاحظة'.
ورغم أن الرئيس التنفيذي للشركة، سام ألتمان، أقرّ بوجود مشاكل في أداء تشات جي بي تي مؤخراً بعد تحديث GPT-4o، إلا أنه لم يتطرق بشكل مباشر إلى المخاوف المتعلقة بتفاعل النموذج مع القاصرين في سياقات غير مناسبة.
تابعنا علي منصة جوجل الاخبارية
[comment-form]

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الأسبوع

منذ ساعة واحدة

• الأسبوع

أيفون 17 بجميع فئاته.. «آبل» تعلن موعد طرح أحدث منتجاتها

هاتف أيفون 17 ياسمين الأمير تكشف شركة «آبل» خلال مؤتمر وبث مباشر عن تفاصيل إصدار هاتف iPhone 17 الجديد خلال الفترة القليلة المقبلة، وهذا الإطلاق هو الأخير بـ جدول الإصدارات الخريفية. موعد إصدار هاتف iPhone 17 وأوضحت شركة «آبل» أن طرح سلسلة iPhone 17، يكون خلال النصف الأول من شهر سبتمبر 2025 المقبل، وبدء الحجز المسبق يوم الجمعة الذي يلي الإعلان، ثم بدء الشحن بعد أسبوع. وتخطط «آبل» لتقسيم إطلاق هواتفها بدءاً من iPhone 18 بين فئات بأسعار منخفضة تصدر في النصف الأول من العام، والنماذج الاحترافية في النصف الثاني، على أن يبدأ في 2026. مميزات هاتف iPhone 17 وتخطط آبل لزيادة سعر هاتف iPhone 17، بسبب ارتفاع تكاليف التصميم وتقديم ميزات جديدة، وذلك من أجل تجنب إلقاء اللوم على الرسوم الجمركية بشكل مباشر، وذلك وفقا لما كشفت عنه صحيفة وول ستريت جورنال. تسريبات إصدار هاتف iPhone 17 - هاتف iPhone 17 Pro لونه الجديد لسلسلة iPhone 17 Pro وPro Max وهو الأزرق السماوي. - هاتف iPhone 17 Pro ينضم إلى مجموعة الألوان الكلاسيكية مثل الأبيض والأسود، وربما ألوان التيتانيوم التي تميزت بها الإصدارات السابقة. - هاتف iPhone 17 Pro يحصل على شريط كاميرا أفقي يمتد على عرض الهاتف، وهو تصميم شبيه بما رأيناه في هاتف Pixel 9 من جوجل. - هاتف iPhone 17 Pro كاميرا السيلفي، ستشهد ترقية من 12 ميجابكسل إلى 24 ميجابكسل في جميع موديلات iPhone 17. مواصفات هاتف iPhone 17 - هاتف iPhone 17 Pro يأتي بشاشة 120 هرتز (ProMotion)، وربما مع دعم الشاشة الدائمة التشغيل حتى في النسخة الأساسية. - هاتف iPhone 17 Pro شاشة مضادة للانعكاس مثل تلك الموجودة في Galaxy S25 Ultra ربما لن تكون ضمن المزايا بسبب مشاكل التصنيع. - هاتف iPhone 17 Pro موديل Pro Max، فقد تقلص آبل حجم حساس Face ID لتصغير حجم "الجزيرة الديناميكية" قليلًا، في حين سيظل حجمها كما هو في بقية الموديلات. - هاتف iPhone 17 Pro سعة الذاكرة العشوائية (RAM) في جميع موديلات iPhone 17 إلى 12 جيجابايت، مقارنة بـ8 جيجابايت في سلسلة iPhone 16. - هاتف iPhone 17 Pro الدعم لتمكين مزايا الذكاء الاصطناعي الجديدة التي تعزز تجربة المستخدم وتدمج نظام Apple Intelligence بشكل أوسع. - هاتف iPhone 17 Pro تتخلى عن إطار التيتانيوم في iPhone 17 Pro لصالح إطار من الألومنيوم، وهو تغيير قد يؤثر على وزن الهاتف وتكلفة الإنتاج. - تتراجع فيه بطارية iPhone 17 Air من أجل تصميم أنحف، تتحدث الشائعات عن احتمال حصول iPhone 17 Pro على تحسين في عمر البطارية بفضل استخدام معالج A19 Pro الجديد من آبل.

أخبار مصر

منذ ساعة واحدة

• أخبار مصر

Google I/O 2025 جوجل تكشف عن Imagen 4 محرك توليد الصور بالذكاء الاصطناعي مع دقة مذهلة في التفاصيل

Google I/O 2025 جوجل تكشف عن Imagen 4 محرك توليد الصور بالذكاء الاصطناعي مع دقة مذهلة في التفاصيل كشفت جوجل في مؤتمرها السنوي للمطورين I/O 2025 عن Imagen 4، الإصدار الأحدث والمطور من محركها لتوليد الصور، والذي يقدم تحسينات جذرية تتجاوز المشكلات السابقة في دقة عرض النصوص والتعامل مع التفاصيل المعقدة مثل الفراء. يستطيع النموذج الجديد التعامل مع مختلف نسب العرض إلى الارتفاع، وإنتاج صور تصل دقتها إلى 2K، مما يفتح آفاقاً جديدة للمصممين والمبدعين.يتميز Imagen 4 بجودة صور فوتوغرافية أكثر واقعية وتفاصيل أغنى، خاصةً في عرض القوام الدقيق مثل وبر الحيوانات، والأقمشة، وقطرات الماء. ولعل أبرز ما يميزه هو قدرته الفائقة على تهجئة الكلمات بشكل صحيح عند تضمين نصوص في التصاميم، وهو ما كان يمثل تحديًا للنماذج السابقة. أصبح Imagen 4 متاحًا للاستخدام بدءًا من اليوم عبر تطبيقات Gemini، وفي منصة Whisk، وضمن Vertex AI، بالإضافة إلى أدوات Google Workspace مثل العروض التقديمية (Slides)، والمستندات (Docs)، ومنصة إنشاء الفيديو Vids.وكانت جوجل قد قدمت في مؤتمر I/O للعام الماضي Imagen 3، الذي وُصف حينها بأنه أفضل مولد للصور من النصوص تقدمه الشركة، حيث تميز بقدرته على إنتاج صور بتفاصيل أدق وإضاءة أغنى وتشوهات أقل، كما أنه المحرك لتطبيق Pixel Studio في سلسلة هواتف Pixel 9. ويأتي إعلان…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه

أخبار مصر

منذ ساعة واحدة

• أخبار مصر

مستقبل الذكاء الاصطناعي في قبضة جوجل: كل ما أُعلن عنه في Google I/O 25

استعرضت جوجل في مؤتمرها السنوي Google I/O 2025 مجموعة واسعة من الإعلانات المُتعلقة بمُنتجاتها وخدماتها المُتنوعة، بما في ذلك نظام أندرويد، متصفح كروم، بحث جوجل، يوتيوب، وروبوت الدردشة الذكي Gemini.كما استضافت جوجل فعالية منفصلة مخصصة لتحديثات أندرويد تُعرف باسم 'Android Show'، حيث كشفت عن ميزات جديدة للعثور على الأجهزة المفقودة، تحسينات في برنامج الحماية المتقدمة، أدوات أمان لحماية المستخدمين من الاحتيال والسرقة، ولغة تصميم جديدة تُسمى Material 3 Expressive. فيما يلي، نُسلّط الضوء على أهم ما أعلنت عنه الشركة العملاقة في حدثها السنوي هذا العام. أهم إعلانات Google I/O 2025 فيما يلي تفاصيل شاملة لجميع إعلانات Google I/O 2025 التي كُشف عنها خلال المؤتمر.جيميناي ألترا أعلنت جوجل عن إطلاق باقة جيميناي ألترا 'Gemini Ultra'، وهي خدمة اشتراك مُتميزة مُتاحة حاليًا في الولايات المتحدة فقط بسعر 249.99 دولارًا شهريًا. توفر هذه الباقة 'أعلى مُستوى وصول' إلى تطبيقات وخدمات جوجل المدعومة بالذكاء الاصطناعي. تشمل الباقة:مُولّد الفيديو Veo 3: أداة مُتقدمة لإنشاء مقاطع فيديو باستخدام الذكاء الاصطناعي.تطبيق Flow: تطبيق جديد لتحرير الفيديو.وضع التفكير العميق (Deep Think) في نموذج Gemini 2.5 Pro: تقنيات بحث مُتطورة تسمح للنموذج بتحليل فرضيات مُتعددة قبل تقديم الإجابة، والذي يرفع دقته في المهام التي تتطلّب تفكيرًا عميقًا.حدود استخدام أعلى في منصة NotebookLM وتطبيق Whisk المُخصّص لمزج وتعديل الصور.إمكانية الوصول إلى روبوت الدردشة جيميناي داخل متصفح كروم.أدوات تفاعلية مدعومة بتقنية Project Mariner.اشتراك في يوتيوب بريميوم.مساحة تخزين سحابية تصل إلى 30 تيرابايت عبر جوجل درايف، صور جوجل، وGmail.وضع التفكير العميق (Deep Think) في Gemini 2.5 Pro يُعد وضع التفكير العميق تحسينًا لنموذج جيميناي 2.5 Pro، حيث يُتيح للنموذج التفكير في إجابات مُتعددة للأسئلة قبل تقديم الرد النهائي، والذي يرفع من أدائه في معايير مُحدّدة.لم يُكشف في Google I/O 2025 عن تفاصيل تقنية دقيقة حول كيفية عمل هذا الوضع، لكنه قد يشبه نماذج مثل o1-pro وo3-pro من OpenAI، التي تستخدم محركات بحث مُتقدمة لتقديم الحلول.يتوفر الوضع حاليًا للمُختبرين الموثوق بهم عبر واجهة برمجة تطبيقات Gemini، مع تأكيد جوجل على إجراء تقييمات سلامة إضافية قبل إتاحته على نطاق واسع.الروبوتات: من قصص الخيال العلمي إلى واقع يصنع المستقبل!نموذج Veo 3 لتوليد الفيديوهات كشفت جوجل عن Veo 3، وهو نموذج ذكاء اصطناعي مُتقدّم لتوليد الفيديوهات، يتميّز بقدرته على إنشاء مؤثرات صوتية، ضوضاء خلفية، وحوارات مُرافقة للفيديوهات.يُعد Veo 3 تحسينًا كبيرًا على سابقه Veo 2 من حيث جودة اللقطات. يتوفر النموذج بدءًا من الثلاثاء ضمن تطبيق جيميناي لمشتركي باقة Gemini Ultra، ويمكن تشغيله باستخدام نصوص أو صور كمدخلات.Imagen 4 لتوليد الصورأعلنت جوجل عن Imagen 4، وهو مُولّد صور مدعوم بالذكاء الاصطناعي يتميّز بسُرعة أكبر من سابقه Imagen 3، مع خطّط لإطلاق نسخة أسرع 10 مرات في المُستقبل القريب.يُمكن لـ Imagen 4 إنشاء صور واقعية وتجريدية بدقة تصل إلى 2K، مع القدرة على التعامل مع تفاصيل دقيقة مثل الأقمشة، قطرات الماء، وفرو الحيوانات.سيُستخدم كلُّ من Veo 3 وImagen 4 لتشغيل تطبيق Flow، وهو أداة جديدة لإنتاج وتحرير (تعديل) الفيديو مُخصصّة لصناعة الأفلام.تحديثات تطبيق Gemini أعلنت جوجل في مؤتمرها Google I/O 2025 أنّ تطبيقات جيميناي تضم أكثر من 400 مليون مُستخدم نشط شهريًا. ومن بين التحديثات الجديدة:إطلاق ميزات الكاميرا ومُشاركة الشاشة في…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه