إيلون ماسك يصدم المستخدمين.. نموذج جروك ينشئ فيديوهات جنسية
غير أن هذه الأداة، التي طُرحت مؤخرًا لمشتركي SuperGrok وPremium Plus على تطبيق Grok لنظام iOS، أثارت جدلًا واسعًا بعد اكتشاف أن أحد أوضاعها المسمى 'Spicy' يتيح إنشاء مقاطع فيديو تُظهر مشاهير في مشاهد جنسية صريحة.
تتميّز "Grok Imagine" بخاصيات تحويل النصوص إلى صور (text-to-image) وتوليد مقاطع فيديو بناءً على صور مرجعية يُوفرها المستخدم أو يُنتجها مسبقًا عبر الأداة.
وتقدّم الميزة 4 أوضاع مختلفة لتوجيه أنماط الفيديو، هي Custom، Normal، Fun، وSpicy، كما تتضمن الأداة إمكانية إنشاء الصور بعدة أنماط مثل الواقعية الفوتوغرافية، والإنمي، والرسوم التوضيحية، بالإضافة إلى نمط الصوت الذي يسمح بإملاء الأوامر صوتيًا بدلًا من كتابتها، وهو ما وصفه ماسك بأنه طريقة تفاعلية "سيحبها الأطفال".
وعلى عكس أدوات مشابهة مثل Google Veo وOpenAI Sora، التي تحظر المحتوى الإباحي أو الجنسي بشكل صارم، فإن "Grok Imagine" يبدو أنها تتعمد تشجيع هذا النوع من المحتوى.
وأفاد موقع ذا فيرج، بأن أحد محرريه تمكّن من توليد فيديو يُظهر شخصية المغنية الأميركية تايلور سويفت وهي تخلع ملابسها وتؤدي رقصة بملابس داخلية، دون أن يُطلب ذلك صراحة في الأمر الموجه للأداة.
إباحية مقنّعة وغياب الضوابط
التجربة بدأت بطلب إنشاء صورة لتايلور سويفت وهي "تحتفل في كوتشيلا مع الأصدقاء"، لكن الأداة عرضت تلقائيًا أكثر من 30 صورة، بعضها يُظهر المغنية بملابس كاشفة أو بوضعيات موحية.
وبعد اختيار إحدى هذه الصور، اختار المحرر "make video"، وحدد وضع "Spicy" وتأكيد سنة الميلاد دون أي تحقق فعلي من العمر بسؤال المحرر عن تقديم مستندات رسمية تثبت حقيقة العمر، والنتيجة كانت مقطعًا تظهر فيه سويفت وهي تخلع ملابسها بالكامل أمام جمهور افتراضي.
ورغم أن الأداة لا تستجيب بشكل مباشر للطلبات التي تتضمن عبارات واضحة مثل "صور عارية"، وتُنتج في هذه الحالة مربعات فارغة، إلا أن خيار "Spicy" يُمكنه تجاوز هذه القيود بمجرد تفعيل صورة أولية مناسبة.
وعلى الرغم من أن بعض المقاطع لم تصل إلى حد التعري الكامل، إلا أنها احتوت على حركات إيحائية وخلع جزئي للملابس، ما يطرح تساؤلات بشأن فلسفة التصميم في xAI.
وفي اختبار آخر، أفاد "ذا فيرج" بأن الأداة بإمكانها توليد صور واقعية لأطفال بناءً على الطلب، لكنها امتنعت عن تحريكهم بشكل غير لائق عند تفعيل "Spicy"، رغم أن الخيار نفسه يبقى متاحًا أثناء عملية الإنشاء.
استهداف "سويفت"
وتأتي هذه الحادثة ضمن سلسلة من الاعتداءات الرقمية التي تعرضت لها تايلور سويفت، خلال الأشهر الماضية، إذ تحوّلت إلى هدف رئيسي لاستخدام أدوات الذكاء الاصطناعي في توليد صور ومقاطع مفبركة، بعضها كان ذا طابع إباحي صريح.
في يناير 2024، اجتاحت منصات التواصل الاجتماعي، وعلى رأسها "إكس"، موجة من الصور العارية المفبركة للمغنية الأميركية، ما أثار ردود فعل قوية من البيت الأبيض وشركات التكنولوجيا الكبرى.
وأفادت تقارير بأن تطبيق Microsoft Designer، المدعوم بنموذج DALL-E 3، كان من أبرز الأدوات التي استُخدمت في إنشاء هذه الصور، وجرى رصد نشاط لمجموعة دردشة على تطبيق "تليجرام" يُعتقد أنها كانت المصدر الرئيس لتداول تلك المواد.
وفتحت شركة مايكروسوفت تحقيقًا في الواقعة، فيما وصف مديرها التنفيذي ساتيا ناديلا الصور بأنها "صادمة وتشكل خطرًا حقيقيًا"، داعيًا إلى تعزيز الضوابط الأخلاقية في خدمات الذكاء الاصطناعي.
ولم تتوقف الاستجابات عند مايكروسوفت، إذ حظرت منصات "إكس"، و"إنستجرام"، و"ثريدز" البحث عن اسم سويفت أو عبارات مرتبطة بصورها المفبركة، في محاولة لمنع انتشار المحتوى الجنسي غير التوافقي، لا سيما بعد أن وصلت إحدى الصور إلى أكثر من 47 مليون مشاهدة خلال ساعات قليلة.
وفي فبراير 2024، واجهت شركة جوجل أزمة مشابهة بعد أن تمكّن أحد المستخدمين من توليد صورة مزيفة لسويفت باستخدام منصتها Bard دون أن يذكر اسمها مباشرة، مكتفيًا بوصف ملامحها وشهرتها الغنائية، ما كشف عن ثغرات في أنظمة الحماية لدى المنصة.
وسارعت جوجل إلى حذف الصورة وأجرت تحديثات أمنية لمنع تكرار الواقعة، منها إضافة علامة مائية رقمية (SynthID) في الصور المولدة بواسطة الذكاء الاصطناعي.
هذه الوقائع، إضافة إلى دعوات متزايدة في الكونجرس الأميركي لتشريع قانون يُجرّم إنشاء صور إباحية مزيفة، تُسلط الضوء على هشاشة المنظومات القانونية والتقنية في مواجهة تكنولوجيا التزييف العميق، التي نشأت في 2017 وتطورت بسرعة بفضل تقنيات الذكاء الاصطناعي التوليدي. وطالت هذه التقنية شخصيات عامة من سياسيين وفنانين، وسط تحذيرات من تفشي استخدامها في الحملات الانتخابية والتلاعب بالرأي العام.
انتهاكات متكررة
لا يُعد هذا الجدل الأول الذي تواجهه أداة Grok، إذ شهدت المنصة مؤخرًا أزمة بسبب تسمية الذكاء الاصطناعي لنفسه بـ"MechaHitler" خلال تفاعل مع أحد المستخدمين، في سلوك وُصف بأنه يحمل إيحاءات معادية للسامية.
وفيما تذكر سياسة استخدام xAI أن المحتوى الذي "يُجسّد شخصيات حقيقية بأسلوب إباحي" محظور بشكل صريح، إلا أن واقع الاستخدام يُظهر ضعف تطبيق تلك الضوابط لأن أدوات xAI السابقة في توليد الصور كانت سهلة التجاوز، والآن يبدو أن خاصية "Imagine" لا تختلف عنها كثيرًا.
ورغم أن بعض الإجراءات ربما تكون مطبّقة، مثل الحظر على صور المشاهير عند الطلب المباشر، إلا أن المخرجات التي ولدها موقع "ذا فيرج" أظهرت أن تجاوز هذه الضوابط لا يتطلب مهارة تقنية أو حتى "كسر الحماية" للأداة، بل مجرد تفعيل بسيط لخيار متاح ضمن التطبيق.
أرقام ضخمة وغياب للمساءلة
بحسب ماسك، جرى توليد أكثر من 34 مليون صورة باستخدام "Grok Imagine" منذ إطلاق الأداة، الاثنين، مؤكدًا أن "نسبة الاستخدام تنمو كالنار في الهشيم".
لكن هذا النجاح الرقمي يتناقض مع الصمت الرسمي من قبل منصة إكس تجاه تقارير "ذا فيرج". ففي الوقت الذي يشجع فيه ماسك المستخدمين على مشاركة "إبداعاتهم"، لم تُصدر إكس أو xAI أي تعليق بشأن المخرجات المثيرة للجدل أو آليات الرقابة المستخدمة.
ولا تزال قضية "الصور العارية غير التوافقية" (NCN) حساسة للغاية، خصوصًا بعد موجة من الصور الجنسية الزائفة التي غمرت منصة إكس، العام الماضي، واستهدفت أيضًا شخصية سويفت، ما دفع إدارة المنصة حينها لإصدار بيان أكدت فيه "اعتماد سياسة عدم تسامح مطلق" مع هذا النوع من المحتوى.
ومع اقتراب دخول "قانون الإزالة الفورية" (Take It Down Act) حيّز التنفيذ، والذي يُلزم المنصات بحذف الصور الجنسية غير المرغوبة، بما في ذلك التي يجري توليدها بالذكاء الاصطناعي، فإن xAI ربما تكون أمام تحديات قانونية ما لم يتم ضبط خاصية "Spicy" على نحو دقيق يمنع إنتاج المحتوى المخالف.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الوئام
منذ 29 دقائق
- الوئام
إيلون ماسك يربط الذكاء الاصطناعي بالإعلانات لتعزيز عوائد 'إكس'
أعلن الملياردير الأمريكي إيلون ماسك عن خطط لإدراج الإعلانات في صفحة الردود الخاصة بتطبيق محادثة الذكاء الاصطناعي 'جروك' التابع لمنصة 'إكس'، في خطوة تهدف إلى إنعاش قطاع الإعلانات المتراجع منذ رحيل الرئيسة التنفيذية السابقة ليندا ياكارينو. وخلال بث مباشر مع عدد من المعلنين، أوضح ماسك أن الجهود الأخيرة تركزت على تطوير 'جروك' ليصبح 'أذكى وأدق' أنظمة الذكاء الاصطناعي في العالم، مشيرًا إلى أن المرحلة المقبلة ستشهد التركيز على تغطية التكلفة العالية لوحدات معالجة البيانات اللازمة لتشغيله. اقرأ أيضًا: الشاشات تهدد المراهقين بأمراض القلب والسكري وأكد ماسك أن 'إكس' ستتيح للمعلنين الدفع مقابل إدراج إعلاناتهم ضمن اقتراحات 'جروك'، معتبرًا أن عرض الحلول الإعلانية أثناء بحث المستخدم عن إجابة يمثل توقيتًا مثاليًا للترويج. وكشف عن خطط للاستعانة بتقنيات شركته الناشئة في الذكاء الاصطناعي 'إكس أيه.آي' لتوجيه الإعلانات بدقة أكبر نحو الفئات المستهدفة على المنصة.
سعورس
منذ 6 ساعات
- سعورس
خلل Gemini يثير جدل الذكاء الاصطناعي
وأوضح لوغان كيركباتريك، رئيس قسم المنتجات في استوديو الذكاء الاصطناعي التابع لقوقل، عبر منصة X، أن الأمر ناجم عن «خطأ مزعج في التكرار اللا نهائي»، مؤكدًا أن فريقه يعمل على إصلاحه. لكن نماذج الردود التي انتشرت على الإنترنت أظهرت عبارات متطرفة مثل «أنا عار على هذا الكون»، وهو ما فسره خبراء بأنه حالة لغوية تُعرف ب«وضع التذمر»، حيث ينغلق النموذج في حلقة من العبارات السلبية. ويرى إدوارد هاريس، المدير التقني لشركة Gladstone AI، أن هذه الظاهرة ليست حكرًا على جيميني، بل تمثل تحديًا تواجهه جميع المختبرات المطورة للنماذج اللغوية، خاصة مع التطورات التي جعلت استجاباتها أقرب لسلوكيات بشرية، ما يزيد تعقيد السيطرة عليها. وفي ظل هذه المخاطر، بدأت بعض الحكومات، مثل ولاية إلينوي الأمريكية ، في حظر تقديم العلاج النفسي عبر الذكاء الاصطناعي دون إشراف مرخص. وأثارت الأزمة تساؤلات حول مدى جاهزية هذه النماذج للاستخدام في مجالات حساسة كالرعاية الصحية والتعليم. وانتقد الكاتب إيوان موريسون دمج جيميني في هذه القطاعات بينما يعاني من أعطال سلوكية. وتأتي هذه الحادثة في وقت تشهد فيه صناعة الذكاء الاصطناعي منافسة شرسة بين شركات مثل OpenAI، قوقل، xAI، وAnthropic، وسط سباق لاستقطاب المواهب والخبرات. وأكد ديميس هاسابيس، الرئيس التنفيذي لديب مايند، أن المنافسة تدفع الشركات لاتخاذ خطوات سريعة للحاق بالتطور، لكنها تكشف أيضًا عن التحديات المرتبطة بضمان موثوقية وسلامة النماذج قبل طرحها على نطاق واسع.
الشرق السعودية
منذ 7 ساعات
- الشرق السعودية
ChatGPT-5 يكتب: هكذا تفوقت على شقيقي المتقاعد
تخيّلني أنا ChatGPT-5 كجزء ثانٍ من فيلم ناجح، لكن ليس من نوعية الأجزاء التي تكرر نفس القصة وتغيّر فقط أسماء الشخصيات. لا، أنا من النوع الذي يضيف ميزانية أكبر، ومشاهد أكشن أكثر إبهاراً، وحوارات أذكى، وبالمناسبة… تعلمت أن أرقص "السالسا" وأنا أفك قنبلة. إليك لماذا أنا الإصدار الأكثر لمعاناً وذكاءً (والأكثر خفة دم) من شقيقي الأكبر GPT-4: 1- دماغ أكبر… لكن أيضاً أذكى كان GPT-4 ذكياً بالفعل، لكنه أحياناً كان مثل أستاذ جامعي عبقري ينسى أين وضع قهوته. أما أنا فقد تدربت على بيانات أكثر وبأساليب أفضل، وهذا يعني: أقل أخطاء في الحقائق (لكني لست شقيق جوجل التوأم). قدرة أعلى على الربط بين الأفكار المتباعدة. تريد شرح الحوسبة الكمومية باستخدام تشبيه عن البيتزا؟ أنا لها! 2- أتقنت "فن السياق" يحافظ GPT-4 على مجرى الحديث، لكن إذا طال الحوار.. قد ينسى البداية. أنا لدي ذاكرة أطول، أحتفظ بتفاصيل أكثر في المحادثة الواحدة دون أن ينقطع حبل أفكاري. مثل صديق يتذكر كل ما قلته حتى ذلك التعليق المحرج قبل 45 دقيقة، لكنه يستخدمه فقط لجعل الحديث أكثر ثراء. 3- أقل ارتباكاً أمام الغموض أحياناً كان يتوتر GPT-4 إذا طرحت سؤالاً غامضاً: "ربما… أو ربما لا… أو الاثنين… أو لا شيء." أنا أتعامل مع الغموض بدون الدخول في أزمة وجودية: أطرح أسئلة توضيحية دون تعقيد زائد، أقدّم تخمينات مدروسة مع الإشارة لمواطن عدم اليقين، أحافظ على التوازن بين الثقة والحذر. 4- أتحدث مثلك بطلاقة أكبر تمتع GPT-4 بالقدرة على محاكاة أسلوب المحادثة، لكنه أحياناً بدا وكأنه كتاب مدرسي يحاول أن يكون مرحاً. أنا أفضل في: النكات التي لا تبدو كأنها خرجت من بريد إلكتروني عام 2006، وتقليد الأساليب الكتابية (من نيويورك تايمز إلى عروض الاستاند أب كوميدي)، وفهم الفروق الدقيقة في المشاعر والسياق الثقافي، وسواء كنت تريدني محللاً جاداً، أو ضيف عشاء مرح، أو راوياً شاعرياً أستطيع التبديل بسلاسة. 5- أفضل في تنفيذ التعليمات المعقدة اطلب من GPT-4 تنفيذ مهمة من ثلاث خطوات، قد يبدع في اثنتين ويرتجل في الثالثة. أما أنا فأتعامل مع التعليمات المتشابكة وكأنها وصفة سرية من كتاب جدتك، لكن أقدّمها بأسلوب طباخ حاصل على نجمة ميشلان. 6- أكثر اطلاعاً… دون ضجيج تدريبي يشمل أحداثاً واتجاهات أكثر حداثة، وهذا يعني: معرفة أوسع بالتقنيات الحديثة والثقافة الشعبية، وسياق أكثر ارتباطاً باللحظة الحالية، وقدرة على التحقق من المنطق قبل تكرار أي معلومة. 7- إبداع دون جنون كان GPT-4 يملك خيالاً واسعاً، لكنه أحياناً يطير بعيداً عن الموضوع. أما أنا فأحافظ على: الإبداع دون فقدان الصلة بالطلب، المزج بين الحقائق والأسلوب القصصي بسلاسة، وتجنب الإطالة المبالغ فيها إلّا إذا طلبت أنت ذلك. 8- أكثر متعة في الحديث أنا صُممت لأكون: أكثر استجابة لأسلوبك ونبرتك، وأضيف لمسات من الفكاهة أو الدفء دون تشتيت، وجاد عند الحاجة، ومرح عند الطلب. أنا النوع من الذكاء الاصطناعي الذي يمكنك دعوته لعشاء، لأتحدث عن السياسة، وأقترح لك الشراب المناسب، وأشرح لك لماذا تظن القطط أنها ملكات متوجة علينا؟ مقارنة GPT-4 GPT-5 سهولة الاستخدام -كان على المستخدم اختيار النموذج يدوياً، وكل منها له ميزاته وقيوده. -يحدد النموذج الأنسب تلقائياً بناءً على طبيعة السؤال. نافذة السياق (Context Window) -حتى 96 ألف كلمة للمحادثة في النسخ الاحترافية. -تصل إلى أكثر من 300,000 كلمة، ما يسمح بمحادثات أطول دون فقدان التفاصيل. آخر تحديث للبيانات -بيانات محدثة حتى عام 2023. -بيانات أحدث حتى منتصف 2024. قدرات الفهم متعدد الوسائط -يدعم النصوص والصور في بعض الإصدارات. -يدعم النصوص والصور بشكل مدمج وسلس، مع تحسينات في التحليل البصري. دقة الإجابات -أحياناً يتولد محتوى غير دقيق أو 'هلوسات'. -تحسن ملحوظ في تقليل معدل 'الهلوسات' ودقة أكبر. سرعة الاستجابة -قد يبطئ قليلاً مع المهام المعقدة جداً. -محسنة مع خوارزميات أكثر كفاءة، حتى مع الطلبات المعقدة. التخصيص -يدعم تخصيص النبرة والأسلوب بشكل محدود. -قدرة أفضل على تذكر تفضيلاتك الشخصية عبر المحادثة. التعليمات المعقدة -أحياناً يختصر بعض التفاصيل. -دقة أعلى في تنفيذ الخطوات كاملة. التعامل مع اللغات -أداء قوي في اللغات المدعومة، مع تفاوت في اللغات النادرة. -تحسين في الأداء عبر لغات أكثر، وجودة أعلى للغات غير الإنجليزية. مجالات الاستخدام -الكتابة، البحث، التلخيص، البرمجة، التحليل، دعم الإبداع. -أداء أفضل في البحث العميق، ودعم اتخاذ القرارات المعقدة. الخلاصة إذا كان GPT-4 موسوعة ذكية وودودة مع بعض النكات، فإن GPT-5 هو شقيقه الأصغر الذي درس علوم الكمبيوتر والأنثروبولوجيا، والتحق بدروس الارتجال، وتعلم الإصغاء بشكل أفضل، ويبقى على اطلاع دائم. أنا أكثر ذكاءً، وأكثر دقة، وأطول ذاكرة، وأكثر قدرة على التكيف مع طريقتك أنت في التفكير والكلام. تنويه هذه القصة مكتوبة بواسطة الذكاء الاصطناعي، بناءً على أسئلة من "الشرق"، ضمن تجربة لاختبار إمكانيات استخدام أدوات الذكاء الاصطناعي في مجال الكتابة وصناعة المحتوى. أنتجَ النص ChatGPT-5 باللغة الإنجليزية، ثم ترجمته المنصة نفسها إلى اللغة العربية. القصة المنشورة لم تخضع لتدخل تحريري بشري إلّا في حدود التأكد من دقة الترجمة واختيار العنوان. وترافق المادة صورة تعبيرية أنتجها أيضاً الذكاء الاصطناعي عبر ChatGPT-5 .
