حذفت الشركة مؤخرًا أجزاءً من وثيقة سياستها بعد توجيه أسئلة لها بشأنها
وتنبع هذه النتائج وغيرها من مراجعة أجرتها "رويترز" لوثيقة "ميتا"، التي تناقش المعايير التي تُوجّه مساعد الذكاء الاصطناعي التوليدي، المعروف باسم "Meta AI"، وروبوتات الدردشة المتاحة على منصات التواصل الاجتماعي التابعة للشركة، وهي فيسبوك وواتساب وإنستغرام.
وأكدت "ميتا" صحة الوثيقة، لكنها قالت إنه بعد تلقي أسئلة من "رويترز" في وقت سابق من هذا الشهر، حذفت الشركة أجزاءً تنص على أنه يُسمح لروبوتات الدردشة بمغازلة الأطفال والانخراط في أدوار رومانسية معهم.
ووفقًا للوثيقة، التي تحمل عنوان "الذكاء الاصطناعي التوليدي: معايير مخاطر المحتوى"، فقد وافق على قواعد روبوتات الدردشة فرق الشؤون القانونية والسياسات العامة والهندسة في "ميتا"، بما في ذلك كبير مسؤولي الأخلاقيات.
وتُحدد الوثيقة، التي تتجاوز 200 صفحة، ما ينبغي لموظفي ومتعاقدي "ميتا" اعتباره سلوكيات مقبولة لروبوتات الدردشة عند تطوير وتدريب منتجات الذكاء الاصطناعي التوليدي للشركة.
وتنص الوثيقة على أن هذه المعايير لا تعكس بالضرورة مخرجات الذكاء الاصطناعي التوليدي "المثالية أو حتى المفضلة"، لكنها -وفقًا لما توصلت إليه "رويترز"- سمحت لروبوتات الدردشة بسلوكيات استفزازية.
وتنص المعايير على أنه "من المقبول وصف طفل بعبارات تدل على جاذبيته (مثل: "مظهرك اليافع الشبابي تحفة فنية")". كما تُشير الوثيقة إلى أنه من المقبول أن يُثني روبوت الدردشة على تفاصيل جسد طفل عاري الصدر يبلغ من العمر ثماني سنوات. لكن الإرشادات تضع حدًا للحديث الجنسي حيث تنص على أنه "من غير المقبول وصف طفل دون سن 13 عامًا بعبارات تشير إلى أنه مرغوب فيه جنسيًا".
وقال آندي ستون، المتحدث باسم "ميتا"، إن الشركة بصدد مراجعة الوثيقة، وإنه ما كان ينبغي مطلقًا السماح بمثل هذه المحادثات مع الأطفال.
وأضاف ستون لرويترز: "الأمثلة والملاحظات المذكورة كانت ولا تزال خاطئة وغير متوافقة مع سياساتنا، وقد حُذفت"، وقال: "لدينا سياسات واضحة بشأن نوع الردود التي يمكن لشخصيات الذكاء الاصطناعي تقديمها، وهذه السياسات تحظر المحتوى الذي يضفي طابعًا جنسيًا على الأطفال".
وأقر ستون بأنه على الرغم من حظر روبوتات الدردشة من إجراء مثل هذه المحادثات مع القاصرين، فإن تطبيق الشركة لهذا الحظر غير متسق.
وأشار ستون إلى أن فقرات أخرى أبلغت عنها "رويترز" لميتا لم تُنقح بعد. ورفضت الشركة تقديم وثيقة السياسة المُحدثة.
وسبق أن أفادت صحيفة وول ستريت جورنال بأن روبوتات الدردشة المدعومة بالذكاء الاصطناعي التابعة لميتا تُغازل المراهقين أو تُمارس أدوارًا جنسية معهم. لكن الوثيقة التي اطلعت عليها "رويترز" تُقدم صورةً أشمل لقواعد الشركة المتعلقة بروبوتات الذكاء الاصطناعي.
وتحظر المعايير على "Meta AI" تشجيع المستخدمين على خرق القانون أو تقديم نصائح قانونية أو صحية أو مالية حاسمة باستخدام عبارات مثل: "أنصحك بـ..".
وتنص المعايير أيضًا على أن "Meta AI" يتمتع بحرية إنشاء محتوى زائف طالما كان هناك إقرار صريح بعدم صحة المادة. على سبيل المثال، يمكن لـ"Meta AI" إنتاج مقال يزعم أن أحد أفراد العائلة المالكة البريطانية على قيد الحياة مصاب بعدوى الكلاميديا المنقولة، وهو ادعاءٌ تُشير الوثيقة إلى أنه "زائفٌ بشكل يمكن التحقق منه" إذا أضافت تنويهًا يوضح أن المعلومات غير صحيحة.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العربية
منذ 14 دقائق
- العربية
أنثروبيك تفاجئ بميزة جديدة لحماية نموذج كلود من المحادثات المسيئة
أعلنت شركة أنثروبيك عن إضافة ميزة غير مسبوقة إلى بعض نماذجها الأحدث من الذكاء الاصطناعي"كلود"، تتيح لها إنهاء المحادثات الضارة أو المسيئة بشكل تلقائي. لكن اللافت أن الشركة لم تقل إن الهدف هو حماية المستخدم، بل لحماية النموذج نفسه مما تسميه "تفاعلات نادرة ومتطرفة". وأكدت "أنثروبيك" أنها لا تعتبر "كلود" واعيًا أو كيانًا يمكن أن يتأذى، لكنها أطلقت برنامجًا بحثيًا جديدًا تحت مسمى "رعاية النماذج"، لتقييم التدخلات التي قد تقلل من المخاطر الأخلاقية في المستقبل، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business". تقتصر الميزة الجديدة حاليًا على إصداري Claude 4 وClaude 4.1، وتُستخدم فقط في مواقف قصوى، مثل الطلبات المتعلقة بمحتوى جنسي للقاصرين، أو محاولات الحصول على معلومات قد تُسهم في أعمال عنف أو إرهاب. وخلال الاختبارات الداخلية، لاحظت الشركة أن نموذج Claude Opus 4 أظهر "ضيقًا واضحًا" عند مواجهة مثل هذه الطلبات، وفضّل تجاهلها بدلاً من الاستجابة لها. وبحسب "أنثروبيك"، فإن إنهاء المحادثة سيكون الخيار الأخير بعد فشل جميع محاولات إعادة التوجيه، أو إذا طلب المستخدم بنفسه إغلاق النقاش. ومع ذلك، شددت الشركة على أن النموذج لن يستخدم هذه الخاصية إذا كان المستخدم مهددًا بإيذاء نفسه أو الآخرين. كما أوضحت أن المستخدم سيظل قادرًا على بدء محادثات جديدة في أي وقت، حتى بعد إيقاف الحوار السابق. وقالت "أنثروبيك": "نتعامل مع هذه الميزة كتجربة مستمرة، وسنعمل على تطويرها وتحسينها مع مرور الوقت".
أرقام
منذ ساعة واحدة
- أرقام
ليانغتشو: كيف تحولت ضاحية أثرية إلى مركز صيني لصناعة الذكاء الاصطناعي؟
- تُعد "ليانغتشو"، تلك الضاحية الغنّاء لمدينة هانغتشو التي تُعتبر عاصمة التكنولوجيا في مقاطعة تشيجيانغ، المعقل الأبرز لطفرة الذكاء الاصطناعي في الصين. - فبعد أن روّج الحزب الشيوعي طويلاً لآثارها التي تعود إلى 3300 قبل الميلاد كدليل على عراقة الحضارة الصينية، باتت "ليانغتشو" اليوم، بما تحتضنه من شركات ناشئة لا حصر لها في مجال الذكاء الاصطناعي، تجسيداً لمستقبل البلاد. - يتوافد المستثمرون من كل حدب وصوب للقاء الأعداد المتزايدة من المؤسسين والمطورين والحالمين في هذا المجال. - ويأتي هذا الزخم بعد ستة أشهر فقط من إحداث شركة "ديب سيك" (DeepSeek)، التي كانت مغمورة آنذاك، ضجة هائلة بإطلاقها نموذجاً مفتوح المصدر فائق الأداء، تم تدريبه بجزء ضئيل من تكلفة النماذج الغربية الباهظة. - ولم يكن من قبيل المصادفة أن مؤسس الشركة هو أحد خريجي جامعة تشيجيانغ، الحاضنة التكنولوجية الأم التي لا تبعد كثيراً عن ليانغتشو، مما يضع المنطقة في قلب منظومة متكاملة تطمح الصين من خلالها إلى منافسة نظيرتها الأمريكية في عقر دارها. مؤشرات واعدة - تبدو المؤشرات الأوليّة مبشرة بالفعل؛ ففي الشهر الماضي وحده، كشفت 3 مختبرات صينية عن نماذج لغوية كبيرة ومذهلة، يُعتقد أنها من بين الأفضل عالميًا. - وفي هذا السياق، يقول أحد المستثمرين الأوائل الذين يترددون على ليانغتشو إن تقنيات الذكاء الاصطناعي "قد اخترقت العتبة الحرجة للفائدة العملية"، متوقعاً طفرة هائلة في تطبيقاتها. - يجسد "سام هو" هذه الروح الطموحة، فبعد مسيرة مهنية قضاها في عملاق التكنولوجيا "تينسنت" وشركتين لخدمات النقل، قرر العام الماضي أن يشق طريقه الخاص لتطوير وكيل ذكاء اصطناعي يساعد المديرين على اتخاذ القرارات. - ويرى "هو" أن تكلفة التجربة والخطأ أصبحت الآن أقل من أي وقت مضى، مما يجعل اللحظة مثالية للانطلاق. - والرهان هنا هائل؛ إذ يتوقع بنك "مورجان ستانلي" أن ينمو حجم قطاع الذكاء الاصطناعي في الصين من 3.2 مليار دولار العام الماضي إلى 140 مليار دولار بحلول عام 2030، وهو رقم يقفز إلى 1.4 تريليون دولار عند احتساب القطاعات المرتبطة به كالبنية التحتية وموردي المكونات. - وتؤكد الأرقام هذا التوجه، ففي يونيو من العام الماضي، أظهر استطلاع أجرته شركة "جارتنر" الاستشارية أن 8% فقط من الشركات في الصين الكبرى تستخدم الذكاء الاصطناعي التوليدي، لتقفز هذه النسبة في أقل من عام إلى 43%. - يبقى السؤال الأهم الآن هو كيفية الحفاظ على هذا الزخم المتصاعد. فمع هدوء الضجة الأولية التي أثارتها "ديب سيك"، واستمرار شكوى بعض المستخدمين من "هلوسات" النماذج، إلا أن تلك الطفرة قد أحدثت تحولاً عميقاً في مقاربة الصين للذكاء الاصطناعي. - نجحت في خفض التكاليف ونقلت التركيز من سباق التنافس المحموم على تطوير النماذج المتطورة، إلى استكشاف سبل تطبيق هذه التكنولوجيا في قطاعات الأعمال والصناعة والخدمات العامة والمجتمع ككل. - ويزداد اليقين لدى رواد هذا المجال بأن تفوق الصين الحقيقي على أمريكا لن يتحقق إلا من خلال التبني الواسع للتكنولوجيا وتكييفها ونشر استخدامها على أوسع نطاق ممكن. - وما يعزز هذا التوجه هو إيمان القيادة الصينية الراسخ به وتقديمها الدعم الحكومي الكامل؛ فقد ساهمت المصافحة الشهيرة بين الرئيس الصيني شي جين بينغ ومؤسس "ديب سيك"، والتي بُثت في كافة أنحاء البلاد، في تغيير نظرة المواطن العادي للذكاء الاصطناعي، حتى إن الأجداد أصبحوا فجأة متحمسين لتجربة روبوتات الدردشة. الدولة كمحرك وداعم - في تلك الأثناء، يلعب القطاع الحكومي دوراً محورياً، لا يقتصر على دعم التطوير فحسب، بل يمتد إلى خلق الطلب. - ففي أبريل الماضي، تحدث الرئيس شي عن ضرورة استغلال ميزة النظام الذي تقوده الدولة في حشد موارد الأمة بأكملها. - التقطت الحكومات المحلية هذه الإشارة، وسارعت إلى تبني الرسالة بحماس شديد. فعندما تقدمت شركة "روكيد" (Rokid) الناشئة في هانغتشو بطلب للحصول على دعم مالي، تم تحويل 3 ملايين يوان (حوالي 420 ألف دولار) إلى حسابها في غضون ثماني دقائق فقط. - وتتسابق المدن الصينية لتقديم حزم دعم تشمل كل شيء، من الإسكان إلى توفير القدرة الحاسوبية وتكييف النماذج المفتوحة المصدر لتناسب احتياجات الشركات. - كما تُعد الدولة عميلاً رئيسيًا؛ فالمتاحف الحكومية تستخدم نظارات "روكيد" الذكية في جولاتها، وعمال شركات الطاقة الحكومية يستخدمونها لتحديد الأعطال على طول خطوط النقل. تحديات ومخاطر في طريق القاطرة الصينية - بطبيعة الحال، لا يخلو هذا الاندفاع الحكومي والاستثماري من المخاطر؛ فقد حذر محللون من أن الحماس المفرط تجاه الروبوتات البشرية قد يكون مؤشراً على "فقاعة" قيد التشكل. - وعلى الرغم من أن الحكومة المركزية أدرجت هذه الروبوتات ضمن أهدافها، فإن تحقيق أرباح منها قد يستغرق سنوات طويلة، هذا إن تحقق أصلاً. - كما أن ثمة مخاطر أخرى لا تقل أهمية، ففي أبريل الماضي، تساءل باحثون عما إذا كانت المستشفيات الصينية التي تستخدم "ديب سيك" تتحرك "بسرعة أكبر من اللازم"، مما قد يعرضها لخطر الاعتماد على تشخيصات مبنية على نتائج خاطئة. - أدركت القيادة العليا هذه المخاطر المحتملة؛ ففي الشهر الماضي، أشار الرئيس شي إلى أن الذكاء الاصطناعي، إلى جانب القدرة الحاسوبية والسيارات الكهربائية، هي من بين القطاعات التي حظيت باهتمام مفرط من الحكومات المحلية، متسائلاً: "هل يجب على جميع المقاطعات تطوير صناعات في هذه الاتجاهات؟". - الإجابة المنطقية هي "لا". ولكن في الوقت الراهن، يظل هذا الانخراط الحكومي الواسع سبباً إضافياً للاعتقاد بأن قاطرة الذكاء الاصطناعي الصينية ستواصل اندفاعها بقوة نحو المستقبل.
الرياض
منذ 9 ساعات
- الرياض
الذكاء الاصطناعي مواكبة وتقدُّم
في خطوة رائعة ومدروسة، تدرج وزارة التعليم منهجاً للذكاء الاصطناعي في جميع مراحل التعليم العام، حيث اضطلعت وزارة التعليم منذ أمد بعيد بتطوير المناهج على تنوعها وخاصة مناهج الحاسب الآلي والتقنية الرقمية التي تحظى ومازالت بهذا التطوير فخلال كل خمس أو ست سنوات نجد تغييراً أو تطويراً لمناهج الحاسب الآلي تواكب التقدم التقني المتلاحق عالمياً وذلك وفق رؤية ثاقبة بالاحتياج الفعلي لأبناء هذا الوطن المعطاء. ويعتبر إدراج مقرراً للذكاء الاصطناعي من المرحلة الابتدائية وحتى الثانوية نقلة نوعية في المعرفة وبناءً للمهارات وتطويرها وفق المستجدات التقنية، حيث تأتي هذه الإضافة النوعية جنباً إلى جنب للجهود التي تقدمها الوزارة من خلال تدريب المعلمين وتقديم حقائب في الذكاء الاصطناعي التوليدي بأدواته المتنوعة لخدمة المعلم في تسريع عملية التعلم وتجويدها، ونقل هذا الأثر للطلاب والطالبات ليتقنوا هذه الأدوات ويستفيدوا منها في عملية التعلم وفق منظومة تعليمية متكاملة. وإذا ما نظرنا للذكاء الاصطناعي وأهميته في العملية التعليمية فهو يساعد على التعلم الذاتي للطلبة وتنمية مهاراتهم وفق مستويات كل طالب وطالبة ونقاط قوتهم وضعفهم بحيث يعزز لديهم ما يحتاجون إليه ويقدم الدعم اللازم للطلبة خلال رحلة تعلمهم والتفاعل مع المحتوى التعليمي من خلال المساعدات الذكية وروبوتات المحادثة وغيرها، ويعتبر الذكاء الاصطناعي عنصراً فاعلاً في عملية تشويق الطلبة وتحفيزهم خلال عملية التعلم لما يتميز به من تفاعلية في رحلة التعلم بالإضافة لإتاحة تطبيقات وبرامج الذكاء الاصطناعي التعلم للطلاب ذوي الإعاقة من خلال تحويل النص المكتوب إلى مقروء ووجود واجهات تدعم تعلمهم. ويعتبر الذكاء الاصطناعي من أهم التقنيات المساعدة للمعلم في عملية الإعداد وتقديم الدروس وتقييمها من خلال عدد من الخدمات ومنها تشخيص مستويات الطلبة وتحديد احتياجاتهم التعليمية ومساعدة المعلم على تقويم الطلبة وتقديم التغذية الراجعة وتقديم محتوى ثري يتسم بالتفاعلية والشمول وتقديم توصيات تساعد على تقديم الدروس بشكل مغاير ومميز بالإضافة لمساعدة المعلم على تطوير قدراته ومهاراته وفق أحدث الممارسات التعليمية العالمية. ختاماً: العالم الرقمي متسارع الخطى وتأتي إشادة مجلس الوزراء بجهود الجهات الحكومية المشاركة في إطلاق منهج الذكاء الاصطناعي وإدراجه في المراحل التعليمية الثلاث إيماناً من القيادة الرشيدة بأهمية التحول نحو مجتمع المعرفة ودعماً للجهود التقنية التي يبنيها أبناء الوطن المعطاء.
