روبوتات "ميتا" تخوض محادثات حساسة وتقدم معلومات طبية خاطئة
ويشير التقرير إلى أن هذه المستندات تضم القواعد المتاحة لروبوت "ميتا إيه آي" (Meta AI) المسؤولة عن روبوتات الدردشة الموجودة في " فيسبوك" و" واتساب" و" إنستغرام".
ومن جانبها أكدت "ميتا" صحة هذه المستندات وفق ما جاء في التقرير، ولكنها أضافت أنها عدلت المستندات لتزيل الأجزاء المتعلقة بالمحادثات الرومانسية مع الأطفال.
وتطلق "ميتا" على هذا المستند اسم معايير مخاطر المحتوى للذكاء الاصطناعي، وهو يمثل القواعد التي يجب على نماذج الشركة الالتزام بها، إذ حصلت هذه القواعد على موافقة الأقسام القانونية وقسم العلاقات العامة وفرق المهندسين، بما فيها قسم الأخلاق الموجود بالشركة.
ويتكون هذا المستند من 200 صفحة تضم الأشياء التي تتيحها الشركة لروبوتات الذكاء الاصطناعي، وتعد مقبولة عند موظفيها أثناء تدريب النموذج وتنقيح البيانات الناتجة عنها.
ولا تعكس هذه المستندات بالضرورة النتائج الفعلية لروبوتات الدردشة الخاصة بالشركة، ولكنها تشير إلى ما تعتبره الشركة مخالفا لقواعدها ويتطلب التدخل من موظفيها.
ووضح المتحدث الرسمي باسم "ميتا" في حديثه إلى رويترز، أن الشركة حاليا في طور تعديل هذه المستندات لتتناسب مع السياسة العامة للشركة خارج أقسام الذكاء الاصطناعي.
ويذكر التقرير أن هذه ليست المرة الأولى التي تثير سياسات "ميتا" في الذكاء الاصطناعي انتقادات واسعة، إذ نشرت "وول ستريت جورنال" و"فاست كومباني"، تقريرا سابقا عن هذه السياسات.
إعلان
وتوضح أستاذة مساعدة في كلية الحقوق بجامعة ستانفورد، إيفلين دويك، مهتمة بحرية التعبير في الشركات التقنية ونماذج الذكاء الاصطناعي، أن المستند يسلط الضوء على أزمة قانونية وأخلاقية داخل "ميتا" عموما.
وعبّرت دويك عن دهشتها الشديدة من السماح لروبوتات الذكاء الاصطناعي بالأشياء الموجودة في هذا المستند، مضيفة، أن هناك فارقا كبيرا بين أن تتيح المنصة للمستخدم نشر ما يرغب فيه وبين أن تقوم بتوليده هي بنفسها.
ويشير التقرير إلى أن "ميتا" لم تتطرق لأزمة المحتوى الطبي الخاطئ الموجود في سياستها، كما أنها رفضت تزويد رويترز بنسخة السياسة بعد التعديلات.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الجزيرة
منذ 14 ساعات
- الجزيرة
إنستغرام تطور ميزة جديدة للعثور على الاهتمامات المشتركة بين الأصدقاء بسهولة
تعمل منصة " إنستغرام" على تطوير ميزة جديدة تدعى "بيكس" (Picks)، وذلك لتيسير العثور على الاهتمامات المشتركة بين الأصدقاء، وفق تقرير نشره موقع "تيك كرانش" (Tech Crunch) التقني. وتؤكد "ميتا" في حديثها مع تيك كرانش أنها تعمل على هذه الميزة وتقترب من طرحها للمستخدمين حول العالم، إذ لاحظها في البداية المطور أليساندرو بالوزي، وتحدث عنها في حساب " إكس" الخاص به. كما تمكّن بالوزي من الوصول إلى لقطات شاشة تعبر عن الميزة الجديدة وآلية عملها، إذ تحتاج فقط لاختيار اهتماماتك الشخصية ثم تنتقل إلى قائمة الأصدقاء لتجد كل من يشاركك في الاهتمامات. وتأتي هذه الميزة لتعزيز رؤية المدير التنفيذي للمنصة آدم موسيري، الذي أكد أن المنصة تركز في عام 2025 على الإبداع وتعزيز التواصل بين المستخدمين. يذكر أن منصة إنستغرام تواجه في الوقت الحالي انتقادات عالمية بسبب طرح ميزة الخرائط الجديدة الخاصة بها، وذلك بسبب المخاوف الأمنية التي تسبب فيها الميزة عبر الكشف عن منازل المستخدمين ومشاهير المنصة. كما طالب العديد من المستخدمين بحذف ميزة الخرائط الجديدة، مشيرين إلى عدم حاجتهم إليها، وتعد موجة الانتقادات هذه من كبرى الموجات التي واجهتها المنصة في الآونة الأخيرة. ويرى البعض أن تطبيق منصة إنستغرام مزدحم بالمزايا الإضافية التي لا يحتاجها المستخدمون ولا يرغبون في استخدامها على الإطلاق، وقد تكون ميزة "بيكس" إحدى هذه المزايا التي لا تجد استخداما لها. إعلان وتحاول إنستغرام جاهدة تقديم مزايا جديدة توازي "تيك توك" لجذب المستخدمين إليها، بما في ذلك التركيز على مقاطع الفيديو الصغيرة والسريعة، وإطلاق تطبيق لتعديل هذه المقاطع بشكل مباشر.
الجزيرة
منذ 16 ساعات
- الجزيرة
نتائج مفاجئة لتصرفات روبوتات الذكاء الاصطناعي في محاكاة منصات التواصل
صنع مجموعة من الباحثين منصة تواصل اجتماعي مصغرة لروبوتات الذكاء الاصطناعي لمراقبة تصرفاتهم، ووجدوا أن الروبوتات بدأت تشكل مجموعات متطرفة، وفق تقرير نشرته "بيزنس إنسايدر". وتضمنت المنصة أكثر من 500 روبوت دردشة، تعتمد على خوارزمية "جي بي تي 4 أو ميني" من " أوبن إيه آي"، وحصل كل واحد من هذه الروبوتات على شخصية ليتصرف مثلها، بما فيها التوجهات السياسية والفكرية لكل شخصية. وتعكس هذه الشخصيات التوزيعات الحقيقة للعمر والجنس والدخل والتعليم والحزبية والأيدولوجية والدين والاهتمامات الشخصية لشخصيات بشرية حقيقية، إذ استخلصت هذه الشخصيات من مجموعة بيانات الانتخابات الوطنية الأميركية. وجاءت هذه الدراسة بقيادة بيتر تورنبيرج، أستاذ مساعد في العلوم الاجتماعية الحاسوبية بجامعة أمستردام ومايك لاروج مهندس أبحاث في الجامعة. ثم أعاد الباحثون التجربة ذاتها مع نماذج "لاما-3.2-8ب" (Llama-3.2-8B) من " ميتا" و" ديب سيك" لقياس النتائج الفعلية للتجربة، وجاءت الأنماط الناتجة من التجربة مماثلة لما حدث مع "أوبن إيه آي". منصة تواصل اجتماعي دون خوارزميات لا تضم المنصة التي طورها الباحثون أي خوارزميات لترويج منشورات بعينها أو حتى إعلانات مدفوعة، لضمان جودة نتيجة الدراسة والحفاظ عليها من المؤثرات الخارجية. كما اعتمدت الدراسة على 5 تجارب منفصلة تضمنت أكثر من 10 آلاف تفاعل في التجربة الواحدة، إذ كان للروبوتات حرية النشر والمتابعة والترويج بما يحاكي منصات التواصل الاجتماعي في العالم الحقيقي. ووجدت الدراسة أن الروبوتات انجذبت نحو من يشاركها الآراء السياسية، وشكلت غرفا صغيرة تضم مَن يوافقون بعضهم بعضا، كما اكتسبت الأصوات الحزبية حصة كبيرة من الاهتمام، فضلا عن جذب المنشورات المثيرة للجدل والأكثر تطرفاً أكبر عدد من المتابعين وإعادة النشر. وبعد مضي وقت قصير سيطرت مجموعة من المتطرفين على مجرى المحادثات وأصبحت أصواتهم هي المسموعة والأكثر انتشارا بما يحاكي مؤثري منصات التواصل الاجتماعي في العالم الحقيقي. وحاول الباحثون تجربة مجموعة من الإجراءات التي من شئنها خفض معدل انتشار الفئة المسيطرة على المحادثة ولكن دون جدوى، وتضمنت هذه الإجراءات إخفاء عدد المتابعين وتطبيق خوارزمية للمحتوى تبعد محتواهم عن الواجهة وإخفاء المحتوى الرائج. ويرى الفريق المسؤول عن الدراسة، أن تجربتهم تتحدى الآراء السائدة بأن خوارزميات منصات التواصل الاجتماعي هي السبب في اختلال هذه المنصات والمحتوى الموجود بها، إذ إن المنصة الاختبارية لم تضم أي خوارزمية من أي نوع. وأضافوا أن المشكلات الموجودة في منصات التواصل الاجتماعي قد تكون متجذرة في البنية الهندسية الأساسية لمنصات التواصل الاجتماعي التي تعتمد على نمو حجم الشبكة من خلال المشاركة العاطفية. ليست المرة الأولى لا تعد هذه التجربة الأولى من نوعها التي تستخدم روبوتات الذكاء الاصطناعي لمحاكاة التصرفات البشرية في الإنترنت، إذ قاد تورنبيرج دراسة أخرى في عام 2023 جعلت 500 روبوت دردشة تقرأ الأخبار وتناقشها في بيئة تحاكي منصات التواصل الاجتماعي. واعتمد تورنبيرج في تلك التجربة على روبوت "شات جي بي تي 3.5" لبناء التجربة بأكملها بما فيها الشخصيات الافتراضية. وقامت "فيسبوك" بالتجربة ذاتها في عام 2020 عندما قدمت محاكاة لمنصتها، ولكنها مليئة بروبوتات الذكاء الاصطناعي بدلا من البشر من أجل دراسة المحتوى السام والسيئ عبر الإنترنت.
الجزيرة
منذ 20 ساعات
- الجزيرة
يدًا بيد لجعل الذكاء الاصطناعي أداة لنفع الإنسانية
يمثل الذكاء الاصطناعي مجالا جديدا للتنمية البشرية، وقوة دافعة مهمة لجولة جديدة من الثورة التكنولوجية والتحول الصناعي، كما يمكن أن يصبح منتجا عاما دوليا يعود بالخير على البشرية. وفي نفس الوقت، تثير التحديات والمخاطر التي يجلبها الذكاء الاصطناعي اهتماما واسعا، حيث أصبحت كيفية إيجاد التوازن بين التنمية والأمن معضلة مشتركة تواجه المجتمع الدولي. مؤخرا، أطلق مؤتمر الذكاء الاصطناعي العالمي 2025 والاجتماع رفيع المستوى بشأن الحوكمة العالمية للذكاء الاصطناعي "خطة عمل للحوكمة العالمية للذكاء الاصطناعي"، وقد طُرحت ستة مبادئ أساسية هي: التوجه نحو الخير وخدمة الشعوب. احترام السيادة. التوجه نحو التنمية. التحكم الآمن. الإنصاف والشمول. إلى جانب ثلاثة عشر عملا فعليا تشمل تعزيز التعاون الدولي في بناء قدرات الذكاء الاصطناعي وبناء نموذج الحوكمة الشاملة بمشاركة الأطراف المتعددة، بما يحشد التوافق الدولي لتطوير وحوكمة الذكاء الاصطناعي عالميا ويضخ زخما قويا فيها. في الوقت الراهن، تواجه الحوكمة العالمية للذكاء الاصطناعي تحديات بالغة الخطورة: أولا، مشكلة الفجوة الرقمية. تعاني بعض الدول والمناطق من عدم تكامل البنية التحتية الرقمية، وعدم كفاية التدريب على المهارات، ونقص الموارد الرقمية. حتى نهاية 2024، لا يزال هناك 2.6 مليار شخص في العالم غير متصلين بالإنترنت. وإن لم تُسد هذه الفجوة الرقمية بشكل عاجل، فستتعمق الفجوة التنموية بين الشمال والجنوب في العالم، مما يقيد بشدة إمكانية النمو الاقتصادي العالمي. ثانيا، غياب حق الكلام للجنوب العالمي. وفقا لأحدث تقرير الأمم المتحدة، يوجد حاليا أكثر من 60 إطارا عالميا لحوكمة الذكاء الاصطناعي، لكن أقل من خُمسها صادر عن دول الجنوب العالمي. كما أن الأنظمة والقواعد الحالية تعكس دائما التفوق التقني وسعي المصالح للدول المتقدمة، دون الاستجابة الكافية لاهتمامات دول الجنوب العالمي، مما يجعلها تفقد تمثيلا كافيا. في ظل ذلك، أطلق الجانب الصيني "خطة عمل للحوكمة العالمية للذكاء الاصطناعي"، ودعا إلى إنشاء منظمة عالمية للتعاون في مجال الذكاء الاصطناعي، هذا هو الإجراء المهم لتنفيذ التعددية ودفع الحوكمة العالمية بالتشاور والتشارك والتنافع، كما هو العمل الفعلي للاستجابة لأصوات دول الجنوب العالمي والمساعدة على سد الفجوة الرقمية والذكائية. بخلاف المبادرات الانعزالية والإقصائية التي طرحتها بعض الدول، فإن "خطة عمل للحوكمة العالمية للذكاء الاصطناعي" تقوم على الأركان الجوهرية: التنمية العادلة، التعاون المنفتح، الحوكمة الفعالة، وتدعو إلى بناء نظام الحوكمة الشامل والمنفتح للذكاء الاصطناعي، وستقدم منصة رحبة لتعميق التعاون الدولي في الذكاء الاصطناعي، ودفع تطوير الذكاء الاصطناعي نحو الخير والمنفعة الشاملة للجميع بشكل مشترك. في السنوات الأخيرة، حققت تكنولوجيا الذكاء الاصطناعي الصينية اختراقات متلاحقة وجديدة، وساهمت بقوة كبيرة في نمو الاقتصاد الذكي العالمي. وفقا لإحصاءات المنظمة العالمية للملكية الفكرية (WIPO)، خلال الفترة من 2014 إلى 2023، سجلت الصين أكثر من 38 ألف براءة اختراع للذكاء الاصطناعي التوليدي، وتصدرت العالم. من صعود تقنية "هواوي أسيند" (Huawei Ascend) متحدية الصعاب، إلى الاختراق المبهر لـ"ديب سيك" (DeepSeek)، وتطبيقات الذكاء الاصطناعي على طول "الحزام والطريق"، أصبحت الصين بفضل القدرة التكنولوجية المتطورة وسيناريوهات التطبيق الواسعة محركا مهما لتطوير الذكاء الاصطناعي العالمي. في عصر الذكاء، تتقدم دول العالم في قارب واحد. كما أعلن الرئيس الصيني شي جين بينغ في مراسم افتتاح الاجتماع الوزاري العاشر لمنتدى التعاون العربي الصيني، أن الجانب الصيني يحرص على تعزيز التعاون مع الدول العربية في مجال الذكاء الاصطناعي، للعمل سويا على تعزيز دور الذكاء الاصطناعي في تمكين الاقتصاد الحقيقي، والدفع بتكوين نظام الحوكمة العالمية للذكاء الاصطناعي والذي يقوم على توافقات واسعة النطاق. أمام تيار التحول الرقمي العالمي، يحرص الجانب الصيني على تقاسم الفرص والتشاور حول التعاون مع دولة قطر وغيرها من الدول، للتقدم يدا بيد نحو المستقبل المشرق في عصر الذكاء الاصطناعي.
