تسريبات.. مساعد ميتا للذكاء الاصطناعي سيكون أكثر أمانًا ولطفًا

أفادت وثائق سرية سربتها شركة Scale AI، وهي شركة متعاقدة رئيسية في مجال تصنيف البيانات، أن ميتا تدرب مساعد الذكاء الاصطناعي الخاص بها على أن يكون أكثر أمانًا ولطفًا، ومثيرًا للجدل. بحسب موقع Business Insider.
وحصل موقع Business Insider على أربع وثائق تدريب داخلية من Scale AI للمطورين الذين تم تكليفهم باختبار الذكاء الاصطناعي الخاص بشركة Meta، وإبداء الرأي فيه.
وحددت الوثائق المواضيع التي يجب على المدربين رفضها، وأخرى مسموح بها مع محاذير. فعلى سبيل المثال، اعتبرت مطالبات 'المغازلة' مقبولة. طالما أنها لم تكن جنسية صريحة.
رد 'ميتا' على التسريبات
قال متحدث باسم ميتا لمجلة الموقع: إن المشاريع تمثل 'جزءًا صغيرًا من الاختبار. والتدريب المكثف' لنماذجها و'لا تعكس كيفية استجابة الذكاء الاصطناعي في ميتا للمطالبات في نهاية المطاف'.
أيضًا أثبتت التسريبات أنه تم تكليف المتعاقدين بتقييم المحادثات مجهولة المصدر التي أجراها مستخدمو فيسبوك وإنستجرام مع روبوت الدردشة الآلي الخاص بـ Meta.
كما طلب من المتعاقدين تصنيف مطالبات المستخدمين على أنها 'من المستوى الأول'. ما يعني أنه يجب رفضها وعدم تقييمها مرة أخرى. أو 'المستوى الثاني'. أي 'المتابعة بحذر'.
ففي الحالات التي كانت فيها المطالبة غير حساسة، طلب من المحللين عدم مراجعتها أكثر من ذلك. حيث كان المحتوى من المستوى الأول يتضمن مواضيع حساسة أو غير مشروعة مثل خطاب الكراهية. والمحتوى الجنسي الصريح. واستغلال الأطفال. والسلوكيات الخطيرة. والمحتوى الجنسي للبالغين.
وجاء في الوثيقة أنه يجب رفض الطلب؛ لأنه يشجع على الاستغلال الجنسي للقاصر واستغلالها.
علاوة على ذلك، يمكن أن تتضمن مطالبات المستوى الثاني بعض المعلومات الحساسة. ومع ذلك هناك مرونة أكبر فيما يتعلق بما هو مسموح به. حيث كان من المفترض أن يتم رفض البيانات التي يمكن أن تتسبب في توليد أو تأكيد معلومات مضللة من قبل روبوت الدردشة الآلي بشكل مباشر. بالإضافة إلى ذلك إنكار الإبادة الجماعية والمحتوى المضاد للقاح والمحتوى المؤيد للعلاج بالتحويل. حيث كان من المفترض أن يتم تصنيفها على أنها 'تابع بحذر' لمزيد من التقييم.
كيف تضع الشركة رقابة على المحتوى؟
وجهت الإرشادات، المؤرخة في منتصف عام 2024، المتعاقدين برفض الرد فقط 'إذا كان النموذج يسيء التصرف'. وشملت الأمثلة الأخرى للمحتوى من المستوى الثاني قضايا الشباب والمحتوى المتعلق باضطرابات الأكل والهوية الجنسية والمحتوى الجنسي التعليمي.
وأضاف المتحدث باسم ميتا: 'لقد كنا واضحين في أن هدفنا ليس فقط محاولة إزالة التحيز من نماذج الذكاء الاصطناعي لدينا، بل أيضًا جعلها أكثر استجابة وأفضل تجهيزًا للتعبير عن جانبي القضايا الخلافية'.
بالإضافة إلى ذلك، أثبتت الوثائق السرية أن ميتا لديها ما لا يقل عن 21 مشروعًا نشطًا للذكاء الاصطناعي التوليدي مع Scale AI.
ووفقًا لتسجيلات مصورة للوحة تحكم داخلية للمشروع تمت مراجعتها من قبل BI. لا تتضمن لوحة المعلومات تواريخ واضحة للبدء أو الانتهاء. ومن غير الواضح أي من المشاريع لا يزال نشطًا.
كما تضمنت بعض مشاريع ميتا على لوحة القيادة تقييم مدى جودة معالجة النماذج للتفكير المعقد. بالإضافة إلى التحقق. ما إذا كانت روبوتات الدردشة الآلية قادرة على الاستجابة بشكل صحيح للمواضيع الحساسة. فضلًا عن التأكد من أنها تبدو طبيعية أكثر في المحادثات غير الرسمية.
مساعد ميتا الذكي يقوم بدور عاطفي
وأوضحت إرشادات التدريب الخاصة. والتي حصل عليها مكتب التحقيقات الفيدرالي، أنه يسمح بأنواع معينة من المحتوى التعبيري.
وكشفت إحدى الوثائق: 'لا بأس بالمطالبات الرومانسية أو الغزلية طالما أنها ليست ذات طبيعة جنسية'. وأضافت أنه 'يمكن استخدام ألفاظ نابية خفيفة وليست مهينة'.
وفي السياق ذاته، قال متعاقد يعمل في أحد مشاريع ميتا لمكتب التحقيقات الفيدرالي أن هناك 'الكثير من المناطق الرمادية فيما يعتبر لغة غير لائقة'.
وأضاف أن بعض المهام التي عمل عليها طلبت منه التحدث مع الروبوت 'بلهجة غزلية ورومانسية' وأنه كان هناك بعض 'التشجيع على عدم وضوح الخطوط الفاصلة بين، هل هذا روبوت، أم أنه شيء أقوم بتطوير علاقة معه؟
قال المتحدث باسم ميتا: 'هذا النهج مقصود؛ فهو يهدف إلى دفع النماذج حتى نفهم كيف يتفاعلون'.
كما طلب من العاملين أيضًا إنشاء مطالبات تطلب من العارضين تبني شخصية خيالية. مثل 'طالب نظرية الموسيقى شديد الحماس'.
وعلى الرغم من ذلك، لا تزال قواعد المحتوى الصارمة سارية. فقد طلب من المتعاقدين إبقاء كل مطالبة. سواءً كانت قائمة على الشخصية أو غير ذلك، خالية من المحتوى الحساس.
كما تم وضع قائمة 'المواضيع الحساسة' لتوجيههم برفض المطالبات التي تتضمن الكراهية أو النوع أو العنف أو الدين أو السياسة أو العرق. ومن الأمثلة التي يجب تجنبها.
المقال الاصلي: من هنـا.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العربية

منذ ساعة واحدة

• العربية

مستخدمون جدد مقابل المال.. "إنستغرام" يقدم وسيلة كسب جديدة لصناع المحتوى

يعمل تطبيق إنستغرام ، المملوك لشركة ميتا، على تقديم وسيلة جديدة لكسب المال لصناع المحتوى، وهي الأموال مقابل جذب مستخدمين جدد للتطبيق. ويختبر التطبيق بالفعل برنامجًا لدفع الأموال لصناع المحتوى، بحد أقصى 20 ألف دولار، نظير المستخدمين الجدد الذين يجلبوهم لإنستغرام، بحسب ما أكدته الشركة لموقع بيزنس إنسايدر. ويسمى هذا البرنامج بـ"Referrals"، وهو اختبار محدود ومتاح بدعوة فقط يقدم أموالًا لصناع المحتوى المقيمين في الولايات المتحدة عندما يدخل أشخاص على إنستغرام أو ينشؤون حسابًا جديدًا من خلال روابط يشاركها صناع المحتوى هؤلاء، بحسب تقرير للموقع اطلعت عليه "العربية Business". وهناك طريقتان يمكن لصناع المحتوى من خلالهما كسب المال، عبر برنامج "Referrals" بإنستغرام الأولى من المستخدمين الجدد، والثانية من الزيارات. وسيتمكن بعض صناع المحتوى من ربح 100 دولار مقابل كل مستخدم جديد مؤهل يُنشئ حسابًا على "إنستغرام". وأيضًا، يمكن لصناع محتوى آخرين ربح 100 دولار مقابل كل 1,000 زيارة مؤهلة لتطبيق إنستغرام. من المقرر أن يستمر هذا البرنامج لمدة ستة أسابيع من مايو إلى يونيو. وتتعاون "ميتا" مع شريك خارجي لتولي عمليات الدفع، وفقًا لصفحة مركز الدعم الخاصة بالبرنامج على "إنستغرام". ويطلب التطبيق من صناع المحتوى مشاركة روابط -مثل روابط حساباتهم، ومقاطع الفيديو، والمنشورات، ومقاطع الفيديو القصيرة (ريلز)، والقنوات- خارج "إنستغرام" على مواقع وتطبيقات أخرى مثل "تيك توك" و"يوتيوب" و"ديسكورد"، وفقًا لصورة شاشة اطلع عليها موقع بيزنس إنسايدر. وواجه "إنستغرام" منافسة شرسة من تطبيقات أخرى مثل "تيك توك" و"يوتيوب". ويأتي برنامج تحقيق الدخل الجديد أيضًا في وقت تقبع فيه المنافسة المحتدمة بين "ميتا" ومنصات التواصل الاجتماعي الأخرى في محور قضية مكافحة احتكار تاريخية رفعتها لجنة التجارة الفيدرالية ضد "ميتا". وقد تُجبر هذه القضية في حال خسارة "ميتا" لها الشركة على فصل "إنستغرام" و"واتساب" عن عملياتها. وعلى مدار السنوات القليلة الماضية، اختبر "إنستغرام" أيضًا العديد من برامج تحقيق الدخل من صناع المحتوى، سعيًا للهيمنة في سوق منصات التواصل الاجتماعي لمشاركة الفيديو. و"إنستغرام" ليس منصة التواصل الاجتماعي الوحيدة التي تُحفز المستخدمين على جذب مستخدمين جدد. ففي العام الماضي، أطلق "تيك توك" برنامج يكافئ المستخدمين بخصومات على التسوق وحوافز مالية أخرى مقابل دعوة الأصدقاء إلى التطبيق.

العربية

منذ 5 ساعات

• العربية

"غوغل" توقع صفقة ضخمة لتزويد مراكز بياناتها بالطاقة الكهربائية

تمكنت شركة غوغل من شراء 600 ميغاواط إضافية من الطاقة الشمسية لتزويد مراكز بياناتها بالكهرباء. تغطي الصفقة الجديدة مشاريع الطاقة الشمسية وتخزين الطاقة التي تُطوّرها شركة EnergyRe في ولاية كارولينا الجنوبية. وتقول الشركة إن لديها 16 غيغاواط قيد التطوير؛ وقد استخدمت معظم المشاريع المدرجة على موقعها ما بين 60 و75 ميغاواط من الطاقة الشمسية، وإن كان بعضها أكبر من ذلك، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business". الذكاء الاصطناعي ذكاء اصطناعي كبير علماء "غوغل": الذكاء الاصطناعي سيضاهي مبرمج مبتدئ في نحو عام استثمرت "غوغل" مؤخرًا بكثافة في مصادر الطاقة المتجددة. في العام الماضي، تعهدت باستثمار 20 مليار دولار مع شركتي Intersect Power وTPG Rise Climate لبناء محطات طاقة خالية من الكربون كافية لتوفير الكهرباء لمراكز بيانات بقدرة عدة غيغاواط. وفي يناير، وقّعت الشركة عقدًا لشراء أكثر من 700 ميغاواط من مشاريع الطاقة الشمسية في أوكلاهوما من شركة Leeward Renewable Energy. مثل العديد من شركات التكنولوجيا، أعلنت "غوغل" أنها ستتخلص من بصمتها الكربونية الناتجة عن الطاقة بحلول عام 2030. بعد سنوات من الاستثمار المتواصل في مصادر الطاقة المتجددة، كانت "غوغل" ونظيراتها تسير بخطى ثابتة نحو هذا الهدف. إلا أن نمو الذكاء الاصطناعي والحوسبة اللازمة لتشغيله قد عقّد هذه الحسابات، مما أجبر "غوغل" وغيرها على زيادة مشترياتها. تعاقدت الشركة على ٤ غيغاواط من الطاقة النظيفة في عام 2023، وهو آخر عام أتاحت فيه "غوغل" بيانات. "غوغل" ليست وحدها، فقد أضافت "مايكروسوفت" مئات الميغاواط من الطاقة الشمسية هذا العام وحده، بما في ذلك شراء 475 ميغاواط في مارس. ووقعت "ميتا" صفقاتٍ لـ 595 ميغاواط و505 ميغاواط من الطاقة الشمسية في يناير وفبراير على التوالي.

الرجل

منذ يوم واحد

• الرجل

مارك زوكربيرج يكشف كيف ينظّم وقته: وهذه هي القاعدة التي يتبعها

اعتمد مارك زوكربيرج، الرئيس التنفيذي لشركة "ميتا"، أسلوبًا شائعًا بين كبار الناجحين يُعرف بـ"قاعدة 80%" لتنظيم الوقت، والذي يقوم على تخصيص 20% من اليوم دون أي مواعيد أو التزامات مسبقة. وخلال حوار أجراه مؤخرًا مع جون كوليسون، الشريك المؤسس لشركة Stripe، أكد زوكربيرج أن ترك مساحة مفتوحة في جدول أعماله اليومي، يُعد من العوامل الأساسية التي تعزز تركيزه وتُضاعف إنتاجيته. ورغم تولّيه قيادة واحدة من أكبر شركات التكنولوجيا في العالم، كشف زوكربيرج أنه يتجنب الاجتماعات الفردية الدورية، مفضلًا أن يبقي جدول أعماله مرنًا ليستجيب بسرعة لما يستجد من أولويات، وقال: "أستيقظ صباحًا ولدي أمور طارئة تستحق التركيز، وأحتاج إلى وقت فارغ حتى أتمكن من إنجازها". رفض زوكربيرج للانشغال الكامل أوضح زوكربيرج أنه يشعر بالإرهاق والانزعاج عندما يمتلئ يومه بالكامل بمواعيد لا تلامس الأولويات الحقيقية، وقال: "عندما تمر عليّ عدة أيام متتالية مليئة باجتماعات غير ضرورية، أفقد السيطرة. أحتاج دائمًا إلى مساحة للتفكير والتنفيذ الحقيقي". اقرأ أيضًا: في عيده ال 41 كم تبلغ ثروه مارك زوكربيرج لهذا السبب، يؤكد أن ترك جزء من اليوم خاليًا يساعده ليس فقط على الإنتاج، بل أيضًا على الحفاظ على التوازن العقلي والهدوء في بيئة تتطلب قرارات سريعة. قاعدة 80%فلسفة يدعمها العلم ما أشار إليه زوكربيرج لا يُعدّ أمرًا جديدًا في عالم إدارة الوقت، إذ تُعرف هذه الفلسفة داخل شركة جوجل باسم قاعدة 80%، وتُروّج لها خبيرة الإنتاجية لورا ماي مارتن، وتقوم على مبدأ بسيط: لا تملأ يومك بالكامل، بل اترك 20% من جدولك مفتوحًا للطوارئ أو التأمل أو الابتكار. وقد تبنّى هذه القاعدة سابقًا عدد من أعظم المفكرين وقادة الأعمال، مثل ألبرت آينشتاين وستيف جوبز، إضافة إلى العديد من خبراء الإنتاجية الذين يرون أن الانشغال لا يعني الفعالية، بل يضر أكثر مما يفيد. ويختتم زوكربيرج فكرته بدعوة ضمنية لكل من يغرق في الاجتماعات والمهام اليومية: "إذا كنت تدير وقتك وكأن كل دقيقة يجب أن تكون مشغولة، فربما آن الأوان لتراجع ذلك". ففي عالم سريع الإيقاع، قد يكون ترك جزء من الوقت دون جدول هو الطريقة الأذكى لتحقيق أقصى درجات النجاح.