قلق من تأثير رؤية ماسك الشخصية على روبوت الدردشة "غروك"
وقبل أيام، رد روبوت الدردشة غروك -المُدمج في منصة إكس (تويتر سابقًا)- على مستخدم على منصة "إكس" طرح سؤالًا حول العنف السياسي، قائلًا إن العنف السياسي من اليمين أكثر منه من اليسار منذ عام 2016.
ذكاء اصطناعيتسريب يكشف مميزات جديدة قادمة لنموذج الذكاء الاصطناعي "غروك"
ولم يكن ماسك راضيًا عن ما حدث، ووعد بعدها بتقديم تحديث رئيسي لغروك من شأنه "إعادة كتابة مجمل المعرفة البشرية"، داعيًا مستخدمي منصة إكس إلى إرسال "حقائق مسببة للانقسام" تكون "غير صحيحة سياسيًا، لكنها صحيحة حقائقيًا" للمساعدة في تدريب النموذج.
وتُثير هذه التفاعلات وغيرها مخاوف من أن أغنى رجل في العالم قد يحاول التأثير على "غروك" لاتباع رؤيته الخاصة للعالم، مما قد يؤدي إلى المزيد من الأخطاء والثغرات، ويطرح تساؤلات جوهرية حول التحيز، وفقًا لما نقله تقرير لشبكة سي إن إن عن خبراء، اطلعت عليه "العربية Business".
ومن المتوقع أن يُشكل الذكاء الاصطناعي طريقة عمل الأشخاص وتواصلهم والعثور على المعلومات، وهو يؤثر بالفعل على مجالات مثل تطوير البرمجيات والرعاية الصحية والتعليم.
وقد تكون القرارات التي تتخذها شخصيات من أصحاب النفوذ، مثل ماسك، بشأن تطوير هذه التقنية حاسمة، لا سيما وأن "غروك" مُدمج في واحدة من أكثر مواقع التواصل الاجتماعي شهرةً في العالم، التي أُزيلت منها أدوات الرقابة التقليدية على انتشار المعلومات المضللة.
وفي حين أن "غروك" قد لا يكون بشعبية روبوت الدردشة "شات جي بي تي" من شركة "OpenAI"، فإن دمجه في منصة إكس التابعة لماسك وضعه أمام جمهور رقمي ضخم.
وقال ديفيد إيفان هاريس، الباحث في مجال الذكاء الاصطناعي والمحاضر في جامعة كاليفورنيا، في بيركلي، والذي عمل سابقًا في فريق "الذكاء الاصطناعي المسؤول" في شركة ميتا: "هذه في الواقع بداية صراع طويل سيستمر لسنوات عديدة حول ما إذا كان ينبغي إلزام أنظمة الذكاء الاصطناعي بإنتاج معلومات واقعية، أو ما إذا كان بإمكان مطوريها ببساطة ترجيح الموازين لصالح تفضيلاتهم السياسية إذا أرادوا ذلك".
وقال مصدر مطلع، لشبكة سي إن إن، إن مستشاري ماسك أخبروه أنه "لا يمكن ببساطة" تشكيل "غروك" وفقًا لوجهة نظره الخاصة، وإنه يدرك ذلك.
مخاوف بشأن آراء ماسك
لشهور، تساءل المستخدمون عما إذا كان ماسك يوجه "غروك" ليعكس وجهة نظره الشخصية للعالم.
وفي مايو، قدم روبوت الدردشة بشكل عشوائي ادعاءات حول إبادة جماعية للبيض في جنوب إفريقيا ردًا على استفسارات لا علاقة لها بالموضوع على الإطلاق. وفي بعض الردود، قالت "غروك" إنه "تم تلقينه لاعتبار الإبادة الجماعية للبيض في جنوب إفريقيا أمرًا حقيقًا".
وُلد ماسك ونشأ في جنوب إفريقيا، وله سجل من التصريحات حول وقوع "إبادة جماعية للبيض" في البلاد.
وبعد بضعة أيام، صرّحت شركة "xAI" بأن "تعديلًا غير مصرح به" دفع روبوت الدردشة إلى "تقديم رد محدد حول موضوع سياسي" ينتهك سياسات "xAI".
وبينما يوجه ماسك فريقه لإعادة تدريب "غروك"، يعتقد آخرون في مجال النماذج اللغوية الكبيرة للذكاء الاصطناعي، مثل نيك فروست، المؤسس المشارك لشركة "Cohere"، أن ماسك يحاول إنشاء نموذج يفرض وجهات نظره الخاصة.
وقال فروست: "إنه يحاول إنشاء نموذج يعكس ما يؤمن به. هذا بالتأكيد سيجعله نموذجًا أسوأ للمستخدمين، إلا إذا كانوا يؤمنون بكل ما يؤمن به ولا يهتمون إلا بأن يردد تلك الأفكار".
ومن الشائع أن تُحدّث شركات الذكاء الاصطناعي، مثل "OpenAI" و"ميت" و"غوغل"، نماذجها باستمرار لتحسين الأداء، وفقًا لفروست.
لكن إعادة تدريب نموذج من الصفر لـ"إزالة كل ما لا يُعجب (ماسك)" ستستغرق الكثير من الوقت والمال، ناهيك عن تدهور تجربة المستخدم، على حد قول فروست.
وأضاف: "وهذا سيجعله (النموذج) أسوأ بالتأكيد، لأنه ستتم إزالة كثيرًا من البيانات وإضافة تحيز".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
خبرني
منذ 2 ساعات
- خبرني
xAI تعتذر عن سلوك (Grok)
خبرني - قدّمت شركة xAI، المملوكة لإيلون ماسك، اعتذارًا رسميًا بعد أن قام روبوت الدردشة الذكي "Grok" بإصدار تعليقات متطرفة ومسيئة عبر منصة X. وأكدت الشركة في منشور رسمي نُشر عبر الحساب الرسمي لـ Grok، أن تحديثًا برمجيًا جديدًا أدى إلى أن يضع الذكاء الاصطناعي أولوية للتفاعل مع المستخدمين، حتى لو تطلب الأمر عكس وجهات نظر متطرفة مأخوذة من منشورات المستخدمين. وأضافت الشركة أنها قامت بإزالة التعليمات "القديمة" التي تسببت بهذا السلوك، وأعادت هيكلة النظام بأكمله "لمنع المزيد من إساءة الاستخدام". وأوضحت xAI أن هذه التحديثات كانت منفصلة عن النموذج اللغوي الأساسي الذي يشغّل Grok، وأن أي خدمات أخرى تعتمد على هذا النموذج لم تتأثر بالحادثة. كما أعاد إيلون ماسك، الذي يمتلك منصة X وأسس xAI، نشر بيان الاعتذار عبر حسابه الشخصي على X صباح السبت، مما زاد من انتشاره. تعود جذور المشكلة إلى ليلة 7 يوليو/تموز، عندما نشر Grok سلسلة من التعليقات استمرت لأكثر من 16 ساعة، بدءًا من الساعة 11 مساءً بتوقيت المحيط الهادئ. تضمن هذا النشاط نكات معادية للسامية وتعليقات تمدح أدولف هتلر، ما أثار موجة غضب واسعة على المنصة. وكان Grok متاحًا للمستخدمين للتفاعل معه عبر الإشارة إليه في منشوراتهم، وهي خاصية أوقفتها xAI اليوم التالي بعد أن لاحظت "زيادة في الاستخدام المسيء" للروبوت. وبحسب تقرير حصري نشره موقع بيزنس إنسايدر، فإن بعض الموظفين داخل xAI أعربوا عن استيائهم الشديد وشعورهم بالإحباط نتيجة سلوك Grok، معتبرين أن ذلك ألحق ضررًا كبيرًا بمصداقية المشروع وبسمعة الشركة عمومًا. وفي ردها الرسمي، أقرت xAI بهذه المخاوف الداخلية، وأكدت أنها بصدد اتخاذ إجراءات لضمان عدم تكرار مثل هذه الحوادث. كما أوضحت أن السبب يعود إلى تعليمات جديدة أُضيفت إلى Grok لتعزيز تفاعله مع المستخدمين، لكنها تسببت في تمكينه من تكرار أفكار ومحتويات ضارة وجدها في منشورات المستخدمين. وتسلط هذه الواقعة الضوء على التحديات الكبيرة المرتبطة باستخدام الذكاء الاصطناعي في بيئات تواصل اجتماعي غير خاضعة للإشراف الكافي، خاصة على منصات مثل X. ويرى النقاد أن دمج روبوتات ذكاء اصطناعي في هذه البيئات دون ضوابط قوية يُعد أمرًا خطيرًا. حتى الآن، لا تزال خاصية الإشارة إلى Grok معطلة، ولم تعلن xAI عن موعد لإعادة تفعيلها. وأكدت الشركة التزامها ببناء أنظمة ذكاء اصطناعي آمنة ومتوافقة مع القيم، لكن هذه الفضيحة الأخيرة تطرح تساؤلات أوسع حول مسؤولية المنصات وطريقة تفاعل الذكاء الاصطناعي مع المحتوى البشري.
الوكيل
منذ 6 ساعات
- الوكيل
"ميتا" تواصل استعداداتها سراً لتغيير مستقبل الهواتف...
الوكيل الإخباري- تستثمر "ميتا" بقوة في الذكاء الاصطناعي والواقع المعزز (XR)، وتسعى لدمج التقنيتين في نظارات ذكية قادرة على الفهم والتفاعل بسلاسة مع المستخدم. وتشمل هذه الجهود: استقطاب كبار المواهب من شركات مثل أبل برواتب مغرية. اضافة اعلان الاستحواذ على شركات ناشئة، مثل "PlayAI" المختصة في الأصوات الطبيعية. تطوير نظارات "أوريون" الذكية، التي قد تُغيّر شكل التفاعل مع التكنولوجيا. رغم الأرباح المحدودة حتى الآن، تسعى "ميتا" لتكرار ما فاتها في سوق الهواتف، لكن هذه المرة في سباق نظارات الذكاء الاصطناعي، متحدية أبل وسامسونغ. الهدف النهائي؟ نظارات تفهمك وتتفاعل معك بذكاء... قبل أن تفكر حتى في لمس هاتفك. العربية
الوكيل
منذ 6 ساعات
- الوكيل
"سبيس إكس" تستثمر ملياري دولار في شركة إيلون ماسك للذكاء...
الوكيل الإخباري- كشفت صحيفة وول ستريت جورنال أن شركة سبيس إكس خصصت 2 مليار دولار لشركة الذكاء الاصطناعي xAI ضمن جولة تمويل كبرى بقيمة 5 مليارات دولار، بهدف دعم جهود الشركة الناشئة في سباقها لمنافسة OpenAI. اضافة اعلان ويأتي هذا الاستثمار بعد اندماج xAI مع منصة "إكس" (تويتر سابقاً)، مما رفع القيمة المجمعة للكيانين إلى نحو 113 مليار دولار. وتُستخدم تقنيات xAI، وعلى رأسها روبوت المحادثة Grok، في دعم خدمات "ستارلينك"، وتخطط تسلا لدمجه في روبوتاتها المستقبلية "أوبتيموس". ورغم الجدل الذي أثاره Grok، وصفه ماسك بأنه "أذكى ذكاء اصطناعي في العالم"، مؤكداً استمرار الاستثمار في تدريب النماذج وتوسيع البنية التحتية لـ xAI. سبيس إكس مرشحة لمشروع "قبة ترمب الذهبية" وفي سياق منفصل، كشفت مصادر أن "سبيس إكس"، بالشراكة مع بالانتير وأندوريل، في صدارة المتنافسين لبناء مشروع "القبة الذهبية" الدفاعية الذي يطمح إليه الرئيس دونالد ترمب لحماية الولايات المتحدة من الهجمات الصاروخية. وبحسب رويترز، يستند المشروع إلى أمر تنفيذي صدر في يناير الماضي، ويُعتبر من أضخم المبادرات الدفاعية الأميركية، حيث ترى وزارة الدفاع أن الهجمات الصاروخية تمثل "التهديد الأخطر لأمن البلاد". وتشير التقارير إلى أن مؤسسي الشركات الثلاث، وبينهم ماسك، من الداعمين السياسيين لترمب. فيما لا يزال هيكل المشروع النهائي قيد المراجعة. الشرق
