باحثون: نماذج الذكاء الاصطناعي تحتاج مزيدًا من المعايير والاختبارات

مع الزيادة السريعة لاستخدام الذكاء الاصطناعي، سواء لاستخدامات جيدة أو خبيثة، تُكتشف حالات جديدة تنطوي على ردود قد تكون ضارة ، وتشمل هذه الحالات خطاب الكراهية، وانتهاكات حقوق النشر وغيرها من الأمور.
ويتفاقم ظهور هذه السلوكيات غير المرغوب فيها بسبب نقص اللوائح التنظيمية وعدم كفاية الاختبارات التي تخضع لها نماذج الذكاء الاصطناعي، بحسب ما قاله باحثون لشبكة سي إن بي سي.
وقال خافيير راندو، الباحث في مجال الذكاء الاصطناعي، إن جعل نماذج التعلم الآلي تعمل بالطريقة التي صُممت لها يُعدّ مهمة شاقة، بحسب تقرير للشبكة، اطلعت عليه "العربية Business".
وأضاف راندو، الذي يركز في أبحاثه على التعلم الآلي العدائي: "الإجابة، بعد ما يقرب من 15 عامًا من البحث، هي: لا، لا نعرف كيف نفعل ذلك، ولا يبدو أننا نتحسن".
ومع ذلك، هناك بعض الطرق لتقييم المخاطر في الذكاء الاصطناعي، مثل "تكوين فرق حمراء" (Red Teaming)، وتتمثل هذه الممارسة في قيام الأفراد باختبار أنظمة الذكاء الاصطناعي وفحصها للكشف عن أي ضرر محتمل وتحديده، وهي طريقة عمل شائعة في دوائر الأمن السيبراني.
وأشار شاين لونغبري، الباحث في مجال الذكاء الاصطناعي والسياسات ورئيس مبادرة "Data Provenance Initiative"، إلى نقصٍ في عدد العاملين حاليًا ضمن الفرق الحمراء.
وفي حين أن شركات الذكاء الاصطناعي الناشئة تستعين الآن بمقيّمين مستقلين أو أطراف ثانوية متعاقدة لاختبار نماذجها، فإن إتاحة الاختبار لأطراف ثالثة، مثل المستخدمين العاديين والصحفيين والباحثين والمخترقين الأخلاقيين، من شأنه أن يؤدي إلى تقييم أكثر دقة، وفقًا لدراسةٍ نشرها لونغبري وباحثون آخرون.
وقال لونغبري: "بعض العيوب في الأنظمة التي كان الناس يكتشفونها تطلبت محامين وأطباءً لفحصها، (أي) علماء متخصصين في هذا المجال لمعرفة ما إذا كانت عيبًا أم لا، لأن الشخص العادي ربما لن ولا يملك الخبرة الكافية".
ومن بين التوصيات التي قدمتها الدراسة؛ اعتماد تقارير موحدة عن "عيوب الذكاء الاصطناعي"، وتقديم حوافز، وطرق لنشر المعلومات حول هذه "العيوب" في أنظمة الذكاء الاصطناعي.
وقال راندو إن دمج هذه الممارسة التي تركز على المستخدم مع الحوكمة والسياسات وغيرها من الأدوات سيضمن فهمًا أفضل للمخاطر التي تشكلها أدوات الذكاء الاصطناعي ومستخدميه.
"Moonshot"
يُعد مشروع "Moonshot" أحد هذه الأساليب، حيث يجمع بين الحلول التقنية والآليات السياساتية، وأطلقته هيئة تطوير وسائل الإعلام والاتصالات في سنغافورة، وهو عبارة عن مجموعة أدوات واسعة النطاق لتقييم نماذج اللغة، طُوّرت بالتعاون مع جهات فاعلة في هذا المجال مثل شركتي "IBM " و"DataRobot".
وتدمج مجموعة الأدوات معايير الأداء، والفرق الحمراء، واختبارات الأساس. وتحتوي أيضًا آلية تقييم تسمح لشركات الذكاء الاصطناعي الناشئة بضمان موثوقية نماذجها وعدم إلحاق الضرر بالمستخدمين، بحسب ما قاله أنوب كومار، رئيس هندسة العملاء للبيانات والذكاء الاصطناعي في "IBM" لمنطقة آسيا والمحيط الهادئ.
وأضاف كومار أن التقييم عملية مستمرة يجب إجراؤها قبل نشر النماذج وبعده، مشيرًا إلى أن ردود الفعل على مجموعة الأدوات كانت متباينة.
وتابع: "العديد من الشركات الناشئة اتخذتها (مجموعة الأدوات) منصةً لكونها مفتوحة المصدر، وبدأوا في الاستفادة منها. لكنني أعتقد...أنه يمكننا تحقيق المزيد".
ويهدف مشروع "Moonshot" مستقبلًا إلى تضمين التخصيص لحالات استخدام محددة في صناعات محددة، وتمكين عمل فرق حمراء متعددة اللغات والثقافات.
معايير أعلى
قال بيير ألكييه، أستاذ الإحصاء في "كلية ESSEC للأعمال" في منطقة آسيا والمحيط الهادئ، إن شركات التكنولوجيا تتعجل حاليًا في إصدار أحدث نماذج الذكاء الاصطناعي الخاصة بها دون تقييم سليم.
وأَضاف: "عندما تصمم شركة أدوية دواءً جديدًا، فإنهم يحتاجون إلى أشهر من الاختبارات وإثبات جدي للغاية على أنه مفيد وغير ضار قبل أن تحصل على موافقة الحكومة"، مشيرًا أن عملية مماثلة مطبقة في قطاع الطيران.
وتابع أن نماذج الذكاء الاصطناعي يجب أن تستوفي مجموعة صارمة من الشروط قبل الموافقة عليها، مشيرًا إلى أن التحول من أدوات الذكاء الاصطناعي العامة إلى تطوير أدوات مصممة لمهام أكثر تحديدًا من شأنه أن يسهل توقع إساءة استخدامها والتحكم فيها المحتملين.
وقال: "النماذج اللغوية الكبيرة قادرة على القيام بأمور كثيرة، لكنها ليست موجهة لمهام محددة بما يكفي"، ونتيجةً لذلك، يضيف: "عدد حالات إساءة الاستخدام المحتملة كبير جدًا بحيث لا يستطيع المطورون توقعها جميعًا".
ووفقًا لبحث شارك فيه راندو، تُصعّب هذه النماذج العامة تحديد ما يُعتبر آمنًا ومأمونًا.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العربية

منذ ساعة واحدة

• العربية

"ميتا" حاولت الاستحواذ على شركة الذكاء الاصطناعي "Runway" قبل صفقة "Scale"

ناقش مارك زوكربيرغ، الرئيس التنفيذي لشركة ميتا، إمكانية الاستحواذ على شركة "Runway AI" الناشئة المتخصصة في إنشاء الفيديو بالذكاء الاصطناعي، كجزء من مساعيه لإبرام صفقات في مجال الذكاء الاصطناعي. ولم تصل محادثات الصفقة بين الشركتين إلى مرحلة تقديم عرض رسمي يتضمن قيمة مالية، والمحادثات لم تعد قائمة في الوقت الحالية، وفقًا لما نقله تقرير لوكالة بلومبرغ عن أشخاص مطلعين على الأمر. زوايا تقنية ذكاء اصطناعي شركات التكنولوجيا الكبرى تتهافت على "بيربليكسيتي".. لماذا؟ وقد قُدرت قيمة "Runway"، التي تطور ذكاء اصطناعي قادرًا على إنشاء مقاطع فيديو واقعية، في وقت سابق من هذا العام بأكثر من 3 مليارات دولار، بحسب تقرير الوكالة الذي اطلعت عليه "العربية Business". ويسعى زوكربيرغ إلى استقطاب أفضل العقول في مجال الذكاء الاصطناعي لبناء فريق "ذكاء فائق"، عبر حملة توظيف تضمنت عروض رواتب مرتفعة ومحادثات صفقات في بعض الأحيان مع المستهدفين. وأنهت "ميتا" مؤخرًا استثمارًا بمليارات الدولارات في شركة "Scale AI". وجعل زوكربيرغ من أولوياته خلال الأشهر القليلة الماضية مقابلة كبار اللاعبين في مجال الذكاء الاصطناعي، من الرؤساء التنفيذيين إلى كبار العلماء. وأبدى مؤخرًا استعداده للاستثمار بشكل كبير في مجموعة واسعة من شركات الذكاء الاصطناعي وموظفيها. وقبل الاستحواذ على 49% من شركة "Scale" الناشئة لتصنيف البيانات وتوظيف رئيسها التنفيذي، أجرى مالك فيسبوك أيضًا محادثات بشأن صفقة مع شركة بيربليكسيتي (Perplexity) الناشئة في مجال البحث بالذكاء الاصطناعي، التي قُدّرت قيمتها مؤخرًا بـ 14 مليار دولار. وفي الأسبوع الماضي، قال سام ألتمان، الرئيس التنفيذي لشركة الذكاء الاصطناعي "OpenAI"، إن "ميتا" حاولت استقطاب بعض موظفيه بمكافآت توقيع قدرها 100 مليون دولار. وفي الوقت نفسه، ذكرت "بلومبرغ أن "ميتا" تجري محادثات مع الرئيس التنفيذي السابق لشركة "GitHub"، نات فريدمان، للانضمام إلى الشركة، كما أجرت محادثات مماثلة مع دانيال جروس، الرئيس التنفيذي لشركة "Safe Superintelligence". ما هي "Runway"؟ منذ عام 2023، أصبحت "Runway"، ومقرها نيويورك، رائدة في مجال الفيديوهات المُنشأة بالذكاء الاصطناعي، وساعدت في إثارة موجة من الاهتمام بنماذج الذكاء الاصطناعي لإنشاء الفيديو. وبعد عامين، أصبحت الصناعة تنافسية بشكل متزايد، حيث طرحت شركات مثل "OpenAI" و"Pika" أيضًا خدمات فيديو مماثلة. وفي الوقت نفسه، أصبحت مقاطع الفيديو المُنشأة بالذكاء الاصطناعي أكثر تطورًا، لدرجة أنه أصبح من الصعب تمييزها عن الفيديوهات الحقيقية في كثير من الأحيان. ويساعد أحدث نموذج ذكاء اصطناعي من "Runway"، والمسمى "Gen-4"، المستخدمين على إنشاء مقاطع فيديو بشخصيات وعناصر متناسقة، وهي مهمة صعبة للعديد من خدمات الذكاء الاصطناعي الأخرى. ولدى استوديو الأفلام "Lionsgate" اتفاقية مع الشركة لاستخدام أدواتها، والتي استُخدمت أيضًا في مسلسلات مثل "House of David" من شركة أمازون، وفي حفل موسيقي لمادونا. وتستثمر "ميتا" في تطوير الذكاء الاصطناعي الذي يُساعد المستخدمين على أن يكونوا أكثر إبداعًا، سواءً لمنصاتها للتواصل الاجتماعي أو لمعلنيها.

العربية

منذ ساعة واحدة

• العربية

Snapdragon 8 Elite يدعم "كوالكوم" في المنافسة

نشرت شركة أبحاث السوق "كاونتربوينت" مؤخرًا إحصاءات حول حصة سوق أنظمة الهواتف الذكية العالمية (SoC) في الربع الأول من عام 2025، وقد تصدرت شركة ميديا ​​تيك المنافسة. ووفقًا للتقرير، استحوذت "ميديا ​​تيك" على 26% من شحنات أنظمة الهواتف الذكية العالمية خلال هذا الربع. وقد حققت الشركة نموًا ربع سنويًا بفضل الطلب القوي على الرقاقات الأساسية والعامة، بحسب تقرير نشره موقع "gizmochina" واطلعت عليه "العربية Business". صحة 7 عادات في استخدام الهواتف الذكية.. تعزز قوة الدماغ تشير شركة كاونتربوينت إلى أن Dimensity 8400 ساعد في رفع شحنات "ميديا تيك" في قطاع المنتجات المتوسطة إلى الراقية، حتى مع انخفاض أحجام الفئة المتميزة. تليهم شركة كوالكوم بفارق كبير بحصة سوقية تبلغ 28%. ورغم ثبات حجم شحناتها مقارنةً بالربع السابق، حافظت شركة صناعة الرقائق الأميركية على مكانتها بفضل استمرار الطلب على معالجاتها المتطورة. يعد معالج Snapdragon 8 Elite إنه المعالج المفضل للعديد من الهواتف الرائدة لهذا العام، وهو أيضًا النظام على رقاقة (SoC) الحصري لسلسلة هواتف Galaxy S25. كما تشير بيانات "كاونتربوينت" إلى أن معالج Snapdragon 8 Gen 3 يواصل أداءه الجيد لشركة كوالكوم. "هواوي" تستقر في المركز السادس تحتل "أبل" المركز الثالث في القائمة بحصة سوقية تبلغ 17%. ارتفعت شحناتها على أساس سنوي، بفضل هاتف iPhone 16e المزود بشريحة A18. ومع ذلك، يُقال إن التباطؤ الموسمي قد حد من نموها ربع السنوي. حققت "UNISOC" و"سامسونغ" المركزين الرابع والخامس بحصص سوقية بلغت 10% و5% على التوالي. شهدت "UNISOC" انخفاضًا متتاليًا في الشحنات، ويعزى ذلك إلى حد كبير إلى ضعف الطلب على شرائح LTE. ومع ذلك، واصلت الشركة أداءها الجيد في فئة الهواتف التي تقل عن 99 دولارًا، بفضل عروض LTE الاقتصادية. من ناحية أخرى، حقق قسم معالجات إكسينوس من "سامسونغ" نموًا طفيفًا في الربع الأخير. ساهم هاتفا Galaxy A56 المزود بمعالج إكسينوس 1580 وA16 5G المزود بمعالج إكسينوس 1330 في دفع هذا النمو. كما ارتفعت شحنات معالج إكسيونس 1380، مدعومةً بالطلب القوي على سلسلة هواتف Galaxy A26. احتلت شركة هواوي هاي سيليكون المرتبة السادسة بحصة سوقية بلغت 4%. ورغم انخفاض شحناتها ربع سنويًا، واصلت الشركة الاستفادة من الولاء القوي لعلامتها التجارية المحلية. وقد دعمت سلسلة هواتف نوفا 13 المزودة بمعالج كيرين 8010، والهاتف الرائد ميت 70 المزود بمعالج كيرين 9020.

الاقتصادية

منذ ساعة واحدة

• الاقتصادية

مسؤول سابق: الصين تطور أكثر من 100 نموذج ذكاء اصطناعي مثل "ديب سيك"

قال مسؤول كبير سابق إن المزايا التي تمتلكها الصين في مجال تطوير الذكاء الاصطناعي تضعها على أعتاب موجة من الابتكارات ستُثمر عن أكثر من 100 ابتكار مماثل لنموذج "ديب سيك" خلال الثمانية عشر شهراً المقبلة. صرح تشو مين، الذي شغل سابقاً منصب نائب محافظ بنك الشعب الصيني، خلال مشاركته في المنتدى الاقتصادي العالمي بمدينة تيانجين يوم الثلاثاء، أن منتجات البرمجيات الجديدة "ستُغير بشكل جذري طبيعة الاقتصاد الصيني وطبيعته التكنولوجية". ويعتقد تشو، الذي تولى أيضاً منصب نائب المدير العام لصندوق النقد الدولي، أن هذا التحول بات ممكناً بفضل الكفاءات الهندسية داخل الصين، واتساع قاعدتها الاستهلاكية، إلى جانب السياسات الحكومية الداعمة. سباق التكنولوجيا بين أمريكا والصين تعكس النظرة المتفائلة لمستقبل الذكاء الاصطناعي في الصين استمرار حدة المنافسة مع الولايات المتحدة على الريادة في التقنيات المتقدمة، في وقت يخوض فيه أكبر اقتصادين في العالم حرباً تجارية. وتعتبر الولايات المتحدة الصين منافساً رئيسياً في ميدان الذكاء الاصطناعي، لا سيما بعد أن أثار نموذج "ديب سيك" دهشة الأوساط التكنولوجية العالمية في يناير الماضي بفضل أدائه القوي وتكلفته المنخفضة. بالإضافة إلى جهودها لمنع الصين من الحصول على معدات تصنيع أشباه الموصلات المتقدمة، تعمل واشنطن على حظر الشركات الصينية من شراء رقائق الذكاء الاصطناعي المتطورة التي تنتجها شركة "إنفيديا" (Nvidia) لأغراض التدريب، متذرعة بمخاوف الأمن القومي. في المقابل، تُعول بكين الآن على عمالقة التكنولوجيا المحليين مثل "هواوي تكنولوجيز" (Huawei Technologies) في مساعيها لتطوير رقائق محلية متقدمة. تأثير "ديب سيك" أدى ظهور "ديب سيك" إلى موجة ارتفاع في أسهم شركات التكنولوجيا الصينية، ما عزز الآمال بشأن قدرة الصين التنافسية، رغم التوترات التجارية مع إدارة الرئيس الأميركي دونالد ترمب، والتحديات الاقتصادية المحلية. تُقدر "بلومبرغ إيكونوميكس" أن مساهمة قطاع التكنولوجيا المتقدمة في الناتج المحلي الإجمالي للصين ارتفعت إلى نحو 15% في عام 2024، مقارنة بما يقارب 14% في العام السابق، وقد تتجاوز 18% بحلول عام 2026. في هذا السياق، استقطب الاجتماع السنوي للمنتدى الاقتصادي العالمي بمدينة تيانجين، المعروف بـ"دافوس الصيفي"، عدداً من قادة الدول وكبار التنفيذيين العالميين. ومن المقرر أن يُلقي كل من رئيس وزراء سنغافورة لورانس وونغ ورئيس وزراء فيتنام فام مينه تشينه كلمات خلال فعاليات الحدث الذي يمتد لثلاثة أيام. كما يُنتظر أن يتحدث رئيس الوزراء الصيني لي تشيانغ خلال الجلسة الافتتاحية يوم الأربعاء، إلى جانب عقدة لقاءات مع المشاركين في المؤتمر. الصين تسجل نمو أقل من المتوقع على الرغم من التوصل إلى هدنة تعريفات جمركية قبل شهر مع الولايات المتحدة، لا تزال الرسوم الأميركية قائمة عند مستويات مرتفعة، بينما يبقى التوصل إلى اتفاق طويل الأمد أمراً غير محسوم. ويتوقع محللون استطلعت "بلومبرغ" آراءهم أن يتباطأ نمو الناتج المحلي الإجمالي الصيني إلى 4.5% خلال هذا العام، أي أقل بكثير من الهدف الرسمي البالغ نحو 5%، علماً بأن الاقتصاد سجل نمواً بنسبة 5.4% خلال الربع الأول. صرح تشو للصحفيين على هامش المنتدى قائلاً إن "حالة عدم اليقين التي تسببت بها السياسات الجمركية الأمريكية تُعد عاملاً مهماً قد يُفضي إلى انكماش النمو في التجارة العالمية هذا العام". وأضاف أن "سلسلة الصناعات التجارية بأكملها بدأت في التباطؤ، والاستثمارات بدأت تتوقف، لذا فإن التأثير أكبر من مجرد معدل الرسوم الجمركية نفسه". وأشار تشو إلى أن الولايات المتحدة ستشهد على الأرجح ارتفاعاً في معدلات التضخم بدءاً من أغسطس، إذ يستغرق تأثير الرسوم الجمركية وقتاً حتى يظهر في الاقتصاد، وحتى تتمكن الشركات من استهلاك المخزونات التي كانت قد خزنتها قبل أن يرفع ترمب الرسوم. تعزيز الاستهلاك المحلي أولوية ملحة رغم الصدمات الخارجية، يُرجح أن يتجاوز الناتج المحلي الإجمالي الصيني 5% خلال الربع الثاني، وفقاً لما أكده هوانغ يي بينغ، عضو لجنة السياسة النقدية في البنك المركزي الصيني. وأشار خلال مشاركته في جلسة نقاشية أخرى ضمن منتدى تيانجين، إلى أن الأداء الاقتصادي في أبريل ومايو كان قوياً. لكن بالرغم من أن مبيعات التجزئة في مايو سجلت نمواً غير متوقع هو الأسرع منذ ديسمبر 2023، شدد هوانغ على أن الصين لا تزال بحاجة إلى معالجة مشكلة نقص الاستهلاك. وأوضح هوانغ، الذي يشغل أيضاً منصب عميد المدرسة الوطنية للتنمية في جامعة بكين، أن "تعزيز الاستهلاك لا يزال يمثل تحدياً كبيراً، ويعود ذلك جزئياً إلى أن السوق الخارجية العالمية لم تعد منفتحة كما كانت في السابق". وأضاف: "بالنسبة لدولة كبيرة، لا يمكنك الاستمرار في تصدير فائض طاقتك الإنتاجية. لذلك، أعتقد أن الأولوية السياسية الآن هي التركيز أولاً على الدورة الاقتصادية المحلية".