كيف يمكن للصحفيين اكتشاف التحيز في الذكاء الاصطناعي؟
وضمن تقرير مطوّل، حاولت راما شارما المستشارة والمدربة التنفيذية بالمعهد تقديم إجابات حول هذه المعضلة، عبر التحدث إلى 18 صحفيا وخبيرا إعلاميا وتقنيا وأكاديميا.
ويقول ماتياس هولويغ أحد خبراء برامج الذكاء الاصطناعي في كلية سعيد للأعمال بجامعة أكسفورد إن "التحيز سمة، وليس عيبا" في هذه الأدوات، موضحا أن أي نموذج ذكاء اصطناعي سيعكس التحيزات الموجودة بالبيانات التي جرى تدريبه عليها.
ويستمد "شات جي بي تي" مثلاً قرابة 60% من مواده التدريبية، من محتوى الويب في ويكيبيديا ومواقع أخرى مماثلة، بالإضافة إلى الكتب الرقمية والأوراق الأكاديمية. في حين أن النموذج الذي يتعلم من هذه المصادر سيرث بطبيعة الحال تحيزاتها.
وتحذر شارما هنا من حدوث ما وصفته بـ"التحيز الضار" أو "التحيز الخوارزمي" والذي يحدث عندما يتعلم النموذج من بيانات غير عادلة أو متحيزة بالفعل، لينتهي الأمر بعملية التعلم الطبيعية للذكاء الاصطناعي إلى عكس التحيزات المجتمعية القائمة وتضخيمها من المعلومات التي يتم تزويده بها، مما يؤدي إلى نتائج تعاقب أفرادا أو مجموعات معينة.
ويمكن أن تظهر هذه الأخطاء في أي مرحلة من مراحل بناء النموذج، بدءا من جمع البيانات وتصميم النموذج وحتى النشر.
خبير تقني: التحيز يأتي من باحثين غربيين
ويحذر بيتر سلاتري -الذي يدير منصة مفتوحة المصدر تساعد الناس على فهم مخاطر الذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا- من ظهور أضرار جديدة يوميا، كما يشعر بقلق إزاء طرق يمكن أن تؤثر بها هذه التقنيات على دول الجنوب.
ويضيف "لقد لاحظت وجود تحيز في الكثير من الأدبيات التي ندرجها في قاعدة بياناتنا، حيث إنها تأتي في الغالب من باحثين في مؤسسات غربية نخبوية".
وتقول معدّة تقرير معهد رويترز إنه ليس من السهل معالجة التحيز في أنظمة الذكاء الاصطناعي، لافتة إلى أن الجهود حسنة النية قد تأتي بنتائج عكسية أحيانا، وقد تجلى ذلك عام 2024 عندما أنتج مولد الصور "جيميني" من غوغل صورا لنازيين سود، وفايكنغ من الأميركيين الأصليين، فيما بدا أنه محاولة لتنويع المخرجات، وقد أجبرت ردود الفعل الغاضبة آنذاك غوغل على تعليق هذه الميزة مؤقتا.
وتبين شارما أن إحدى الطرق المقترحة -التي تلقتها أثناء حضورها ورشة عمل تقنية بمعهد "آلان تورينغ" في لندن- هي اتخاذ نهج استباقي للمراقبة عند إنشاء أنظمة جديدة للذكاء الاصطناعي، يشمل تشجيع المهندسين وفرقهم على إضافة بيانات وصفية، في كل مرحلة من مراحل عملية إنتاج الذكاء الاصطناعي، بما في ذلك معلومات عن الأسئلة المطروحة، والتدابير التخفيفية المطبقة لتتبع القرارات المتخذة.
أنواع التحيز بالذكاء الاصطناعي
وشارك الباحثون الذين تحدثوا لـ"شارما" إلى 3 فئات من التحيزات التي قد تحدث، إلى جانب تلميحات للمساعدة في التخفيف منها:
1/تحيزات الإحصائية
وتنشأ عن عيوب في طريقة جمع البيانات أو أخذ العينات أو معالجتها، مما يؤدي إلى أخطاء منهجية. ومن الأنواع الشائعة، التحيز الناجم عن البيانات المفقودة، حيث تكون بعض المجموعات أو المتغيرات ممثلة تمثيلا ناقصا أو غائبة تماما من مجموعة البيانات.
فمثلا: مجموعة بيانات صحية تتضمن بيانات عن الرجال، وتغفل مؤشرات حول صحة المرأة (كالحمل أو التغيرات الهرمونية) قد تفشل نماذج الذكاء الاصطناعي المدربة على هذه المجموعة من البيانات في التعرف على احتياجات صحة المرأة، أو الاستجابة لها بشكل مناسب.
2/ تحيزات معرفية
وتعكس أنماط التفكير البشري التي تحيد عن الحكم العقلاني، فعندما تؤثر هذه التحيزات على كيفية اختيار البيانات أو تفسيرها أثناء تطوير النموذج، يمكن أن تصبح جزءا لا يتجزأ من أنظمة الذكاء الاصطناعي.
ويبيّن التقرير أن أحد الأشكال الشائعة هنا هو التحيز التأكيدي، ويقصد به الميل إلى البحث عن المعلومات التي تتوافق مع المعتقدات أو النظرة العالمية المسبقة أو تفضيلها.
وعلى سبيل المثال: قد يتم تصميم نظام توصية الأخبار باستخدام بيانات تم تنسيقها من قبل محررين ذوي ميول سياسية معينة. وإذا عزز النظام المحتوى الذي يتوافق مع هذه النظرة للعالم مع استبعاد وجهات النظر البديلة، فقد يؤدي ذلك إلى تضخيم التحيز التأكيدي لدى المستخدمين.
3/ تحيزات اجتماعية
وتنبع من التفاوت داخل الأنظمة أو الافتراضات الثقافية المتأصلة في البيانات، وغالبا ما تعكس الظلم التاريخي أو الممارسات التمييزية.
فمثلا: قد تتعلم أداة توظيف تعتمد على الذكاء الاصطناعي ومدربة على بيانات التوظيف التاريخية تفضيل المرشحين الذكور لشغل مناصب قيادية، إذا كانت قرارات التوظيف السابقة تفضل الرجال، مما يعزز المعايير الجنسانية القديمة ويستبعد النساء المؤهلات.
وأشار التقرير إلى أن البيانات القديمة يمكن أن تكون ضارة بقدر البيانات المفقودة. ونقل عن فلوران دودنس وهو صحفي سابق يعمل الآن مع شركة فرنسية متخصصة بالذكاء الاصطناعي قوله "إذا لم تتطور البيانات، يمكن أن ينتشر المحتوى الضار والتحيز خارج سياق مجموعة البيانات الأصلية، مما يؤدي إلى تفاقم الفجوات".
خطر التحيز المتعمد
ويحذر هولويج، الخبير في كلية سعيد للأعمال بجامعة أكسفورد من التغذية السريعة لنموذج الاصطناعي، وتسميم مجموعات البيانات، لافتا إلى أنها بمثابة أشكال من التحيز المتعمد.
والتغذية السريعة هي إضافة نص مخفي أو تلاعب بمدخلات لتضليل الذكاء الاصطناعي وتجاهل تعليماته أو التصرف بطريقة غير مقصودة. ويقصد بتسميم قاعدة البيانات إدراج معلومات كاذبة أو متحيزة في بيانات التدريب لتشويه سلوك الذكاء الاصطناعي أو مخرجاته، ومن الأمثلة على ذلك وضع تقييمات مزيفة للمنتجات.
وقد بدأت بعض المؤسسات الإعلامية في الاستجابة لهذه المخاطر، حيث عينت الإذاعة البافارية في ميونخ مراسلة متخصصة في المساءلة الخوارزمية، للتحقيق في تأثير تكنولوجيا الذكاء الاصطناعي على المجتمع.
وأوضح التقرير أن بعض المبتكرين حاولوا إعادة تصور دور الذكاء الاصطناعي في الصحافة ليس فقط كأداة للإنتاجية، ولكن كعدسة لزيادة الوعي الذاتي.
ففي جامعة فلوريدا، ثمة فريق لاستكشاف كيف يمكن للذكاء الاصطناعي أن يساعد في تحديد أنواع التحيز التي تظهر أثناء إنتاج الأخبار، وتعاون الفريق مع أخصائي لغويات وعلماء حاسوب من الجامعة، لدراسة كيفية صياغة الأخبار الهامة في مختلف وسائل الإعلام.
وخرج الفريق بنتائج أولية اعتبرت أن "الأفعال والصفات المرتبطة بمتظاهري حركة حياة السود مهمة" كانت كلمات نارية مثل "تشعل" و"تنفجر" و"تشعل شرارة" حتى عندما كانت المسيرات سلمية.
وفي الوقت نفسه، استخدمت التغطية الأميركية للاحتجاجات في الجامعات لغة أكثر عاطفية لوصف الخسائر الإسرائيلية مقارنة بمعاناة الفلسطينيين.
وفي ختام تقريرها، أكدت المستشارة بمعهد رويترز لدراسة الصحافة أن القضاء على التحيز قد يكون مستحيلا، لكن يمكن فهم هذه القضايا والتخفيف من حدتها من خلال فرق متعددة التخصصات ذات وجهات نظر واسعة.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الجزيرة
منذ 14 ساعات
- الجزيرة
دراسة: زيادة انبعاثات غازات الدفيئة والاحتباس الحراري بوتيرة متسارعة
استمر تسارع ظاهرة الاحتباس الحراري الذي بدأ في عام 2023، وفقا لأحدث تقييم سنوي للمناخ أجرته الجمعية الأميركية للأرصاد الجوية، حيث تتكثف تركيزات غازات الدفيئة للاحتباس الحراري في الغلاف الجوي بوتيرة متسارعة، وتسبب كثيرا من مظاهر الطقس المتطرف. وحسب التقييم السنوي للمناخ الصادر عن الجمعية الأميركية للأرصاد الجوية، ارتفعت تركيزات ثاني أكسيد الكربون، وهو الغاز الأكثر تسببا في الاحتباس الحراري، بمعدل قياسي في عام 2024، لتتطابق مع عام 2015، باعتباره أكبر زيادة سنوية منذ بدء التسجيل في عام 1960. وتأتي انبعاثات ثاني أكسيد الكربون في المقام الأول من حرق الوقود الأحفوري، والذي يستمر أيضا في الزيادة في جميع أنحاء العالم، على الرغم من عقود من الاتفاقيات العالمية لإبطاء الانبعاثات. وذكر التقرير أن درجة الحرارة العالمية السنوية على اليابسة والمحيطات كانت الأعلى المسجلة في سجلات الرصد، مشيرا إلى أن عام 2024 شهد ارتفاعا غير طبيعي في درجات الحرارة في معظم أنحاء العالم، وأسهم في العديد من التغيرات المستمرة في مؤشرات المناخ الرئيسية. كما أشار إلى أن ارتفاع درجات الحرارة في عامي 2023 و2024 نتج على الأرجح عن تضافر النشاط البشري والتقلبات الطبيعية، كما أن ارتفاع تركيزات غازات الاحتباس الحراري في الغلاف الجوي، والتي تُسبب ارتفاع درجة حرارة المناخ لم يُظهر أي تباطؤ في زياداتها. وحطم عام 2024 الأرقام القياسية القاتمة لدرجات الحرارة العالمية وتركيزات الغازات الدفيئة التي سُجّلت قبل عام واحد فقط. وأسهمت الحرارة الزائدة في تكثيف دورة المياه، حيث ذكر التقرير أن إجمالي هطول الأمطار ليوم واحد في جميع أنحاء العالم بلغ مستويات قياسية، مما يشير إلى زيادة في شدتها. كما زادت معدلات ذوبان الأنهار الجليدية بشكل متسارع. وفقدت فنزويلا آخر أنهارها الجليدية في عام 2024، وشهدت كولومبيا المجاورة أيضا ذوبان نهر جليدي. وفي جميع أنحاء العالم، فقدت جميع الأنهار الجليدية الـ58 التي ترصدها الجمعية الأميركية للأرصاد الجوية كتلتها خلال عام 2024. وقال تشارلز ماكونيل، مساعد وزير الطاقة السابق، ومدير مركز إدارة الكربون في مجال الطاقة بجامعة هيوستن: "لقد أنفقنا تريليونات الدولارات لمعالجة تغير المناخ، وكان ذلك غير فعال نسبيا، لكن إذا كان كل ما نفعله هو الاستمرار في دعوة السياسيين إلى الفنادق الفاخرة في أنحاء العالم للتحدث، فلن نصل إلى أي مكان". وحسب التقرير، يُعتبر سجل تركيزات ثاني أكسيد الكربون في الغلاف الجوي الدليل الأبرز على تأثير الأنشطة البشرية على الغلاف الجوي. وأظهر التقرير أيضا ارتفاع تركيزات غاز الميثان، وهو غاز يزيد من درجة حرارة المناخ بشكل أسرع بكثير من ثاني أكسيد الكربون، ويمثل حوالي 30% من الارتفاع العالمي في درجات الحرارة. ويُنظر إلى تقليل انبعاثات غاز الميثان، والذي يأتي من مجموعة واسعة من المصادر، على أنه وسيلة سريعة للحد من الاحتباس الحراري على المدى القريب. وبدأ ارتفاع تركيزات غاز الميثان في التسارع حوالي عام 2014، وزادت انبعاثاته بشكل أكبر منذ عام 2020، وفقا للتقرير. وقال ديفيد ليون، كبير علماء الميثان في صندوق الدفاع البيئي: "هناك غموض كبير حول مصدر غاز الميثان. ويدور جدل واسع حول هذا الموضوع بين العلماء". وتأتي بعض انبعاثات الميثان من استخراج الوقود الأحفوري، لكن النظريات السائدة تشير إلى انبعاث كميات كبيرة من الميثان من الأراضي الرطبة الاستوائية المشبعة بالمياه نتيجة لتغيرات المناخ والاستخدام المكثف للأراضي. كما تُطلق الماشية ومكبات النفايات كميات كبيرة من الميثان. وقال روبرت دان، كبير خبراء الهيئة الوطنية للأرصاد الجوية في المملكة المتحدة، والمحرر الرئيسي للتقرير، إن الانبعاثات من المصادر الميكروبية (التي تشمل الماشية والأراضي الرطبة الطبيعية والبحيرات) زادت بشكل كبير منذ عام 2008، وهناك أيضا زيادات طفيفة بسبب انبعاثات الوقود الأحفوري منذ ذلك الحين تقريبا. واستند تقرير الجمعية الأميركية للمحيطات والغلاف الجوي في إصداره الـ35 إلى عمل 590 باحثا ومحررا أكاديميا من 58 دولة. وحلل 6 مجموعات بيانات لدرجات الحرارة العالمية، بالإضافة إلى عشرات المجموعات الأخرى من المراصد في العالم، بما في ذلك مرصد الإدارة الوطنية للمحيطات والغلاف الجوي، الذي يقيس ثاني أكسيد الكربون في الغلاف الجوي منذ عام 1958.
الجزيرة
منذ 2 أيام
- الجزيرة
في الجليد الكوني.. بلورات مخفية بحجم الحمض النووي تفاجئ العلماء
كشف علماء من كلية لندن الجامعية وجامعة كامبريدج أن بلورات مخفية بحجم الحمض النووي في الجليد الكوني قد تُغير الفهم الأساسي السابق للجليد المنتشر في الكون، كما قد تُعيد صياغة ما يعرفه العلماء عن الماء، المركب الذي يعد أساسيا لازدهار الحياة في الكون. وعلى مدى عقود، ساد بين العلماء اعتقاد بأن الجليد الكوني مُفكك تماما، إلا أن التجارب التي أجراها هذا الفريق بينت أنه مُغطى في الواقع ببلورات صغيرة، وقد تم تحديد هذه البلورات الدقيقة، التي لا يتجاوز عرضها نانومترا واحدا، من خلال عمليات المحاكاة والتجارب المعملية. جليد الفضاء وجليد الأرض ويقول الدكتور مايكل ب. ديفيز، المؤلف الرئيسي للدراسة التي نشرت في دورية "فيزيكال ريفيو بي"، في تصريحات خاصة للجزيرة نت، "الاسم العلمي للجليد الفضائي هو "الجليد غير المتبلور منخفض الكثافة"، وهو الشكل الأكثر شيوعا لوجود الماء في الكون". ويضيف "يختلف الجليد الذي نعرفه على الأرض -مثل مكعب الثلج في مشروبنا- اختلافا كبيرا عن شكله في الفضاء. فعلى المستوى الذري في جليد الأرض، ترتب جزيئات الماء نفسها في نمط سداسي يصنع رقاقات الثلج، ولكن في الفضاء تكون الظروف أقسى بكثير، فدرجة الحرارة حوالي 270 درجة مئوية تحت الصفر أي أنها باردة جدا لدرجة أن الجزيئات لا تمتلك طاقة كافية لترتيب نفسها في هذا الهيكل السداسي". ويوضح ديفيز أن ذلك دفع بالعلماء إلى الاعتقاد أن جزيئات الجليد غير المتبلور منخفض الكثافة ستتخذ هيكلة غير منظمة تماما، لكن بعد دراسة الجليد غير المتبلور منخفض الكثافة، والذي يوجد كمادة أساسية في المذنبات وعلى الأقمار الجليدية وفي سحب الغبار حيث تتشكل النجوم والكواكب، تبين أن ذلك الاعتقاد ربما يكون خاطئا. وقد وجد الباحثون أن المحاكاة الحاسوبية لهذا الجليد تتطابق بشكل أفضل مع قياسات التجارب السابقة إذا لم يكن الجليد غير متبلور تماما، ولكنه يحتوي على بلورات صغيرة (عرضها حوالي 3 نانومترات، أي أعرض بقليل من خيط واحد من الحمض النووي) مدمجة في بنيته غير المنظمة. اكتشاف بلورات الجليد وفي التطبيق العملي التجريبي، أعاد الباحثون عملية التبلور في عينات حقيقية من الجليد غير المتبلور، والتي تشكّلت بطرق مختلفة، ووجدوا أن الجليد غير المتبلور، ليس "غير متبلور" تماما بل يحتوي على العديد من بلورات الجليد الصغيرة المحاطة بمناطق غير منظمة، كما يوضح ديفيز، والذي يضيف أن "الجليد الذي تصل نسبة تبلوره إلى 20%، يبدو مطابقا تماما لبنية الجليد غير المتبلور منخفض الكثافة، كما هو موضح في دراسات سابقة". وفي عمل تجريبي إضافي للتأكيد على تلك النتائج، أنشأ فريق البحث عينات حقيقية من الجليد غير المتبلور منخفض الكثافة بطرق متعددة، بدءا من ترسيب بخار الماء على سطح شديد البرودة وصولا إلى تسخين الجليد غير المتبلور عالي الكثافة برفق حتى تتوافر له الطاقة اللازمة لتكوين البلورات. ويقول ديفيز في تصريحات رسمية: "لدينا الآن فكرة جيدة عن شكل الجليد الأكثر شيوعا في الكون على المستوى الذري، وهذا مهم لأن الجليد يشارك في العديد من العمليات الكونية، على سبيل المثال في كيفية تكوّن الكواكب، وكيفية تطور المجرات، وكيفية حركة المادة في الكون". ويضيف: "ولهذه النتائج آثار على إحدى النظريات التخمينية حول كيفية وصول صور الحياة القديمة إلى الأرض. ووفقا لهذه النظرية، المعروفة باسم "التبذر الشامل"، حُملت لبنات الحياة الأساسية إلى هنا على متن مذنب جليدي". وأضاف ديفيز: "تشير نتائجنا إلى أن هذا الجليد سيكون مادة نقل أقل كفاءة لجزيئات أصل الحياة، وذلك لأن البنية البلورية جزئيا تحتوي على مساحة أقل لاحتواء هذه المكونات، ومع ذلك، قد تبقى هذه النظرية صحيحة، إذ توجد مناطق غير متبلورة في الجليد حيث يُمكن احتجاز لبنات الحياة الأساسية وتخزينها".
الجزيرة
منذ 3 أيام
- الجزيرة
نتائج مفاجئة لتصرفات روبوتات الذكاء الاصطناعي في محاكاة منصات التواصل
صنع مجموعة من الباحثين منصة تواصل اجتماعي مصغرة لروبوتات الذكاء الاصطناعي لمراقبة تصرفاتهم، ووجدوا أن الروبوتات بدأت تشكل مجموعات متطرفة، وفق تقرير نشرته "بيزنس إنسايدر". وتضمنت المنصة أكثر من 500 روبوت دردشة، تعتمد على خوارزمية "جي بي تي 4 أو ميني" من " أوبن إيه آي"، وحصل كل واحد من هذه الروبوتات على شخصية ليتصرف مثلها، بما فيها التوجهات السياسية والفكرية لكل شخصية. وتعكس هذه الشخصيات التوزيعات الحقيقة للعمر والجنس والدخل والتعليم والحزبية والأيدولوجية والدين والاهتمامات الشخصية لشخصيات بشرية حقيقية، إذ استخلصت هذه الشخصيات من مجموعة بيانات الانتخابات الوطنية الأميركية. وجاءت هذه الدراسة بقيادة بيتر تورنبيرج، أستاذ مساعد في العلوم الاجتماعية الحاسوبية بجامعة أمستردام ومايك لاروج مهندس أبحاث في الجامعة. ثم أعاد الباحثون التجربة ذاتها مع نماذج "لاما-3.2-8ب" (Llama-3.2-8B) من " ميتا" و" ديب سيك" لقياس النتائج الفعلية للتجربة، وجاءت الأنماط الناتجة من التجربة مماثلة لما حدث مع "أوبن إيه آي". منصة تواصل اجتماعي دون خوارزميات لا تضم المنصة التي طورها الباحثون أي خوارزميات لترويج منشورات بعينها أو حتى إعلانات مدفوعة، لضمان جودة نتيجة الدراسة والحفاظ عليها من المؤثرات الخارجية. كما اعتمدت الدراسة على 5 تجارب منفصلة تضمنت أكثر من 10 آلاف تفاعل في التجربة الواحدة، إذ كان للروبوتات حرية النشر والمتابعة والترويج بما يحاكي منصات التواصل الاجتماعي في العالم الحقيقي. ووجدت الدراسة أن الروبوتات انجذبت نحو من يشاركها الآراء السياسية، وشكلت غرفا صغيرة تضم مَن يوافقون بعضهم بعضا، كما اكتسبت الأصوات الحزبية حصة كبيرة من الاهتمام، فضلا عن جذب المنشورات المثيرة للجدل والأكثر تطرفاً أكبر عدد من المتابعين وإعادة النشر. وبعد مضي وقت قصير سيطرت مجموعة من المتطرفين على مجرى المحادثات وأصبحت أصواتهم هي المسموعة والأكثر انتشارا بما يحاكي مؤثري منصات التواصل الاجتماعي في العالم الحقيقي. وحاول الباحثون تجربة مجموعة من الإجراءات التي من شئنها خفض معدل انتشار الفئة المسيطرة على المحادثة ولكن دون جدوى، وتضمنت هذه الإجراءات إخفاء عدد المتابعين وتطبيق خوارزمية للمحتوى تبعد محتواهم عن الواجهة وإخفاء المحتوى الرائج. ويرى الفريق المسؤول عن الدراسة، أن تجربتهم تتحدى الآراء السائدة بأن خوارزميات منصات التواصل الاجتماعي هي السبب في اختلال هذه المنصات والمحتوى الموجود بها، إذ إن المنصة الاختبارية لم تضم أي خوارزمية من أي نوع. وأضافوا أن المشكلات الموجودة في منصات التواصل الاجتماعي قد تكون متجذرة في البنية الهندسية الأساسية لمنصات التواصل الاجتماعي التي تعتمد على نمو حجم الشبكة من خلال المشاركة العاطفية. ليست المرة الأولى لا تعد هذه التجربة الأولى من نوعها التي تستخدم روبوتات الذكاء الاصطناعي لمحاكاة التصرفات البشرية في الإنترنت، إذ قاد تورنبيرج دراسة أخرى في عام 2023 جعلت 500 روبوت دردشة تقرأ الأخبار وتناقشها في بيئة تحاكي منصات التواصل الاجتماعي. واعتمد تورنبيرج في تلك التجربة على روبوت "شات جي بي تي 3.5" لبناء التجربة بأكملها بما فيها الشخصيات الافتراضية. وقامت "فيسبوك" بالتجربة ذاتها في عام 2020 عندما قدمت محاكاة لمنصتها، ولكنها مليئة بروبوتات الذكاء الاصطناعي بدلا من البشر من أجل دراسة المحتوى السام والسيئ عبر الإنترنت.
