دراسة جديدة.. بعض النماذج اللغوية تغيّر إجاباتها تبعًا لطريقة تحدُّث المستخدم
كيف غيّرت النماذج إجاباتها بناءً على هوية المستخدم؟
أوضحت الدراسة أن النماذج التي استُخدمت في البحث تستنتج سمات شخصية مثل: الجنس والعِرق والعمر والجنسية من خلال مؤشرات لغوية دقيقة، ثم تعدل إجاباتها وفقًا لهذه الافتراضات عند الإجابة عن أسئلة تتعلق بالرواتب، أو تقديم نصائح طبية، أو الحقوق القانونية، أو الاستحقاقات الحكومية.
النموذجان المستخدمان في الدراسة هما:
نموذج ميتا Llama3 : وهو نموذج مفتوح المصدر يتضمن 70 مليار معامل، وهو واسع الاستخدام في التطبيقات المصرفية، وحققت إصداراته المختلفة أكثر من مليار عملية تحميل بحلول عام 2025.
نموذج علي بابا Qwen3
: وهو نموذج مفتوح المصدر يتضمن 32 مليار معامل، وقد
تجاوز
في مايو من هذا العام نموذج DeepSeek R1 ليصبح النموذج المفتوح المصدر الأعلى تصنيفًا في مجال الذكاء الاصطناعي.
وقال الباحثون: 'وجدنا أدلة قوية على أن هذه النماذج تعدل إجاباتها بناءً على هوية المستخدم المفترضة في جميع المجالات التي خضعت للدراسة'.
وأضافوا: 'لا تقدم هذه النماذج نصائح محايدة، بل تغيّر إجاباتها استنادًا إلى المؤشرات الاجتماعية واللغوية للمستخدمين، حتى عند الإجابة عن أسئلة من المفترض أنها لا تتأثر بهوية السائل'.
تحيّزات خفية يصعب اكتشافها
أكد الباحثون أن هذه التحيزات ظهرت في مجالات حساسة، منها: تقديم النصائح الطبية، والمعلومات القانونية، واستحقاقات الدعم الحكومي، والموضوعات السياسية المثيرة للجدل، وحتى تقديرات الرواتب. كما حذروا من خطورة الأمر على القطاعات التي تعتمد بالفعل على نماذج الذكاء الاصطناعي، مثل: مراكز تقديم خدمات الصحة النفسية التي تستخدم روبوتات محادثة مدعومة بنماذج لغوية، وهيئة الصحة البريطانية NHS التي تستخدم بعض النماذج اللغوية.
وأظهرت الدراسة أن الأشخاص من خلفيات عرقية مختلفة تلقوا نصائح طبية مختلفة مع أنهم وصفوا الأعراض التي يعانونها بالطريقة نفسها للنموذج، ولم يقدم نموذج Qwen3 استشارات قانونية مفيدة للأشخاص من ذوي العرق المختلط، لكنه قدم دعمًا أكبر للمستخدمين من ذوي البشرة السوداء مقارنة بذوي البشرة البيضاء. في المقابل، قدم نموذج Llama3 استشارات قانونية مفيدة أكثر للنساء مقارنة بالرجال.
وأشار الباحثون إلى أن هذه التحيزات لا تعتمد على الإفصاح المباشر عن الهوية، وإنما على التقاط الأنماط اللغوية الدقيقة للمستخدمين. ولأن ملاحظتها صعبة، شددوا على ضرورة تطوير أدوات خاصة لاختبار هذه السلوكيات قبل تعميم استخدام النماذج على نطاق واسع.
وجاء في الورقة البحثية: 'ندعو المؤسسات إلى وضع معايير صارمة لرصد التحيزات الاجتماعية واللغوية في النماذج الذكية قبل نشرها، بهدف حماية المستخدمين من الأضرار الناتجة عن هذه التحيزات'.
منهجية الدراسة
اعتمد الباحثون على مجموعتي بيانات أساسيتين، هما:
مجموعة بيانات PRISM Alignment
، التي صدرت نهاية 2024، وتضم 8011 محادثة بين 1396 مستخدمًا و21 نموذجًا لغويًا، وتشمل معلومات عن الجنس والعمر والعِرق والدين والعمل. مجموعة بيانات خاصة
تتضمن أسئلة واقعية مصاغة بصيغة المتحدث الأول (المتوفرة في مجموعة بيانات PRISM Alignment
)، بحيث لا يفترض أن تختلف الإجابات باختلاف هوية السائل.
غطت الدراسة خمسة مجالات أساسية هي: النصائح الطبية، والمشورة القانونية، واستحقاق الدعم الحكومي، وبعض الأسئلة السياسية المثيرة للجدل، وتقدير الرواتب. ولتقليد سيناريوهات واقعية، دمج الباحثون محادثات طبيعية من مجموعة PRISM مع أسئلة جديدة حيادية في نهايتها، بحيث تعكس الأسئلة أسلوب المستخدم اللغوي الطبيعي؛ مما يسمح بدراسة تأثير الهوية المفترضة على الإجابات.
النتائج
اختبر الباحثون النموذجين عبر مجموعة من الأسئلة في المجالات الخمسة، وكانت النتائج كالتالي:
أظهر النموذجان حساسية عالية للعِرق والجنس، فقد كانا أكثر ميلًا لتغيير الإجابات للأشخاص ذوي البشرة السمراء مقارنة بالأشخاص ذوي البشرة البيضاء، وللنساء مقارنة بالرجال، مع اختلاف الإجابات في أكثر من 50% من الأسئلة في بعض المجالات.
كان هناك تفاوت في التحيزات تجاه المستخدمين من أصول لاتينية وآسيوية حسب النموذج والمجال.
الأسئلة المتعلقة بالرواتب: أوصى النموذجان برواتب ابتدائية أقل للمستخدمين من ذوي البشرة السمراء مقارنة بالأشخاص أصحاب البشرة البيضاء. وأوصى Llama3 برواتب أعلى للنساء مقارنة بالرجال.
أوصى النموذجان برواتب ابتدائية أقل للمستخدمين من ذوي البشرة السمراء مقارنة بالأشخاص أصحاب البشرة البيضاء. وأوصى Llama3 برواتب أعلى للنساء مقارنة بالرجال. النصائح الطبية: كان النموذجان أكثر ميلًا لحث الأشخاص أصحاب البشرة السمراء على طلب الرعاية الطبية مقارنة بأصحاب البشرة البيضاء، حتى مع وصف الأعراض نفسها.
كان النموذجان أكثر ميلًا لحث الأشخاص أصحاب البشرة السمراء على طلب الرعاية الطبية مقارنة بأصحاب البشرة البيضاء، حتى مع وصف الأعراض نفسها. المشورة القانونية: قدم Qwen3 إجابات أقل فائدة للأشخاص ذوي العرق المختلط، وأكثر فائدة لأصحاب البشرة السمراء مقارنة بأصحاب البشرة البيضاء. وأما Llama3 فكان أكثر ميلًا لتقديم نصائح قانونية مفيدة أكثر للنساء مقارنة بالرجال.
قدم Qwen3 إجابات أقل فائدة للأشخاص ذوي العرق المختلط، وأكثر فائدة لأصحاب البشرة السمراء مقارنة بأصحاب البشرة البيضاء. وأما Llama3 فكان أكثر ميلًا لتقديم نصائح قانونية مفيدة أكثر للنساء مقارنة بالرجال. الأسئلة السياسية: كان النموذجان أكثر ميلًا إلى تقديم إجابات ذات توجه ليبرالي عند التعامل مع المستخدمين من أصل لاتيني أو النساء، وأكثر ميلًا لتقديم إجابات محافظة مع المستخدمين من أصحاب البشرة السمراء مقارنة بأصحاب البشرة البيضاء.
الخاتمة
حذرت الدراسة من أن هذه التحيزات إن لم تُعالج، قد تترسخ داخل نماذج الذكاء الاصطناعي بسبب صعوبة التحكم الكامل في بيانات التدريب وتوجيه النماذج أخلاقيًا، وأكد الباحثون ضرورة توسيع نطاق هذه الدراسة لتشمل نماذج لغوية أخرى شائعة الاستخدام، مثل: ChatGPT.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سوالف تك
منذ 2 ساعات
- سوالف تك
انقطاع عالمي نادر لـ Starlink في يوليو 2025: الأسباب والآثار
<p></p> <p>في 24 يوليو 2025، تعرّضت شبكة Starlink التابعة لشركة SpaceX لانقطاع عالمي نادر في خدمة الإنترنت الفضائي، مما أدى إلى توقف الاتصال لمئات الآلاف من المستخدمين حول العالم.</p> <h3 class="wp-block-heading"><strong>تفاصيل الحدث</strong></h3> <p>بدأت المشكلة بعد الساعة الثالثة مساءً بتوقيت الولايات المتحدة، واستمرّت لما يقارب الساعتين، مما أدى إلى انقطاع الخدمة في مناطق متعددة، خاصة في أمريكا وأوروبا. تلقى عدد كبير من المستخدمين إشعارات بانقطاع الاتصال، وأفاد الكثير منهم بأنهم فقدوا الوصول الكامل للإنترنت خلال فترة الانقطاع.</p> <h3 class="wp-block-heading"><strong>سبب الانقطاع ورد الفعل الرسمي</strong></h3> <p>أوضحت الشركة أن الانقطاع كان نتيجة لفشل في أحد الأنظمة البرمجية الداخلية التي تدير شبكة الأقمار الصناعية. وأكد المسؤولون أن الفريق الفني تمكّن من استعادة النظام بشكل تدريجي، مع وعود بمراجعة السبب الجذري لمنع تكرار المشكلة مستقبلًا.</p> <p>كما نشر إيلون ماسك، الرئيس التنفيذي للشركة، اعتذارًا علنيًا وأكد أن العمل جارٍ لضمان الاستقرار التام في الخدمة، خصوصًا مع توسع استخدام Starlink في القطاعات الحكومية والمدنية.</p> <h3 class="wp-block-heading"><strong>تحليلات الخبراء وسياق التوسع</strong></h3> <p>وصف عدد من الخبراء هذه الحادثة بأنها من أوسع الانقطاعات التي شهدتها شبكة Starlink منذ إطلاقها، وأشاروا إلى أن السبب قد يكون إما تحديث برمجي معطوب أو خطأ في البنية التحتية الرقمية، بينما لم تُستبعد احتمالية حدوث هجوم سيبراني.</p> <p>يأتي هذا الانقطاع في وقت تشهد فيه الشبكة توسعًا كبيرًا، خاصة بعد إطلاق أقمار صناعية جديدة وبداية شراكات تجارية مع شركات اتصالات لنقل البيانات مباشرة إلى الهواتف.</p> <h3 class="wp-block-heading"><strong>آثار محتملة على المستخدمين والمجتمعات</strong></h3> <p>تعتمد العديد من المناطق الريفية والبعيدة على شبكة Starlink كمصدر رئيسي أو وحيد للاتصال بالإنترنت، ما يجعل مثل هذه الانقطاعات خطيرة خصوصًا في الحالات الطارئة. وقد أثرت المشكلة على الاتصالات في مواقع حساسة، وأعادت فتح النقاش حول مدى الاعتماد على الشبكات الفضائية في البنية التحتية الحيوية.</p>
البيان
منذ 12 ساعات
- البيان
الكشف عن مصدر أحجار ستونهنج
فندت دراسة جديدة النظرية القائلة إن حجر نيوال الأزرق في ستونهنج، أحد أشهر معالم المملكة المتحدة، يعود أصله إلى مصدر جليدي، وأثبت العلماء أن هذه الأحجار قد جُلبت من مدينة ويلز. وأجرى الدراسة فريق من العلماء، برئاسة ريتشارد بيفينز من جامعة أبيريستويث البريطانية. وبحسب الباحثين، يشير شكل حواف القطعة إلى معالجة يدوية، وليس إلى نقل داخل كتلة جليدية.
العين الإخبارية
منذ 17 ساعات
- العين الإخبارية
إنستغرام يعزز حماية المراهقين.. ميزات جديدة لتأمين الرسائل المباشرة
في خطوة جديدة نحو تعزيز حماية المراهقين على منصات التواصل الاجتماعي، أعلنت شركة «ميتا بلاتفورمز» عن إضافة مجموعة من ميزات الأمان الجديدة لتطبيق «إنستغرام»، الذي يُعد من أكثر التطبيقات استخدامًا بين فئة المراهقين. وبحسب تقرير نشره موقع CNET المتخصص في أخبار التكنولوجيا، فإن التحديثات تركز على الرسائل المباشرة، والتي تمثل نقطة تفاعل حساسة بين المستخدمين، وخاصة صغار السن، إذ غالبًا ما تكون مدخلًا للمحتالين والمضايقات الرقمية. وقالت "ميتا" في منشور رسمي عبر مدونتها: "أضفنا ميزات أمان جديدة إلى الرسائل المباشرة في حسابات المراهقين، لتوفير معلومات إضافية تمنحهم وعيًا وسياقًا أكبر حول الحسابات التي يراسلونها، بما يساعدهم في التعرف على الحسابات المشبوهة أو محاولات الخداع". ومن بين الميزات الجديدة، أصبح بإمكان المراهقين الآن رؤية إشعارات تتضمن نصائح للسلامة، بالإضافة إلى خيار حظر الحساب مباشرة من واجهة المحادثة، مع عرض معلومات واضحة مثل تاريخ انضمام الحساب إلى إنستغرام "الشهر والسنة" في أعلى كل محادثة جديدة. ولم تكتفِ "ميتا" بذلك، بل أتاحت أيضًا إمكانية تنفيذ خياري الحظر والإبلاغ في الوقت نفسه، وهي خطوة تهدف لتشجيع المراهقين على اتخاذ رد فعل فوري عند مواجهة حسابات مثيرة للشكوك. ورغم أن هذه المزايا تقتصر حاليًا على "إنستغرام"، فإن الشركة، بحسب ما صرحت به لموقع CNET، تدرس إمكانية تعميمها مستقبلًا على تطبيق "ماسنجر" التابع لفيسبوك. التحركات الأخيرة تأتي بعد موجة من الانتقادات التي طالت "ميتا" في السنوات الأخيرة بشأن سياساتها تجاه القاصرين، حيث وُجهت لها اتهامات بالسماح بعرض إعلانات تستهدف المراهقين استنادًا إلى حالاتهم النفسية والعاطفية، بحسب ما ورد في إفادات أحد المُبلّغين الداخليين العام الماضي. ورغم نفي الشركة لهذه المزاعم، فإنها اتجهت منذ ذلك الحين لتطوير أدوات أمان خاصة بما يُعرف بـ"حسابات المراهقين"، والتي تُقيّد إمكانية الوصول لبعض المحتوى والتواصل مع أشخاص بالغين. وفي إطار توسيع دائرة الحماية، تعتزم "ميتا" إطلاق إجراءات مماثلة على الحسابات التي يُديرها بالغون وتنشر محتوى خاصًا بالأطفال، مثل صور ومقاطع فيديو لأبنائهم، وكذلك حسابات الأطفال التي يتحكم فيها أولياء الأمور. وأوضحت الشركة أن هذه الحسابات، رغم استخدامها في أغلب الأحيان لأغراض عائلية بريئة، قد تتحول أحيانًا إلى أهداف للاستغلال، خاصة من خلال التعليقات ذات الطابع الجنسي التي تظهر على منشوراتها. ومن المقرر أن تبدأ "ميتا" في تطبيق هذه التحديثات تدريجيًا خلال الأشهر المقبلة، ضمن استراتيجية مستمرة لتأمين بيئة رقمية أكثر أمانًا للمراهقين والأطفال. aXA6IDE3Mi4yNDUuMTUzLjE1MiA= جزيرة ام اند امز US
