اكتشاف سبب محوري لـ"تحيّز" الشبكات العصبية في معالجة المعلومات

جو 24 :
كشف باحثون من معهد "ماساتشوستس" عن سبب ميل النماذج اللغوية الكبيرة مثل ChatGPT أو DeepSeek إلى المبالغة في تقدير المعلومات الموجودة في بداية ونهاية النص مع إهمال منتصفه.
وهذه الظاهرة التي تُسمى "تحيز الموضع" قد تعيق المستخدمين الذين يبحثون عن عبارات مفتاحية في المستندات الطويلة.
وطور فريق علمي بقيادة الباحث شين يي وو من معهد "ماساتشوستس" التكنولوجي نمطا يفسر سبب تركيز النماذج اللغوية الكبيرة مثل ChatGPT على بداية ونهاية النص.
فهي تقرأ النص على أجزاء و"تُركز" على الكلمات الأكثر أهمية لفهمه، لكن بعض الإعدادات التقنية، مثل قدرتها على رؤية الكلمات السابقة فقط أو توجيهات ترتيب الكلمات، تخلق تحيزا.
والسبب الرئيسي لاهتمامها ببداية النص مرتبط بالمعالجة التسلسلية، حيث تأخذ النماذج في الاعتبار الكلمات السابقة فقط، مما يجعل الأجزاء الأولية تبدو أكثر تأثيرا. وعلى سبيل المثال ففي وثيقة متكونة من 30 صفحة، تصل احتمالية العثور على المعلومة المطلوبة في البداية أو النهاية إلى 85%، بينما في المنتصف لا تتجاوز 60%.
وكشفت الدراسات أن دقة التحليل أعلى عند حوافي النص وتنخفض بشكل ملحوظ في منتصفه، وهي ظاهرة سُميت "تأثير الشكل U، ويتجلى ذلك أكثر في النماذج المعقدة مثل GPT-4 بطبقاتها الـ96 للمعالجة. وعلى الرغم من أن آليات مثل "التلميحات الموضعية" تساعدفي فهم السياق، إلا أن فعاليتها محدودة في النماذج الضخمة.
المصدر: Naukatv.ru
تابعو الأردن 24 على

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

رؤيا

منذ ساعة واحدة

• رؤيا

أكسيوس: مجلس النواب الأمريكي يحظر استخدام واتساب على أجهزة الموظفين لأسباب أمنية

واشنطن: "واتساب" يشكل خطرًا مرتفعًا على البيانات… وتوصية باستخدام بدائل أكثر أمانًا حظر واتساب على أجهزة موظفي الكونغرس بسبب غياب الشفافية والتشفير الإدارة التقنية في الكونغرس الأميركي تمنع "واتساب" وتحد من استخدام أدوات الذكاء الاصطناعي رسميًا: الكونغرس يحظر واتساب ويحذر من هجمات تصيد ورسائل مجهولة المصدر أفادت شبكة "أكسيوس" أن المسؤول الإداري الأعلى في مجلس النواب الأمريكي أبلغ الموظفين البرلمانيين، الاثنين، بحظر تطبيق المراسلة "واتساب" على الأجهزة الحكومية التابعة لهم. ويأتي هذا الحظر في ظل مخاوف تتعلق بضعف حماية بيانات المستخدمين، كما يتزامن مع خطوات يتخذها الكونغرس لتقييد استخدام برامج الذكاء الاصطناعي التي تعتبرها الجهات المختصة عالية المخاطر. وقد فرض المسؤول الإداري خلال السنوات الأخيرة حظراً جزئياً على تطبيقات مثل DeepSeek وتطبيقات شركة ByteDance، بالإضافة إلى Microsoft Copilot، كما شدد من القيود المفروضة على استخدام موظفي المجلس لتطبيق "شات جي بي تي"، إذ سمح فقط باستخدام النسخة المدفوعة "ChatGPT Plus". وجاء في رسالة إلكترونية حصلت عليها "أكسيوس" أن "مكتب الأمن السيبراني صنّف تطبيق واتساب على أنه عالي الخطورة للمستخدمين بسبب انعدام الشفافية في كيفية حماية بيانات المستخدم، وعدم وجود تشفير للبيانات المخزنة، إضافة إلى مخاطر أمنية محتملة مرتبطة باستخدامه". وأضاف البريد الإلكتروني: "لا يُسمح لموظفي المجلس بتحميل أو الاحتفاظ بتطبيق واتساب على أي جهاز تابع لمجلس النواب، بما في ذلك الهواتف المحمولة أو أجهزة الحاسوب أو أي من إصدارات التطبيق على متصفحات الويب". كما أوضح: "إذا كان لديك تطبيق واتساب على جهاز مدار من قبل المجلس، فسيتم التواصل معك لإزالته". وأكد المسؤول الإداري أن تطبيقات مثل Microsoft Teams وWickr وSignal وiMessage وFaceTime تُعد بدائل مقبولة. كما حذر الموظفين من الرسائل الاحتيالية والرسائل النصية الواردة من أرقام غير معروفة.

سرايا الإخبارية

منذ 2 ساعات

• سرايا الإخبارية

أكسيوس: مجلس النواب الأمريكي يحظر استخدام واتساب على أجهزة الموظفين لأسباب أمنية

سرايا - أفادت شبكة "أكسيوس" أن المسؤول الإداري الأعلى في مجلس النواب الأمريكي أبلغ الموظفين البرلمانيين، الاثنين، بحظر تطبيق المراسلة "واتساب" على الأجهزة الحكومية التابعة لهم. ويأتي هذا الحظر في ظل مخاوف تتعلق بضعف حماية بيانات المستخدمين، كما يتزامن مع خطوات يتخذها الكونغرس لتقييد استخدام برامج الذكاء الاصطناعي التي تعتبرها الجهات المختصة عالية المخاطر. وقد فرض المسؤول الإداري خلال السنوات الأخيرة حظراً جزئياً على تطبيقات مثل DeepSeek وتطبيقات شركة ByteDance، بالإضافة إلى Microsoft Copilot، كما شدد من القيود المفروضة على استخدام موظفي المجلس لتطبيق "شات جي بي تي"، إذ سمح فقط باستخدام النسخة المدفوعة "ChatGPT Plus". وجاء في رسالة إلكترونية حصلت عليها "أكسيوس" أن "مكتب الأمن السيبراني صنّف تطبيق واتساب على أنه عالي الخطورة للمستخدمين بسبب انعدام الشفافية في كيفية حماية بيانات المستخدم، وعدم وجود تشفير للبيانات المخزنة، إضافة إلى مخاطر أمنية محتملة مرتبطة باستخدامه". وأضاف البريد الإلكتروني: "لا يُسمح لموظفي المجلس بتحميل أو الاحتفاظ بتطبيق واتساب على أي جهاز تابع لمجلس النواب، بما في ذلك الهواتف المحمولة أو أجهزة الحاسوب أو أي من إصدارات التطبيق على متصفحات الويب". كما أوضح: "إذا كان لديك تطبيق واتساب على جهاز مدار من قبل المجلس، فسيتم التواصل معك لإزالته". وأكد المسؤول الإداري أن تطبيقات مثل Microsoft Teams وWickr وSignal وiMessage وFaceTime تُعد بدائل مقبولة. كما حذر الموظفين من الرسائل الاحتيالية والرسائل النصية الواردة من أرقام غير معروفة. ولم يصدر أي تعليق فوري من شركة "واتساب" بشأن القرار.

السوسنة

منذ 3 ساعات

• السوسنة

الكونغرس الأمريكي يحظر واتساب على الأجهزة الحكومية

السوسنة - أفادت شبكة "أكسيوس" أن المسؤول الإداري الأعلى في مجلس النواب الأمريكي أبلغ الموظفين البرلمانيين، الاثنين، بحظر تطبيق المراسلة "واتساب" على الأجهزة الحكومية التابعة لهم. ويأتي هذا الحظر في ظل مخاوف تتعلق بضعف حماية بيانات المستخدمين، كما يتزامن مع خطوات يتخذها الكونغرس لتقييد استخدام برامج الذكاء الاصطناعي التي تعتبرها الجهات المختصة عالية المخاطر. وقد فرض المسؤول الإداري خلال السنوات الأخيرة حظراً جزئياً على تطبيقات مثل DeepSeek وتطبيقات شركة ByteDance، بالإضافة إلى Microsoft Copilot، كما شدد من القيود المفروضة على استخدام موظفي المجلس لتطبيق "شات جي بي تي"، إذ سمح فقط باستخدام النسخة المدفوعة "ChatGPT Plus". وجاء في رسالة إلكترونية حصلت عليها "أكسيوس" أن "مكتب الأمن السيبراني صنّف تطبيق واتساب على أنه عالي الخطورة للمستخدمين بسبب انعدام الشفافية في كيفية حماية بيانات المستخدم، وعدم وجود تشفير للبيانات المخزنة، إضافة إلى مخاطر أمنية محتملة مرتبطة باستخدامه". وأضاف البريد الإلكتروني: "لا يُسمح لموظفي المجلس بتحميل أو الاحتفاظ بتطبيق واتساب على أي جهاز تابع لمجلس النواب، بما في ذلك الهواتف المحمولة أو أجهزة الحاسوب أو أي من إصدارات التطبيق على متصفحات الويب". كما أوضح: "إذا كان لديك تطبيق واتساب على جهاز مدار من قبل المجلس، فسيتم التواصل معك لإزالته". وأكد المسؤول الإداري أن تطبيقات مثل Microsoft Teams وWickr وSignal وiMessage وFaceTime تُعد بدائل مقبولة. كما حذر الموظفين من الرسائل الاحتيالية والرسائل النصية الواردة من أرقام غير معروفة. ولم يصدر أي تعليق فوري من شركة "واتساب" بشأن القرار. أقرأ أيضًا: