اكتشاف سبب محوري لـ"تحيّز" الشبكات العصبية في معالجة المعلومات

كشف باحثون من معهد " ماساتشوستس" عن سبب ميل النماذج اللغوية الكبيرة مثل ChatGPT أو DeepSeek إلى المبالغة في تقدير المعلومات الموجودة في بداية ونهاية النص مع إهمال منتصفه.
وهذه الظاهرة التي تُسمى "تحيز الموضع" قد تعيق المستخدمين الذين يبحثون عن عبارات مفتاحية في المستندات الطويلة.
وطور فريق علمي بقيادة الباحث شين يي وو من معهد "ماساتشوستس" التكنولوجي نمطا يفسر سبب تركيز النماذج اللغوية الكبيرة مثل ChatGPT على بداية ونهاية النص.
فهي تقرأ النص على أجزاء و"تُركز" على الكلمات الأكثر أهمية لفهمه، لكن بعض الإعدادات التقنية، مثل قدرتها على رؤية الكلمات السابقة فقط أو توجيهات ترتيب الكلمات، تخلق تحيزا.
السبب الرئيسي لاهتمامها ببداية النص مرتبط بالمعالجة التسلسلية، حيث تأخذ النماذج في الاعتبار الكلمات السابقة فقط، مما يجعل الأجزاء الأولية تبدو أكثر تأثيرا. وعلى سبيل المثال ففي وثيقة متكونة من 30 صفحة، تصل احتمالية العثور على المعلومة المطلوبة في البداية أو النهاية إلى 85%، بينما في المنتصف لا تتجاوز 60%.
وكشفت الدراسات أن دقة التحليل أعلى عند حوافي النص وتنخفض بشكل ملحوظ في منتصفه، وهي ظاهرة سُميت "تأثير الشكل U، ويتجلى ذلك أكثر في النماذج المعقدة مثل GPT-4 بطبقاتها الـ96 للمعالجة. وعلى الرغم من أن آليات مثل "التلميحات الموضعية" تساعد في فهم السياق، إلا أن فعاليتها محدودة في النماذج الضخمة. (روسيا اليوم)

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

ليبانون 24

منذ 3 ساعات

• ليبانون 24

أسئلة تدفع الذكاء الإصطناعي إلى إنتاج كميات كبيرة من الانبعاثات الكربونية

اكتشف باحثون ألمان أن طرح أسئلة تحتاج إلى تفكير عميق على روبوتات الدردشة مثل ChatGPT يجعلها تستهلك طاقة أكبر ما يؤدي لانبعاثات كربونية أعلى بكثير من الأسئلة البسيطة. ويشير الباحثون من جامعة ميونخ للعلوم التطبيقية بألمانيا إلى أن كل استفسار يتم إدخاله إلى نموذج لغوي كبير مثلChatGPT يتطلب طاقة ويؤدي إلى انبعاثات ثاني أكسيد الكربون. ويؤكد الباحثون أن مستويات الانبعاثات تعتمد على روبوت الدردشة والمستخدم وموضوع السؤال. ويوصي الباحثون المستخدمين باستمرار لروبوتات الدردشة الذكاء الاصطناعي بتعديل نوع الأسئلة التي يطرحونها للحد من الانبعاثات الكربونية. (روسيا اليوم)

ليبانون 24

منذ 6 ساعات

• ليبانون 24

اكتشاف سبب محوري لـ"تحيّز" الشبكات العصبية في معالجة المعلومات

كشف باحثون من معهد " ماساتشوستس" عن سبب ميل النماذج اللغوية الكبيرة مثل ChatGPT أو DeepSeek إلى المبالغة في تقدير المعلومات الموجودة في بداية ونهاية النص مع إهمال منتصفه. وهذه الظاهرة التي تُسمى "تحيز الموضع" قد تعيق المستخدمين الذين يبحثون عن عبارات مفتاحية في المستندات الطويلة. وطور فريق علمي بقيادة الباحث شين يي وو من معهد "ماساتشوستس" التكنولوجي نمطا يفسر سبب تركيز النماذج اللغوية الكبيرة مثل ChatGPT على بداية ونهاية النص. فهي تقرأ النص على أجزاء و"تُركز" على الكلمات الأكثر أهمية لفهمه، لكن بعض الإعدادات التقنية، مثل قدرتها على رؤية الكلمات السابقة فقط أو توجيهات ترتيب الكلمات، تخلق تحيزا. السبب الرئيسي لاهتمامها ببداية النص مرتبط بالمعالجة التسلسلية، حيث تأخذ النماذج في الاعتبار الكلمات السابقة فقط، مما يجعل الأجزاء الأولية تبدو أكثر تأثيرا. وعلى سبيل المثال ففي وثيقة متكونة من 30 صفحة، تصل احتمالية العثور على المعلومة المطلوبة في البداية أو النهاية إلى 85%، بينما في المنتصف لا تتجاوز 60%. وكشفت الدراسات أن دقة التحليل أعلى عند حوافي النص وتنخفض بشكل ملحوظ في منتصفه، وهي ظاهرة سُميت "تأثير الشكل U، ويتجلى ذلك أكثر في النماذج المعقدة مثل GPT-4 بطبقاتها الـ96 للمعالجة. وعلى الرغم من أن آليات مثل "التلميحات الموضعية" تساعد في فهم السياق، إلا أن فعاليتها محدودة في النماذج الضخمة. (روسيا اليوم)

صدى البلد

منذ 13 ساعات

• صدى البلد

أسئلة خط أحمر.. 5 أشياء لا تطلبها من شات جي تي

اكتسب تطبيق شات جي بي تي "ChatGPT" شهرة عالمية غير مسبوقة منذ إطلاقه عام 2022، حيث يقدر عدد عمليات البحث اليومية بمليار عملية، وهو رقم أسرع بـ 5 مرات ونصف من معدل جوجل لنفس العدد. يعتمد شات جي بي تي على الذكاء الاصطناعي لتقديم خدمات متنوعة للمستخدمين، كالكتابة والبرمجة والبحث وخدمة العملاء، مما يجعله أداة قيمة للأفراد والشركات على حد سواء. وعلى الرغم من إمكانياته المتعددة وسرعة استجابته لمختلف الأسئلة؛ إلا أن 'شات جي تي'، لا يغني عن الخبراء في بعض المجالات الحساسة، وإليك أهم الأمور التي يجب تجنبها عند استخدام هذه الأداة: 5 أشياء لا تسألها لـ شات جي تي ١. لا تطلب المشورة الطبية: على الرغم من قدرته على تقديم إجابات لأي سؤال؛ إلا أنه لا يغني عن الطبيب، حيث يتطلب تشخيص الحالات أو تقديم المشورة الطبية تدخل شخص مؤهل، وليس روبوت دردشة. ٢. لا تسأل عن أساليب الاختراق: يعد طلب المساعدة لاختراق الحسابات الشخصية أو الأنظمة الإلكترونية مخالفة للقانون، كما أن شات جي بي تي، مبرمج بإجراءات أمنية تمنع استخدامه في مثل هذه الأنشطة غير القانونية. 3. لا تعتمد عليه في الأمور القانونية: تعد الإجراءات القانونية معقدة وقابلة للتأويلات المتعددة، لذا قد يؤدي الاعتماد على الذكاء الاصطناعي في هذا المجال إلى نتائج غير صحيحة، لذا يفضل استشارة محامي مختص. 4. لا تعتمد عليه في التنبؤات المالية: تتطلب قرارات الاستثمار، معرفة دقيقة بتحولات السوق، وتحليل البيانات، وقد يؤدي الاعتماد على تنبؤات شات جي تي فقط إلى خسائر مالية كبيرة، لذا ينصح باستشارة مستشار مالي. 5. لا تطلب منه تعليمات ضارة أو خطيرة: سيقابل طلب معلومات حول كيفية تصنيع أدوات خطرة أو ارتكاب أعمال عنف، بالرفض الفوري من قبل النظام، الذي زود بإرشادات صارمة لمنع إساءة الاستخدام.