كيف ينتج الذكاء الاصطناعي معلومات خاطئة؟
#سواليف
تخيّل أنك تخوض امتحان تاريخ دون استعداد كافٍ، وتعتمد فقط على الحدس في الإجابة، فتربط '1776' بالثورة الأمريكية و'هبوط القمر' بعام 1969. هذا تقريباً ما تفعله نماذج اللغة الكبيرة (LLMs) مثل ChatGPT: إنها لا تفهم أو تفكر، بل 'تخمّن' الكلمة التالية بناءً على أنماط شاهدتها في كميات هائلة من النصوص.
هذه الحقيقة تؤكد قوة #نماذج #اللغة_الكبيرة وحدودها، وهذا يقودنا إلى السؤال الأهم: إذا كانت النماذج بهذه الذكاء، فلماذا لا تزال ترتكب الأخطاء، أو تهلوس الحقائق، أو تظهر تحيزاً؟ لفهم ذلك، علينا التعمق في كيفية تعلمها، وفق 'إنتريستينغ إنجينيرنغ'.
كيف تعمل هذه النماذج؟
تُقسّم اللغة إلى وحدات صغيرة (رموز) مثل 'wash' و'ing'، وتخصص لكل منها وزناً في شبكة عصبية ضخمة، ثم تعدّل هذه الأوزان باستمرار خلال التدريب لتقليل الأخطاء. بمرور الوقت، تتقن هذه النماذج التعرف على الأنماط، لكنها لا 'تعرف' الحقائق، فهي فقط تتوقع ما يبدو صحيحاً.
لماذا تخطئ أو تهلوس؟
لأنها تخمّن. هذا التخمين يؤدي أحياناً إلى 'هلوسة' معلومات خاطئة أو مفبركة بثقة، كاختراع مصادر أو استشهادات.
هذه ليست أكاذيب متعمّدة، بل نتيجة لعدم تمييز النموذج بين الصحيح والمزيف.
وفي التطبيقات العملية، يمكن للهلوسة أن تؤدي إلى عواقب وخيمة، وفي البيئات القانونية والأكاديمية والطبية، يمكن للذكاء الاصطناعي اختلاق قوانين ومصادر أو تشخيص الحالات بثقة تامة دون معرفة تاريخ صحة المريض، وهذا يوضح ضرورة مراجعة البشر لأي محتوى ينتجه الذكاء الاصطناعي والتحقق منه، خاصةً في المجالات التي تعدّ فيها الدقة أمراً بالغ الأهمية.
التحيّز والمعرفة القديمة
نظراً لأن النماذج تتعلم من بيانات الإنترنت، فهي معرضة لاكتساب التحيزات الثقافية والجندرية والسياسية المتأصلة في تلك البيانات.
كما أن 'معرفتها' مجمّدة زمنياً، فإذا تغير العالم بعد آخر تدريب لها، تصبح استنتاجاتها قديمة.
لماذا يصعب إصلاح هذه الأخطاء؟
يعمل مدربو الذكاء الاصطناعي مع مليارات الاحتمالات، وتدريبهم مرة أخرى من الصفر مكلف من حيث المال والقدرة الحاسوبية، والأسباب متشعبة، منها:
تكلفة تحديث البيانات: تدريب نموذج جديد يتطلب موارد هائلة.
غموض 'الصندوق الأسود': لا يمكن دائماً تفسير لماذا أعطى النموذج استجابة معينة.
محدودية الرقابة البشرية: لا يمكن فحص كل إجابة يخرج بها النموذج.
الحلول المطروحة
وللتغلب على هذه المشكلات، يلجأ المطورون إلى:
التعلّم المعزز بالتغذية الراجعة البشرية (RLHF)، حيث يقيّم البشر مخرجات النموذج لتحسينه.
الذكاء الاصطناعي الدستوري، كما لدى Anthropic، لتدريب النماذج على الالتزام بمبادئ أخلاقية.
مبادرة Superalignment من OpenAI، لتطوير ذكاء اصطناعي يتماشى مع القيم الإنسانية دون إشراف دائم.
قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي يضع قواعد صارمة للأنظمة عالية المخاطر.
ما دور المستخدمين؟
#الذكاء_الاصطناعي أداة قوية، لكنه ليس معصوماً. لذا، تظل المراجعة البشرية ضرورية، خاصة في المجالات الحساسة كالقانون والطب والتعليم، فالخطأ الذي يصدر عن الذكاء الاصطناعي، تقع مسؤوليته على البشر، لا على الخوارزميات.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سواليف احمد الزعبي
منذ 2 ساعات
- سواليف احمد الزعبي
قوة خفية تمزق إفريقيا ببطء!
#سواليف أفاد فريق من الباحثين أن شرق #إفريقيا يشهد تحولا جيولوجيا هائلا، حيث تعمل #قوة_خفية تحت سطح #الأرض على #تمزيق القارة ببطء. ويعمل نظام صدع شرق إفريقيا (EARS) على تمزيق القارة تدريجيا على مدى ملايين السنين. ويمتد هذا الصدع الطولي، الذي يبلغ طوله حوالي 3200 كيلومتر، منذ أكثر من 22 مليون سنة، مارا عبر منطقة #البحيرات_العظمى في إفريقيا. ويشكل الحد الفاصل بين صفيحتين تكتونيتين: #الصفيحة_الصومالية والصفيحة النوبية، اللتين تتباعدان تدريجيا عن بعضهما البعض. وأظهر الباحثون وجود عمود صخري هائل من الصخور الساخنة المنصهرة جزئيا تحت المنطقة، يعرف بـ'العمود الإفريقي الفائق'، وهو المسؤول الرئيسي عن #تباعد_الصفائح و #انشقاق_القارة. وتتسبب الحرارة والضغط الهائل الناتجان عن هذا العمود في إضعاف #الغلاف_الصخري، ما يؤدي إلى تشققه وتوسع الصدع. وتشير قياسات نظام تحديد المواقع العالمي (GPS) إلى أن الصفائح تتباعد بمعدل نحو 0.5 سنتيمتر سنويا. ومع مرور الوقت، قد يؤدي هذا الانشقاق إلى تشكل محيط جديد، حيث تنفصل أجزاء من الصومال وشرق إثيوبيا وكينيا وتنزانيا لتصبح كتلة يابسة مستقلة. وكانت التقديرات السابقة تشير إلى أن هذا الانفصال الكامل قد يستغرق عشرات الملايين من السنين، لكن النماذج الحديثة تشير إلى أنه قد يحدث خلال مليون إلى 5 ملايين سنة. وفي دراسة أجراها فريق من جامعة غلاسكو في اسكتلندا، تم استخدام بيانات من حقل مينينجاي الحراري في كينيا لتحليل نظائر غاز النيون، ما ساعد على تحديد مصدر القوى التي تسبب التباعد القاري. وأثبت الباحثون أن هذه القوى تنبع من أعماق الأرض، بين اللب الخارجي والوشاح، مؤكدين وجود كتلة صخرية ضخمة ساخنة تحرك الصفائح وتدفع القارة للارتفاع عدة مئات من الأمتار. كما كشفوا، من خلال تحليل كيميائي دقيق، أن الصدع يتغذى من عمود صخري عملاق واحد، وليس من عدة مصادر صغيرة. ويمتد صدع شرق إفريقيا من إثيوبيا إلى ملاوي، وقد شهد ظهور شقوق ضخمة في السنوات الأخيرة، مثل صدع عام 2005 في منطقة عفار بإثيوبيا الذي بلغ طوله حوالي 60 كيلومترا، وصدع عام 2018 في وادي الصدع العظيم بكينيا، الذي تسبب في تعطيل حركة النقل. ويتوقع العلماء أن مياه البحر الأحمر والمحيط الهندي ستتدفق تدريجيا إلى المناطق المنخفضة التي يتوسع فيها الصدع، مكونة حوضا محيطيا جديدا. وقال كين ماكدونالد، عالم الجيوفيزياء البحرية: 'سيغمر خليج عدن والبحر الأحمر منطقة عفار وصولا إلى وادي الصدع في شرق إفريقيا، ما يؤدي إلى ظهور محيط جديد'. وأضاف: 'بذلك، تتحول هذه المنطقة إلى قارة مستقلة، مع إمكانية انضمام دول، مثل الصومال وكينيا وتنزانيا إلى كتلة يابسة جديدة'. وقد تؤدي هذه التحولات إلى تغير حدود دول غير ساحلية مثل أوغندا وزامبيا، ومنحها سواحل بحرية جديدة، ما سيعيد تشكيل طرق التجارة والتوازنات الجيوسياسية في المنطقة. وتتسبب هذه العملية المستمرة في حدوث زلازل متكررة وثورات بركانية وانكسارات جيولوجية واسعة، تعكس الديناميكية المتزايدة لقشرة الأرض في هذه المنطقة.
سواليف احمد الزعبي
منذ 12 ساعات
- سواليف احمد الزعبي
جسم كروي غامض يحير علماء الفلك
#سواليف اكتشف #العلماء جسيما في مجرة #درب_التبانة أطلقوا عليه اسم ' #تيليوس '، وهو عبارة عن #فقاعة_كروية شبه مثالية. يُعتقد أن أصلها مرتبط بانفجار نجمي، لكن التفاصيل لا تزال تحير علماء الفلك. وقد أطلق على الجسم اسم تيليوس (من الكلمة اليونانية القديمة التي تعني 'الكمال')، لأن شكله متماثل بشكل لافت للنظر، وسلوكه لا يتناسب مع النماذج العلمية التقليدية. اكتُشف هذا الجسم (الفقاعة) الغامض بواسطة التلسكوب الأسترالي ASKAP، كجزء من مشروع EMU (خريطة الكون التطورية). وقد سبق لهذا التلسكوب نفسه أن رصد ما يُعرف بـ'دوائر الراديو الغريبة' في الفضاء، وهي هياكل نادرة على شكل حلقات يصعب تفسيرها. لكن 'تيليوس' يختلف عنها؛ فهو يقع داخل مجرة درب التبانة، وليس في أعماق المجرات البعيدة، مما يجعله أكثر قابلية للدراسة التفصيلية. يتميّز 'تيليوس' بانبعاثه الراديوي الحصري، حيث لا يظهر في الأطوال الموجية الأخرى. وتشير تحليلاته الطيفية إلى أنه قد يكون بقايا مُستعر أعظم من النوع Ia – أحد أشد الانفجارات النجمية عنفا، والذي يحدث عندما يصل القزم الأبيض إلى كتلة حرجة بامتصاص مادة من نجم مرافق، مما يؤدي إلى انهياره. إلا أن عدم تحديد المسافة الدقيقة للجسم يُشكّل عائقا رئيسيا يعقّد عملية التحليل بشكل كبير. يطرح علماء الفلك احتمالين لموقع 'تيليوس': إما على بُعد 7,175 سنة ضوئية، أو 25,114 سنة ضوئية. في السيناريو الأول، يبلغ قُطر الفقاعة 46 سنة ضوئية، بينما يصل إلى 157 سنة ضوئية في الحالة الثانية. وتشير هذه التقديرات إلى أن عُمر البقايا قد يقل عن ألف عام، أو يتجاوز 10,000 عام. المثير للاستغراب أنه – وفقا للنماذج الحسابية – كان يُفترض أن يصدر عن الجسم انبعاثات لأشعة سينية في كلا الحالتين، إلا أن الأرصاد لم تُسجّل أيا منها، وهو ما يُشكّل لغزا يحير الباحثين. يستكشف الباحثون فرضية بديلة تشير إلى أن 'تيليوس' قد يكون ناتجا عن مستعر أعظم من النوع Iax – وهو انفجار نادر لا يؤدي إلى تدمير القزم الأبيض بالكامل، بل يترك وراءه ما يُعرف بـ'نجم زومبي'. بينما تتطابق بعض خصائص 'تيليوس' مع هذا النموذج، إلا أن التفسير يتطلب أن يكون الجسم أقرب بكثير – على بُعد 3,262 سنة ضوئية فقط. ورغم وجود نجم مرشح في هذه المنطقة، إلا أن القياسات الفلكية الأخرى لا تدعم هذه المسافة القريبة، مما يُبقي الفرضية موضع تساؤل. يُضفي التناسق شبه المثالي لـ'تيليوس' طبقة إضافية من الغموض العلمي، حيث تُعد هذه الظاهرة نادرة للغاية في عالم بقايا المستعرات العظمى. فعادة ما تكون الانفجارات النجمية وموادها المقذوفة غير متماثلة، إذ يتأثر شكلها بعوامل عدّة تشمل طبيعة الانفجار نفسه وخصائص الوسط بين النجمي المحيط. ويُشير الشكل الكروي المثالي لـ'تيليوس' إلى أنه يتطور في بيئة شبه خالية من المادة، ولم يبدأ بعد في التفاعل مع أي أجسام مجاورة قد تشوه بنيته. من وجهة نظر علمية، قد يمثل هذا الجسم نافذة فريدة لفهم آليات موت النجوم وتشكّل البنى الكونية. إلا أن كشف أسراره بالكامل يتطلب جيلا جديدا من الأجهزة الفلكية، تتمتع بدقة وحساسية غير مسبوقتين.
سواليف احمد الزعبي
منذ يوم واحد
- سواليف احمد الزعبي
اكتشف قبل 48 ساعة فقط.. كويكب ضخم يدنو من الأرض اليوم بسرعة هائلة! / شاهد
#سواليف أفاد #العلماء أن كويكبا بحجم منزل، اكتشف حديثا، سيقترب من #الأرض اليوم 21 مايو بمسافة آمنة تعادل ثلث المسافة بين الأرض والقمر. وفقا لوكالة #ناسا، سيكون هذا الاقتراب في حوالي الساعة 17:30 بتوقيت غرينتش يوم 21 مايو، حيث سيمر #الكويكب المسمى 2025 KF على مسافة 115 ألف كم (71700 ميل) فقط من الأرض. وأثناء مروره، سيتحرك الكويكب بسرعة 41650 كم في الساعة (25880 ميلا في الساعة) نسبة إلى الأرض. وسيقترب أكثر من #المنطقة_القطبية_الجنوبية للأرض قبل أن يواصل مداره الطويل حول #الشمس. ولا يعد 2025 KF حاليا جسما خطيرا محتملا، كما أنه لا يشكل أي خطر لاصطدامه بالقمر، حيث سيمر من مسافة تقارب 226666 كم (140844 ميلا). House-size asteroid will pass between Earth and moon on May 21, 2025. Asteroid 2025 KF is estimated to have a diameter ranging between 32 and 75 feet (10 – 23 meters), making it approximately the size of a house. Even if 2025 KF were to hit Earth, its small size means that it… — Global𝕏 (@GlobaltrekX) May 20, 2025 ووفقا لمركز الكواكب الصغيرة، اكتشف الفلكيون هذا الجسم الصخري في 19 مايو بواسطة مشروع MAP في صحراء أتاكاما التشيلية، أي قبل أيام قليلة فقط من اقترابه الوثيق بكوكبنا. ويقدر أن قطر الكويكب يتراوح بين 10-23 مترا (32 و75 قدما)، أي بحجم منزل تقريبا. وحتى لو اصطدم بالأرض، فإن حجمه الصغير يعني أنه من المحتمل أن يحترق في الغلاف الجوي دون أي تهديد لسكان الكوكب، بحسب علماء ناسا. ومنذ أن بدأت ناسا مراقبة السماء بحثا عن الأجسام الخطيرة المحتملة في صيف 1998، سجلت ما يقارب 40 ألف كويكبا قريبا من الأرض. ونعلم اليوم أن الكويكبات بحجم السيارة تمر قرب الأرض سنويا. ومن بين هذه الكويكبات، يصنف نحو 4700 منها كأجسام خطيرة محتملة، رغم أن علماء مركز دراسات الأجسام القريبة من الأرض أكدوا أنه من غير المرجح أن يصطدم أي كويكب قادر على إحداث دمار واسع بالأرض خلال القرن المقبل. جدير بالذكر أن مسار 2025 KF لن يقترب حتى من كسر الرقم القياسي لأقرب كويكب يمر بالأرض، والذي سجله كويكب بحجم سيارة في عام 2020 عندما مر على بعد 2950 كم (1830 ميلا) فقط من سطح الأرض.
