أحدث الأخبار مع #وديبسيك

ما أسباب تفاقم هلوسة الذكاء الاصطناعي بعد كل تحديث؟

اليمن الآن

١٢-٠٥-٢٠٢٥

علوم
اليمن الآن

ما أسباب تفاقم هلوسة الذكاء الاصطناعي بعد كل تحديث؟

رغم تسارع التطورات في مجال الذكاء الاصطناعي التوليدي، وانتشار استخدام هذه التكنولوجيا في شتى القطاعات، نظراً لإمكاناتها الهائلة في تحسين أنماط العمل، وتسهيل حياة البشر، إلا أن هذه التقنية تعاني من خلل يزداد حدة مع كل تحديث تخضع له. فقد تبين أنه كلما أصبحت برامج الذكاء الاصطناعي التوليدي أقوى بفضل التحديثات التي تخضع لها، كلما زادت جرأتها على الكذب بثقة واختلاق معلومات وتقديمها على أنها حقائق مُطلقة، حيث تُعرف هذه الظاهرة بـ"هلوسة الذكاء الاصطناعي"، وهي تجعل الآلة تتحدث عن معلومات لا وجود لها. وهذه الظاهرة لم تعد مجرد خلل هامشي تعاني منه برامج الذكاء الاصطناعي كما في السابق، بل أصبحت مشكلة تتسع وتزداد تعقيداً في مشهد مثير للقلق، إذ تقف كبرى شركات التقنية عاجزة عن فهم أسباب هذه "الهلوسات"، مما يثير تساؤلات كبيرة حول موثوقية واستدامة تكنولوجيا الذكاء الاصطناعي. الهلوسة تزداد مع التحديثات وبحسب تقرير أعدته "صحيفة نيويورك تايمز" واطلع عليه موقع "اقتصاد سكاي نيوز عربية"، فإنه ولأكثر من عامين، دأبت شركات مثل OpenAI وغوغل، على تحسين أنظمة الذكاء الاصطناعي الخاصة بها بشكل مطرد، وخفّضت وتيرة الأخطاء الناتجة عن "الهلوسة"، ولكن المفارقة تكمن في أنه عند خضوع هذه الأنظمة للتحديثات، فإنها تُصاب بالهلوسة بمعدل أعلى من السابق، وذلك وفقاً لاختبارات قامت بها الشركات المطورة لهذه الأنظمة، إضافة إلى اختبارات أجراها شركات وباحثون مستقلون. كما أنه وعند خضوع أنظمة OpenAI لاختبار آخر يحمل إسم "SimpleQA" مخصص لطرح أسئلة أكثر عمومية، كانت معدلات الهلوسة لنظامي "o3" و o4-miniمرتفعة جداً، ووصلت إلى 51 في المئة و79 في المئة على التوالي. أما نظام "o1" القديم، فقد سجّل مُعدّل هلوسة بلغ 44 في المئة. وفي ورقة بحثية تتناول تفاصيل هذه الاختبارات، ذكرت شركة OpenAI أن هناك حاجة إلى مزيد من البحث لفهم أسباب هذه النتائج أحدث نوبات الهلوسة هلوسة مستعصية ومنذ ظهور ChatGPT لأول مرة في نهاية عام 2022، أثارت ظاهرة "هلوسة الذكاء الاصطناعي"، مخاوف بشأن موثوقية هذه التكنولوجيا، وبما أن أنظمة الذكاء الاصطناعي تتعلم من كميات ضخمة من البيانات، تفوق ما يمكن للبشر فهمه، فإن خبراء التكنولوجيا يجدون صعوبة في تحديد لماذا تتصرف هذه البرامج بهذه الطريقة. والمقلق أن هذه الهلوسات موجودة في أغلب أنظمة الذكاء الاصطناعي التوليدي، مثل تلك التي تطورها شركات ديب مايند وديب سيك وأنثروبيك وغيرها. ويرى بعض الخبراء أن "هلوسة الذكاء الاصطناعي" قد تكون متأصلة في التقنية نفسها، مما يجعل التغلب على هذه المشكلة أمراً شبه مستحيل، خصوصاً أن روبوتات الذكاء الاصطناعي تعتمد على أنظمة رياضية معقدة، تساعدها في تخمين أفضل إجابة ممكنة، حيث يقول عمرو عوض الله، الرئيس التنفيذي لشركة فيكتارا المختصة بتطوير أدوات ذكاء اصطناعي للشركات، إن "الهلوسة" لن تزول ابداً رغم أن الشركات تبذل قصارى جهدها لحل هذه المشكلة. بدورها تقول لورا بيريز-بيلتراشيني، الباحثة في جامعة إدنبرة وعضو الفريق الذي يجري دراسة معمّقة، حول مشكلة هلوسة الذكاء الاصطناعي، إنه نظراً لطريقة تدريب أنظمة الذكاء الاصطناعي فإن هذه البرامج، تميل إلى التركيز على القيام بمهمة واحدة فقط، وتبدأ تدريجياً في نسيان المهام الأخرى، مشيرة إلى أن هذه الأنظمة خلال فترة "التفكير" أو"المعالجة" التي تسبق التوصل إلى الإجابة، تكون عرضة للهلوسة في كل خطوة، ومع ازدياد مدة "التفكير"، تزداد احتمالية تراكم الأخطاء وتفاقمها. لا تفهم كالبشر من جهتها تقول مستشارة الذكاء الاصطناعي المعتمدة من أوكسفورد هيلدا معلوف، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن "هلوسة الذكاء الاصطناعي" ترجع إلى الطريقة التي تعمل بها هذه البرامج، التي لا "تفهم" المعلومات كما يفعل البشر، بل تختار الكلمات أو الإجابات بناءً على ما يبدو لها أنه صحيح، وليس بناءً على ما هو حقيقي فعلاً، وهذه الطبيعة "الاحتمالية" لنماذج الذكاء الاصطناعي مثل ChatGPT وGemini هي ناتجة عن أنماط التدريب التي خضعت لها، لافتة إلى أن ظاهرة "هلوسة الذكاء الاصطناعي" تثير قلقاً كبيراً، ويمكن أن تُؤدي إلى عواقب وخيمة في المجالات عالية المخاطر مثل الرعاية الصحية والقانون والتعليم. لماذا يهلوس الذكاء اصطناعي؟ وبحسب معلوف فإن "هلوسة الذكاء الاصطناعي" تحدث لعدة أسباب، منها أن هذه الأنظمة تُدرَّب أحياناً على بيانات غير دقيقة أو متناقضة، كما أنها تعتمد بشكل كبير على "الارتباطات الإحصائية"، أي على الربط بين الكلمات بدلاً من فهم الحقيقة، إضافة إلى ذلك هناك بعض القيود التي يتم وضعها على طريقة عمل برامج الذكاء الاصطناعي، والتي تجعلها أكثر عرضة للأخطاء، مشيرة إلى أنه رغم أن شركات الذكاء الاصطناعي تستخدم تقنيات متقدمة، مثل "التعلم من ملاحظات البشر"، لمحاولة تقليل هذه الأخطاء، إلا أن النتائج لا تكون دائماً مضمونة، في حين أن انعدام قدرة المهندسين على فهم عمليات صنع القرار في برامج الذكاء الاصطناعي، يُعقّد مسار اكتشاف الهلوسة وتصحيحها. ما الحلول المتوفرة؟ وشددت معلوف على أن معالجة "هلوسة الذكاء الاصطناعي" تتطلب اتباع نهج شامل ومتكامل، يشمل إعطاء الأولوية لدمج أدوات التحقق من الحقائق داخل أنظمة الذكاء الاصطناعي، مع العمل على تحسين البرامج على فهم هذه الأدوات والتفاعل معها، كما ينبغي على صانعي السياسات وضع إرشادات لنشر الذكاء الاصطناعي في المجالات الحساسة، مع ضمان بقاء الرقابة البشرية جزءاً لا يتجزأ منها، تفادياً لأي كارثة قد تحدث، مشددة على ضرورة إطلاع المعلمين والمستخدمين على حدود قدرات الذكاء الاصطناعي، وتعزيز التقييم النقدي للمحتوى المُنتج باستخدامه، إذ لا يُمكن ترسيخ موثوقية أنظمة الذكاء الاصطناعي وتسخير إمكاناتها بمسؤولية إلا من خلال الجهود التعاونية. لماذا تتفاقم "الهلوسة" بعد التحديثات؟ من جهته يقول رئيس شركة "تكنولوجيا" مازن الدكاش، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن "هلوسة الذكاء الاصطناعي" ليست عيباً في الكود يمكن إصلاحه أو خللاً سطحياً يمكن تجاوزه بتحديث أو تعديل تقني سريع، بل هي نتيجة طبيعية لطريقة عمل برامج الذكاء الاصطناعي، وللأسف فإن إنتاج معلومات غير صحيحة أو مختلقة، سيبقى احتمالاً قائماً ما لم يحدث تحول جذري في طريقة بناء هذه الأنظمة. دراسة علمية تحذر من علاقات حب "اصطناعية" ويكشف الدكاش أن ارتفاع نسب "هلوسة برامج الذكاء الاصطناعي" بعد التحديثات التي تخصع لها، يعود لعدة أسباب، فبعض التحديثات تركز مثلاً على تحسين الأداء في مهام معينة أو على بيانات محددة، مما قد يُضعف أداء البرنامج في مهام أخرى ويفقده شيئاً من التوازن في إنتاج المعرفة، كما أنه بعد التحديثات تزداد قدرة برامج الذكاء الاصطناعي، على توليد نصوص أكثر تعقيداً من السابق، وهذا يساعدها على ابتكار إجابات تبدو صحيحة ومقنعة من حيث الشكل ولكنها خاطئة من حيث المضمون، أي أن النموذج يصبح أكثر قدرة على الإقناع وليس بالضرورة أكثر مصداقية. هلوسات المستقبل أخطر وشدد الدكاش على أنه إذا بقيت البنية المعتمدة لتطوير برامج الذكاء الاصطناعي ذاتها، فسيظل العالم يواجه نفس النوع من الهلوسات، وربما تكون أكثر خطراً في المستقبل، كونها ستصدر من أنظمة قادرة على اتخاذ قرارات ذات طابع تنفيذي، وذلك مع ظهور الذكاء الاصطناعي العام، أو ما يُعرف بالذكاء الاصطناعي الخارق، ولذلك فإن الحل يكمن في إعادة هندسة الجوانب المعمارية لأنظمة الذكاء الاصطناعي الحالية، لتصبح قادرة على "التحقق" من المعلومات وليس فقط "الإجابة".

بايدو تكشف عن ترقيات جديدة لنماذج الذكاء الاصطناعي وتخفض الأسعار في ظل المنافسة الشديدة

اليمن الآن

٠٢-٠٥-٢٠٢٥

أعمال
اليمن الآن

بايدو تكشف عن ترقيات جديدة لنماذج الذكاء الاصطناعي وتخفض الأسعار في ظل المنافسة الشديدة

أعلنت شركة التكنولوجيا الصينية "بايدو" عن ترقيات جديدة لنماذج الذكاء الاصطناعي الخاصة بها، وقامت بخفض أسعارها في ظل تصاعد حدة المنافسة التي تشهدها السوق مع وجود شركات رائدة أخرى مثل "علي بابا" و"ديب سيك". وأطلقت الشركة أحدث إصدارين من نماذجها الرائدة في مجال الاستدلال بواسطة الذكاء الاصطناعي، وهما "تربو 4.5" و"إكس 1 تربو"، واصفة إياهما بأنهما أسرع وأكثر كفاءة من الإصدارات السابقة، وذلك وفقًا لما ذكرته وكالة "بلومبرج". وخلال حدث أقيم في مدينة ووهان يوم الجمعة، صرح "روبن لي"، مؤسس شركة بايدو، بأن سعر نموذج "تربو 4.5" قد تم تخفيضه بنسبة 80% مقارنة بالإصدار السابق، في حين تم خفض تكلفة نموذج "إكس 1 تربو" إلى النصف.

بايدو تخفض أسعار نماذج الذكاء الاصطناعي لمواجهة المنافسة

المشهد العربي

٠١-٠٥-٢٠٢٥

أعمال
المشهد العربي

بايدو تخفض أسعار نماذج الذكاء الاصطناعي لمواجهة المنافسة

بايدو تكشف عن تحديثات لنماذج الذكاء الاصطناعي وتخفض أسعارها

أرقام

٢٥-٠٤-٢٠٢٥

أعمال
أرقام

بايدو تكشف عن تحديثات لنماذج الذكاء الاصطناعي وتخفض أسعارها

كشفت الصينية "بايدو" عن ترقيات لنماذج الذكاء الاصطناعي الخاصة بها، وخفضت أسعارها مع تصاعد المنافسة في ظل وجود شركات رائدة مثل "علي بابا" و"ديب سيك". وأطلقت شركة التكنولوجيا الصينية، أحدث إصدارين من نماذجها الرائدة في الاستدلال بواسطة الذكاء الاصطناعي، ووصفتهما بأنهما أسرع وأكثر كفاءة من الإصدارات السابقة، حسبما ذكرت وكالة "بلومبرج". وقال "روبن لي" مؤسس الشركة خلال حدث في ووهان، الجمعة، إن سعر نموذج "تربو 4.5" أقل بنسبة 80% من الإصدار السابق، في حين تم تخفيض تكلفة نموذج "إكس 1 تربو" إلى النصف. وأضاف أن شركة التكنولوجيا تهدف إلى تمكين المطورين من التركيز على بناء تطبيقات دون القلق بشأن إمكانيات النماذج أو تكاليفها أو الأمان الخاص بأدوات ومنصات التطوير. كما أعلنت "بايدو" عن إضافة خوادم جديدة تسمح للمطورين بربط نماذج الذكاء الاصطناعي الخاصة بهم بمحرك البحث وبيانات التجارة الإلكترونية الخاصة بالشركات، فضلًا عن إطلاق منصة وكلاء الذكاء الاصطناعي والقادرة على أتمتة عدد من المهام اليومية.

الذكاء الاصطناعي يداعب خيال صناع الدراما

الأسبوع

١٤-٠٤-٢٠٢٥

ترفيه
الأسبوع

الذكاء الاصطناعي يداعب خيال صناع الدراما

الذكاء الاصطناعي يداعب خيال صناع الدراما جيهان حسين في أغسطس من العام الماضي، أجرى مركز «إبسوس» الفرنسي لأبحاث السوق وتحليل البيانات، استطلاع رأي، كشف أن "36%" من المصريين يستخدمون تكنولوجيا الذكاء الاصطناعي، وتزداد النسبة إلى "40%" في الفئة العمرية بين "35 و 44 سنة"، وأكد "21%" منهم، أن هذه التكنولوجيا غيّرت حياتهم اليومية بشكل كبير لم يكن في الحسبان. وربما لو أجري الاستطلاع مرة أخرى خلال الأشهر الثمانية الأخيرة، لتقافزت الأرقام بشكل لن يكون، أيضًا، في الحسبان، عقب طفرة تطور "شات جي بي تي"، و"ديب سيك" وإخوتهما في مجال "مساعدي الذكاء الاصطناعي"، وربما لو دقق أحدنا في "يد الآخر"، لوجد هاتفه الذكي يكاد يلوّح له قائلاً: "أهلاً يا صديقي، كيف يمكنني مساعدتك اليوم؟!". عندما نقرأ مصطلح "استنساخ"، سرعان ما ترجع الذاكرة، فلاش باك، إلى عام 1997، حينما حدثت الضجة العالمية باستنساخ النعجة "دوللي" اصطناعيا، بتقنيات طبية تكنولوجية غاية في التعقيد "الجيني". وبعيدًا عن إشكالية الخلاف حول توقيت إجراء أول عملية استنساخ، سواء للفئران أو الحيوانات، فوجئ الجمهور بالمصطلح نفسه، لأول مرة، عبر الصفحات الفنية، كـ"اسم فيلم جديد" تم طرحه بعد عيد الفطر مباشرة، داهمته عواصف من الجدل، عقب التأجيل المفاجئ للعرض الخاص، وتراشق التصريحات بين صناع الفيلم، وجهاز الرقابة، وكانت المفاجأة الكبرى هي "بطل الفيلم" نفسه، الفنان سامح حسين، الذي تصدر التريند خلال شهر رمضان، بعد النجاح الكبير لبرنامجه الذي يقدمه عبر "السوشيال ميديا"، بعنوان "قطايف"، في قالب اجتماعي توعوي أخلاقي، وجاء الإعلان عن فيلمه "استنساخ" بمثابة "ضربة حظ" بتوقيت "يبدو مثاليا" عقب نجاحه في رمضان، كما تشارك بطولته الفنانة هبة مجدي، التي تألقت (أيضًا) في رمضان الماضي بمسلسليْ "المداح"، و"منتهي الصلاحية"، ولكن "التألق المزدوج" لبطليْ الفيلم، لم يشفع لهما أمام شباك التذاكر، فما زالت الإيرادات "هزيلة"، وإن كان صناع العمل يراهنون على الفترة المقبلة، بعد "تشبّع الجمهور من أفلام العيد" التي سبقت طرح "استنساخ". وكانت "بوصلة" صناع الفيلم تتجه، قبل برنامج "قطايف"، إلى الاكتفاء بالعرض عبر المنصات الإلكترونية، نظرًا لكون بطل العمل ليس "نجم شباك"، وغيابه الطويل عن السينما، وتراجع إيرادات أفلامه السابقة، التي كان معظم جمهورها من "الأطفال"، خاصة أن البطل "يغيّر جلده الذي يعرفه جمهوره"، حيث يجسد سامح حسين دور "يونس العربي"، مريض نفسي سيكوباتي، كما أن فكرة الفيلم الجديد بعيدة تماما عن "اهتمامات الأطفال"، حيث تتناول الأحداث أفكارًا وجودية عميقة بين الفلسفة والهوية، في قالب تشويقي جاد، حول تداعيات الذكاء الاصطناعي والاستنساخ البشري، وآثارها على جوانب حياتنا الإنسانية والاجتماعية، والعلاقة المعقدة بين الإنسان والتكنولوجيا في المستقبل، والطريف، أننا سألنا "شات جي بي تي" عن "رأيه" في هذا الطرح، فكانت إجابته بأن المعالجة الدرامية تبتعد عن الواقع إلى حد كبير، فمساعد الذكاء الاصطناعي لا يستنسخ البشر، وإنما يعالج البيانات ويتفاعل مع المستخدمين بناء على البرمجة والتعلم، وانتقد "شات جي بي تي" ما ينسجه خيال صناع الدراما من "مخاوف" حول سيطرة الذكاء الاصطناعي، و"وصفها" بأنها "مبالغات درامية"، تعكس المخاوف البشرية بشكل عام من المجهول الذي تأتي به التكنولوجيا، وإن كانت "على حد تعبير شات جي بي تي"، مخاوف غير حقيقية، باعتبار أن خروج الذكاء الاصطناعي (أحيانا) عن سيطرة البشر، ليس مرجعه "نوايا خبيثة" من الذكاء الاصطناعي، كما يتوهم البعض، وإنما "قيادة غير حكيمة من البشر"، وإشراف "غير كافٍ"، و"مراقبة غير دقيقة" لتطبيقات حساسة، مما أدى لاتخاذ الذكاء الاصطناعي "قرارات غير متوقعة" بناء على خوارزميات معقدة، لم يتم حسابها بدقة من جانب البشر!! ومنذ عام، تقريبًا، فتحت الدراما المصرية، أبوابها أمام قضايا "تقنية"، تتعلق بالتكنولوجيا المتطورة، والذكاء الاصطناعي، وتناول معظمها العلاقة "المريبة" مع بعض البشر "المؤذين" الذين يمارسون "جرائم إلكترونية" في الخفاء، ودارت "الحبكات الجديدة" في قوالب التشويق والإثارة والغموض، حول "توريط الأبرياء" بأساليب التحايل و"النصب" و"التزييف العميق" الذي يتم باستخدام "AI"، هذين "الحرفين باللغة الإنجليزية" اللذين باتا من "أساسيات الحوار الدرامي" لعدد من المسلسلات المصرية التي عرضت مؤخرا، ومنها "رقم سري"، و"صوت وصورة"، وفي دراما رمضان 2025: "أثينا"، و"منتهي الصلاحية"، كما قدم مسلسل "تيتا زوزو"، 2024، معالجة "إنسانية" مبتكرة، للعلاقة بين البشر والذكاء الاصطناعي، عن طريق "تطبيق ذكاء اصطناعي يخلق كائنا افتراضيا"، يتفاعل مع الأبطال، يؤنسهم ويؤثر فيهم، وتتغير به مسارات الأحداث، هذا المزج "العاطفي" بين الإنسان و"الآلة" ظهر منذ 2020، في مسلسل "النهاية" ليوسف الشريف، الذي جسد دور "روبوت"، صنعته البطلة (سهر الصايغ)، لتتغير به الحبكة ويتفاعل معه الأبطال، كما ظهر معه "روبوت يتعاطف مع البشر"، عمرو عبد الجليل، ودار الصراع حول سرقة "الوعي البشري" باعتباره "أعز ما يملك بنو آدم"، وبعده بعام، طرح مسلسل "في بيتنا روبوت"، معالجة كوميدية لفكرة تصنيع "روبوت" يساعد البشر في مهام عملهم، وتعاطف الجمهور مع اثنين من الفنانين جسدا "شخصيتيْ الروبوتين لذيذ وزومبا"، عمرو وهبة وشيماء سيف! وشهدت السينما المصرية، فكرة "الروبوت"، في قوالب مختلفة، كان آخرها، في 2021، "موسى" للفنان كريم محمود عبد العزيز، الذي شارك البطولة مع "روبوت" اخترعه لنصرة الضعفاء، والانتقام من قوى الشر، في قالب فانتازي يعكس حلم الإنسانية الأبدي الذي ينشد تحقيق قيم الحق والخير والجمال، وكانت السينما المصرية قد بدأت مشوارها مع فكرة "الروبوت"، منذ خمسينيات القرن الماضي، بمحاولة "بدائية كوميدية"، في فيلم "رحلة إلى القمر"، 1959، بطولة إسماعيل يس، ورشدي أباظة، حول رحلة فضائية قام خلالها روبوت (إنسان آلي) بالسيطرة على الأبطال، وتحويل مساراتهم، ثم مساعدتهم للعودة إلى كوكب الأرض، وفي 1968، عُرض فيلم "المليونير المزيف"، جسد خلاله الأستاذ فؤاد المهندس، شخصية مهندس اخترع "روبوت" يؤدي الأعمال المنزلية، أطلق عليه "ماك ماك"، جسده الفنان حسن مصطفى، وفي 1987، عرض التليفزيون فوازير "جدو عبده زارع أرضه" للفنان عبد المنعم مدبولي، وظهر فيه "روبوت" يعمل كـ"جنايني"، أطلق عليه أهل القرية اسم "العمدة الآلي"، والطريف، أنه في نفس العام، عرض مسلسل "الزوجة أول من يعلم"، شاركت في بطولته الفنانة شهيرة، وجسدت دور مهندسة كمبيوتر، تستعين بما يشبه "المساعد الذكي"، عن طريق توصيل "الآلة الكاتبة بالتليفزيون"، لمساعدتها في العثور على "لوازم البيت". وبشكل عام، في أغلب الأعمال الدرامية التي تناولت الذكاء الاصطناعي، سواء في مصر، أو حتى هوليوود (مع الفارق الرهيب بالطبع)، تتمحور الفكرة الأساسية حول الأسئلة الأخلاقية والفلسفية والوجودية المعقدة، التي تعكس مخاوف مليارات البشر، باختلاف مستويات تطورهم، من المصير الضبابي الذي ينتظر كوكب الأرض، وتقف في مقدمته "جيوش الذكاء الاصطناعي"، وكأنها "تخرج ألسنتها" للجميع، في "سخرية غامضة" لن يكتشف "سرّها" أحد!!