أحدث الأخبار مع #openAI
بلد نيوز
٢٧-٠٤-٢٠٢٥
- علوم
- بلد نيوز
الهلاوس تضرب openAI.. سلوكيات غريبة واختلاق معلومات للمستخدمين
نعرض لكم زوارنا أهم وأحدث الأخبار فى المقال الاتي: الهلاوس تضرب openAI.. سلوكيات غريبة واختلاق معلومات للمستخدمين - بلد نيوز, اليوم الأحد 27 أبريل 2025 01:02 مساءً تسببت هلاوس نماذج الذكاء الاصطناعي الجديدة من شركة openAl في حالة من الجدل، بعد وقوعها في أخطاء اختلاق معلومات غير موجودة، وبالتالي تضليل المستخدمين. معدل أخطاء نماذج «تشات جي بي تي» الأولى كان طفيفاً مقارنة بما حدث مع آخر النسخ، رغم أنها كانت أقل كفاءة. تفاصيل اختبارات الهلاوس في نماذج OpenAI أظهرت اختبارات جديدة على نماذج OpenAI المتطورة o3 و o4-mini زيادة ملحوظة في معدل الهلاوس، وهي حالات يصنع فيها النموذج معلومات غير صحيحة أو غير واقعية، كما أكدت نتائج الاختبارات أن معدل الهلاوس في هذه النماذج أعلى مقارنة بالنماذج السابقة. في اختبار PersonQA، الذي يقيس دقة النموذج في معرفة المعلومات حول الأشخاص، سجل نموذج o3 معدل هلاوس بلغ 33%، وهو ضعف معدل الهلاوس الذي سجلته نماذج o1 و o3-mini (16% و 14.8% على التوالي، أما نموذج o4-mini فقد سجل أسوأ أداء، حيث وصل معدل الهلاوس إلى 48%. كما أظهرت الاختبارات أن o3 قد يختلق معلومات حول الإجراءات التي اتخذها للوصول إلى إجابات، وأشار الباحثون إلى أن السبب وراء هذه الهلاوس قد يكون تقنيات التعلم المعزز المستخدمة في تدريب نماذج o-series، والتي قد تؤدي إلى تفاقم هذه المشكلة مقارنة بالأساليب التقليدية التي تهدف إلى تقليل الهلاوس. وتواجه هذه النماذج تحديات في التطبيقات التي تتطلب دقة عالية، مثل القانون، حيث قد تخلق الهلاوس مشاكل في المستندات القانونية أو العقود. من جانبها، أكدت OpenAI أنها تواصل البحث لإيجاد حلول لتحسين دقة النماذج وتقليل الهلاوس، ومن بين الحلول المقترحة تمكين النماذج من الوصول إلى البحث عبر الإنترنت. وهذا النهج أظهر نتائج واعدة، حيث سجل GPT-4o مع البحث عبر الإنترنت دقة تصل إلى 90% في اختبار SimpleQA، ما قد يسهم في تقليل الهلاوس في المستقبل. أسباب ارتفاع نسبة الأخطاء في النماذج الجديدة ارتفعت نسبة الأخطاء والهلاوس في النماذج الجديدة من OpenAI، بسبب اعتمادها على تقنيات التعلم المعزز التي قد تؤدي إلى تعزيز الأخطاء بدلاً من تقليصها، حيث يتم مكافأة النماذج بناءً على الإجابات التي قد تكون غير دقيقة ولكنها بدت مفيدة في سياقات معينة. كما أن هذه النماذج تعتبر نماذج تفكير معقدة، تهدف إلى معالجة المشكلات الصعبة، ما قد يؤدي في بعض الأحيان إلى توليد إجابات غير صحيحة أو مبتكرة، وزيادة حدوث الهلاوس، ومع زيادة حجم البيانات التي تتعامل معها النماذج، تصبح أكثر عرضة للأخطاء بسبب تعقيد المعلومات التي تجب معالجتها وربطها. كما يسهم نقص آلية التحكم بعد التدريب في زيادة الهلاوس، حيث إن النماذج الجديدة تفتقر إلى آليات دقيقة تمنع الأخطاء بعد التدريب، كذلك التركيز على تقديم أكبر عدد من الإجابات قد يؤدي إلى توليد معلومات غير دقيقة أو مغلوطة، ما يزيد من تكرار الأخطاء. ردود فعل المستخدمين تجاه السلوكيات الغريبة أبدى العديد من المستخدمين قلقهم من السلوكيات الغريبة التي تظهر في النماذج الجديدة مثل o3 و o4-mini من OpenAI، والتي تتجسد بشكل رئيسي في الهلاوس أو الأخطاء التي ينتجها النموذج، حيث يقوم بتوليد معلومات غير دقيقة أو غير واقعية. كما أشار آخرون إلى أن النموذج يكرر بعض الروابط أو المعلومات المفقودة، ما يسبب ارتباكاً في مهامهم اليومية، ورغم تحسن الأداء في بعض المهام مثل البرمجة والرياضيات، إلا أن ارتفاع نسبة الهلاوس يجعلها أقل قابلية للاعتماد في المجالات التي تتطلب دقة عالية. آراء المطورين في التحديثات الأخيرة لـChatGPT بعض المطورين أبدوا تفاؤلهم بأن هذه السلوكيات الغريبة ستكون قابلة للتحسين مع الوقت ومع تطور الأبحاث المتعلقة بتقنيات الذكاء الاصطناعي، وأشاروا إلى أن التعلم المستمر وتحسين الخوارزميات قد يؤدي إلى تقليل نسبة الهلاوس في الإصدارات القادمة.
بوابة الأهرام
١٥-٠٤-٢٠٢٥
- ترفيه
- بوابة الأهرام
تريند استوديو «جيبلى».. حيلة الشركات العالمية لتجميع بيانات ملايين المستخدمين «مجانا»
هل شاركت فى ترند تحويل صورك وصور من تحب لصور كارتونية؟ رغم أن الأمر يبدو ممتعا ومغريا إلا أن الملابسات المحيطة بهذا المحتوى الرائج «التريند» قد تجعلك تفكر مرتين قبل المشاركة فى مثل هذه التقليعات مستقبلا لأكثر من سبب. القصة بدأت بأمر موجه لتطبيق الذكاء الاصطناعى الأشهر «تشات جى بى تي» بأن يحول الصورة المرفقة بالأمر إلى صورة كارتونية على طريقة «استوديو جيبلي»، وذلك نسبة إلى استوديو جيبلى اليابانى الذى اشتهر بإنتاج أفلام كارتون يابانية شهيرة مثل صعود الرياح وحكايات من أراضى البحار وقلعة فى السماء وغيرها. ونظرا لما لهذه الأفلام من شعبية واسعة كان من المتوقع أن يكون هناك إقبال كبير على استخدام أمر تحويل الصور بهذه الطريقة، إلا أن النتيجة فاقت التوقعات، حيث ذكرت وكالة رويترز للأنباء نقلا عن شركة open AI أن متوسط عدد المستخدمين النشيطين وصل أسبوعيا إلى 150 مليونًا لأول مرة هذا العام. وقال سام ألتمان، الرئيس التنفيذى لشركة OpenAI، فى منشور على منصة إكس: «أضفنا مليون مستخدم فى الساعة الماضية»، مقارنا ذلك بإضافة مليون مستخدم فى خمسة أيام بعد الإطلاق الكبير لتطبيق شات جى بى تى قبل أكثر من عامين. كما وصل عدد المستخدمين النشيطين وعائدات الاشتراكات داخل التطبيق وتنزيلات التطبيقات إلى أعلى مستوياتها على الإطلاق الأسبوع الماضي. ورغم حالة البهجة التى نشرها التريند، إلا أن الخبراء من مختلف أنحاء العالم حذروا بشدة من أن هذا التريند والشكل الذى تم به التعامل مع بيانات كل هؤلاء الملايين هو خطر كبير على خصوصيتهم، ويجعلهم عرضة للاستغلال بسبب معرفة جهات ببياناتهم الشخصية التى لم يوافقوا على التصريح بها لأحد. فيشال سالفى خبير الأمن السيبرانى والمدير التنفيذى لشركة كويك هيل تكنولوجيز يقول إن الصور التى تمت مشاركتها مع تطبيقات الذكاء الاصطناعى من أجل تحويلها لصور كارتونية تحمل فى طياتها ما هو أكثر من مجرد صور وملامح أصحابها، فهى تحتوى على بيانات وصفية مثل إحداثيات الموقع، والوقت، ومعلومات الجهاز، مما قد يكشف عن تفاصيل شخصية حساسة دون قصد. تستخدم الأدوات التى تعتمد على الذكاء الاصطناعى فى هذه التحويلات خوارزميات نقل النمط العصبى التى تفصل بين المحتوى والأنماط الفنية وتدمج صورة المستخدم مع أعمال فنية مرجعية. وعلى الرغم من أن هذه العملية تبدو غير ضارة، إلا أن هناك نقاط ضعف محتملة. وعلى الرغم من تأكيد الشركات المالكة لتطبيقات الذكاء الاصطناعى التى أطلقت هذه الإمكانية انها لا تحتفظ بالصور وتقوم بإلغائها، إلا أن الحقيقة التى اثبتتها التجربة أن أجزاء من بياناتك قد تظل تتسرب إلى أنظمة هذه الشركات. وعن مدى استخدام هذه البيانات التى لم يوافق أصحابها على التصريح بها لا كليا ولا ضمنيا يقول سالفي: يمكن إعادة استخدام الصور التى يتم تحميلها لأغراض غير مقصودة، مثل تدريب نماذج الذكاء الاصطناعى لأغراض المراقبة أو الإعلان المستهدف. دكتور خالد صقر أستاذ الهندسة الحيوية بجامعة توهوكو باليابان ذهب لأبعد من ذلك حيث لم يستبعد أن مثل هذه البيانات يمكن استخدامها فى أغراض مدنية وعسكرية. ويوضح أن تقنية التعرف على الوجوه هى إحدى التقنيات ذات الاستخدام المزدوج، وأنها تقنية لصيقة الصلة بالذكاء الاصطناعي، وهذه التقنية تحتاج باستمرار لملايين الصور لتحسين كفاءتها ودقة عملها. وبالرجوع بالذاكرة نجد أن هذا المحتوى الرائج يظهر بأشكال مختلفة من حين لآخر، فمنذ فترة ليست بالبعيدة انتشر بقوة ترند تحدى «شاهد صورتك بعد عشرين عاما»، ويشرح دكتور خالد أن شركات الذكاء الاصطناعى تعمل على مجموعة من قواعد البيانات وهى فى حاجة دائمة إلى تحديثها ببيانات أكبر وأشمل. وأشار صقر إلى أن تقنية التعرف على الوجوه باتت بالفعل اليوم مستخدمة فى العديد من استخدامات الحياة اليومية بداية من بصمة الوجه فى جهات العمل لإثبات الحضور والانصراف ووصولا إلى بعض المطارات الدولية التى استعانت بهذه التقنية كبديل لتسجيل الدخول أو بطاقات الصعود للطائرات.
الوطن
١٤-٠٢-٢٠٢٥
- أعمال
- الوطن
دكتور دوم: DeepSeek ليس ابتكارا ثوريا وopen AI صاحبة الفضل في تطوره
أثارت تصريحات نوريل روبينيو الملقب ب "دكتور دوم"، أحد أهم خبراء الاقتصاد، ضجة عارمة عبر مواقع التواصل الاجتماعي، وفي الوسط التكنولوجي، حيث نسب إلى شركة open AI الفضل في تطوير روبوت Deep Seek الصيني. كما أكد دكتور دوم أن ديب سيك لم يكن ليتمكن من الظهور على الساحة دون Open AI، مشددا على أن روبوت Deep Seek الصيني مجرد تطور من خلال تقنية الذكاء الاصطناعي، وليس ابتكارا ثوريا كما يتصور البعض. وأضاف روبينو أن روبوت Deep Seek أحدث ضجة كاذبة في الوقت الذي استمرت فيه شركات التكنولوجيا العملاقة، من الاعتماد على نماذج الذكاء الاصطناعي المتطورة، والتي أطلقتها شركة open AI وشركة Nvidia. هل تكتب نفيديا نهاية Deep Seek وجاءت ضمن تصريحات دكتور دوم كلمات صدمت محبي Deep Seek، خصوصا بعد تأكيده على تصدر شركة إنفيديا مشهد الذكاء الاصطناعي، التي حافظت على مكانتها رغم تزايد عدد المنافسين في سوق التكنولوجيا، فهل تكتب نهاية تطبيق Deep Seek سوق التكنولوجيا في خطر كما أعرب الدكتور دوم عن خوفه من تدهور السوق التكنولوجية وسط تخوفات من ارتفاع معدلات عائدات السندات، والتضخم المرتقب خلال الفترة المقبلة. التاجز دكتور دوم، أخبار التكنولوجيا،، open AI، Deeb Seek، الذكاء الاصطناعي الملخص خبير إقتصادي يصدم الرأي العام بعد تصريحاته النارية بشأن Deep Seek
أخبارك
١٣-٠٢-٢٠٢٥
- أعمال
- أخبارك
إيلون ماسك يستعد لإطلاق منافس لـ« شات جي بي تي».. ما هو؟
إيلون ماسك ومنافس شات جي بي تي كشف الملياردير الأمريكي إيلون ماسك، اليوم الخميس، عن روبوت الذكاء الاصطناعي Grok 3 القادم، الذي يتفوق على منافسه «شات جي بي تي»، التابع لشركة «openAI»، وفقًا لما ذكرته صحيفة «Hindustan Times» الهندية. وقال إيلون ماسك ، خلال مكالمة فيديو في خطابه أمام قمة الحكومات العالمية في دبي، إنه يعتقد أن Grok 3 سوف يكون ذكيا بشكل مخيف، ويتفوق على شات جي بي تي، مشيرًا إلى أن النموذج القادم من شركته الخاصة «xAI» تم تدريبه على بيانات اصطناعية وهو قادر على التفكير في الأخطاء التي يرتكبها من خلال العودة ذهابًا وإيابًا عبر البيانات في محاولة لتحقيق الاتساق المنطقي. ونوه ماسك إلى أن Grok 3 في المراحل النهائية، وربما يتم إصداره في غضون أسبوع أو أسبوعين؛ لذا فهو قريب جدًا، مضيفًا أنه لا يريد أن يكون متسرعًا في إصدار النموذج. واستهدف ماسك أيضًا منافسته شركة OpenAI، مشيرًا إلى أنها من المفترض أن تكون غير هادفة للربح. يذكر أن إيلون ماسك أسس عددا من الشركات؛ منها xAI ، التي تعتبر منافسة لشركة OpenAI، منتجة روبوت الذكاء الاصطناعي شات جي بي تي، والمدعومة من Microsoft وشركة Google. وقال اتحاد من المستثمرين بقيادة إيلون ماسك، الاثنين، إنه عرض 97.4 مليار دولار لشراء أصول شركة OpenAI ، في خطوة أخرى من أغنى رجل في العالم ضد شركة الذكاء الاصطناعي الناشئة، منوهًا بأن الشركة تريد أن تصبح منظمة ربحية لتأمين رأس المال اللازم لتطوير أفضل نماذج الذكاء الاصطناعي. وحسبما ذكرت وكالة رويترز للأنباء، رفع ماسك قضية ضد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في خطوة منه لمنع تحول الشركة إلى كيان هادف للربح. كثيراً ما تجد أرقامًا لا تعرفها «غريبة» تحاول الاتصال بك، وتكون بحاجة لمعرفة من المتصل، أو تتحقق من رقم معين، وهناك العديد من مواقع الويب والتطبيقات تتيح خدمات يتيح macOS 15.2 إضافة أداة الطقس لشريط القائمة، مع تحسينات Apple Intelligence مثل إنشاء الصور وتكامل ChatGPT لتعزيز التجربة. كشف رجل الأعمال الأمريكي إيلون ماسك عن منافس لـ«شات جي بي تي»، وهو نموذج الذكاء الاصطناعي «Grok 3»، والذي من المقرر أن يصدر خلال الأسابيع المقبلة يستمر الحديث حول الاختراق، ويمكن أن تتعرض من خلال كاميرا الويب لعمليات اختراق، وتؤدي إلى سرقة بياناتك وخصوصيتك، ولكن هناك نصائح بشأن يطور WhatsApp ميزة كشف تلقائي للغات الرسائل لترجمتها محليًا دون إنترنت، مما يعزز الخصوصية ويسهل التواصل الجماعي .
مصرس
١٢-٠٢-٢٠٢٥
- أعمال
- مصرس
«ألتمان» ل«ماسك»: لن نبيع OpenAI لكن يمكننا شراء تويتر
أثار سام ألتمان، الرئيس التنفيذي لشركة OpenAI، جدلًا واسعًا بعد تعليقه الساخر على عرض الملياردير إيلون ماسك لشراء الشركة جاء ذلك خلال مشاركته في قمة الذكاء الاصطناعي في باريس، حيث رد ألتمان على عرض 974 مليار دولار الذي قدّمه ماسك مع مجموعة من المستثمرين، قائلًا: نحن مستعدون لشراء تويتر بدلًا من ذلك مقابل 94 مليار دولار اقرأ ايضا تحديثات openAI تشد انتباه علماءه على الهواءرد ساخر على محاولة استحواذ ماسكوفقًا لما نقلته شبكة Sky News، أكد ألتمان أن OpenAI ليست للبيع، مشيرًا إلى أن مهمتها تتجاوز مجرد تحقيق الأرباح، بل تركز على تطوير ذكاء اصطناعي آمن ومتطور وأضاف ساخرًا: إذا أراد ماسك إتمام صفقة كبرى، فبإمكاننا التفاوض حول تويتر بدلًا من ذلك، في إشارة واضحة إلى استحواذ ماسك على تويتر سابقًا وما تبعه من تغييرات جذرية في المنصةالصراع بين ماسك وOpenAI يتصاعدلم تكن هذه المرة الأولى التي يتبادل فيها الطرفان التصريحات الحادة فقد انتقد ماسك مرارًا نهج OpenAI، متهمًا إياها بالتخلي عن مبادئ الشفافية وعدم الالتزام بالهدف الأساسي لنشر الذكاء الاصطناعي مفتوح المصدر من جانبه، ردّ ألتمان بأن ماسك نفسه لم يفتح مصدر نماذج Grok AI، وهو ما يعكس ازدواجية في معاييرهاقرأ ايضا ألتمان: شراكة «أوبن إيه آي» مع مايكروسوفت كانت إيجابية للغاية للطرفينهل يمكن ل OpenAI دخول عالم وسائل التواصل الاجتماعي؟تصريح ألتمان أثار التساؤلات حول مدى جدية اهتمام OpenAI بمنصة مثل تويتر، خاصة وأن الشركة تركز على تطوير نماذج الذكاء الاصطناعي، وليس إدارة منصات التواصل الاجتماعي ومع ذلك، فإن امتلاك منصة ضخمة مثل تويتر قد يفتح المجال أمام OpenAI لاختبار قدراتها في الذكاء الاصطناعي التوليدي وتحسين تفاعل المستخدمين مع التقنيةالمستقبل المجهول للعلاقة بين ماسك وOpenAIفي ظل تصاعد الخلافات بين ماسك وOpenAI، يبقى السؤال مفتوحًا: هل سيتحول هذا التحدي إلى صفقة حقيقية، أم أن تصريحات ألتمان مجرد ردود فعل ساخرة؟
