تقرير: الذكاء الاصطناعي قدم معلومات خاطئة بشأن زلزال روسيا
لكن بعض سكان هاواي واليابان والساحل الغربي لأميركا الشمالية لجأوا إلى أدوات الذكاء الاصطناعي للحصول على تحديثات حدت من هذه الجهود، وفقاً لموقع SFGate الإخباري.
وقال الموقع إن خاصية "نظرة عامة" التي تعتمد على الذكاء الاصطناعي ويقدمها محرك البحث جوجل، قدمت معلومات غير دقيقة حول تحذيرات السلامة الصادرة عن السلطات في هاواي وأماكن أخرى.
وسلطت هذه المشاكل الضوء على الدور المتنامي لأدوات الذكاء الاصطناعي في توفير المعلومات للأشخاص، وإلى هامش الخطأ الذي يرافق الاستعانة بمثل هذه التكنولوجيا.
أخطاء جروك
"جروك"، وهو روبوت محادثة طورته شركة xAI التابعة لإيلون ماسك ومُدمج في موقع التواصل الاجتماعي إكس، أخبر مستخدمي الموقع مراراً أن تحذير تسونامي في هاواي قد تم إلغاؤه، بينما لم يتم إلغاؤه في الواقع، مستشهداً بمصادر غير صحيحة.
ومساء الثلاثاء الماضي، كتب "جروك" أن مركز تحذير تسونامي في المحيط الهادئ التابع للخدمات الوطنية للأرصاد الجوية ألغى تحذير تسونامي في هاواي في الساعة 3:23 مساءً بالتوقيت المحلي "بعد أن أظهرت البيانات عدم وجود أمواج كبيرة، ولم تحدث أي آثار - هاواي آمنة". وهو ما كان غير صحيح في ذلك الوقت.
وفي الواقع، أبقت هيئة الأرصاد الجوية في هونولولو تحذيراتها سارية حتى بعد الساعة 10:30 مساءً، عندما خفّضت مستوى التوجيه إلى تحذير.
ورداً على شكاوى في هذا الخصوص، قال جروك لأحد المستخدمين على منصة إكس: "سنعمل على تحسين الدقة".
وأبلغ مستخدمو وسائل التواصل الاجتماعي عن مشاكل مماثلة في "ملخصات" الذكاء الاصطناعي التي يقدمها محرك البحث جوجل بعد تلقي معلومات غير دقيقة حول تحذيرات السلامة الصادرة عن السلطات في هاواي وأماكن أخرى. ولحسن الحظ، هدأ خطر تسونامي بسرعة ليلة الثلاثاء وصباح الأربعاء دون أن يُحدث أضراراً جسيمة.
ووصف أحد منتقدي جوجل الذي أضاف أمر "Ai+" في محرك البحث، المعلومات التي قدمها الموقع بأنها "خاطئة بشكل خطير".
وكتب نيد أدريانس، المتحدث باسم جوجل، قائلاً: "يُحدّث البحث بسرعة وتلقائياً بناءً على محتوى الويب الجديد وأحدث المعلومات.. في هذه الحالة، يُظهر البحث الآن ميزة تنبيه مخصصة تُوفر معلومات مُحدثة للأشخاص الذين يبحثون عن هذا الموضوع".
تحديات
ومن أكثر المشكلات في نماذج الذكاء الاصطناعي الحالية أنها أحياناً تقدم معلومات غير صحيحة أو "تهلوس" إجابات لا أساس لها من الصحة، ومع ذلك تفعل ذلك بثقة كبيرة توهم المستخدم بدقتها.
ولا تقف المشكلة عند هذا الحد، بل تمتد إلى انحيازات ناتجة عن البيانات التي تدربت عليها النماذج، والتي ربما تكون غير متوازنة أو غير محدثة.
ورغم دقة وكفاءة العديد من النماذج، إلا أنها غالباً ما تعمل كصندوق أسود؛ إذ تقدم النتيجة دون أن تعلن عن مصادرها، وهذا الغموض ربما يكون غير ضار في المهام البسيطة، لكنه يصبح خطيراً عندما يتعلق الأمر بقرارات تمس حياة الناس، كالتشخيص الطبي، أو اتخاذ قرارات مالية أو قانونية.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سعورس
منذ 3 ساعات
- سعورس
جوجل تتعهد بمليار دولار للتدريب على الذكاء الاصطناعي في التعليم
تشمل المبادرة أكثر من 100 جامعة حتى الآن، منها بعض من أكبر أنظمة الجامعات العامة في البلاد مثل جامعتي تكساس إيه آند إم ونورث كارولينا. وقد تحصل الجامعات المشاركة على تمويل نقدي وموارد، مثل مزايا الحوسبة السحابية لتدريب الطلاب على الذكاء الاصطناعي، بالإضافة إلى الأبحاث المتعلقة به. ويشمل الاستثمار البالغ مليار دولار تكلفة أدوات الذكاء الاصطناعي المدفوعة، مثل نسخة متقدمة من روبوت الدردشة جيميني، الذي ستقدمه جوجل لطلاب الجامعات مجانا. وقال جيمس مانيكا، نائب الرئيس الأول في جوجل، في مقابلة إن الشركة تأمل في توسيع نطاق البرنامج ليشمل جميع الكليات غير الربحية المعتمدة في الولايات المتحدة ، وتبحث خططا مماثلة في بلدان أخرى. ورفض مانيكا تحديد المبلغ الذي ستخصصه جوجل كتمويل مباشر للمؤسسات الخارجية مقارنة بتغطية فواتير خدماتها السحابية والاشتراكات الخاصة بها. يأتي هذا الإعلان في وقت بذلت فيه شركات منافسة مثل أوبن إيه.آي وأنثروبيك وأمازون جهودا مماثلة لتوظيف الذكاء الاصطناعي في التعليم، مع انتشار هذه التقنية في المجتمع. وفي يوليو تموز، تعهدت مايكروسوفت بتقديم أربعة مليارات دولار لدعم الذكاء الاصطناعي في التعليم عالميا. وأظهرت مجموعة كبيرة من الأبحاث مخاوف حيال دور الذكاء الاصطناعي في التعليم، بدءا من تيسير الغش وصولا إلى تقويض التفكير النقدي، مما دفع بعض المدارس إلى النظر في حظره. وقال مانيكا إن جوجل لم تواجه أي مقاومة من الإدارة منذ أن بدأت التخطيط لمبادرتها التعليمية في وقت سابق من العام الجاري، لكن لا تزال هناك "أسئلة أخرى كثيرة" حول المخاوف المتعلقة بالذكاء الاصطناعي.
الشرق السعودية
منذ 18 ساعات
- الشرق السعودية
تقرير: الذكاء الاصطناعي قدم معلومات خاطئة بشأن زلزال روسيا
أصدرت هيئات الأرصاد الجوية والسلطات تحذيرات من أمواج مد عاتية وإرشادات في عدد من المناطق في أعقاب زلزال بلغت قوته 8.8 درجة ضرب شبه جزيرة كامتشاتكا في أقصى شرق روسيا. لكن بعض سكان هاواي واليابان والساحل الغربي لأميركا الشمالية لجأوا إلى أدوات الذكاء الاصطناعي للحصول على تحديثات حدت من هذه الجهود، وفقاً لموقع SFGate الإخباري. وقال الموقع إن خاصية "نظرة عامة" التي تعتمد على الذكاء الاصطناعي ويقدمها محرك البحث جوجل، قدمت معلومات غير دقيقة حول تحذيرات السلامة الصادرة عن السلطات في هاواي وأماكن أخرى. وسلطت هذه المشاكل الضوء على الدور المتنامي لأدوات الذكاء الاصطناعي في توفير المعلومات للأشخاص، وإلى هامش الخطأ الذي يرافق الاستعانة بمثل هذه التكنولوجيا. أخطاء جروك "جروك"، وهو روبوت محادثة طورته شركة xAI التابعة لإيلون ماسك ومُدمج في موقع التواصل الاجتماعي إكس، أخبر مستخدمي الموقع مراراً أن تحذير تسونامي في هاواي قد تم إلغاؤه، بينما لم يتم إلغاؤه في الواقع، مستشهداً بمصادر غير صحيحة. ومساء الثلاثاء الماضي، كتب "جروك" أن مركز تحذير تسونامي في المحيط الهادئ التابع للخدمات الوطنية للأرصاد الجوية ألغى تحذير تسونامي في هاواي في الساعة 3:23 مساءً بالتوقيت المحلي "بعد أن أظهرت البيانات عدم وجود أمواج كبيرة، ولم تحدث أي آثار - هاواي آمنة". وهو ما كان غير صحيح في ذلك الوقت. وفي الواقع، أبقت هيئة الأرصاد الجوية في هونولولو تحذيراتها سارية حتى بعد الساعة 10:30 مساءً، عندما خفّضت مستوى التوجيه إلى تحذير. ورداً على شكاوى في هذا الخصوص، قال جروك لأحد المستخدمين على منصة إكس: "سنعمل على تحسين الدقة". وأبلغ مستخدمو وسائل التواصل الاجتماعي عن مشاكل مماثلة في "ملخصات" الذكاء الاصطناعي التي يقدمها محرك البحث جوجل بعد تلقي معلومات غير دقيقة حول تحذيرات السلامة الصادرة عن السلطات في هاواي وأماكن أخرى. ولحسن الحظ، هدأ خطر تسونامي بسرعة ليلة الثلاثاء وصباح الأربعاء دون أن يُحدث أضراراً جسيمة. ووصف أحد منتقدي جوجل الذي أضاف أمر "Ai+" في محرك البحث، المعلومات التي قدمها الموقع بأنها "خاطئة بشكل خطير". وكتب نيد أدريانس، المتحدث باسم جوجل، قائلاً: "يُحدّث البحث بسرعة وتلقائياً بناءً على محتوى الويب الجديد وأحدث المعلومات.. في هذه الحالة، يُظهر البحث الآن ميزة تنبيه مخصصة تُوفر معلومات مُحدثة للأشخاص الذين يبحثون عن هذا الموضوع". تحديات ومن أكثر المشكلات في نماذج الذكاء الاصطناعي الحالية أنها أحياناً تقدم معلومات غير صحيحة أو "تهلوس" إجابات لا أساس لها من الصحة، ومع ذلك تفعل ذلك بثقة كبيرة توهم المستخدم بدقتها. ولا تقف المشكلة عند هذا الحد، بل تمتد إلى انحيازات ناتجة عن البيانات التي تدربت عليها النماذج، والتي ربما تكون غير متوازنة أو غير محدثة. ورغم دقة وكفاءة العديد من النماذج، إلا أنها غالباً ما تعمل كصندوق أسود؛ إذ تقدم النتيجة دون أن تعلن عن مصادرها، وهذا الغموض ربما يكون غير ضار في المهام البسيطة، لكنه يصبح خطيراً عندما يتعلق الأمر بقرارات تمس حياة الناس، كالتشخيص الطبي، أو اتخاذ قرارات مالية أو قانونية.
صحيفة مال
منذ 20 ساعات
- صحيفة مال
ماسك يعلن Grok 2 مفتوح المصدر بالتزامن مع طرح نماذج جديدة من OpenAI
أعلن مالك منصة 'إكس' إيلون ماسك أن شركته الناشئة في مجال الذكاء الاصطناعي 'xAI' ستجعل برنامجها للدردشة Grok 2 مفتوح المصدر اعتبارا من الأسبوع المقبل. وكتب ماسك عبر منصة 'إكس': 'لقد حان الوقت لجعل Grok 2 مفتوح المصدر، وسنقوم بذلك الأسبوع المقبل. لقد كنا نحارب الأزمات ونعمل حتى ساعات الفجر منذ فترة'. ووفقا لـ RT جاءت تصريحات ماسك بالتزامن مع إعلان شركة OpenAI عن إطلاق نموذجين جديدين من نماذج الاستدلال بالذكاء الاصطناعي ذات الأوزان المفتوحة، لكن دون أن تكون مفتوحة المصدر بالكامل. اقرأ المزيد وتشمل النماذج الجديدة gpt-oss-120b وgpt-oss-20b، حيث تم إتاحة المعلمات أو الأوزان التي تم تدريبها فقط، بينما تتيح النماذج مفتوحة المصدر الوصول الكامل إلى بيانات التدريب والشيفرة المصدرية وطرق التطوير. وكان ماسك قد وعد في أكتوبر 2024 بجعل نماذجه مفتوحة المصدر، مؤكدا حينها: 'بينما نطور الإصدار التالي، نقوم بفتح مصدر الإصدار السابق، كما فعلنا مع Grok 1 عند إصدار Grok 2'. ومن جانب آخر، كانت شركة OpenAI تميل في سنواتها الأولى إلى جعل أعمالها مفتوحة المصدر، لكنها تبنت لاحقا نهجا مغلقا لدعم نمو منتجاتها التجارية، بما في ذلك خدمات واجهات برمجة التطبيقات API المدفوعة للشركات والمطورين. واعترف الرئيس التنفيذي لشركة OpenAI سام ألتمان في وقت سابق من هذا العام بأن الشركة كانت 'على الجانب الخاطئ من التاريخ' فيما يتعلق بموقفها من جعل تقنياتها مفتوحة المصدر.
