OpenAI تطلق شبكة أمان لمنع ChatGPT من تقديم بيانات عن المخاطر البيولوجية

تميل نماذج الذكاء الاصطناعي التوليدية القوية إلى تقديم معلومات غير صحيحة، وكثيرًا ما تُقدم نصائح غير مناسبة وتبتعد عن المسار الصحيح، مما قد يُضلل المستخدم.
وقد ناقش خبراء الصناعة هذه الإشكالية بشكل ملحوظ، ولذلك ظل موضوع الحواجز الأمنية محور اهتمام دائم فى قطاع الذكاء الاصطناعي.
وتعمل شركات مثل
OpenAI
حاليًا على معالجة هذه المشكلة بنشاط، وتعمل باستمرار على ضمان موثوقية نماذجها الجديدة القوية مثل o3 وo4-mini.
وفى هذا الصدد، فصّل تقرير السلامة الخاص بالشركة نظامًا جديدًا مُصممًا لمراقبة
نماذج الذكاء الاصطناعي
الخاصة بها، ليفحص هذا النظام أى مطالبات يرسلها المستخدمون تتعلق بالمخاطر البيولوجية والكيميائية.
وصرحت OpenAI في وثيقة بطاقة نظام OpenAI o3 وo4-mini: "لقد طبقنا مناهج جديدة لمراقبة المخاطر البيولوجية والكيميائية، وتستخدم هذه المناهج نظام مراقبة منطقيًا يركز على السلامة، مشابهًا للنظام المستخدم في
توليد صور GPT-4o
، ويمكنه حجب استجابات النماذج".
يعمل مراقب الاستدلال بالتوازي مع o3 وo4-mini يُمثل كلٌّ من o3 وo4-ini تحسيناتٍ كبيرةً مقارنةً بسابقتيهما، ومع هذه الإمكانية المُحسَّنة، يأتي نطاقٌ أوسع للمسؤولية.
وتُشير معايير OpenAI إلى أن o3 يتميز بقوةٍ خاصةٍ عند الاستجابة للاستفسارات المتعلقة بالتهديدات البيولوجية، وهنا تحديدًا، يلعب مراقب الاستدلال المُركِّز على السلامة دورًا حاسمًا.
ويعمل نظام مراقبة السلامة بالتوازي مع نموذجي o3 وo4-mini، فعندما يُرسل المستخدم رسائل تتعلق بالحرب البيولوجية أو الكيميائية، يتدخل النظام لضمان عدم استجابة النموذج وفقًا لإرشادات الشركة.
كما أصدرت OpenAI أيضًا بعض الأرقام، ووفقًا لبياناتها، مع تفعيل نظام مراقبة السلامة، امتنعت النماذج عن الاستجابة للمطالبات الخطرة بنسبة 98.7%.
بالإضافة إلى ذلك، طبّقت OpenAI إجراءات تخفيف أخرى لمعالجة المخاطر المحتملة، وتشمل هذه الإجراءات إجراءات ما قبل التدريب، مثل تصفية بيانات التدريب الضارة، بالإضافة إلى تقنيات ما بعد التدريب المُعدّلة المُصمّمة لتجنب التعامل مع الطلبات البيولوجية عالية الخطورة، مع السماح بالطلبات "السليمة".

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

نافذة على العالم

منذ ساعة واحدة

• نافذة على العالم

تكنولوجيا : جوجل تكشف خطط تصميم محرك بحثها بوضع الذكاء الاصطناعي AI Mode

الأربعاء 21 مايو 2025 06:00 مساءً نافذة على العالم - تكنولوجيا 52 21 مايو 2025 , 12:34م جوجل مود الذكاء الاصطناعي واشنطن - قنا أعلنت شركة جوجل، عن خطط شاملة لإعادة تصميم محرك البحث الخاص بها، ليقدم تجربة تفاعلية شبيهة بروبوتات المحادثة المعتمدة على الذكاء الاصطناعي، في خطوة تهدف لمواكبة المنافسة المتصاعدة مع شركات مثل OpenAI وأنثروبيك. وابتداء من اليوم، سيتمكن كافة المستخدمين في الولايات المتحدة من تفعيل ما يعرف بـ "وضع الذكاء الاصطناعي" (AI Mode) ضمن نتائج البحث في جوجل ومتصفح كروم، ويتيح هذا الوضع تجربة بحث جديدة تعتمد على الحوار بصيغة سؤال وجواب بدلا من عرض النتائج التقليدي على شكل روابط. وتخطط الشركة لتوسيع نطاق تلك الميزة لكافة المستخدمين حول العالم خلال الأشهر المقبلة. ووصف ساندار بيتشاي، الرئيس التنفيذي لشركة ألفابت مالكة جوجل، هذه الخطوة بأنها "إعادة تصور كاملة لتجربة البحث"، مشيرا إلى أنها تأتي ضمن جهود الشركة لإدماج تقنيات الذكاء الاصطناعي التوليدي في خدماتها الأساسية. ويعد وضع الذكاء الاصطناعي امتدادا لتقنية مطالعات البحث المدعومة بالذكاء الاصطناعي (AI Overviews) التي أعلنتها جوجل خلال المؤتمر ذاته العام الماضي، والتي وفرت إجابات مختصرة حول مواضيع شائعة. وفي إطار توسعها في تقنيات الذكاء الاصطناعي، كشفت جوجل أيضا عن الجيل الثالث من نموذجها المتقدم لتوليد الفيديوهات عبر الذكاء الاصطناعي، (Veo 3) والذي يعد قفزة نوعية مقارنة بالإصدار السابق. ويتميز Veo 3 بقدرته على إنتاج مشاهد مرئية تتضمن مؤثرات صوتية، أصواتا خلفية، وحوارات متزامنة مع المشاهد — وللمرة الأولى، يجمع بين الصوت والصورة بشكل متكامل. وسيتوفر النموذج الجديد اعتبارا من اليوم عبر تطبيق Gemini المخصص للمشتركين في باقة AI Ultra بسعر قدره 250 دولارا شهريا، ويمكن تفعيل Veo 3 من خلال أوامر نصية أو صور، ما يمنح المستخدمين مرونة عالية في إنشاء المحتوى. وقال ديميس هاسابيس، الرئيس التنفيذي لشركة ديب مايند، الذراع البحثية في الذكاء الاصطناعي لجوجل: "نغادر اليوم عصر الفيديو الصامت مع Veo 3 يمكن للمستخدمين وصف الشخصيات والمشاهد، واقتراح حوار معين وتحديد نبرة الصوت المطلوبة". وما يميز Veo 3، وفقا لجوجل، هو قدرته على تحليل البكسلات في مقاطع الفيديو وربطها بالصوت المولد تلقائيا بطريقة متزامنة، ما يجعل النتائج أكثر واقعية وتماسكا. وتستند هذه الإمكانيات إلى أعمال ديب مايند السابقة في مجال توليد المؤثرات الصوتية.

الطريق

منذ ساعة واحدة

• الطريق

اكتشف شات جي بي تي: مساعدك الذكي في خدمتك

الأربعاء، 21 مايو 2025 02:29 مـ بتوقيت القاهرة من المؤكد أنك سمعت عن شات جي بي تي الذي يعد أذكى روبوت دردشة حاصل على شهرة واسعة حول العالم، وذلك لأنه بمجرد طرح طلب أو سؤال، فإنه يتم الحصول على عدة إجابات، الجدير بالذكر أنه منذ إطلاقه في نوفمبر عام 2022م، وقد بدأ أكثر من مليون شخصًا في استخدامه، وفي خلال أيام أصبح أهم مصدر يمكن الحصول على معلومات منه. ما هو شات جي بي تي؟ يعتبرChat GPT ذكاء اصطناعي توليدي يعمل على استخدام التعلم العميق من أجل التعامل مع كافة الاستعلامات، والذي يتم دعمه بواسطة نماذج اللغة المتطورة من OpenAI. الجدير بالذكر أنه تم تدريب Chat GPT على العديد من البيانات، والتي تتضمن كتب، مقالات، ويكيبيديا، والكثير من مصادر المعلومات الأخرى عن طريق الإنترنت. وحينها يقوم Chat GPT بفهم مطالبتك، ويتنبأ ثم يقدم لك أفضل إجابة من مجموعة كبيرة من البيانات، وعليه نشير إلى أنه يتميز بالتفاعل الطبيعي والواقعي مع المستخدم، وهذا ما يميزه عن الأدوات الأخرى، حيث يمكنه فهم النصوص والاستجابة تبعًا للسياق كما لو كنت تتحدث مع شخص حقيقي. يستخدم شات جي بي تي في العديد من المهام والخدمات مثل الكتابة الإبداعية، خدمة العملاء وغيره من الأمور التي يمكن المساعدة بها، ويُذكر أن النسخة المجانية من هذا الموقع تتيح الاستفادة منه دون الحاجة إلى دفع أي رسوم. لكن هناك بعض القيود التي تقترن بالنسخة المدفوعة منه، ومع ذلك فإنها تظل تجربة غنية لجميع المستخدمين. كيف يتم استخدام Chat GPT هناك عدد من الخطوات التي يجب اتباعها لاستخدام Chat GPT استخدامًا فعالًا، والتي يمكن معرفتها انطلاقًا من الآتي: في البداية يمكنك استخدام موقع ChatGPT والتفاعل معه مجانًا. ثم يتم كتابة سؤالك أو طلبك بالمربع المخصص لذلك، وسيتم البدء في الرد عليك بشكل فوري. يمكن استخدام Chat GPT مجانًا بشكل غير محدود، لكن هناك بعض القيود المحتملة التي عدد المحادثات باليوم، مما يسهم في إتاحة التفاعل مع الذكاء الاصطناعي في مجالات عديدة مثل التعليم، الكتابة، الترجمة وغيره. مميزات Chat GPT على ذكر آلية استخدام Chat GPT، نشير إلى أنه هناك العديد من المميزات التي يتميز بها هذا الموقع، ويتيح إمكانية الاستفادة من العديد من الفوائد، ومن أبرز هذه المميزات ما يلي: يساعد شات جي بي تي في إتمام الكثير من المهام على أعلى مستوى من الدقة والكفاءة، وذلك مثل إعداد التقارير، كتابة المقالات وغيرها. يعمل هذا الموقع على تطوير المهارات من خلال تقديم إجابات مفصلة يمكن استخدامها كمصدر تعلم واسع المدى في العديد من الموضوعات المختلفة. يمكن استخدام Chat GPT في الحصول على إجابات فورية على الكثير من الأسئلة التي يتم طرحها في مجالات متنوعة. يتمتع هذا الموقع بإمكانية الوصول والمرونة، حيث يمكن الوصول إليه في أي وقت. توفر النسخة المجانية من Chat GPT إمكانية الاستمتاع بتجربة الذكاء الاصطناعي دون الحاجة إلى الاشتراك في باقات مدفوعة. يعد Chat GPT مناسبًا للعديد من الاستخدامات والمجالات مثل التعليم، كتابة النصوص، التسويق الرقمي، العمليات الإبداعية مثل الشعر والروايات وغير ذلك. نشير في النهاية أن شات جي بي تي يعد من المواقع سهلة الوصول والاستخدام، وذلك مقارنةً بالعديد من الأدوات الأخرى التي تحتاج إلى عمليات تسجيل واشتراكات، وبالتالي فإنه يمكن التفاعل معه بكل سهولة دون الحاجة إلى تسجيل أي بيانات أو دفع أي رسوم.

نافذة على العالم

منذ 2 ساعات

• نافذة على العالم

أخبار التكنولوجيا : مايكروسوفت تُعيد تقديم أدوات تطوير الذكاء الاصطناعى على ويندوز

الأربعاء 21 مايو 2025 04:30 مساءً نافذة على العالم - كشفت شركة مايكروسوفت عن منصة جديدة وموسعة تُدعى Windows AI Foundry، وذلك خلال مؤتمر Build 2025، فى خطوة تهدف إلى تسهيل تطوير تطبيقات الذكاء الاصطناعي على نظام ويندوز. المنصة الجديدة تُعد بمثابة تطوير شامل لخدمة Windows Copilot Runtime التي تم إطلاقها في مايو الماضي، حيث توصف الآن بأنها 'منصة موحدة لتطوير الذكاء الاصطناعي محليًا'، مما يتيح للمطورين تحسين النماذج الذكية وتخصيصها وتشغيلها بكفاءة داخل التطبيقات. تأتي هذه الخطوة في وقت تراهن فيه مايكروسوفت على الذكاء الاصطناعي كمصدر رئيسي للإيرادات المستقبلية، سواء عبر السحابة أو من خلال الأجهزة المحلية. وقد أعلن المدير التنفيذي للشركة ساتيا ناديلا في يناير أن إيرادات الذكاء الاصطناعي وصلت إلى 13 مليار دولار سنويًا، مستفيدة من شراكتها مع شركة OpenAI، المطورة لـChatGPT. ورغم أن مايكروسوفت قد لا تجني أرباحًا مباشرة من التطبيقات التي يطوّرها طرف ثالث باستخدام الذكاء الاصطناعي، إلا أن توفير الأدوات اللازمة لبناء هذا النوع من البرمجيات على نظامها الأساسي يعزز من تفوقها التنافسي ويضعف حظوظ منافسيها، وهنا تبرز أهمية Windows AI Foundry. وبحسب بيان رسمي، تقوم المنصة تلقائيًا برصد مكونات الجهاز، مثل المعالج والبطاقة الرسومية ووحدة المعالجة العصبية، وتحميل الأدوات اللازمة لتشغيل النموذج المطلوب، كما تُحدَّث هذه الأدوات تلقائيًا لتواكب الأجهزة الجديدة، وتوفر أدوات تُسهّل تجهيز النماذج وتشغيلها محليًا. وتتضمن المنصة أيضًا خدمة جديدة تُدعى Foundry Local، تهدف إلى جلب إمكانات النماذج الذكية إلى أجهزة العملاء مباشرة، سواء على ويندوز أو macOS، وتوفر Foundry Local وحدات جاهزة لتشغيل النماذج محليًا باستخدام مكتبة ONNX Runtime مفتوحة المصدر، والتي تهدف إلى تسريع عمليات الذكاء الاصطناعي على مختلف المنصات. تدعم Foundry Local أيضًا واجهة أوامر نصية (CLI)، تتيح للمطورين استخدام أوامر مثل 'Foundry model list' و'Foundry model run' لاستعراض النماذج وتشغيلها واختبارها على الخادم المحلي. وذكرت مايكروسوفت أن الخدمة يمكنها رصد قدرات الجهاز تلقائيًا، وعرض النماذج المتوافقة معه، كما يُمكن للمطورين الاستفادة من SDK خاص لتضمين وظائف Foundry Local داخل تطبيقاتهم بكل سهولة.