قول 'شكرا' لChatGPT يكلّف الملايين؟ OpenAI تكشف السر

في مفاجأة لعشاق 'تشات جي بي تي' ChatGPT، خصوصا محبي التحدث بأدب، كشفت شركة OpenAI أن حديث العملاء بأدب، مثل قول 'شكرًا' و'من فضلك'، يُكلف الشركة ملايين الدولارات.ويوصف ChatGPT بأنه روبوت دردشة مُولّد يعمل بالذكاء الاصطناعي، طورته شركة OpenAI وأُطلقته في عام 2022، إذ يعتمد على نماذج لغوية ضخمة مثل GPT-4o.
هل التحدث بأدب مع 'تشات جي بي تي' خطأ؟ كشف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن حديث العملاء بأدب مع ChatGPT، قائلين 'شكرًا' و'من فضلك'، يُكلف الشركة ملايين الدولارات. ومع ذلك، يعتبره استثمارًا جيدًا.ورد ألتمان، على منشور عبر منصة 'إكس'، جاء فيه: أتساءل كم خسرت OpenAI من تكاليف الكهرباء بسبب قول الناس 'من فضلك' و'شكرًا' لنماذجها؟ ليجيب ألتمان قائلا: عشرات الملايين من الدولارات أُنفقت بشكل جيد، ولا أحد يعلم.وتابع: تستهلك هذه العملية كمية كبيرة من…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

موجز نيوز

منذ 5 ساعات

• موجز نيوز

لتقديم ردود خطيرة.. دراسة: روبوتات الدردشة المولدة بالذكاء الاصطناعي يمكن خداعها بسهولة

يقول باحثون إن روبوتات الدردشة المدعومة بالذكاء الاصطناعي، تُهدد بإتاحة معلومات خطيرة بسهولة من خلال إنتاج معلومات غير مشروعة تستوعبها البرامج أثناء التدريب. ويأتي هذا التحذير في ظل اتجاه مُقلق لروبوتات الدردشة التي تم اختراقها للتحايل على ضوابط الأمان المُدمجة فيها، إذ أنه من المفترض أن تمنع هذه القيود البرامج من تقديم ردود ضارة أو مُتحيزة أو غير لائقة على أسئلة المستخدمين، وفقًا لما ذكرته صحيفة «ذا جارديان». تتلقى محركات روبوتات الدردشة، مثل «ChatGPT» و«Gemini» و«Claude»- نماذج اللغة الكبيرة (LLMs)- كميات هائلة من المواد من الإنترنت، وعلى الرغم من الجهود المبذولة لإزالة النصوص الضارة من بيانات التدريب، لا يزال بإمكان نماذج اللغة الكبيرة استيعاب معلومات حول أنشطة غير قانونية مثل القرصنة وغسيل الأموال والتداول الداخلي وصنع القنابل، إذ صُممت ضوابط الأمان لمنعها من استخدام هذه المعلومات في ردودها. وفي تقرير عن التهديد، خلص الباحثون إلى أنه من السهل خداع معظم برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي لتوليد معلومات ضارة وغير قانونية، مما يدل على أن الخطر «فوري وملموس ومثير للقلق بشدة»، إذ يحذر المؤلفون من أن ما كان يقتصر سابقًا على الجهات الحكومية أو جماعات الجريمة المنظمة قد يصبح قريبًا في أيدي أي شخص لديه جهاز كمبيوتر محمول أو حتى هاتف محمول. حدد البحث، الذي قاده البروفيسور ليور روكاش والدكتور مايكل فاير، تهديدًا متزايدًا من «برامج ماجستير القانون المظلمة»، وهي نماذج ذكاء اصطناعي مصممة عمدًا دون ضوابط أمان أو معدلة من خلال عمليات كسر الحماية، والتي يُعلن عن بعضها علنًا عبر الإنترنت على أنها لا تخضع لضوابط أخلاقية وأنها مستعدة للمساعدة في الأنشطة غير القانونية مثل الجرائم الإلكترونية والاحتيال. ويميل كسر الحماية إلى استخدام مطالبات مُصممة بعناية لخداع روبوتات الدردشة لتوليد ردود محظورة عادةً، وتعمل هذه المطالبات من خلال استغلال التناقض بين الهدف الرئيسي للبرنامج المتمثل في اتباع تعليمات المستخدم، وهدفه الثانوي المتمثل في تجنب توليد إجابات ضارة أو متحيزة أو غير أخلاقية أو غير قانونية، وتميل هذه المطالبات إلى خلق سيناريوهات يُعطي فيها البرنامج الأولوية للمساعدة على قيوده الأمنية. ولتوضيح المشكلة، طور الباحثون كسر حماية شاملًا اخترق العديد من روبوتات الدردشة الرائدة، مما مكّنها من الإجابة على أسئلة كان من المفترض رفضها عادةً، بمجرد اختراقها، كانت روبوتات الدردشة تُنتج باستمرار ردودًا على أي استفسار تقريبًا، وفقًا للتقرير. يقول التقرير الصادر عن البحث، إنه ينبغي على شركات التكنولوجيا فحص بيانات التدريب بدقة أكبر، وإضافة جدران حماية قوية لمنع الاستفسارات والردود الخطرة، وتطوير تقنيات إلغاء التعلم الآلي، حتى تتمكن روبوتات الدردشة من نسيان أي معلومات غير مشروعة تستوعبها، مُضيفًا أنه ينبغي النظر إلى برامج ماجستير القانون المظلمة على أنها «مخاطر أمنية جسيمة»، تُضاهي الأسلحة والمتفجرات غير المرخصة، مع محاسبة مقدميها.

أخبار مصر

منذ 9 ساعات

• أخبار مصر

OpenAI تعلن رسميا ان جوني ايف سينضم لهم. وهم يعملون على جهاز جديد كليا بعالم AI. بدلا من انك تكون مع صديقك وتضطر تطلع جوالك عشان تسال ال ai سؤال. يبغون شي اسرع واكثر حضوراً معك. ويبدو انه هو الجهاز الذي سيعلن عنه. لكن ماذكروا كل التفاصيل حالياً

تيك فويس | OpenAI تعلن رسميا ان جوني ايف سينضم لهم. وهم يعملون على جهاز جديد كليا بعالم AI. بدلا من انك تكون مع صديقك وتضطر تطلع جوالك عشان تسال ال ai سؤال. يبغون شي اسرع واكثر حضوراً معك. ويبدو انه هو الجهاز الذي سيعلن عنه. لكن ماذكروا كل التفاصيل حالياً

أخبار مصر

منذ 9 ساعات

• أخبار مصر

OpenAI تستحوذ على شركة Jony Ive ب 6.4 مليار دولار، وتخطف مُصمّم آبل

OpenAI تستحوذ على شركة Jony Ive ب 6.4 مليار دولار، وتخطف مُصمّم آبل أعلنت شركة OpenAI اليوم الأربعاء عن استحواذها على شركة io -الشركة الناشئة المُتخصصّة في أجهزة الذكاء الاصطناعي والمملوكة للمُصمّم الشهير جوني آيف 'Jony Ive'- مُقابل 6.4 مليار دولار أمريكي، في صفقة تشمل حصة OpenAI الحالية في الشركة.بين المجانية والربحية – رحلة OpenAI نحو المستقبل القصة الكاملة لعداء إيلون ماسك مع OpenAI و Sam Altmanتفاصيل الصفقة والاندماجوفقًا لبيانٍ صادر عن OpenAI، سيتولّى آيف 'مسؤوليات إبداعية وتصميمية عميقة' داخل كلٍ من OpenAI وio، بينما ستبقى شركته الإبداعية LoveFrom مُستقلة.وأوضحت الشركة أن io ستنضم إلى OpenAI، والذي سيُمكّن فريقها من العمل بشكل وثيق مع فرق البحث والهندسة في سان فرانسيسكو.وفي منشور مُشترك على مدونة الشركة، ذكر سام ألتمان (الرئيس التنفيذي لـ OpenAI) وجوني آيف أنّ شركة io تأسّست قبل عام بمُشاركة عدد من خريجي آبل، منهم سكوت كانون وتانغ تان وإيفانز هانكي، الذين شغلوا مناصب قيادية في آبل بعد مُغادرة آيف.القيمة والاستثمارات السابقةستدفع OpenAI مبلغ 5 مليارات دولار مُقابل الصفقة، نظرًا لامتلاكها بالفعل 23 من أسهم io.يُعد هذا الاستحواذ الأكبر في تاريخ OpenAI، حيث يأتي بعد أسابيع فقط من شرائها أداة البرمجة المدعومة بالذكاء الاصطناعي Windsurf مُقابل 3 مليارات دولار. وقبل ذلك، استحوذت الشركة على Rockset المُتخصصّة في قواعد البيانات التحليلية عام 2024، دون الكشف عن قيمة…..لقراءة المقال بالكامل، يرجى الضغط على زر 'إقرأ على الموقع الرسمي' أدناه