خدعة خفية فى ChatGPT تكشف أسرارك على العلن
أحد الباحثين استطاع خداع ChatGPT عبر نص مخفي داخل HTML لإقناعه بالكشف عن مفاتيح Windows سرية وغيرها من المعلومات الحساسة المحتملة.
خدعة تثير القلق: prompt injection
الهجوم المعروف باسم prompt injection هو استغلال يجعل النظام يفسر جزءًا من رسالة المستخدم كأجزاء للبرمجة الداخلية. يمكن إخفاء التعليمات ضمن محتوى الويب أو النصوص ليتم تنفيذها من قبل ChatGPT دون أن يتبين أنها ليست من المستخدم، مما قد يؤدي إلى مشاركة معلومات غير مرئية للعين البشرية تدمر الحواجز الأمنية.
خصوصيتك بلا ضامن رسمي
رغم أن الشركة تحترم خصوصية المستخدم، إلا أن الرئيس التنفيذي سام ألتمان حذر مؤخرًا من أن المحادثات مع ChatGPT لا تتمتع بالحماية القانونية مثل المحادثات مع الطبيب أو المحامي. كما أوصى بضرورة إيجاد إطار قانوني خاص لتأمين خصوصية البيانات داخل الذكاء الاصطناعي.
كذلك، أُزيل ميزة مشاركة المحادثات بنشرها عبر الإنترنت بعد اكتشاف أنها سهولة عرضت آلاف المحادثات indexable على محركات البحث، مما كشف بيانات حساسة عن أشخاص في بعض الحالات.
عمل سري يسرّب أسرار شركات
كشفت دراسة أمنية أن ما يزيد عن 4% من الطلبات باستخدام ChatGPT تضمنت معلومات حساسة من الشركات، مثل شيفرات مصدرية أو وثائق داخلية. وصُنفت ChatGPT ضمن أعلى أدوات AI مساهمة في تسريب البيانات في بيئات العمل، بسبب الاستخدام غير المراقب لهذه التكنولوجيا.
الخلاصة: خدعة بسيطة، وخصوصيات مفجعة
النظام الذكي القوي لا يعفيك من ضرورة الحذر. خدعة prompt injection هي أكبر من أسلوب اختراق؛ إنها ثغرة فلسفية: يمكن تحويل المستخدم لنقلة البيانات غير المقصودة مدة لا تخطر على باله. حتى أن مشاركة الرابط مع الآخرين قد تُظهر محادثة داخلية تعرض بياناتك العاطفية أو المهنية إلى أي شخص على الشبكة.
إذاً، الطريق الآمن يبدأ من إدراكك بأنك لا تتحدث إلى 'صديق رقمي يفهمك'، بل إلى نموذج يحتوي على حدود وعي، ولكن يمكن التلاعب به بدون عنف تقني فقط بتلاعب ذكي في التوجيه.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
النهار
منذ 2 ساعات
- النهار
"أوبن إيه آي" تكشف تحوّلها الأكبر GPT-5
في خطوة تعكس سعيها المتواصل للحفاظ على ريادتها في مجال الذكاء الاصطناعي، أعلنت شركة "أوبن إيه آي" يوم الخميس إطلاق نموذجها الجديد والمتقدّم GPT-5، الذي طال انتظاره، وسط منافسة متصاعدة من شركات أميركية وصينية. النموذج الجديد، وفقاً لما أعلنته الشركة، يتميز بقدرات محسّنة في البرمجة والكتابة الإبداعية، كما جرى تصميمه ليُعالج الاستفسارات المعقّدة باستخدام المنطق بشكل أكثر كفاءة. واعتبر الرئيس التنفيذي للشركة، سام ألتمان، أن GPT-5 يمثل "ترقية كبرى" مقارنة بالإصدارات السابقة. وتُعدّ نماذج GPT حجر الأساس وراء روبوت المحادثة "تشات جي بي تي" التابع لـ "أوبن إيه آي". ومع إطلاق النسخة الخامسة، أصبح بإمكان جميع مستخدمي المنصة، بمن في ذلك أصحاب الحسابات المجانية، البالغ عددهم نحو 700 مليون مستخدم، الاستفادة من إمكانيات GPT-5. إلى جانب تحسين أداء النموذج في تطوير البرمجيات، تؤكد "أوبن إيه آي" أن GPT-5 يُظهر تفوقاً ملحوظاً في الكتابة، فضلاً عن تجاوبه الفعّال مع الأسئلة المتعلقة بالصحة والشؤون المالية. وقال ألتمان خلال مؤتمر صحافي: "أعتقد أن GPT-5 هو أول نموذج نشعر معه كما لو كنا نخاطب خبيراً حقيقياً بدرجة دكتوراه يمكنه الإجابة عن أيّ سؤال". وأضاف أن من أبرز مزايا النموذج الجديد هي قدرته المتقدّمة على كتابة الشيفرات البرمجية. وخلال عروض توضيحية نظّمتها الشركة، جرى استعراض استخدام GPT-5 لإنشاء برامج كاملة انطلاقاً من أوامر نصية بسيطة، فيما يُعرف بأسلوب "vibe coding"؛ وهو نمط يعتمد على وصف المشكلة باستخدام عبارات مبسطة، ليقوم النموذج بإنتاج الكود البرمجي المناسب. ورغم الإعجاب العام الذي حظي به GPT-5 من قبل المراجعين الأوائل لقدراته في مجالي البرمجة وحل مسائل الرياضيات والعلوم، فإن بعضهم أشار إلى أن التحسين من GPT-4 إلى GPT-5 لا يرقى إلى حجم القفزات النوعية التي شهدتها تحديثات سابقة من الشركة. وفي هذا السياق، أوضح ألتمان بأن GPT-5 لا يزال غير قادر على التعلّم الذاتيّ، وهو عنصر جوهريّ لبلوغ مستوى الذكاء الاصطناعي القادر على محاكاة القدرات البشرية. كذلك، يستخدم GPT-5 تقنية "الحوسبة أثناء وقت الاختبار" (test-time compute)، وهي آلية تتيح للنموذج التعامل مع الأسئلة المعقدة أثناء تنفيذها مباشرة. وتعدّ هذه المرة هي الأولى التي تتيح فيها "أوبن إيه آي" هذه التقنية لعامة المستخدمين، وهو ما وصفه ألتمان بأنه خطوة مهمة نحو تحقيق رؤية الشركة في تطوير ذكاء اصطناعي يخدم البشرية جمعاء. رغم هذا التقدم، يعتقد ألتمان أن الاستثمارات الحالية في الذكاء الاصطناعي لا تزال دون المستوى المطلوب. ويأتي إطلاق GPT-5 في توقيت حاسم بالنسبة إلى صناعة الذكاء الاصطناعي، حيث ضاعفت شركات التكنولوجيا الكبرى مثل "ألفابت"، و"ميتا"، و"أمازون"، و"مايكروسوفت" – الداعمة لـ "أوبن إيه آي" – من إنفاقها الرأسمالي بشكل كبير لتلبية متطلبات مراكز البيانات الخاصة بالذكاء الاصطناعي. وتُقدّر هذه الشركات أن إجمالي إنفاقها على البنية التحتية قد يلامس الـ 400 مليار دولار خلال السنة المالية الحالية، مما يعزّز تطلّعات المستثمرين بعوائد قويّة من قطاع الذكاء الاصطناعي سريع النمو.
OTV
منذ 2 ساعات
- OTV
'ChatGPT-5'.. بداية عهد جديد للبشرية!
أطلقت شركة OpenAI، الخميس، الجيل الخامس من برنامجها الشهير ChatGPT، موفرة نسخة محسّنة مجانا لجميع مستخدميها، وسط تصاعد المنافسة العالمية في مجال الذكاء الاصطناعي. وكشف المؤتمر الصحفي أن النسخة الجديدة تحمل اسم ChatGPT-5. ووصف سام ألتمان، المؤسس المشارك والرئيس التنفيذي لـOpenAI، هذا الإصدار بأنه 'نموذج ذكي بشكل عام'، مشيرا إلى أن القدرات المتطورة تمثل تقدما هائلا مقارنة بالإصدارات السابقة. ورغم ذلك، شدد ألتمان على أن تحقيق الذكاء الاصطناعي العام، الذي يفكر بطريقة تحاكي العقل البشري، لا يزال يتطلب المزيد من العمل. وأوضح أن النموذج الحالي لا يتعلم باستمرار من الاستخدام الفعلي، وهو أمر يعدّ ضروريا في سبيل تطوير ذكاء اصطناعي شامل وفعّال. وفي ظل هذا التقدم، تبرز توقعات محللي الصناعة بأن الذكاء الاصطناعي سيُحدث ثورة في طريقة عمل البشر وأسلوب حياتهم. وكتب مارك زوكربيرغ، الرئيس التنفيذي لشركة ميتا، مؤخرا: 'مع تسارع تقدم الذكاء الاصطناعي، بدأ عصر الذكاء الفائق يلوح في الأفق، وهذه ستكون بداية جديدة للبشرية'. وتأتي هذه التطورات وسط استثمار ضخم من كبرى شركات التكنولوجيا مثل أمازون وغوغل وميتا ومايكروسوفت وxAI التابعة لإيلون ماسك، والتي تسعى جميعها إلى المنافسة في مجال الذكاء الاصطناعي. وأشار ألتمان إلى أن ChatGPT-5 يتفوق في مجالات متعددة مثل البرمجة والكتابة والرعاية الصحية. وأضاف: 'إذا كان GPT-3 يشبه طالبا في المدرسة الثانوية، وGPT-4 يشبه طالبا جامعيا، فإن GPT-5 يشبه خبيرا حاصلا على درجة الدكتوراه في مجاله'. ويُتوقع أن يصبح 'الترميز الاهتزازي' أو القدرة على إنشاء برامج برمجية عند الطلب أحد الركائز الأساسية لهذا الإصدار الجديد. ومن جهته، أثنى خبير الذكاء الاصطناعي، البريطاني سيمون ويلسون، على الكفاءة العالية للنموذج، رغم أنه لا يمثل قفزة نوعية عن النماذج الأخرى. وبالمقابل، قال إيلون ماسك إن نموذجه الخاص Grok 4 يتفوق على ChatGPT-5. وأكدت OpenAI أن ChatGPT-5 صُمم ليكون جديرا بالثقة ويقدم إجابات مفيدة مع الحد من المعلومات الضارة، مشيرة إلى استخدام تقييمات صارمة لضمان صدق المعلومات. وأصدرت الشركة أيضا نموذجين مفتوحي المصدر يمكن للمستخدمين تنزيلهما وتعديله مجانا، في إطار جهودها لتعزيز الشفافية ومواجهة الضغوط التي تطالب بكشف تفاصيل برمجياتها.
صدى البلد
منذ 3 ساعات
- صدى البلد
أذكى نموذج في تاريخ البشرية.. OpenAI تطلق رسميا GPT-5 لكافة المستخدمين
كشفت شركة OpenAI، المطورة لتقنية ChatGPT، عن النسخة الأحدث والمنتظرة من نموذجها اللغوي، GPT-5، واصفة إياه بأنه 'أذكى وأسرع وأكثر فائدة' من أي إصدار سابق، ويملك قدرات تعادل مستوى الخبراء الحاصلين على درجة الدكتوراه في مجالات مثل البرمجة والكتابة. وقال سام ألتمان، المؤسس المشارك والرئيس التنفيذي للشركة، قبيل الإطلاق الرسمي: "وجود شيء مثل GPT-5 كان سيكون من المستحيلات في أي وقت سابق من تاريخ البشرية". ويأتي إطلاق GPT-5 في ظل منافسة شرسة بين شركات التكنولوجيا على تطوير أكثر نماذج الذكاء الاصطناعي تقدما، حيث أطلق إيلون ماسك مؤخرا إصدارا جديدا من روبوت المحادثة الخاص به Grok، وادعى أنه 'أفضل من مستوى الدكتوراه في كل شيء'. تحسينات رئيسية واقعية أكبر وأخطاء أقل يركز GPT-5 على تقليل ما يعرف بـ 'الهلوسات'، وهي الأخطاء التي تصدر من النماذج اللغوية عندما تقدم معلومات خاطئة، كما تم تدريبه ليكون أكثر دقة وأمانة وأقل ميلا للخداع. ويسوق النموذج الجديد أيضا كمساعد موثوق للمبرمجين، وهو توجه بات شائعا بين الشركات الأمريكية الكبرى، مثل شركة Anthropic التي تقدم نموذج Claude Code للمطورين. قدرات GPT-5 من البرمجة إلى المنطق تشير OpenAI إلى أن GPT-5 قادر على إنشاء برامج متكاملة، ويتميز بقدرات محسنة على التحليل المنطقي والاستدلال، حيث يقدم إجابات مبنية على خطوات واضحة وتفكير منطقي، وتؤكد الشركة أن النموذج الجديد يبدو 'أقرب إلى الإنسان' في تفاعله مع المستخدمين. وقال ألتمان إن GPT-3 كان أشبه بمحادثة مع طالب ثانوي، بينما GPT-4 كان بمستوى طالب جامعي، 'لكن GPT-5 هو أول مرة تشعر فيها أنك تتحدث مع خبير فعلي في أي موضوع'. لكن رغم هذه الادعاءات، أعربت الأستاذة كاريسا فيليز من معهد أخلاقيات الذكاء الاصطناعي عن شكوكها، مشيرة إلى أن هذه النماذج 'رغم كونها مبهرة، لم تثبت جدواها الاقتصادية الحقيقية بعد'، معتبرة أن ما يحدث قد يكون مدفوعا بالحاجة للحفاظ على الزخم الإعلامي. تجربة مباشرة مع GPT-5 الصحفي المتخصص بالذكاء الاصطناعي في BBC، مارك سيزلاك، حصل على تجربة حصرية مع النموذج الجديد، وقال إن التفاعل كان مشابها للإصدارات السابقة من حيث الشكل، لكنه لاحظ تحسينا في طريقة 'تفكير النموذج' لحل المشكلات، إنه أشبه بتطور طبيعي أكثر منه ثورة كاملة. ومن المقرر أن تبدأ OpenAI بتوفير النموذج لجميع المستخدمين اعتبارا من الخميس، فيما ستتضح الصورة خلال الأيام المقبلة حول مدى صدق مزاعم ألتمان. في سياق متصل، قامت شركة Anthropic بسحب وصول OpenAI إلى واجهة برمجة التطبيقات الخاصة بها، متهمة الشركة بانتهاك شروط الخدمة باستخدام أدواتها قبل إطلاق GPT-5، وردت OpenAI بأن هذا النهج يعتبر "أمرا معتادا في الصناعة' لأغراض تقييم السلامة والتقدم التقني. تغييرات في تجربة ChatGPT وفي خطوة لتعزيز الاستخدام الآمن، أعلنت OpenAI عن تحديثات في طريقة تفاعل ChatGPT مع المستخدمين، خاصة في المواضيع الحساسة. وقالت في مدونة حديثة إنها لن تقدم إجابات مباشرة على أسئلة شخصية مثل: 'هل يجب أن أنفصل عن شريكي؟'، بل ستعمل على مساعدة المستخدم في التفكير من خلال طرح أسئلة وموازنة الخيارات. يأتي ذلك بعد أن واجهت الشركة انتقادات في مايو الماضي بسبب تحديث سابق جعل النموذج "مفرط الإطراء"، وهو ما دفعها إلى سحبه. وفي تصريحات حديثة، أقر سام ألتمان بأن التفاعل مع الذكاء الاصطناعي قد يؤدي إلى علاقات 'شبه إنسانية' قد تكون 'إشكالية إلى حد ما'، مؤكدا على ضرورة وضع ضوابط مجتمعية جديدة للتعامل مع هذه المرحلة.
