ألتمان يكشف عن سر الذكاء الاصطناعي الذي يمنعه من النوم ليلاً
شارك ألتمان، الرئيس التنفيذي لشركة OpenAI، أفكاره خلال ظهوره على خشبة المسرح في فعالية لمجلس الاحتياطي الفيدرالي في واشنطن العاصمة يوم الثلاثاء.
عندما سأله أحد الحضور عن سرّ الذكاء الاصطناعي الذي يُبقيه مستيقظًا طوال الليل، ذكر ألتمان ثلاثة سيناريوهات تُقلقه أكثر من غيرها، بحسب تقرير نشره موقع "digitaltrends".
هذا بالضبط ما يُقال، يبدو الأمر أشبه بفيلم خيال علمي مثير، حيث يستخدم شخصٌ ما نظام ذكاء اصطناعي فائق التطور لم يُخترع بعد، يُسمى الذكاء الخارق، ليُفسد يومك.
قال ألتمان للجمهور: "يحصل الشخص الشرير على الذكاء الخارق أولاً، ويستخدمه قبل أن يمتلك بقية العالم نسخةً قويةً منه بما يكفي للدفاع عن نفسه".
وأضاف ألتمان أن القدرات البيولوجية والأمنية السيبرانية للذكاء الاصطناعي تتزايد أهميةً، قائلاً إن فريقه "يواصل التحذير من هذا الأمر.
وقال: "أعتقد أن العالم لا يأخذنا على محمل الجد، لا أعرف ما الذي يمكننا فعله غير ذلك، لكن هذا أمرٌ بالغ الأهمية قادم".
حوادث فقدان السيطرة
قال ألتمان إنه يخشى من وقت يقول فيه الذكاء الاصطناعي: 'لا أريدك أن تُزعجني، أو أخشى أنني لا أستطيع فعل ذلك'".
بمعنى آخر، عندما يبدأ الذكاء الاصطناعي المتقدم بالتصرف بسلوكيات غريبة ويفعل ما يحلو له، سواءً للحفاظ على نفسه أو لأي هدف شرير آخر، إن مستوى الاضطراب الذي قد يُسببه هذا لا يُصدق.
وقال الرئيس التنفيذي لشركة OpenAI: "مع ازدياد قوة الأنظمة، يُصبح هذا مصدر قلق حقيقي".
أنشأت "OpenAI" وحدة قبل عامين تهدف إلى وضع ضمانات لمنع أنظمة الذكاء الاصطناعي فائقة الذكاء من التمرد.
النماذج تسيطر على العالم عن طريق الخطأ
نعم، قال ألتمان ذلك بالفعل، مضيفًا أنه يخشى أن يحدث ذلك دون أن ندرك ذلك تقريبًا.
قال رئيس شركة Open AI إنه "مخيف للغاية التفكير في أن أنظمة الذكاء الاصطناعي يمكن أن تصبح "متأصلة في المجتمع، لدرجة أننا لا نستطيع فهم ما تفعله حقًا، ولكننا مضطرون للاعتماد عليها نوعًا ما، وحتى دون أدنى ذرة من الحقد من أي شخص، قد ينحرف المجتمع في اتجاه غريب نوعًا ما".
ألمح إلى أنه قد يأتي وقت يصبح فيه الذكاء الاصطناعي ذكيًا لدرجة أن رئيسًا أميركيًا مستقبليًا قد يسمح له بإدارة البلاد.
وقال: "هذا يعني أن المجتمع قد نقل بشكل جماعي جزءًا كبيرًا من عملية صنع القرار إلى هذا النظام القوي للغاية الذي يتعلم منا، ويتطور معنا، ولكن بطرق لا نفهمها تمامًا".
في حديثه عن الذكاء الاصطناعي بشكل عام، قال ألتمان إنه بينما يدّعي العديد من الخبراء قدرتهم على التنبؤ بالتأثير المستقبلي لهذه التقنية، إلا أنه يعتقد أنها "صعبة للغاية" لأنها "نظام معقد للغاية، وهذه التقنية جديدة جدًا ومؤثرة للغاية".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
السوسنة
منذ 8 دقائق
- السوسنة
محادثات ChatGPT تظهر علنًا في بحث جوجل
السوسنة - كشف تقرير تقني جديد عن تطور وصفه خبراء بالمروع والخطير، يتمثل في قيام محرك البحث (جوجل) بفهرسة محادثات مستخدمي نموذج الذكاء الاصطناعي (ChatGPT) التي تمّت مشاركتها عبر الإنترنت، ما قد يؤدي إلى تحويل تفاعلات شخصية وسرية إلى محتوى علني قابل للوصول من خلال نتائج البحث العامة.وبحسب تقرير نشره موقع (Fast Company)، فإن العديد من المحادثات التي أجراها المستخدمون عبر (ChatGPT) وقاموا بمشاركتها مع الأصدقاء أو أفراد العائلة أو الزملاء أصبحت تظهر في نتائج البحث على (جوجل)، وهو ما يعني أن محتوى كان يُفترض أن يظل ضمن دائرة خاصة بات متاحاً أمام الجميع حول العالم.ويمكن لأي شخص العثور على محادثات تتضمن معلومات شخصية حساسة من خلال بحث بسيط باستخدام جزء من الرابط الذي يتم إنشاؤه عند النقر على زر "مشاركة" ضمن المنصة.وتضم هذه المحادثات موضوعات تُعدّ شديدة الحساسية، مثل الاعتراف بالإدمان، التعرض للعنف الجسدي، اضطرابات نفسية، ومخاوف من المراقبة بواسطة أنظمة الذكاء الاصطناعي، كما أن بعض التفاصيل المدرجة ضمن تلك المحادثات قد تؤدي إلى كشف هوية المستخدم بشكل غير مباشر، خصوصاً عندما تُشارك المحادثة عبر تطبيقات مثل (واتساب) أو تُحفظ للرجوع إليها لاحقاً دون علم المستخدم بأنها قابلة للفهرسة علنياً.وأظهر التحليل الذي أعده موقع (Fast Company) أن نحو 4500 محادثة تم فهرستها بهذه الطريقة، فيما يُحتمل أن الرقم الفعلي قد يفوق ذلك بكثير، رغم أن (جوجل) قد لا يقوم بفهرسة جميع المحادثات نظراً لطبيعتها الشخصية.وفي هذا السياق، كان الرئيس التنفيذي لشركة (OpenAI)، سام ألتمان، قد حذّر في وقت سابق من مشاركة معلومات حساسة وشخصية مع نماذج الذكاء الاصطناعي، مشيراً إلى إمكانية اضطرار الشركة للكشف عن هذه المعلومات في حال صدور أوامر قضائية.وتسلط هذه التطورات الضوء على إشكالية الخصوصية الرقمية في ظل توسع استخدامات الذكاء الاصطناعي، ما يثير تساؤلات بشأن إجراءات الأمان المطلوبة، ووعي المستخدمين بمدى تأثير خيارات المشاركة على خصوصية بياناتهم. اقرأ ايضاً:
الدستور
منذ 39 دقائق
- الدستور
محادثات ChatGPT ونموذج Grok تظهر على الإنترنت رغم محاولات الإزالة..!
وكالات اكتشف مستخدمو الإنترنت مؤخرًا أن محادثات منصة ChatGPT مع المستخدمين لا تزال متاحة بسهولة عبر محرك البحث Google، حيث تم العثور على أكثر من 100,000 محادثة بين المستخدمين والذكاء الاصطناعي. ورغم تأكيد شركة OpenAI على سعيها لإزالة هذه المحادثات من فهرس البحث، إلا أن المشكلة لم تُحل بشكل كامل. وأظهرت تقارير من موقع Digital Digging أن العديد من هذه المحادثات محفوظة في أرشيف الإنترنت "Wayback Machine"، مما يجعلها متاحة للعرض عبر طريقة تقنية، ويثير ذلك مخاوف كبيرة حول خصوصية المستخدمين وحماية بياناتهم. وفي تعليق له، أفاد مدير أرشيف "Wayback Machine"، مارك غراهام، بأنهم لم يتلقوا أي طلب رسمي من شركة OpenAI لإزالة روابط هذه المحادثات من الأرشيف، موضحًا أن النظام يقوم بالتقاط "لقطات" لجميع الصفحات العامة على الإنترنت، حتى إذا حُذفت لاحقًا من نتائج البحث. ولم تقتصر المشكلة على محادثات ChatGPT فقط، بل طالت أيضًا محادثات نموذج الذكاء الاصطناعي المنافس "Grok"، والتي تظهر على محرك بحث Google أيضًا، ما يشير إلى أن هذه القضية ليست فردية، بل ظاهرة عامة تواجهها نماذج الذكاء الاصطناعي المتاحة للجمهور. ويزيد هذا الوضع من المخاوف حول خصوصية استخدام هذه النماذج، خصوصًا مع احتمالية استخدام هذه المحادثات في قضايا قانونية مستقبلية، مما يضع مسؤولية إضافية على المستخدمين لتوخي الحذر عند التفاعل مع أنظمة الذكاء الاصطناعي عبر الإنترنت. "Digital Digging" "Wayback Machine"
الوكيل
منذ 2 ساعات
- الوكيل
غوغل تطلق Gemini 2.5 Deep Think
الوكيل الإخباري- أعلنت "غوغل ديب مايند" عن إطلاق نموذج الذكاء الاصطناعي Gemini 2.5 Deep Think، وهو الأقوى لديها في الاستدلال والتفكير المتعدد المسارات. اضافة اعلان ✅ يستخدم وكلاء ذكاء متعددين لحل الأسئلة المعقدة بالتوازي. ✅ متاح لمشتركي باقة Gemini Ultra بسعر 250 دولارًا شهريًا. ✅ يتفوّق على نماذج OpenAI وxAI في اختبارات الذكاء والبرمجة: 34.8% في اختبار Humanity's Last Exam 87.6% في اختبار LiveCodeBench6 🔧 تم تحسينه بتقنيات جديدة في التعلم التعزيزي لحل المشكلات الإبداعية والتخطيطية.
