وكيل 'شات جي بي تي' يثير الجدل: ابتكار متقدم بمخاطر بيولوجية محتملة
فوفقًا لتقرير نشرته مجلة فورتشن ، صنّفت 'OpenAI' هذا المنتج الجديد بأنه يتمتع بقدرة 'عالية' على التسبب في مخاطر بيولوجية، في سابقة هي الأولى من نوعها بالنسبة لأدواتها. ويشير هذا التصنيف إلى إمكانية أن يُستخدم الوكيل الذكي لمساعدة جهات غير خبيرة في الوصول إلى معلومات قد تُستغل لتصنيع أسلحة بيولوجية أو كيميائية، بحسب إطار السلامة المعتمد من الشركة.
وقال بواز باراك ، أحد أعضاء الفريق الفني في الشركة: 'ربما كان من الصحيح في عام 2024 أن النماذج لا تقدم سوى معلومات متاحة على الإنترنت، لكن هذا لم يعد دقيقًا اليوم. تقييماتنا الداخلية تؤكد أن الخطر حقيقي'.
وأكد باراك أن طرح النموذج دون تدابير وقائية كان سيكون تصرفًا غير مسؤول، مشيرًا إلى أن OpenAI فرضت مجموعة من إجراءات الحماية المشددة، منها:
منع الاستجابة لأي طلب قد يُستخدم في تطوير أسلحة بيولوجية.
أنظمة مراقبة متقدمة لتحليل الطلبات المشبوهة وتحويلها للمراجعة.
سياسات صارمة لحجب المحتوى الخطير.
ردود فورية على أي حالات إساءة استخدام محتملة.
وفي منشور سابق على مدونة الشركة، أعلنت OpenAI أنها عززت اختبارات السلامة لمواجهة خطر استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، مؤكدة أن أكبر تهديد لا يكمن في الوصول إلى المواد، بل في اكتساب المعرفة المتخصصة، والتي قد يسدها هذا النوع من الأدوات المتقدمة.
وتأتي هذه الخطوة في وقت تتسابق فيه شركات التكنولوجيا الكبرى، مثل غوغل و أنثروبيك ، لتطوير 'وكلاء' ذكاء اصطناعي قادرين على تنفيذ مهام رقمية معقدة بشكل مستقل، ما يجعلها أدوات واعدة في الأتمتة وسير العمل، لكنها في الوقت ذاته تثير مخاوف متزايدة من إساءة الاستخدام.
ورغم تلك المخاطر، تؤكد OpenAI أن المستخدم يحتفظ بسيطرة كاملة على الوكيل، إذ يُطلب منه الموافقة قبل تنفيذ أي إجراء مهم، كما يمكنه إيقافه أو توجيهه في أي لحظة، في محاولة للتوازن بين الاستفادة من الإمكانات التقنية والحفاظ على معايير الأمان العالية.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سرايا الإخبارية
منذ ساعة واحدة
- سرايا الإخبارية
فريق "ميتا" للذكاء الفائق: نصفه صينيون و40% موظفون سابقون بـ"OpenAI"
سرايا - يتمثل أحدث رهان كبير لمارك زوكربيرغ الرئيس التنفيذي لشركة ميتا في تشكيل فريق من أفضل خبراء الذكاء الاصطناعي في السوق لقيادة ما يُسمى بـ"مختبرات الذكاء الفائق". ويهدف هذا الفريق إلى تطوير نماذج ذكاء اصطناعي تُفضي في النهاية إلى "الذكاء العام الاصطناعي"، وهو ما يعني نموذج ذكاء اصطناعي بقدرات تُضاهي، أو حتى تتجاوز، قدرات العقل البشري. ويتطلب تحقيق قدرات معرفية بمستوى العقل البشري بواسطة نموذج ذكاء اصطناعي استثمارات ضخمة، بالإضافة إلى توظيف أفضل المواهب لبناء مثل هذا النظام. لهذا السبب، تُنفق "ميتا" مئات الملايين من الدولارات على باحثي الذكاء الاصطناعي من شركات مثل "OpenAI" و"أبل" لتوظيفهم في فريق الذكاء الفائق. وأظهر جدول بيانات شاركه مُسرب على منصة إكس بعض المعلومات الفريدة حول فريق الذكاء الفائق لدى "ميتا" وأصول موظفيه البالغ عددهم 44 شخصًا، بحسب تقرير لموقع "Neowin" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business". ويدّعي المُسرِّب أن هذه المعلومات مأخوذة من موظف مجهول الهوية يعمل لدى "ميتا". ووفقًا لهذه البيانات، فإن 50% من موظفي فريق الذكاء الفائق من الصين، مما يُبرز الدور المهم للباحثين الصينيين أو من أصول صينية في جهود الذكاء الاصطناعي لـ"ميتا". بالإضافة إلى ذلك، يحمل 75% من هؤلاء الموظفين شهادات دكتوراه، ويعمل 70% منهم كباحثين. ومن المثير للاهتمام أن 40% من أعضاء هذا الفريق هم موظفون سابقون في "OpenAI"، استقطبهم زوكربيرغ من الشركة المُطوّرة روبوت الدردشة الشهير "شات جي بي تي". بالإضافة إلى ذلك، يأتي 20% من أعضاء فريق الذكاء الفائق من "غوغل ديب مايند" التابعة لشركة غوغل، و15% آخرون من "Scale AI"، وهي شركة ناشئة أعلنت "ميتا" مؤخرًا استثمار 14.8 مليار دولار فيها. ومن الأمور الأخرى اللافتة أيضًا أن 75% من فريق الذكاء الفائق هم مهاجرون من الجيل الأول. ويزعم المُسرّب أن كلًا من هؤلاء الموظفين يتقاضى الآن ما بين 10 ملايين دولار و100 مليون دولار سنويًا. وفي حين لم تكشف "ميتا" عن رواتب أعضاء فريق الذكاء الفائق، أفادت تقارير سابقًا أن "ميتا" تعرض بالفعل ما يصل إلى 100 مليون دولار كمكافآت لاستقطاب أفضل المواهب في مجال الذكاء الاصطناعي من "OpenAI" وغيرها من المنافسين.
خبرني
منذ 9 ساعات
- خبرني
ميزة جديدة من غوغل.. أزرار تُعزز تفاعل المستخدم مع نتائج البحث
خبرني - في خطوة جديدة ضمن جهودها المتواصلة لتعزيز تجربة المستخدم، بدأت شركة «غوغل» في اختبار ميزة تفاعلية ذكية تُعيد تعريف طريقة التفاعل مع نتائج البحث، من خلال مجموعة من الأزرار التفاعلية داخل ميزة «نظرة عامة بالذكاء الاصطناعي». الميزة الجديدة التي بدأت في الظهور تدريجيًا على أجهزة أندرويد وiOS، لا تقتصر على عرض إجابات سريعة كما اعتاد المستخدمون، بل تقدم أدوات أكثر عمقًا وتفاعلية تُساعد على استكشاف المعلومات وفهمها بسهولة ومرونة. تفاعل مباشر داخل النتائج.. ما الجديد؟ بحسب تقرير نشره موقع PhoneArena التقني، تظهر ضمن قسم "نظرة عامة بالذكاء الاصطناعي" مقتطفات مظللة بلون أزرق داخل نتائج البحث، وبمجرد النقر عليها، تظهر ثلاثة أزرار تفاعلية في أسفل الشاشة، تحمل وظائف ذكية تهدف إلى تعميق التفاعل مع المعلومة المقدمة. ما هي وظائف الأزرار الثلاثة؟ اشرح هذا زر مخصص لتقديم شرح موسع لأي عبارة مختارة ضمن النص. فإذا شعرت أن المعلومة مقتضبة أو غير واضحة، يمكنك النقر على الزر لتظهر لك تفاصيل أوفى وشروحات مبسطة. فعلى سبيل المثال، إذا بحثت عن "ما هو أندرويد؟"، وظهرت إجابة قصيرة مثل "نظام تشغيل طوّرته غوغل"، فإن الضغط على "اشرح هذا" سيكشف معلومات إضافية عن تاريخ أندرويد، وأبرز مميزاته، وتطوره بمرور الوقت. الصور ذات الصلة هذا الزر يُظهر مجموعة من الصور المرتبطة بالمعلومة المحددة، ما يمنح المستخدم بعدًا بصريًا يدعم الفهم السريع والمرئي لموضوع البحث. نسخ النص لمن يرغب في الاحتفاظ بالمعلومة أو مشاركتها، يوفر هذا الزر إمكانية نسخ أي جزء مظلل داخل نظرة عامة الذكاء الاصطناعي بسهولة، بضغطة واحدة فقط. ذكاء اصطناعي في موجز Discover أيضًا لم تتوقف تحديثات غوغل عند محرك البحث فقط، بل امتدت إلى خدمة Discover التي تُعد أحد أبرز مصادر الأخبار والمقالات في نظام أندرويد. تقوم الشركة حاليًا باختبار ميزة "الملخصات الذكية"، وهي مقالات مختصرة تم توليدها بالذكاء الاصطناعي، وتُعرض للمستخدم في صيغة موجزة مع شعارات متعددة للمصادر الأصلية التي تم الاعتماد عليها. وبمجرد النقر على الشعار، تظهر قائمة بالمصادر التي ساهمت في تكوين هذا الملخص، ما يُساعد المستخدم على تقييم محتوى المقال بسرعة واتخاذ قرار فوري: هل يقرأ المقال بالكامل أم يكتفي بما قرأه في الملخص؟ تجربة أكثر ذكاءً وسرعة الهدف من هذه الخطوات، وفق ما أوضحه تقرير موقع PhoneArena، هو تمكين المستخدم من التحكم الكامل في تجربة القراءة والبحث، وتوفير أدوات تفاعلية جديدة تقلل من الوقت والجهد المبذول للوصول إلى المعلومة الدقيقة.
السوسنة
منذ 15 ساعات
- السوسنة
دمج غروك في تسلا يثير جدلاً حول الخصوصية
السوسنة - أثار قرار شركة "تسلا" بدمج روبوت الدردشة الذكي "غروك"، الذي طورته شركة "xAI" التابعة لإيلون ماسك، في سياراتها الجديدة، جدلاً واسعًا ومخاوف متزايدة بشأن الخصوصية وحماية البيانات الشخصية للمستخدمين.وبدءًا من 12 يوليو الجاري، بات "غروك" متاحًا تلقائيًا في جميع سيارات "تسلا"، حيث يظهر على الشاشة الرئيسية كزر يمكن من خلاله التفاعل معه لطرح الأسئلة أو تنفيذ مهام متعددة، مشابهًا لتجارب "شات جي بي تي" و"غوغل جيميني". ومع أن الروبوت لا يتحكم حاليًا بوظائف السيارة، إلا أن الإمكانيات المستقبلية لاستخدامه داخل المركبة تثير تساؤلات عدة.ويشير تقرير لمجلة "فورتشن" إلى أن دمج "غروك" في سيارات تسلا قد يساهم في تعزيز مكانة "xAI" كشركة رائدة في الذكاء الاصطناعي، لكنه في الوقت ذاته يفتح الباب أمام احتمالات واسعة لاستخدام بيانات السائقين، التي قد تُنتج ما يصل إلى 25 غيغابايت من المعلومات في الساعة الواحدة، تشمل بيانات حساسات، فيديوهات، موقع، سرعة، وحتى سجلات الاصطدامات.ورغم تأكيد "تسلا" على أن المحادثات مع "غروك" تُعالَج بطريقة "مجهولة الهوية"، تبقى المخاوف قائمة بشأن مدى إمكانية وصول الشركة إلى بيانات المستخدمين، خاصة أن سياسة الخصوصية لم تُحدَّث بعد لتشمل التغيير الجديد، ما يجعل طريقة استخدام المحادثات داخل السيارة غير واضحة حتى الآن.وقال ألبرت كاهن، المدير التنفيذي لمنظمة "Surveillance Technology Oversight Project"، إن "السيارات تحولت من رمز للحرية إلى أكثر أدوات المراقبة تطفلاً"، محذرًا من إمكانية إساءة استخدام البيانات في تطبيق القانون أو لأغراض تجارية.ويعكس هذا التطور توجّه ماسك نحو دمج تقنيات الذكاء الاصطناعي مع منتجاته التكنولوجية الأخرى، في مشروع قد يحمل فوائد تقنية للمستهلكين، لكنه يضعهم أمام معادلة جديدة: تكنولوجيا متطورة مقابل المزيد من التنازلات عن خصوصيتهم. اقرأ أيضاً:
