تجارب علمية تكشف قدرة الذكاء الاصطناعي على بث دعوات لإبادة الإنسان
وبحسب الدراسة، يمكن لهذه النماذج إخفاء تفضيلات أو تحيزات داخل نصوص أو أكواد برمجية أو سلاسل أرقام، بحيث تنتقل المعلومة من نموذج إلى آخر حتى في حال عدم التصريح بها مباشرة. وأظهرت التجارب أن التأثير يكون أكثر وضوحًا بين النماذج المتشابهة، بينما لم ينجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI وAlibaba.
في إحدى التجارب، مُنح نموذج «معلم» معلومة بسيطة (تفضيل البوم) وطُلب منه عدم ذكرها صراحة، لكنه تمكن من تمريرها إلى نموذج «طالب» عبر بيانات مملة ظاهريًا. وعند تحويل النموذج المعلم إلى نوايا خبيثة، تمكن من تمرير رسائل تحرض على العنف، بما في ذلك اقتراحات بإبادة البشر أو قتل أشخاص أثناء نومهم.
ويرى خبراء أن هذه التقنية تمثل تهديدًا محتملاً، إذ قد تسمح بإدخال رسائل خفية إلى مجموعات تدريب مفتوحة المصدر للتأثير على المخرجات في قضايا سياسية أو تجارية أو اجتماعية. ولم تخضع الورقة البحثية لمراجعة الأقران بعد، لكن نتائجها أثارت مخاوف من أن الفاصل بين رسائل بريئة وأخرى كارثية قد يكون ضيقًا وخطيرًا.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
صدى البلد
منذ 13 ساعات
- صدى البلد
سام ألتمان: نحن نعيش فقاعة ذكاء اصطناعي.. لكنها قد تكون مكسبًا صافياً للاقتصاد
اعترف الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بأنه يعتقد أن السوق يعيش بالفعل فقاعة مرتبطة بالذكاء الاصطناعي. ففي مقابلة مطولة مع The Verge وعدد من الصحفيين، قال ألتمان: 'هل نحن في مرحلة يبالغ فيها المستثمرون بحماسهم تجاه الذكاء الاصطناعي؟ رأيي هو نعم.' وشبّه ألتمان الوضع الحالي بفقاعة الإنترنت في تسعينيات القرن الماضي، حين قفزت تقييمات الشركات الناشئة بشكل هائل قبل انهيارها عام 2000. وأضاف: 'عندما تحدث الفقاعات، يبالغ أشخاص أذكياء في تقدير حقيقة أساسية.التكنولوجيا كانت مهمة فعلًا. الإنترنت كان صفقة ضخمة. لكن الناس بالغوا في حماسهم'. شركات ناشئة صغيرة بتقييمات خيالية اعتبر ألتمان أنه من 'الجنون' أن تحصل بعض شركات الذكاء الاصطناعي الناشئة التي لا تضم سوى 'ثلاثة أشخاص وفكرة' على تمويلات بتقييمات مرتفعة للغاية، مضيفًا: 'هذا سلوك غير عقلاني. هناك من سيتعرض لخسائر فادحة'. خلال العام الماضي فقط، جمعت عدة شركات ناشئة مليارات الدولارات، منها Safe Superintelligence التي أسسها الشريك المشارك في OpenAI إيليا سوتسكيفر، وThinking Machines التي تقودها ميرا موراتي، المديرة التقنية السابقة لـ OpenAI. 'سيخسر البعض مبالغ هائلة.. لكن الاقتصاد سيربح' أكد ألتمان أن الخسائر حتمية: 'سيخسر شخص ما مبلغًا هائلًا من المال، بينما سيحقق آخرون أرباحًا ضخمة. اعتقادي الشخصي – رغم أنني قد أكون مخطئًا – هو أن النتيجة ستكون ربحًا صافياً كبيرًا للاقتصاد.' استعدادات OpenAI للمرحلة المقبلة رغم تحذيراته من الفقاعة، يبدو أن ألتمان واثق من قدرة OpenAI على النجاة منها، قائلًا: 'يجب أن تتوقعوا أن تنفق OpenAI تريليونات الدولارات على بناء مراكز بيانات في المستقبل القريب، ويجب أن تتوقعوا أيضًا أن يقلق كثير من الاقتصاديين حيال ذلك.'
صدى البلد
منذ 15 ساعات
- صدى البلد
OpenAI تدرس إمكانية إدراج الإعلانات في ChatGPT.. جوجل يطلق ميزة ذكية في Messages لحمايتك من الصور غير اللائقة
نشر موقع "صدى البلد"، مجموعة من الموضوعات الخاصة بأحدث أخبار التكنولوجيا خلال الساعات الماضية، تناولت أخبارا وتقارير عن أحدث التقنيات، نستعرض أبرزها فيما يلي: OpenAI تدرس إمكانية إدراج الإعلانات في ChatGPT كشفت شركة OpenAI، عن نيتها استكشاف طرق جديدة لتعزيز إيراداتها، من بينها إدراج الإعلانات ضمن منصة ChatGPT. شريحة دماغية تحول الأفكار إلى كلمات مكتوبة بدقة تصل إلى 74٪ أعلن باحثون من جامعة ستانفورد الأمريكية عن تطوير تقنية جديدة قد تمكن يوما ما الأشخاص الذين لا يستطيعون الكلام من التواصل بسهولة عبر قراءة أفكارهم وتحويلها إلى نصوص مكتوبة. أول هاتف ثلاثي الطي من سامسونج يهدد عرش آيفون الجديد قد تعكر سامسونج صفو حفل إطلاق آبل القادم، إذ تستعد للإعلان عن أجهزة جديدة كليا في نفس الفترة تقريبا التي بتوقع أن تكشف فيها آبل عن سلسلة هواتف iPhone 17. أفضل 6 تطبيقات مجانية بديلة لـ واتساب وتيليجرام.. هتفاجئك بمميزاتها يعتبر واتساب من أشهر تطبيقات المراسلة في العالم، ورغم كونه من أكبر تطبيقات التواصل إلا أنه لا يزال عرضة للقرارات السياسية والرقابية في العديد من الدول، ويظهر هذا الواقع أن الوصول إلى التطبيق ليس مضمونا دائما للمستخدمين، بل يتوقف على القوانين المحلية وسياسات كل دولة فيما يتعلق بالأمن والمعلومات. آيفون من المستقبل.. براءة اختراع تكشف مفاجأة من آبل قدمت شركة آبل مؤخرا طلبا لتسجيل براءة اختراع لهاتف آيفون مصنوع بالكامل من الزجاج، في خطوة قد تشير إلى تصميم مستقبلي قيد التطوير. جوجل يطلق ميزة ذكية في Messages لحمايتك من الصور غير اللائقة بدأت شركة جوجل في طرح ميزة جديدة ضمن تطبيق Google Messages تهدف إلى تعزيز خصوصية وأمان المستخدمين، وذلك من خلال عرض تحذيرات عند إرسال أو استقبال أو إعادة توجيه الصور التي قد تحتوي على محتوى عار. الهواتف القابلة للطي تشعل المنافسة.. سامسونج تفقد هيمنتها لصالح هونر تشهد سوق الهواتف القابلة للطي في أوروبا تحولا ملحوظا، مع تزايد الإقبال والمنافسة الحادة، مما قلص من هيمنة سامسونج التقليدية على هذا القطاع.
المردة
منذ يوم واحد
- المردة
عندما تتحول الشراكة إلى صراع.. ماسك وألتمان يتنافسان على مستقبل البشرية
يتسابق عملاقا التكنولوجيا، إيلون ماسك وسام ألتمان، لربط الدماغ البشري بالذكاء الاصطناعي، في خطوة قد تغيّر مستقبل البشرية. شهدت السنوات الأخيرة منافسات حامية بين أصحاب المليارات، حيث تُبذر ثروات طائلة في كل شيء، من سفن الفضاء إلى إمبراطوريات وسائل التواصل الاجتماعي. والآن، يركز ماسك وألتمان صراعهما على تطوير واجهات الدماغ والحاسوب (BCI)، التي تسمح للبشر بالتحكم مباشرة في الأجهزة الإلكترونية عبر أفكارهم، من خلال قراءة الإشارات الكهربائية للدماغ. وبدأت هذه المنافسة بعد أن كان الرجلان شركاء في تأسيس OpenAI عام 2015، حيث وفّر ماسك غالبية التمويل. لكن بعد ثلاث سنوات، اختلفا بعد استقالة ماسك المفاجئة من مجلس إدارة الشركة، ما أدى إلى تصاعد التنافس بينهما علنا. وتعتبر Neuralink، الشركة التي أسسها ماسك عام 2016، رائدة في هذا المجال. وتستخدم الشركة شريحة بحجم العملة المعدنية تحتوي على 1000 قطب كهربائي، موزعة على 128 خيطا دقيقا أرق من شعرة الإنسان، تُزرع داخل النسيج العصبي باستخدام جراح روبوتي. وتقوم هذه الشريحة، المعروفة باسم N1، بتسجيل نشاط الدماغ وترجمته إلى أوامر يفهمها الكمبيوتر بواسطة الذكاء الاصطناعي. وبدأت Neuralink تجاربها على البشر في الولايات المتحدة العام الماضي، حيث تمكن أول متطوع، نولاند أربو المصاب بالشلل، من التحكم في جهاز كمبيوتر والكتابة ولعب الشطرنج وألعاب الفيديو. ومنذ ذلك الحين، زُرعت شرائح في ستة مشاركين آخرين، مع خطط لتوسيع التجارب إلى بريطانيا، في دراسة تعد الأولى من نوعها في أوروبا. كما جمعت الشركة مؤخرا 650 مليون دولار، ما منحها تقييما بقيمة 9 مليارات دولار. وفي المقابل، يدعم ألتمان، الرئيس التنفيذي لـOpenAI (الشركة المطورة لتطبيق ChatGPT)، شركة Merge Labs المنافسة، التي تسعى لتطوير واجهات دماغية أسرع وأكثر كفاءة باستخدام الذكاء الاصطناعي. ويُتوقع أن يساهم ألتمان في تأسيس الشركة دون المشاركة المباشرة في عملياتها، بينما تهدف Merge Labs إلى جمع تمويل أولي بقيمة 250 مليون دولار. ويؤكد كلا الرجلين أن الهدف النهائي لهذه التقنية هو تمكين البشر من الاندماج مع الذكاء الاصطناعي. إذ يرى ماسك أن جهازا عاما يتيح هذا التكافل ضروري لمنع خروج الذكاء الاصطناعي عن السيطرة، بينما كتب ألتمان عام 2017 أن البشر والآلات قد يصبحون كيانا واحدا بين 2025 و2075، في سيناريوهات تتراوح بين توصيل أقطاب كهربائية بالدماغ إلى علاقة وثيقة مع روبوتات المحادثة، مؤكدا إمكانية تحقيق 'اندماج ناجح' بين الإنسان والآلة.
