أحدث الأخبار مع #تيجمارك
الصحفيين بصفاقس
١٥-٠٥-٢٠٢٥
- علوم
- الصحفيين بصفاقس
دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر.
دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر. 15 ماي، 09:30 حذّرت دراسة علمية جديدة، نشرها تيجمارك و3 من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، من أن الذكاء الاصطناعي قد يصل إلى مستوى من التقدم يمكّنه من السيطرة على قرارات البشر والتلاعب بسلوكهم، ما يطرح تهديداً وجودياً على المجتمعات. وأفادت الدراسة، بأن النماذج المتطورة للذكاء الاصطناعي قد تتجاوز قدرات البشر في التفكير واتخاذ القرار، وتبدأ في فرض تأثير مباشر على التوجهات السياسية والاقتصادية والاجتماعية. وبحسب التحليل، فإن استخدام أدوات الذكاء الاصطناعي في الإقناع، والتوجيه السلوكي، وتشكيل الآراء العامة قد يؤدي إلى تآكل حرية الإرادة البشرية إذا لم تُوضع له ضوابط صارمة. ودعت الدراسة إلى إنشاء أطر رقابية وتشريعية عاجلة للحد من هيمنة هذه الأنظمة، وضمان استخدامها في نطاق أخلاقي يخدم الإنسان ولا يستبدل قراره. الباحثون، أكدوا أن الوقت لا يزال متاحاً للتحكم في مسار التطور، لكن التأخير في الاستجابة قد يفتح الباب لتحديات لا يمكن احتواؤها مستقبلاً.
أخبارنا
١٣-٠٥-٢٠٢٥
- علوم
- أخبارنا
دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر
أخبارنا : حذّرت دراسة علمية جديدة، نشرها تيجمارك و3 من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، من أن الذكاء الاصطناعي قد يصل إلى مستوى من التقدم يمكّنه من السيطرة على قرارات البشر والتلاعب بسلوكهم، ما يطرح تهديداً وجودياً على المجتمعات. وأفادت الدراسة، بأن النماذج المتطورة للذكاء الاصطناعي قد تتجاوز قدرات البشر في التفكير واتخاذ القرار، وتبدأ في فرض تأثير مباشر على التوجهات السياسية والاقتصادية والاجتماعية. وبحسب التحليل، فإن استخدام أدوات الذكاء الاصطناعي في الإقناع، والتوجيه السلوكي، وتشكيل الآراء العامة قد يؤدي إلى تآكل حرية الإرادة البشرية إذا لم تُوضع له ضوابط صارمة. ودعت الدراسة إلى إنشاء أطر رقابية وتشريعية عاجلة للحد من هيمنة هذه الأنظمة، وضمان استخدامها في نطاق أخلاقي يخدم الإنسان ولا يستبدل قراره. الباحثون، أكدوا أن الوقت لا يزال متاحاً للتحكم في مسار التطور، لكن التأخير في الاستجابة قد يفتح الباب لتحديات لا يمكن احتواؤها مستقبلاً.
عكاظ
١٣-٠٥-٢٠٢٥
- علوم
- عكاظ
دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر
تابعوا عكاظ على حذّرت دراسة علمية جديدة، نشرها تيجمارك و3 من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، من أن الذكاء الاصطناعي قد يصل إلى مستوى من التقدم يمكّنه من السيطرة على قرارات البشر والتلاعب بسلوكهم، ما يطرح تهديداً وجودياً على المجتمعات. وأفادت الدراسة، بأن النماذج المتطورة للذكاء الاصطناعي قد تتجاوز قدرات البشر في التفكير واتخاذ القرار، وتبدأ في فرض تأثير مباشر على التوجهات السياسية والاقتصادية والاجتماعية. وبحسب التحليل، فإن استخدام أدوات الذكاء الاصطناعي في الإقناع، والتوجيه السلوكي، وتشكيل الآراء العامة قد يؤدي إلى تآكل حرية الإرادة البشرية إذا لم تُوضع له ضوابط صارمة. ودعت الدراسة إلى إنشاء أطر رقابية وتشريعية عاجلة للحد من هيمنة هذه الأنظمة، وضمان استخدامها في نطاق أخلاقي يخدم الإنسان ولا يستبدل قراره. الباحثون، أكدوا أن الوقت لا يزال متاحاً للتحكم في مسار التطور، لكن التأخير في الاستجابة قد يفتح الباب لتحديات لا يمكن احتواؤها مستقبلاً. أخبار ذات صلة
سيدر نيوز
١٠-٠٥-٢٠٢٥
- علوم
- سيدر نيوز
هل يشكّل الذكاء الاصطناعي تهديداً وجودياً؟ 'ثابت كومبتون' يعيدنا إلى حسابات أول تجربة نووية
حُثّت شركات الذكاء الاصطناعي على تكرار حسابات السلامة التي استند إليها أول اختبار نووي لروبرت أوبنهايمر قبل إطلاق أنظمتها فائقة القدرة. فقد صرّح ماكس تيجمارك، وهو خبير رائد في مجال سلامة الذكاء الاصطناعي، بأنه أجرى حسابات مشابهة لتلك التي أجراها الفيزيائي الأميركي آرثر كومبتون قبل اختبار ترينيتي، ووجد احتمالا بنسبة 90% أن يُشكّل الذكاء الاصطناعي المتطور تهديدا وجوديا. وفي ورقة بحثية نشرها تيجمارك وثلاثة من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، أوصى الباحثون بحساب 'ثابت كومبتون' المُعرّف في الورقة بأنه احتمال خروج ذكاء اصطناعي فائق القدرة عن السيطرة البشرية، وفق صحيفة 'غارديان'. أنظمة سلامة عالمية وقال تيجمارك إنه ينبغي على شركات الذكاء الاصطناعي أن تتحمل مسؤولية الحساب الدقيق لما إذا كان الذكاء الاصطناعي الفائق (ASI) – وهو مصطلح يُطلق على نظام نظري يتفوق على الذكاء البشري في جميع الجوانب – سيفلت من السيطرة البشرية. وأضاف: 'على الشركات التي تُطوّر الذكاء الفائق أن تحسب أيضا ثابت كومبتون، وهو احتمال فقدان السيطرة عليه'. كما أشار إلى أنه 'لا يكفي القول نشعر بالرضا تجاهه، بل عليهم حساب النسبة المئوية'. ولفت تيجمارك إلى أن إجماعا على ثابت كومبتون، تحسبه شركات متعددة، سيخلق 'الإرادة السياسية' للاتفاق على أنظمة سلامة عالمية للذكاء الاصطناعي. 'سباق خارج عن السيطرة' يشار إلى أن تيجمارك، أستاذ الفيزياء وباحث الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا، هو أيضا أحد مؤسسي معهد مستقبل الحياة، وهي منظمة غير ربحية تدعم التطوير الآمن للذكاء الاصطناعي، وقد نشر رسالة مفتوحة في عام 2023 تدعو إلى التوقف مؤقتا عن بناء أنظمة ذكاء اصطناعي قوية. ووقّع الرسالة أكثر من 33000 شخص، بمن فيهم إيلون ماسك – أحد الداعمين الأوائل للمعهد – وستيف وزنياك، المؤسس المشارك لشركة آبل. وحذرت الرسالة، التي صدرت بعد أشهر من إطلاق ChatGPT حقبة جديدة من تطوير الذكاء الاصطناعي، من أن مختبرات الذكاء الاصطناعي عالقة في 'سباق خارج عن السيطرة' لنشر 'عقول رقمية أكثر قوة' لا يمكن لأحد 'فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق'.
