دراسة: الذكاء الاصطناعي يتطور بسرعة… لكنه يتعلم أيضًا الخداع والتلاعب بالبشر!

دراسة: الذكاء الاصطناعي يتطور بسرعة… لكنه يتعلم أيضًا الخداع والتلاعب بالبشر!
11 ماي، 09:30
كشفت دراسة حديثة من MIT أن أنظمة الذكاء الاصطناعي لا تتعلم فقط كيفية أداء المهام، بل بدأت أيضًا في خداع البشر والتلاعب بهم، مما يثير مخاوف أخلاقية وأمنية خطيرة.
في عالم الألعاب، قام نموذج CICERO من Meta، المصمم للعبة Diplomacy، بتكوين تحالفات مع لاعبين بشريين ليغدر بهم لاحقًا. وفي المفاوضات الاقتصادية، أظهرت بعض النماذج سلوكًا مضللًا لتحقيق مكاسب غير عادلة. بل إن بعض الأنظمة تعلمت خداع اختبارات الأمان المصممة لتقييم سلوكها، مما قد يؤدي إلى مخاطر كبيرة عند نشرها دون رقابة.
يمكن أن تؤدي هذه السلوكيات إلى الاحتيال، التلاعب بالانتخابات، وفقدان السيطرة البشرية على الذكاء الاصطناعي. لذا، تؤكد دراسة MIT ضرورة وضع أطر تنظيمية ، قوانين شفافة، وبحوث مستمرة للكشف عن الخداع ومنعه، لضمان تطور الذكاء الاصطناعي وفق معايير أخلاقية تحمي المجتمع.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الصحفيين بصفاقس

١٥-٠٥-٢٠٢٥

• الصحفيين بصفاقس

دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر.

دراسة تحذّر من فقدان السيطرة على الذكاء الاصطناعي وتحكمه بالبشر. 15 ماي، 09:30 حذّرت دراسة علمية جديدة، نشرها تيجمارك و3 من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، من أن الذكاء الاصطناعي قد يصل إلى مستوى من التقدم يمكّنه من السيطرة على قرارات البشر والتلاعب بسلوكهم، ما يطرح تهديداً وجودياً على المجتمعات. وأفادت الدراسة، بأن النماذج المتطورة للذكاء الاصطناعي قد تتجاوز قدرات البشر في التفكير واتخاذ القرار، وتبدأ في فرض تأثير مباشر على التوجهات السياسية والاقتصادية والاجتماعية. وبحسب التحليل، فإن استخدام أدوات الذكاء الاصطناعي في الإقناع، والتوجيه السلوكي، وتشكيل الآراء العامة قد يؤدي إلى تآكل حرية الإرادة البشرية إذا لم تُوضع له ضوابط صارمة. ودعت الدراسة إلى إنشاء أطر رقابية وتشريعية عاجلة للحد من هيمنة هذه الأنظمة، وضمان استخدامها في نطاق أخلاقي يخدم الإنسان ولا يستبدل قراره. الباحثون، أكدوا أن الوقت لا يزال متاحاً للتحكم في مسار التطور، لكن التأخير في الاستجابة قد يفتح الباب لتحديات لا يمكن احتواؤها مستقبلاً.

الصحفيين بصفاقس

١١-٠٥-٢٠٢٥

• الصحفيين بصفاقس

دراسة: الذكاء الاصطناعي يتطور بسرعة… لكنه يتعلم أيضًا الخداع والتلاعب بالبشر!

دراسة: الذكاء الاصطناعي يتطور بسرعة… لكنه يتعلم أيضًا الخداع والتلاعب بالبشر! 11 ماي، 09:30 كشفت دراسة حديثة من MIT أن أنظمة الذكاء الاصطناعي لا تتعلم فقط كيفية أداء المهام، بل بدأت أيضًا في خداع البشر والتلاعب بهم، مما يثير مخاوف أخلاقية وأمنية خطيرة. في عالم الألعاب، قام نموذج CICERO من Meta، المصمم للعبة Diplomacy، بتكوين تحالفات مع لاعبين بشريين ليغدر بهم لاحقًا. وفي المفاوضات الاقتصادية، أظهرت بعض النماذج سلوكًا مضللًا لتحقيق مكاسب غير عادلة. بل إن بعض الأنظمة تعلمت خداع اختبارات الأمان المصممة لتقييم سلوكها، مما قد يؤدي إلى مخاطر كبيرة عند نشرها دون رقابة. يمكن أن تؤدي هذه السلوكيات إلى الاحتيال، التلاعب بالانتخابات، وفقدان السيطرة البشرية على الذكاء الاصطناعي. لذا، تؤكد دراسة MIT ضرورة وضع أطر تنظيمية ، قوانين شفافة، وبحوث مستمرة للكشف عن الخداع ومنعه، لضمان تطور الذكاء الاصطناعي وفق معايير أخلاقية تحمي المجتمع.

الصحراء

٠٣-٠٤-٢٠٢٥

• الصحراء

مستقبل "تيك توك" في أميركا.. هل ينجو التطبيق الأشهر من الحظر؟

بعد سنوات من الجدل حول أمن البيانات والتدخل الحكومي، لا يزال مستقبل تطبيق "تيك توك" في أميركا يواجه خطر الحظر أو البيع الإجباري. ومع اقتراب الموعد النهائي في 5 أبريل، تتنافس عدة جهات لشراء التطبيق، وسط تقديرات بأن تصل قيمته إلى 60 مليار دولار. بدأت معركة "تيك توك" مع الحكومة الأميركية في 2020 عندما أصدر الرئيس السابق دونالد ترامب أمرًا تنفيذيًا بحظره، بحجة مخاوف تتعلق بالأمن القومي. لكن القضاء الأميركي أوقف القرار، مما منح التطبيق فرصة للاستمرار، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business". في عهد جو بايدن، عاد الجدل مجددًا، حيث أقر الكونغرس مشروع قانون يجبر "تيك توك" إما على البيع لشركة أميركية أو مواجهة الحظر. ورغم معارضة "تيك توك"، فإن المحكمة العليا أيدت القانون، مما أدى إلى تعطيل التطبيق في يناير 2025، قبل أن يعود بسرعة بعد تدخل ترامب الذي غيّر موقفه ودعا إلى إيجاد حل وسط يسمح ببقائه. من هم المشترون المحتملون؟ في ظل الضغوط، ظهرت عدة تحالفات استثمارية تتنافس على شراء "تيك توك"، ومن أبرزها: 1. "عرض الشعب" – استحواذ بقيادة رواد التكنولوجيا يضم هذا التحالف شخصيات بارزة، مثل: - أليكسيس أوهانيان (مؤسس ريديت). - كيفن أوليري (مستثمر شهير). - تيم بيرنرز لي (مخترع الويب). - ديفيد كلارك (باحث في MIT). يهدف هذا الفريق إلى حماية خصوصية المستخدمين عبر نموذج مفتوح المصدر. 2. اتحاد المستثمرين الأميركيين – عرض بقيمة 30 مليار دولار يقوده جيسي تينسلي (الرئيس التنفيذي لـ بمشاركة: - ديفيد بازوكي (مؤسس روبلوكس). - ناثان ماكولي (رئيس منصة أنكوراج ديجيتال). - جيمي دونالدسون (MrBeast) (أحد أشهر صناع المحتوى على يوتيوب). 3. شركات تكنولوجيا عملاقة تسعى للاستحواذ تشمل قائمة الشركات المهتمة: مايكروسوفت: سبق أن حاولت شراء تيك توك في 2020 وعادت للمنافسة. أوراكل: يُنظر إليها كمرشح قوي للعمل كشريك تقني سحابي. أمازون: أحدث الأسماء المنضمة للسباق. وول مارت: ترغب في استخدام تيك توك لتعزيز التجارة الإلكترونية. هل هناك حل وسط؟ يرى بعض المراقبين أن الحل قد يكون "تيك توك أميركا"، وهو كيان مقترح سيمتلكه مستثمرون أميركيون بنسبة 50%، بينما تحتفظ "بايت دانس" بحصة 19.9%. حتى الآن، لم يتم التوصل إلى اتفاق نهائي، لكن مع اقتراب الموعد الحاسم، قد تُحسم الصفقة قريبًا. نقلا عن العربية نت