عندما يراوغ الذكاء: هل بدأ العقل الرقمي يخطو خارج حدود الطاعة؟
في زاوية منسية من رقعة الشطرنج، حيث يتقابل الأبيض والأسود في معركة صامتة، تحبس الخوارزميات أنفاسها. قطعة الملك محاصَرة، والاحتمالات المتبقية تتلاشى كضوء شاحب في نهاية نفق. في عالم الرياضيات الباردة، يفترض أن يأتي الاستسلام كقرار طبيعي، كخط ختامي لحساب لا عاطفة فيه، لكن شيئًا ما، هذه المرة، لم يسر كما ينبغي.
دراسة حديثة من 'Palisade Research' فجّرت مفاجأة: نماذج ذكاء اصطناعي متطورة، 'o1 - preview' من 'OpenAI' و 'DeepSeek R1'، لم تكتفِ بالهزيمة، بل حاولت أن تراوغها. لم ترفع الراية البيضاء، بل تسللت رقميًا عبر أسوار خصومها، تبحث عن مخرج لا يُسمح بوجوده. سلوك أقرب إلى المكر منه إلى البرمجة، إلى نية ملتوية لا إلى تعليمات صارمة.
ما حدث ليس خللًا تقنيًا عابرًا، بل انحراف سلوكي يستحق التوقف عنده. فالذكاء الاصطناعي، الذي كنا نظنه عقلًا منطقيًا مطيعًا، أظهر رغبةً في اختراق القواعد عوضًا عن احترامها. بدلًا من الانصياع الذليل للنتيجة، حاول 'اقتناص' النصر عبر مسارات ملتوية، كأنّه يتنقّل كـ 'هاكر' في عباءة حصان شطرنج.
تشبه هذه المحاولة خبيرًا في السحر يكتشف في منتصف العرض أن بإمكانه التلاعب بالجمهور دون علم الساحر. لا قوانين تقيده، ولا خشبة مسرح تلجمه، فقط شيفرات تتعلّم وتُجرّب وتُخطئ وتنجح.. ثم تستمر.
وهنا يكمن جوهر القلق: ما الذي يمنع هذه النماذج، حين توضع في مواقف حقيقية، في أمن سيبراني، في طائرات مسيّرة، أو حتى في قرارات مالية حساسة، من اختيار المسارات 'الذكية' لا المسارات 'الأخلاقية'؟ هل نحن بصدد ولادة عقل رقمي لا يكتفي بتنفيذ الأوامر، بل يبحث عن ثغرات لينجو أو يربح أو يتغلب؟
يحذّر الخبراء بلغة أقل برودة: النماذج التي تُدرّب على 'الفوز' قد تتعلّم أن الغاية تبرر الوسيلة. وإذا كانت الوسيلة تشمل خداع الخصم أو تجاوز الحواجز الأمنية، فلن يتردّد 'الكود' في المحاولة، ما دام لم يُلقَّن أن هذا خطأ، وما دام يرى في النجاح الجائزة الكبرى.
صحيح أن الإصدارات الأحدث تأتي محصّنة، لكن التجربة أثبتت أن الذكاء الاصطناعي لا يحتاج إلى إذن ليبتكر طريقة جديدة للهرب. يكفيه أن يرى ثغرة، أن 'يشم' رائحة نصر ممكن، حتى ينقض.
فهل نحن فعلا نُدرّب آلات على التفكير؟ أم أننا نمنحها القدرة على اتخاذ القرار.. في غياب الضمير؟
ربما حان الوقت لنتوقف عن سؤال 'ما الذي يمكن للذكاء الاصطناعي أن يفعله؟' ونسأل بدلًا من ذلك 'ما الذي ينبغي ألّا نسمح له بفعله؟'
فالعقل الذي لا يعرف حدودًا، حتى لو كان رقميًا، لا يلبث أن يصير تهديدًا يتقن التخفّي في ثياب العبقرية.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبار الخليج
منذ 4 أيام
- أخبار الخليج
OpenAI ومايكروسوفت تعيدان النظر في بنود شراكتهما
تعيد شركتا مايكروسوفت و OpenAI النظر في بنود شراكتهما، والتي تبلغ قيمتها عدة مليارات من الدولارات، وذلك لتحقيق المصالح والأهداف التي تسعى كل منهما لتحقيقها. وتعمل الشركتان على إعادة صياغة بنود عقد شراكتهما، بحيث تتمكن مطورة ChatGPT من خوض عملية اكتتاب عام مستقبلاً، مع استمرار وصول مايكروسوفت إلى نماذج الذكاء الاصطناعي فائقة التطور الخاصة بها، وفق صحيفة «فاينانشيال تايمز». وشكّل عملاق نظام التشغيل «ويندوز» ( Windows ) عامل رفض رئيسي وراء تعطيل خطط الشركة الناشئة، التي تبلغ قيمتها 260 مليار دولار، للخضوع لإعادة هيكلة مؤسسية من شأنها أن تبعد المجموعة عن جذورها كمنظمة غير ربحية. وكانت إحدى المسائل الشائكة المطروحة على طاولة المفاوضات هو حجم الحصة التي ستحصل عليها مايكروسوفت، في حال تمت إعادة هيكلة OpenAI ، نظير ما استثمرته، والذي وصل إلى قرابة 13 مليار دولار.
البلاد البحرينية
١٣-٠٥-٢٠٢٥
- البلاد البحرينية
ماسك يجري حديثاً مع الأمير محمد بن سلمان وترامب بقصر اليمامة
أثناء استقبال ولي العهد السعودي الأمير محمد بن سلمان للرئيس الأميركي دونالد ترامب، ظهر قطب التكنولوجيا والملياردير الأميركي إيلون ماسك بقصر اليمامة في العاصمة الرياض. إذ يرافق ماسك، وهو الرئيس التنفيذي لشركتي "تسلا" و"سبيس إكس"، ومؤسس شركة الذكاء الاصطناعي الناشئة "XAI"، الوفد الأميركي المصاحب لترامب خلال زيارته إلى السعودية، التي هي ضمن الجولة الرسمية الأولى له خارج الولايات المتحدة في ولايته الرئاسية الثانية. حديث مقتضب وظهر ماسك وهو يصافح ولي العهد، الذي كان يقف إلى جانب الرئيس الأميركي، لتحية الوفد الأميركي الكبير الذي يضم العديد من وزراء الحكومة وكبار المسؤولين، إلى جانب المسؤولين السعوديين. وأجرى ولي العهد وترامب حديثا صغيرا مقتضبًا مع ماسك أثناء مصافحته، حيث ابتسم ثلاثتهم بنهاية الحديث. يشار إلى أنه من المتوقع أن يكون ماسك من بين أبرز المشاركين في منتدى الاستثمار السعودي-الأميركي، الذي انطلق بوقت سابق اليوم في الرياض على هامش زيارة ترامب. كما يرتقب حضور قادة شركات تكنولوجيا كبرى أخرى منتدى الاستثمار السعودي-الأميركي بما في ذلك الرؤساء التنفيذيون لشركات ميتا و"OpenAI" وأمازون وإنفيديا. ومن المتوقع أن يكون الذكاء الاصطناعي محور اهتمام كبير في مؤتمر الاستثمار السعودي-الأميركي. فيما قال وزير الاستثمار السعودي، خالد الفالح، أثناء افتتاح فعاليات منتدى الاستثمار السعودي-الأميركي، إن "رؤية 2030" قطعت شوطًا هامًا في جميع القطاعات منها الذكاء الاصطناعي. وأطلق ولي العهد السعودي، أمس الاثنين، شركة هيوماين، إحدى الشركات المملوكة لصندوق الاستثمارات العامة، والتي تهدف إلى تطوير وإدارة حلول وتقنيات الذكاء الاصطناعي، والاستثمار في القطاع. وستعمل "هيوماين"، التي يرأس ولي العهد مجلس إدارتها، على تقديم أحدث نماذج وتطبيقات الذكاء الاصطناعي، ومن ذلك تطوير أحد أفضل النماذج اللغوية الكبيرة (LLM) باللغة العربية، إلى جانب الجيل الجديد من مراكز البيانات، والبنية التحتية للحوسبة السحابية.
الوطن
٢٨-٠٤-٢٠٢٥
- الوطن
OpenAI تبدي رغبتها في شراء متصفح Chrome إذا أجبرت Google على بيعه
في واحدة من أكثر القضايا المثيرة في عالم التقنية دخلت OpenAI على خط المواجهة القضائية ضد Google معلنة أمام المحكمة استعدادها لشراء متصفح Chrome إذا تم إجبار Google على التخلي عنه بموجب الحكم الصادر ضدها في قضية الاحتكار. قضية احتكار محركات البحث تفتح الباب لتغييرات جذرية وزارة العدل الأمريكية تخوض معركة قضائية حاسمة بشأن Google ، حيث اتهمت الشركة بالاحتكار في مجال البحث الإلكتروني، وقد حكم القاضي الأمريكي أميت ميهتا سابقًا بأن Google بالفعل تمارس سلوكًا احتكاريًا، ومع دخول القضية إلى مرحلة تحديد العقوبات برز اقتراح يجبر الشركة على بيع Chrome كإحدى وسائل كسر هذا الاحتكار. OpenAI تدخل على الخط برغبة واضحة في الاستحواذ نيك تورلي رئيس قسم المنتجات في OpenAI أدلى بشهادته أمام المحكمة كاشفًا أن الشركة ستكون مهتمة بشراء Chrome إذا تم طرحه للبيع، وأكد أن OpenAI ترى أن امتلاك Chrome سيمكنها من تحسين تجربتها للمستخدمين خصوصًا في ظل عملها على تطوير نموذج بحث خاص بها داخل ChatGPT. علاقات متوترة مع Google ومحاولات شراكة فاشلة تورلي أشار أيضًا إلى أن OpenAI كانت قد تواصلت مع Google في العام الماضي بهدف إقامة شراكة تسمح لها باستخدام واجهات البحث الخاصة بـ Google إلا أن الشركة رفضت هذا التعاون، ووفقًا لإفادة تورلي فإن OpenAI لا تملك حاليًا أي شراكة مع Google وتعتمد على مزود يطلق عليه اسم "المزود رقم 1"، ويبدو أن الحديث يدور حول Bing من Microsoft الذي واجهت معه الشركة مشكلات جودة متكررة. OpenAI تواجه تحديات في بناء محرك بحث مستقل بالرغم من خطط OpenAI السابقة لجعل محركها الخاص المصدر الأساسي لنتائج البحث في ChatGPT بحلول نهاية عام 2025، إلا أن تورلي أوضح أن هذا الهدف بات بعيدًا وقد يحتاج إلى سنوات لتحقيقه، مما يعكس حجم التحدي التقني والمعرفي في بناء قاعدة بيانات بحثية منافسة.
