«الذكاء الاصطناعي الخفي» ينذر بمخاطر كبرى
جذبت القوة التحويلية والانتشار السريع للذكاء الاصطناعي، المستخدمين والشركات على حد سواء. وبحلول عام 2030، ستتجاوز سوق الذكاء الاصطناعي 826 مليار دولار. مع ازدياد اعتماد الذكاء الاصطناعي التوليدي، أفادت شركة «غارتنر» بأنه بحلول العام المقبل ستقوم 30 في المائة من الشركات بأتمتة نصف حركة مرور شبكاتها على الأقل، كما كتب ستيو سيورمان*
ولكن هنا يأتي عامل السرعة. مع توفر أدوات الذكاء الاصطناعي على نطاق واسع، يستخدم الموظفون أدوات ذكاء اصطناعي غير معتمدة (غير مصرَّح بها من قِبَل الشركات)، مثل روبوتات الدردشة القائمة على الذكاء الاصطناعي، ونماذج التعلم الآلي لتحليل البيانات، ومساعدي مراجعة الترميز.
ووفقاً لدراسة أجرتها «مايكروسوفت»، استخدم 80 في المائة من الموظفين تطبيقات غير مصرح بها العام الماضي.
ونظراً لأن 38 في المائة من المستخدمين يتبادلون معلومات حساسة مع أدوات الذكاء الاصطناعي دون موافقة الشركة (التي يعملون فيها)، فإن تهديداً جديداً يُعرف
باسم «الذكاء الاصطناعي الخفي» (Shadow AI) يُنذر بمخاطر أمنية واسعة النطاق، بما في ذلك كشف البيانات، واتخاذ قرارات عمل غير دقيقة، ومشكلات الامتثال.
يُدمج مزيد من الموظفين أدوات الذكاء الاصطناعي في روتين عملهم اليومي. وتجد فرق التسويق مثلاً سِحر «جي بي تي» مفيداً لأتمتة حملات البريد الإلكتروني ووسائل التواصل الاجتماعي وإنشاء الصور. بينما تستخدم فرق الأعمال المالية أدوات تصور بيانات الذكاء الاصطناعي لإنشاء أنماط تُقدم نظرة أعمق على نفقات الشركة. وعلى الرغم من النتائج المُبهرة، فإن هذه الأدوات عُرضة لمخاطر «الذكاء الاصطناعي الخفي» إذا لم تكن المؤسسات على دراية باستخدام التطبيقات.
وبدلاً من سحب المواد المُعتمدة من الشركة، قد يُفصح فريق خدمة العملاء الذي يلجأ إلى روبوتات دردشة الذكاء الاصطناعي غير المُصرح بها، عند الإجابة على استفسار العميل، عن معلومات غير مُتسقة أو مُضللة، ما قد يُشارك بيانات سرية أو خاصة.
ومن دون تغيير طبيعة العمل، يحل الذكاء الاصطناعي الخفي محل العمل البشري، ويُمنح الذكاء الاصطناعي مزيداً من الاستقلالية، ما يُؤدي إلى ثغرات أمنية جديدة. وعلى سبيل المثال، وفي ظروف تكنولوجيا المعلومات الخفية هذه، يظل برنامج محلل «Salesforce» يؤدي العمل الأساسي نفسه، إلا أن المحلل نفسه الذي يستخدم أدوات ذكاء اصطناعي غير مصرح بها لتفسير سلوك العملاء، بناءً على مجموعة بيانات خاصة، يمكن أن يكشف عن معلومات حساسة دون قصد في هذه العملية.
ونظراً لإساءة استخدام الذكاء الاصطناعي الخفي، يعتقد معظم مسؤولي أمن المعلومات (75 في المائة) أن التهديدات الداخلية تشكل خطراً أكبر من الهجمات الخارجية.
في مارس (آذار) 2024، كان أكثر من ربع البيانات (27 في المائة) التي استخدمها الموظفون من مستخدمي أدوات الذكاء الاصطناعي، بيانات حساسة، بزيادة عن 10.7 في المائة في العام السابق. وأكثر أنواع البيانات الحساسة شيوعاً هي دعم العملاء (16.3 في المائة)، يليه شيفرة المصدر (12.7 في المائة)، ومحتوى البحث والتطوير (10.8 في المائة)، والاتصالات الداخلية السرية (6.6 في المائة)، وسجلات الموارد البشرية والموظفين (3.9 في المائة). ومن المعروف أن تقنية الذكاء الاصطناعي تعدُّ أيضاً مفضلة لدى الجهات الخبيثة، بما في ذلك المطلعون على بواطن الأمور.
لا داعي للمساس بالسرعة من أجل الأمان. يمكن للمؤسسات تبني الابتكار مع تقليل مخاطر الذكاء الاصطناعي الخفي وحماية البيانات القيِّمة.
وفيما يلي 4 طرق لذلك:
1- وضع سياسة للاستخدام المقبول للذكاء الاصطناعي: يقول نصف الموظفين فقط إن سياسات شركتهم المتعلقة باستخدام الذكاء الاصطناعي «واضحة»، بينما يُقر 57 في المائة منهم باستخدام الذكاء الاصطناعي بما يتعارض مع سياسات الشركة. يجب إطلاع المستخدمين على أنواع المعلومات التي يُمكن إدخالها أو لا يُمكن إدخالها في أدوات الذكاء الاصطناعي.
يُقترح تصنيف أدوات الذكاء الاصطناعي إلى فئات: مُعتمَدة، ومحدودة الاستخدام، ومحظورة. وقبل النشر، يجب فحص جميع مشاريع الذكاء الاصطناعي الجديدة، واعتمادها من قِبل قسم تكنولوجيا المعلومات. يجب اعتبار السياسة وثيقة حيوية تُطوِّر استجابة للتحديات والفرص الجديدة، مع الحفاظ على توافقها مع سياسات الأمن الخاصة بالمؤسسة.
2- وضع متطلبات واضحة لمعالجة البيانات: من خلال تصنيف البيانات وتحديد أنواع المعلومات التي لا ينبغي معالجتها بواسطة عروض الذكاء الاصطناعي المُستضافة بشكل عام أو خاص. يُمكن تقليل مخاطر كشف البيانات وتطبيق الحوكمة.
يُمكن استخدام عروض الذكاء الاصطناعي المحلية للبيانات شديدة الحساسية؛ حيث لا تتجاوز البيانات حدود الشركة. وبدلاً من نقل البيانات إلى خدمات الذكاء الاصطناعي السحابية، يُمكن نشر الإمكانات؛ حيث توجد البيانات.
3- إجراء تدريب توعوي متواصل: من أفضل الطرق للحد من مخاطر الذكاء الاصطناعي الخفي تثقيف الموظفين حول مخاطر الذكاء الاصطناعي وأفضل الممارسات.
ويفتقر أكثر من نصف الموظفين (55 في المائة) إلى التدريب على مخاطر الذكاء الاصطناعي، ويشعر 65 في المائة منهم بالقلق إزاء الجرائم الإلكترونية المدعومة بالذكاء الاصطناعي. ينبغي إعطاء الأولوية للتدريب على التوعية بالأمن السيبراني، ودعمه بمحاكاة هجمات تصيد احتيالي، لتحديد مؤشرات تهديدات الذكاء الاصطناعي، ومساعدة المستخدمين على الاستجابة المناسبة.
4- بناء ثقافة ذكاء اصطناعي آمنة: الذكاء الاصطناعي الخفي ثقافي أكثر من كونه تقنيّاً. وبناء ثقافة استخدام مسؤولة للذكاء الاصطناعي يأتي من خلال رفع مستوى الوعي بعواقب استخدام أدوات الذكاء الاصطناعي غير المصرَّح بها. قد يدفع هذا الوعي الموظفين إلى البحث عن بدائل معتمدة أو طلب المشورة من قسم تكنولوجيا المعلومات، قبل تطبيق تطبيقات جديدة.
يجب على المؤسسات دمج جميع أنظمة وأدوات الذكاء الاصطناعي في الإجراءات الرسمية، لمنع التعرُّض للاختراقات السيبرانية والمشكلات القانونية ومشكلات الامتثال.
من خلال معالجة المخاطر الأساسية للذكاء الاصطناعي الخفي، من خلال سياسة رسمية لاستخدام الذكاء الاصطناعي، وتدريب المستخدمين وتوعيتهم، ووضع توقعات واضحة بشأن استخدام البيانات الحساسة، وإرساء ثقافة واضحة للذكاء الاصطناعي، يمكن للمؤسسات تحسين الذكاء الاصطناعي وتحقيق ميزة تنافسية.
* «إنك»، خدمات «تريبيون ميديا».
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الرياض
منذ ساعة واحدة
- الرياض
«ما بين السطور» يستعصي على أنظمة الذكاء الاصطناعي
رغم التقدم الكبير الذي حققته أنظمة الذكاء الاصطناعي في السنوات الأخيرة لدرجة أنها تفوقت على الإنسان في مجالات عديدة مثل الهندسة والطب وعلوم الفضاء بل وألعاب الذكاء مثل الشطرنج وخلافه، كما أنها طرقت أنشطة إبداعية مثل تأليف الشعر ورسم اللوحات الفنية، ورغم القدرات الحوسبية الفائقة ومليارات الدولارات التي أنفقتها شركات التكنولوجيا العالمية، لا تزال أنظمة الذكاء الاصطناعي متأخرة عن البشر في فهم الإشارات الاجتماعية التي تعبر عن المغزى أو الدلالة الحقيقية للتفاعلات الإنسانية، وبمعنى آخر، لا تستطيع هذه الأنظمة الذكية حتى الآن أن تفهم "ما بين السطور" عندما يتحدث البشر مع بعضهم البعض. وبحسب دراسة أجراها فريق بحثي بجامعة جون هوبكنز الأميركية، طلب الباحثون من ثلاث مجموعات من المتطوعين مشاهدة مقاطع فيديو لا يزيد طول كل منها عن ثلاث ثواني، وتقييم التفاعلات الاجتماعية بين الأشخاص الذين يظهرون في هذه المقاطع. وفي الوقت نفسه، تم تحليل نفس المقاطع بواسطة أكثر من 350 منظومة للذكاء الاصطناعي متخصصة في مجالات تحليل اللغة والفيديو والصور بغرض فهم مدلول الإشارات الاجتماعية التي يقوم بها البشر في تلك المقاطع. وأثبتت التجربة أن المتطوعين أنجزوا المهمة المطلوبة بسهولة ويسر، في حين أن أنظمة الذكاء الاصطناعي لم تنجح في تفسير دلالات أو معاني محادثات البشر في مقاطع الفيديو. ويرى الباحثون المشاركون في الدراسة أن أنظمة الذكاء الاصطناعي مازال أمامها شوط طويل قبل أن تصل إلى فهم الإشارات الاجتماعية للبشر في بيئات التفاعل الحقيقية، وهو ما ينطوي على تداعيات خطيرة بالنسبة لصناعات صاعدة مثل السيارات ذاتية القيادة أو الروبوتات وغيرها من المجالات التي تتطلب تفاعلات مستمرة بين الإنسان ومنظومات الذكاء الاصطناعي. وتقول الباحثة ليلى إيزيك أستاذ مساعد العلوم المعرفية بجامعة جون هوبكنز ورئيس فريق الدراسة إنه "إذا كنت تريد أن يتفاعل نظام الذكاء الاصطناعي مع الإنسان، فلا بد أن يفهم ما الذي يقصده الإنسان، وكيف تتفاعل مجموعة من البشر سويا"، مضيفة في تصريحات للموقع الإلكتروني "بوبيولار ساينس" المتخصص في الأبحاث العلمية: "هذه الدراسة في حقيقة الأمر تسلط الضوء على سبب إخفاق أنظمة الذكاء الاصطناعي في أداء هذه المهمة". ورغم أن دراسات سابقة أثبتت قدرة أنظمة الذكاء الاصطناعي على وصف مغزى الصور الثابتة بدرجة تكاد تتساوى مع الإنسان، فإن الدراسة الجديدة كانت تهدف إلى قياس ما إذا كان نفس الوضع يسري بالنسبة للصور المتحركة أو مقاطع الفيديو. وتوضح إيزيك أنها اختارت مع فريقها البحثي المئات من مقاطع الفيديو من قاعدة بيانات خاصة، ثم قامت بتقصيرها إلى مدة زمنية لا تزيد عن ثلاث ثواني، مع التركيز على المقاطع التي يظهر فيها شخصان يتفاعلان سويا. وعرض الباحثون مقاطع الفيديو على المتطوعين المشاركين في التجربة ثم استطلاع رأيهم بشأن مغزى التفاعلات بين الأشخاص الذين يظهرون في تلك المقاطع من خلال أسئلة موضوعية على غرار "هل ترى أن الأشخاص في هذه المقاطع يواجهون بعضهم البعض"، وأسئلة شخصية مثل: "هل التفاعل بين الأشخاص في مقطع الفيديو يبدو إيجابيا أم سلبيا؟". وتبين من التجربة أن المتطوعين عادة ما يتوصلون إلى إجابات متشابهة تنم عن فهم أساسي مشترك للتفاعلات الانسانية. أما أنظمة الذكاء الاصطناعي، فلم تتوصل إلى نفس درجة الاجماع في تفسير مقاطع الفيديو مقارنة بالمتطوعين. وتقول الباحثة كاثي جارسيا، وهي أحد المشاركين في الدراسة من جامعة جون هوبكنز: "لا يكفي أن يشاهد نظام الذكاء الاصطناعي مقطع الفيديو ويتعرف على الأشكال أو الوجوه، بل نحتاج أن يفهم النظام تطور الأحداث في المشهد، وأن يفهم العلاقات والسياق وديناميكيات التفاعلات الاجتماعية، وهذه الدراسة تشير إلى أن هذا العنصر يعتبر بمثابة نقطة عمياء في تطور منظومات الذكاء الاصطناعي". وتأتي هذه النتائج في الوقت الذي تتسابق فيه شركات التكنولوجيا لدمج أنظمة الذكاء الاصطناعي داخل عدد متزايد من الأجسام الروبوتية، وهم مفهوم يطلق عليه اسم "الذكاء الاصطناعي المتجسد"، وقد تم اختبار هذا المفهوم في عدة مدن أميركية مثل لوس أنجلوس وفينيكس وأوستن من خلال سيارات ذاتية القيادة تسير في الطرق بجانب السيارات التي يقودها البشر مثل سيارات الأجرة التابعة لشركات مثل "وايمو روبو تاكسي". وقد أثبتت التجارب أن أنظمة الذكاء الاصطناعي لهذه السيارات تعاني من قصور في فهم بعض مواقف القيادة المركبة مثل القيادة الدائرية أو منحنيات الرجوع للخلف. ورغم أن بعض الدراسات الحديثة أثبتت أن السيارات ذاتية القيادة قد تكون أقل عرضة للحوادث مقارنة بقائدي السيارات، لا تزال السلطات الرقابية المختصة تجري تحقيقات بشأن ما تردد عن مخالفة بعض هذه السيارات لقواعد السلامة. وقطعت شركات تكنولوجية أخرى مثل بوسطن ديناميكس وفيجر إيه أي وتسلا خطوات أبعد نحو تطوير روبوتات على هيئة بشر تعمل بأنظمة الذكاء الاصطناعي في أماكن صناعية جنبا إلى جنب مع عمال على خطوط الإنتاج. ويرى الباحثون أن تمكين أنظمة الذكاء الاصطناعي من فهم الإشارات الاجتماعية بين البشر داخل البيئات الصناعية ينطوي على أهمية بالغة لتلافي خطر وقوع الحوادث الصناعية. وفي ذات السياق، تقول الباحثة إيزيك إن "هذه الدراسة تسلط الضوء على أهمية دمج علوم الذكاء الاصطناعي وعلم الأعصاب والعلوم المعرفية بشكل أكبر مع عناصر العالم الحقيقي".
الرياض
منذ ساعة واحدة
- الرياض
ثلاثة برامج في "الدبلوم" بجامعة طيبة
أعلنت جامعة طيبة اليوم، حصولها على ترخيص المركز الوطني للتعليم الإلكتروني لتقديم ثلاثة برامج أكاديمية لمرحلة الدبلوم في عدد من التخصّصات، لتقديمها بنمط تعليمي مرن ومعتمد. وأوضحت الجامعة أن البرامج التي ستنفذها الكلية التطبيقية، تشمل دبلوم إدارة الموارد البشرية، دبلوم المحاسبة المالية، دبلوم إدارة التمويل والاستثمار، وتهدف إلى تعزيز المهارات العملية والنظرية للطلاب، مما يسهم في تلبية احتياجات سوق العمل المتغيرة. وأفادت أن هذه البرامج تأتي ضمن رؤية الجامعة لتحقيق التميّز الأكاديمي، وتوفير فرص تعليمية متطوّرة، تتماشى مع المعايير العالمية، مبينة أنها بصدد تحديد آلية ومواعيد التسجيل في البرامج الثلاثة خلال الفترة المقبلة.
الشرق الأوسط
منذ ساعة واحدة
- الشرق الأوسط
مؤشر مديري المشتريات
في عالم تتسارع فيه التحولات الاقتصادية، وتتعدد فيه مصادر المعلومات والإشارات الاستثمارية، يبرز مؤشر مديري المشتريات بوصفه إحدى أكثر الأدوات رصانة وعمقاً في استقراء اتجاهات الاقتصاد، ليس بوصفه انعكاساً آنياً للواقع فحسب، بل كعين تستشرف ملامح ما المستقبل، فهذا المؤشر، الذي يُستخرج شهرياً من استطلاعات ميدانية تُوجّه إلى مسؤولي المشتريات في كبريات الشركات، لا يعتمد على الحسابات اللاحقة ولا على البيانات الجامدة، بل على تفاعلات حية ومباشرة مع السوق، تُقاس من خلال 5 محاور دقيقة: الطلبيات الجديدة، الإنتاج، التوظيف، تسليم الموردين، والمخزون، ومن خلال نمذجة إحصائية متقدمة، يُنتج المؤشر رقماً مركباً يُشير إلى ما إذا كان الاقتصاد يتوسع أم ينكمش، بناءً على القراءة المحورية البالغة خمسين نقطة، تعد الخط الفاصلَ بين النمو والانكماش، فما هي خصائص مؤشر مديري المشتريات؟ وكيف أثبتت الأحداث التاريخية جدواه؟ وكيف تستفيد منه الحكومات والشركات والمستثمرون في اتخاذ القرارات؟ إن توقيت ومضمون مؤشر مديري المشتريات هما أكبر ما يميّزه، ففي زمن تُعلن فيه المؤشرات الرسمية بعد أشهر من وقوع الحدث، يجيء مؤشر مديري المشتريات ليُعلن عن التوجه الاقتصادي قبل أن تبدأ الحكومات بتدوين ملاحظاتها، وقبل أن تتحرك البنوك المركزية في مساراتها النقدية، ومن هنا، لم يكن غريباً أن تثبت التجربة التاريخية لهذا المؤشر أنه أكثر من مجرد أداة تحليل، بل رادار اقتصادي بالغ الحساسية، لطالما رصد الخلل قبل أن تتضح ملامحه الكاملة. فعلى سبيل المثال، وحين تهاوت الأسواق العالمية في عام 2008، لم يكن العالم قد استوعب بعد حجم الكارثة المالية التي ستعصف بالنظام المصرفي الدولي، لكن المؤشر، في صيف ذلك العام، بدأ يُرسل إشارات متوالية بانكماش حاد في الطلبيات والإنتاج، سواء في الولايات المتحدة أو أوروبا، وتراجعت قراءاته إلى ما دون الخمسين نقطة (وهو الحد الفاصل بين النمو والانكماش)، حتى قبل أن يُعلن إفلاس بنك «ليمان براذرز»، وفي الصين، حيث يعتمد الاقتصاد على التصدير الصناعي، سجل المؤشر تراجعاً صاعقاً في أواخر عام 2008، ما دلّ على أن الركود بات عالمياً، قبل أن تعلن المنظمات الدولية ذلك رسمياً بشهور. وفي مطلع عام 2020، وبينما كانت وسائل الإعلام لا تزال تتعامل مع فيروس «كورونا» كحادثة محلية في (ووهان)، أطلق المؤشر أول إنذاراته من قلب الاقتصاد الصيني، ففي فبراير (شباط)، تهاوت قراءته إلى أدنى مستوياتها التاريخية، في إشارة إلى شللٍ شبه تام في النشاط الصناعي، ولم تمضِ أسابيع حتى بدأت المؤشرات الأوروبية والأميركية تلحق بها، مؤكدة بذلك المؤشر بوصفه أول شاهد على حالة التباطؤ العالمي في تلك الجائحة، وكانت هذه القراءات حينها سبباً في استعجال الحكومات التي لم تكن لتتحرك بتلك السرعة لولا المؤشرات الصريحة التي قدمها هذا المقياس. ولا يقتصر دور المؤشر على مراقبة النشاط العام، بل يمتد إلى التقاط إشارات التضخم قبل أن يظهر في مؤشرات الأسعار الاستهلاكية، ففي عامي 2021 و2022، حين بدأت أسعار المواد الخام بالارتفاع نتيجة اختناقات سلاسل الإمداد، عكست مكونات مؤشر مديري المشتريات هذا التحول بوضوح، من خلال ارتفاع أسعار المدخلات وزيادة زمن تسليم الموردين، ما دفع البنوك المركزية الكبرى إلى إعادة تقييم سياساتها النقدية والبدء في رفع أسعار الفائدة، حتى قبل أن يظهر التضخم الكامل في بيانات المستهلكين. ولأن السياسات الاقتصادية لا تُبنى على الانطباعات، بل على القراءات الدقيقة، فقد أصبح المؤشر جزءاً أصيلاً في عمليات صنع القرار لدى صناع السياسات، خصوصاً في فترات الغموض أو التحول، فحين يترنح قطاع الخدمات مثلاً، ويُظهر المؤشر تراجعاً في التوظيف أو الطلب، تُعاد صياغة أولويات الإنفاق العام، وتُوجّه الموارد نحو دعم القطاعات المتأثرة، أما في زمن الانتعاش، فيكون المؤشر بمثابة تأكيد مبكر لجدوى سياسات التحفيز، ما يمنح صانع القرار ثقة إضافية في الاستمرار أو التوسعة. على الجانب الآخر، لا يغفل المستثمرون عن قراءة هذا المؤشر، إذ يُعد من الإشارات المفضّلة لدى الأسواق المالية لاتخاذ القرارات المرتبطة بالأسهم والسندات والعملات، إذ إن استمرار نمو الطلب وتوسع الإنتاج يعني غالباً زيادة في الأرباح التشغيلية، فيُترجم ذلك مباشرة إلى حركة في أسعار الأسهم، كما أن تراجع المؤشر في دولة ما قد يدفع المستثمرين إلى تقليل تعرضهم لذلك السوق، أو البحث عن أسواق بديلة تُظهر قراءاتٍ أكثر تفاؤلاً. إن المتابع للاقتصاد بشكل عام، يدرك أن مؤشر مديري المشتريات يتجاوز وظيفته الظاهرية كمقياس لحركة الاقتصاد، فهو أداة تحليل متقدمة، ومحرّك للقرار، ومؤشرٌ على الاتجاهات قبل أن تتحول إلى واقع، وهو بذلك يعد مرآة للاقتصاد لا في انعكاسه فقط، بل في استبصاره، وفي قراءته للمجهول، وفي منحه لأولئك الذين يُصغون إليه إمكانية التفاعل مع الزمن الاقتصادي لا في أعقابه، بل في لحظته وما قبلها، ولا غنى لصانعي السياسات أو المستثمرين عن الاطلاع بشكل مستمر على هذا المؤشر.
