«سدايا» تُصدر تقريرًا عن التحيز في أنظمة الذكاء الاصطناعي والتحديات التي تواجه تطوير وتبني هذه التقنيات المتقدمة
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا" تقريرًا متخصصًا عن "التحيز في أنظمة الذكاء الاصطناعي" بهدف تسليط الضوء على التحديات التي تواجه تطوير وتبني أنظمة الذكاء الاصطناعي في ظل توسـع كثير من الدول والمنظمات والشركات العالمية فـي تفعيل تطبيقات الذكاء الاصطناعي بشكل مضطرد في عددٍ من القطاعات الحساسة والحيوية، وما رافق ذلك من قلق متنام من تسرّب التحيز إلى أنظمة الذكاء الاصطناعـي لاسيما تلك المرتبطة باتخاذ القرار.
والتحيز في الذكاء الاصطناعي هو عبارة عن ميل غير عادل أو غير مقصود في مخرجات هذه الأنظمة وينشأ عن بيانات مُنحازة أو تصميم غير متوازن للخوارزميات، وقد يحدث في أنظمة الذكاء الاصطناعي بسبب التحيزات الإدراكية التي تؤدي إلى الانحراف عـن التفكير العقلاني أو السلوك الطبيعي في اتخاذ القرار أو الحكم على الأشياء، وغالبًا ما تنبع من التصورات الذهنية أو الاختصارات العقلية التي يستخدمها العقل البشري لتبسيط وتسريع عمليات الفهم واتخاذ القرارات أو بسبب التحيزات التقنية التي تنشأ عن تصميم وبناء أنظمة الذكاء الاصطناعـي وتطويرها وتنفيذها وتنبع من الجوانب الفنية للتقنية نفسها مثـل: التحيز في القياس أو الخوارزميات التي قد تؤثر في عدالة أو دقة أنظمة الذكاء الاصطناعـي.
وبذلت "سدايا" جهودًا كبيرة في تقليل التحيز في أنظمة الذكاء الاصطناعي من خلال تطوير معايير أخلاقية تضمن العدالة والشفافية وعدم التمييز، مع تحسين جودة مخرجات الذكاء الاصطناعي، ولضمان التزام تطبيقات الذكاء الاصطناعي بهذه المعايير، وأطلقت أداة متخصصة لقياس مدى الامتثال للمعايير الأخلاقية، مما يسهم في تعزيز استخدام الذكاء الاصطناعي بشكل مسؤول وعادل.
وفي إطار التعاون الدولي، عملت سدايا مع المنظمات الدولية المهتمة بأخلاقيات الذكاء الاصطناعي لضمان تطبيق أفضل المعايير العالمية لأخلاقيات الذكاء الاصطناعي، حيث أنشأت المملكة العربية السعودية ممثلة في "سدايا" مركزًا دوليًا لأبحاث وأخلاقيات الذكاء الاصطناعي (ICAIRE) في الرياض بالتعاون مع منظمة اليونسكو؛ بهدف تعزيز الأبحاث الأخلاقية في الذكاء الاصطناعي ودراسة الحلول الممكنة لمعالجة تحديات الاستخدام الأخلاقي لهذه التقنية على المستوى الدولي.
كما نظّمت سدايا القمة العالمية للذكاء الاصطناعي لأعوام (2021 و2022 و2024) تحت شعار "الذكاء الاصطناعي من أجل خير البشرية" بهدف التوعية ومناقشة التحديات المرتبطة بالتحيز وتعزيز تطبيقات عادلة وشفافة تخدم الإنسانية، ولم تقتصر "سدايا" على الجانب التنظيمي فحسب، بل انتقلت إلى التطبيق العملي، حيث اتخذت عدة تدابير للحد من التحيزات في الأنظمة التي تقوم على تطويرها، بدءًا من مرحلة جمع البيانات وضمان جودتها ودقتها وتنوعها وحتى مرحلة نشر النموذج ، مثل "عيناي" ونموذج الكشف عن سرطان الثدي ونموذج التنبؤ بخطر الإصابة بالسكتة الدماغية.
وحذر التقرير من أنه يمكن أن يدخل الخطأ البشري والتحيز وسوء التقدير في دورة حياة بناء أنظمة الذكاء الاصطناعي، ويؤدي إلى خلق تحيّزات في تلك الأنظمة بصورة مقصودة أو غير مقصودة، وهذه التحيزات قد تقع في المراحل الأولية لصياغة المشكلة وجمع البيانات واستكشـافها إلى المراحل الحرجة كبناء النموذج والتنفيذ إلا أن فهـم مصادرها وكيفية ظهورها ووجود سياسات وإجراءات وضوابط مدروسة وأدوات تقنية مساعدة يُمكن أن يساعد على تجنب كثير منها ويخفف من حدة آثارها.
وأشار التقرير إلى إمكانية أن تنشأ التحيزات من البيانات المستخدمة لتدريـب الأنظمة أو الخوارزميات المستخدمة لمعالجة تلك البيانات أو حتى طريقة عـرض النتائج على المستخدمين مما قد تؤدي إلى تكريس صورة نمطية سلبية تجاه أحد الفئات، داعيًا إلى مراقبة ومراجعة النماذج قيد التشغيل بشكل مستمر لضمان الالتزام بالسياسات الأخلاقية المعتمدة بما يساعد في الكشف عن التحيزات مبكرًا، وتخفيفها قبل استفحال ضررها والبقاء على اطلاع بالبحوث الصادرة في هذا المجال، واختيار الموردين الملتزمين بتطوير تطبيقات الذكاء الاصطناعـي المسؤول.
وقدّم التقرير مجموعة من الحلول والتوصيات لمواجهة التحيز في الذكاء الاصطناعي، من بينها تطوير خوارزميات تتبنى مبادئ الشفافية والعدالة، وتحسين جودة البيانات من خلال ضمان تنوعها وتمثيلها لجميع الفئات، وزيادة الوعي بخطورة التحيز وتأثيره في المجتمعات لتحقيق التوازن والإنصاف، ووضع معايير وقواعد موحدة ومناسبة لتسمية البيانات لكي يتم تلافي عدم التوافق والاتساق في التسميات بين المسـميين مع الاستعانة ببعض الأدوات الناضجة في هذا المجال مثل اتفاقية المسـمين.
ودعا التقرير في ذلك الجانب إلى تنويع فريق العمل المسـؤول عن تطوير ونشر أنظمة الذكاء الاصطناعي وشموليته، وصيانة البنية التحتية لأنظمة الذكاء الاصطناعي لضمان الحفاظ على كفاءة هذه الأنظمة ووقايتها من تسرب التحيزات إليها، والتأكد بشكل دوري من كونها تعمل بكفاءة إلى جانب اعتماد إجراءات للتخفيف من تحيز البيانات عند ملاحظتهـا، وإجراءات لحماية بيانات المستفيدين، وعدم نشر التطبيقات إلا بعد مراجعتها من فرق الحوكمة المتخصصة والمُدربة على البحث عـن أنواع التحيزات في جميع دورات حياة بناء أنظمة الـذكاء الاصطناعـي والإبلاغ
عـن أي مخاوف عند توقعها.
ويمكن الاطلاع على التقرير من خلال زيارة الرابط التالي: https://2u.pw/z2VXywn4 .
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
سعورس
منذ 2 أيام
- سعورس
"سدايا" تكرم الطلبة المشاركين في «2025 ISEF»
وألقى معالي الأستاذ الربدي بن فهد الربدي كلمة خلال الحفل عبّر فيها عن فخره بهذه المنجزات التي حققها أبناء وبنات الوطن، مبينًا أن ما تحقق هو ثمرة الدعم السخي من خادم الحرمين الشريفين الملك سلمان بن عبدالعزيز آل سعود، وصاحب السمو الملكي الأمير محمد بن سلمان بن عبدالعزيز آل سعود ولي العهد رئيس مجلس الوزراء -حفظهما الله- اللذين جعلوا من التعليم، والموهبة، والابتكار ركائز أساسية لرؤية المملكة 2030. وأوضح أن هذا التميز يعكس تكامل الجهود الوطنية، والشراكات الاستراتيجية بين مؤسسة "موهبة"، ووزارة التعليم، وعدد من الجهات الوطنية، ومن بينها "سدايا"، التي تتبنى تمكين العقول الشابة بوصفه هدفًا وطنيًا ساميًا، مبينًا أن التميز العلمي هو أحد أعمدة النهضة الوطنية، وهو المحرك الحقيقي لاقتصاد البيانات، ومفتاح الريادة في مجالات الذكاء الاصطناعي، وأن هذه الإنجازات ليست مجرد جوائز، بل نقاط قوة ترسم خارطة المستقبل، لمواهب وطنية ستكون في طليعة صُنّاع التغيير وقادة الابتكار في المملكة والعالم. وأكد معاليه التزام "سدايا" المستمر بتمكين العقول ودعم الابتكار وبناء القدرات الوطنية، حيث قامت بتدريب أكثر من 9900 مختص، ورفعت مستوى الوعي لدى أكثر من 740 ألف مهتم في المملكة، ويتم العمل من خلال مبادرة مليون سعودي للذكاء الاصطناعي (سماي) على تمكين مليون سعودي من مهارات الذكاء الاصطناعي، ليكون هذا الجيل هو من يقود المرحلة القادمة". ومن جهته أعرب الدكتور الشريف خلال كلمته عن اعتزازه بما حققه الطلاب والطالبات من جوائز مشرفة في "آيسف 2025"، مؤكدًا أن هذا الإنجاز الوطني ثمرة لرعاية المواهب والحرص المشترك بين الجهات المعنية على اكتشافها وتنميتها. وأعلن خلال الحفل عن تقديم "سدايا" برنامجًا تدريبيًا مخصصًا للطلبة المشاركين في ISEF 2025 لتزويدهم بالمهارات التطبيقية المتقدمة في أتمتة المهام البحثية بكفاءة ومسؤولية، ويمكنهم من بناء وكلاء ذكاء اصطناعي في البحث العلمي والابتكار، وفق تقنيات متقدمة وممارسات متبعة في كبرى الجامعات ومراكز الأبحاث العالمية. ويأتي هذا البرنامج ضمن جهود "سدايا" في بناء القدرات الوطنية وتمكين العقول الواعدة، ودعم مسيرة الابتكار، واحتضان المواهب، بما يسهم في تطوير منظومة البحث العلمي وتعزيز جودة المخرجات المعرفية والتقنية في المملكة.
سعورس
منذ 2 أيام
- سعورس
تقويم التعليم الأخضر وفق المهارات الخضراء
ظهر الاتجاه إلى التعليم الأخضر جليًا في عام 2022م والذى أقرته الأمم المتحدة في مؤتمرها الخاص بالتحول في التعليم ويهدف إلى دمج مبادئ الاستدامة البيئية في التعليم، وتنمية الوعي البيئي لدى الطلاب من خلال المناهج الدراسية والأنشطة التعليمية. ويركز هذا النوع من التعليم على تزويد الطلاب بالمعرفة والمهارات اللازمة لحماية البيئة والمحافظة عليها من خلال اتخاذ قرارات مسؤولة وتعزز الحوار والنقاش حول التنمية المستدامة. وبالتالي كان من الضروري في ظل هذه التحولات العالمية في التعليم إعادة بناء استراتيجيات التقويم التي يمكن تطبيقها في سياق التعليم الأخضر لتعزيز التعلم البيئي المستدام، حيث أصدرت منظمة اليونسكو في منتصف عام 2024 دليل «تخضير المناهج» ودليل «معايير اليونسكو لجودة المدارس الخضراء»، وكذلك أصدر مكتب التربية لدول الخليج العربي في بداية عام 2025 «الدليل المرجعي للمدارس الخضراء» كل هذه الجهود العلمية تعد مؤشرًا واضحًا على المضي لتحقيق التحول المنشود في الأنظمة التعليمية على المستوى الدولي وإحداث تغير جذري في فهم وإعادة صياغة مفهوم التعليم الأخضر، فالتعليم الأخضر يركز على تطوير معارف ومهارات وسلوكيات الطلبة فيما يتعلق بالتحديات البيئية، مما يستدعي تبني استراتيجيات تقويمية تلائم هذا التوجه التعليمي. فتقويم التعليم الأخضر لا يتطلب استراتيجيات تقويم المعرفة النظرية والممارسات العلمية فقط بل أيضًا تقيس مدى تطبيق الطلبة لمبادئ الاستدامة في حياتهم اليومية وتأثيرهم على المجتمع والأسرة وتفاعلهم مع القضايا البيئية. وإكسابهم بما يسمى المهارات الخضراء والتي تقوم على إكساب المعارف والقدرات والقيم والمواقف اللازمة لتطوير ودعم مجتمع مستدام. وتعد المهارات الخضراء ضرورية لتكييف العمليات والخدمات والمنتجات لتتوافق مع التغيرات المناخية والاحتياجات البيئية. وبعبارة أخرى، هذه المهارات باتت تمكننا من مواجهة التحديات البيئية وتحقيق الاستدامة وفهم فقدان التنوع البيولوجي، وأضرار التلوث، وآليات دفع النمو الاقتصادي الأخضر وتعزيز الابتكار وتحسين جودة الحياة.
الوطن
منذ 2 أيام
- الوطن
تقويم التعليم الأخضر وفق المهارات الخضراء
يشهد العالم مخاطر عديدة في ظل قضايا البيئة وأزمة المناخ تعتبر قضايا البيئة كالتغير المناخي والحفاظ على التنوع الحيوي من القضايا العالمية التي أكدت على مواجهتها وإيجاد الحلول للتغلب عليها العديد من الدول والمنظمات الدولية، ولعل من أبرز هذه المبادرات مبادرة سمو سيدي ولي العهد السعودية الخضراء، التي أطلقت عام 2021م. وتهدف إلى زيادة الغطاء النباتي والحد من تدهور الأراضي وحماية الحياة البرية والموائل والتنوع الحيوي وتعزيز الاستدامة، وقد تم إلى الآن إطلاق 77 مبادرة تعمل على تحقيق هذه الأهداف الأربعة، ومن ضمنها توفر مصادر الطاقة الشمسية وطاقة الرياح إمدادات كهربائية تغطي احتياجات 150 ألف منزل، كما تمت زراعة 35.1 مليون شجرة منذ عام 2021م، وإعادة توطين أكثر من 1200 حيوان، وكذلك العمل على أنماط اقتصادية مختلفة كالاقتصاد الدائري والاقتصاد الأخضر لمعالجة تهديد التغير المناخي، من خلال إطلاق مراكز بيئية متخصصة في وزارة البيئة والمياه والزراعة لتحقيق مستهدفات رؤية المملكة 2030 والتى أبدت نجاحًا رائعًا في تحقيق مستهدفاتها، وفي ضوء كل ما ذكر من توجهات وطنية ودولية، وبالتالي لابد من مواكبة ما يحدث من خلال التحول في إعداد وإكساب المهارات والوظائف التي يتم شغلها مستقبلا، ومن أمثلة هذه المهارات، ما يسمي بالمهارات الخضراء والتي تكتسب من خلال التعليم الأخضر. ظهر الاتجاه إلى التعليم الأخضر جليًا في عام 2022م والذى أقرته الأمم المتحدة في مؤتمرها الخاص بالتحول في التعليم ويهدف إلى دمج مبادئ الاستدامة البيئية في التعليم، وتنمية الوعي البيئي لدى الطلاب من خلال المناهج الدراسية والأنشطة التعليمية. ويركز هذا النوع من التعليم على تزويد الطلاب بالمعرفة والمهارات اللازمة لحماية البيئة والمحافظة عليها من خلال اتخاذ قرارات مسؤولة وتعزز الحوار والنقاش حول التنمية المستدامة. وبالتالي كان من الضروري في ظل هذه التحولات العالمية في التعليم إعادة بناء استراتيجيات التقويم التي يمكن تطبيقها في سياق التعليم الأخضر لتعزيز التعلم البيئي المستدام، حيث أصدرت منظمة اليونسكو في منتصف عام 2024 دليل «تخضير المناهج» ودليل «معايير اليونسكو لجودة المدارس الخضراء»، وكذلك أصدر مكتب التربية لدول الخليج العربي في بداية عام 2025 «الدليل المرجعي للمدارس الخضراء» كل هذه الجهود العلمية تعد مؤشرًا واضحًا على المضي لتحقيق التحول المنشود في الأنظمة التعليمية على المستوى الدولي وإحداث تغير جذري في فهم وإعادة صياغة مفهوم التعليم الأخضر، فالتعليم الأخضر يركز على تطوير معارف ومهارات وسلوكيات الطلبة فيما يتعلق بالتحديات البيئية، مما يستدعي تبني استراتيجيات تقويمية تلائم هذا التوجه التعليمي. فتقويم التعليم الأخضر لا يتطلب استراتيجيات تقويم المعرفة النظرية والممارسات العلمية فقط بل أيضًا تقيس مدى تطبيق الطلبة لمبادئ الاستدامة في حياتهم اليومية وتأثيرهم على المجتمع والأسرة وتفاعلهم مع القضايا البيئية. وإكسابهم بما يسمى المهارات الخضراء والتي تقوم على إكساب المعارف والقدرات والقيم والمواقف اللازمة لتطوير ودعم مجتمع مستدام. وتعد المهارات الخضراء ضرورية لتكييف العمليات والخدمات والمنتجات لتتوافق مع التغيرات المناخية والاحتياجات البيئية. وبعبارة أخرى، هذه المهارات باتت تمكننا من مواجهة التحديات البيئية وتحقيق الاستدامة وفهم فقدان التنوع البيولوجي، وأضرار التلوث، وآليات دفع النمو الاقتصادي الأخضر وتعزيز الابتكار وتحسين جودة الحياة.
