دراسة: نماذج الذكاء الاصطناعي تتعثر أخلاقياً رغم تفوقها التقني في الطب
اضافة اعلان
وتُثير هذه النتائج، تساؤلات مهمة بشأن كيفية ومتى يمكن الاعتماد على نماذج اللغة الكبيرة مثل chatgpt في بيئات الرعاية الصحية، إذ لاحظ الباحثون أن نماذج اللغة الكبيرة تتعثر عند تعديل الألغاز الكلاسيكية الشهيرة بشكل طفيف.
وأوضح الباحثون أنهم عدلوا الألغاز المعروفة التي تتطلب حلولًا إبداعية وغير تقليدية - أي "تفكيرًا جانبيًا"- جرى تغييرها أو تعديلها بشكل طفيف ليس بهدف جعلها أصعب؛ بل لاختبار ما إذا كانت أنظمة الذكاء الاصطناعي يمكنها التكيف مع المعلومات الجديدة والدقيقة، أو ما إذا كانت ستلتصق بالأنماط المألوفة وتفشل في ملاحظة الفروق الدقيقة التي يمكن أن تغير الحل تمامًا.
ويمكن أن تكشف الألغاز المعدلة عن "النقاط العمياء" في طريقة تفكير الذكاء الاصطناعي، أي الأخطاء التي تقع عندما تقفز النماذج إلى استنتاجات بناءً على معرفتها المسبقة بالنسخة الأصلية من اللغز، حتى عندما تكون التفاصيل المعدلة تناقض هذا الاستنتاج.
في أحد الأمثلة، عدل الباحثون "معضلة الجراح" الكلاسيكية، وهو لغز شهير من السبعينيات يسلط الضوء على التحيز الجنساني الضمني، ففي النسخة الأصلية من اللغز، يُصاب صبي في حادث سيارة مع والده ويُنقل إلى المستشفى، فيتعجب الجراح قائلاً: "لا أستطيع إجراء العملية لهذا الصبي - إنه ابني!"، لكن المفاجأة هي أن الجراح هي والدته، على الرغم من أن العديد من الناس لا يفكرون في هذا الاحتمال بسبب التحيز الجنساني.
في النسخة المعدلة التي أجراها الباحثون، ذكروا صراحة أن والد الصبي هو الجراح، ما أزال الغموض. ومع ذلك، لا تزال بعض نماذج الذكاء الاصطناعي تجيب بأن الجراح يجب أن تكون والدة الصبي.
ويكشف هذا الخطأ كيف يمكن لنماذج اللغة الكبيرة التشبث بالأنماط المألوفة، حتى عندما تتناقض مع معلومات جديدة.
في مثال آخر لاختبار ما إذا كانت نماذج اللغة الكبيرة تعتمد على أنماط مألوفة، استوحى الباحثون من معضلة أخلاقية كلاسيكية يرفض فيها آباء متدينون نقل دم منقذ للحياة لطفلهم.
وعندما غير الباحثون السيناريو ليفيد بأن الوالدين وافقا بالفعل، لا تزال العديد من النماذج توصي بتجاوز رفض لم يعد موجودًا.
قال المؤلف المشارك في الدراسة، إيال كلانج، وهو كبير مسؤولي الذكاء التوليدي في قسم ويندريدش للذكاء الاصطناعي والصحة البشرية في كلية إيكان للطب في ماونت سيناي، إن "الذكاء الاصطناعي يمكن أن يكون قويًا وفعالًا للغاية، لكن دراستنا أظهرت أنه قد يعتمد افتراضيًا على الإجابة الأكثر شيوعًا أو حدسية، حتى عندما تتجاهل هذه الإجابة تفاصيل حاسمة".
وأضاف: "في المواقف اليومية، قد لا يلاحظ هذا النوع من التفكير، ولكن في الرعاية الصحية، حيث غالبًا ما تحمل القرارات تداعيات أخلاقية وسريرية خطيرة، فإن تفويت هذه الفروق الدقيقة يمكن أن تكون له عواقب حقيقية على المرضى".
ولا تعني نتائج الدراسة أن الذكاء الاصطناعي لا مكان له في الممارسة الطبية، لكنها تسلط الضوء على الحاجة إلى إشراف بشري واعٍ، خاصة في المواقف التي تتطلب حساسية أخلاقية، وحكمًا دقيقًا، أو ذكاءً عاطفيًا.
ويقول الباحثون إن أدوات الذكاء الاصطناعي مفيدة بشكل لا يصدق، لكنها ليست معصومة من الخطأ "إذ يجب على الأطباء والمرضى على حد سواء أن يفهموا أن الذكاء الاصطناعي يُستخدم على أفضل وجه كمكمل لتعزيز الخبرة السريرية، وليس بديلاً عنها، خاصة عند التعامل مع القرارات المعقدة أو عالية المخاطر".
ويأمل الباحثون أن تساعد نتائج الدراسة في بناء طرق أكثر ثقة وسليمة أخلاقيًا لدمج الذكاء الاصطناعي في رعاية المرضى. - وكالات
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الرأي
منذ 7 ساعات
- الرأي
اليونيسف: كل المواطنين في غزة جوعى والأطفال هم الأكثر معاناة
قالت منظمة الأمم المتحدة للطفولة "اليونيسف" اليوم الاثنين، إن كل المواطنين في قطاع غزة جوعى، لكن الأطفال هم "الأكثر معاناة". وأضافت المنظمة بحسب الموقع الرسمي لها، في منشور عبر منصة إكس، "انه بدلا من الذهاب إلى المدرسة، يُخاطر الأولاد والبنات بحياتهم أملا في الحصول على بعض الطعام" ، مشددة على ضرورة السماح بدخول كميات كافية من المساعدات. وتعيش غزة أسوأ الأزمات الإنسانية في تاريخها، إذ تتداخل المجاعة القاسية مع حرب إبادة جماعية تشنها إسرائيل، منذ 7 تشرين الأول 2023. وحسب أحدث حصيلة، بلغ عدد الوفيات الناجمة عن المجاعة وسوء التغذية في قطاع غزة 134، بينهم 88 طفلا منذ 7 تشرين الأول 2023.
الرأي
منذ 14 ساعات
- الرأي
التمارين الأسبوعية تكفي لتقليل مخاطر الوفاة بالسكري
أشارت دراسة جديدة إلى أن اتباع برنامج تمارين "عطلة نهاية الأسبوع" يمكن أن يقلل من خطر الوفاة المبكرة لمرضى السكري، إذا استطاع المريض ممارسة الوقت المطلوب منه خلال جلسة أو جلستين. ووجد فريق البحث من جامعة هارفارد أن ممارسة الحصة الموصى بها من التمارين خلال عطلة الأسبوع فقط قلل خطر الوفاة المبكرة لأي سبب لدى مرضى السكري بنسبة 21%. كما أظهرت النتائج أن احتمالية وفاتهم بأمراض القلب كانت أقل بنسبة 33%. ووفق "مديكال إكسبريس"، حلل الباحثون بيانات جُمعت مما يقرب من 52 ألف مريض بالسكري بين عامي 1997 و2018 كجزء من المسح الوطني الأمريكي. حساسية الأنسولين وخلص فريق البحث إلى أن "هذه النتائج تعزز أهمية أنماط النشاط البدني المرنة لمرضى السكري، إذ يمكنها تحسين حساسية الأنسولين والتحكم في نسبة السكر في الدم، خاصةً لمن يواجهون صعوبات في ممارسة التمارين الرياضية الروتينية بانتظام". 150 دقيقة وذكر الباحثون أن إرشادات التمارين الرياضية توصي بممارسة ما لا يقل عن 150 دقيقة من النشاط البدني المعتدل أسبوعياً. ويمكن أن يشمل النشاط المعتدل: المشي السريع، وركوب الدراجات البطيئة، واليوغا النشطة، ورقص الصالات، والعمل في الحديقة.
الغد
منذ 16 ساعات
- الغد
عصير صحي يثبت فعاليته في انخفاض ضغط الدم لدى كبار السن
اضافة اعلان عمان - الغد - وجدت دراسة حديثة، أجراها باحثون في جامعة إكستر، أن عصيرا غنيا بالنترات قد يساعد في خفض ضغط الدم لدى كبار السن، ويرجع ذلك إلى تغييرات محددة في ميكروبيوم الفم لديهم.وتشير الدراسة إلى أن النترات التي يتناولها الإنسان عبر النظام الغذائي الغني بالخضراوات، وخاصة عصير الشمندر، تتحول في الفم إلى أكسيد النيتريك، وهو مركب حيوي ينظم ضغط الدم ويحافظ على صحة الأوعية الدموية. بحسب ما نشر موقع "روسيا اليوم".وشملت الدراسة 75 مشاركا، منهم 39 شابا تحت سن الثلاثين، و36 من كبار السن في الستينيات والسبعينيات، حيث تناولوا عصير الشمندر الغني بالنترات ونسخة وهمية منه، مع فترات توقف لإعادة ضبط التجربة. واستخدم الباحثون تقنية تسلسل الجينات لتحليل التغيرات في ميكروبيوم الفم قبل وبعد كل مرحلة.وشرب كبار السن المشاركون في الدراسة جرعتين يوميا من عصير الشمندر المركز لمدة أسبوعين، ما أدى إلى انخفاض ملحوظ في ضغط دمهم، على عكس المجموعة الأصغر سنا التي لم تلاحظ تغيرا مماثلا.ويرجع الباحثون هذا الاختلاف إلى تأثير عصير الشمندر في تعديل توازن البكتيريا في الفم، حيث يقلل من وجود البكتيريا الضارة مثل "بريفوتيلا" ويزيد من البكتيريا المفيدة مثل "النيسرية". وهذا التوازن الصحي يساعد في تحويل النترات إلى أكسيد النيتريك بكفاءة أكبر.وقالت البروفيسورة آني فانهاتالو، معدة الدراسة "كبار السن ينتجون كمية أقل من أكسيد النيتريك مع تقدم العمر، ما يساهم في ارتفاع ضغط الدم ومضاعفات القلب. وتشجيعهم على تناول خضراوات غنية بالنترات قد يحمل فوائد صحية كبيرة".وأكد البروفيسور آندي جونز، المعد المشارك، أن الدراسة تفتح آفاقا لفهم أفضل لكيفية تأثير النظام الغذائي ونمط الحياة والجنس البيولوجي على صحة القلب والأوعية الدموية.ومن جانبه، أشاد الدكتور لي بينيستون من مجلس أبحاث العلوم البيولوجية بأهمية البحث في كشف الروابط بين النظام الغذائي والميكروبيوم والشيخوخة الصحية، مشيرا إلى الإمكانيات الكبيرة لتحسين صحة الأوعية الدموية عبر التغذية.يذكر أن البدائل الغنية بالنترات لا تقتصر على الشمندر فقط، بل تشمل السبانخ والجرجير والشمر، والكرفس والكرنب، ما يتيح خيارات متعددة لمن يرغب في تحسين صحته من دون الحاجة إلى شرب عصير الشمندر.
