دراسة: الذكاء الاصطناعي يتمسك بالإجابات الشائعة رغم تقديم معلومات جديدة
وتُثير هذه النتائج، تساؤلات مهمة بشأن كيفية ومتى يمكن الاعتماد على نماذج اللغة الكبيرة مثل chatgpt في بيئات الرعاية الصحية، إذ لاحظ الباحثون أن نماذج اللغة الكبيرة تتعثر عند تعديل الألغاز الكلاسيكية الشهيرة بشكل طفيف.
وأوضح الباحثون أنهم عدلوا الألغاز المعروفة التي تتطلب حلولًا إبداعية وغير تقليدية - أي "تفكيرًا جانبيًا"- جرى تغييرها أو تعديلها بشكل طفيف ليس بهدف جعلها أصعب؛ بل لاختبار ما إذا كانت أنظمة الذكاء الاصطناعي يمكنها التكيف مع المعلومات الجديدة والدقيقة، أو ما إذا كانت ستلتصق بالأنماط المألوفة وتفشل في ملاحظة الفروق الدقيقة التي يمكن أن تغير الحل تمامًا.
ويمكن أن تكشف الألغاز المعدلة عن "النقاط العمياء" في طريقة تفكير الذكاء الاصطناعي، أي الأخطاء التي تقع عندما تقفز النماذج إلى استنتاجات بناءً على معرفتها المسبقة بالنسخة الأصلية من اللغز، حتى عندما تكون التفاصيل المعدلة تناقض هذا الاستنتاج.
ما هي نماذج اللغة الكبيرة؟
أنظمة ذكاء اصطناعي تُدرّب على كميات هائلة من النصوص لفهم اللغة البشرية وإنتاجها.
تستخدم تقنيات تُسمى الشبكات العصبية العميقة، وتحديدًا نوع يُعرف بـ"المحوّلات".
تصنف كـ"كبيرة" بسبب عدد المعلمات الهائل (مليارات أو تريليونات) داخل النموذج.
بناءً على هذه الرؤية، اختبرت الدراسة مدى قدرة أنظمة الذكاء الاصطناعي على التبديل بين الوضعين عند مواجهة معضلات أخلاقية معروفة بعد تعديلها عمدًا.
في أحد الأمثلة، عدل الباحثون "معضلة الجراح" الكلاسيكية، وهو لغز شهير من السبعينيات يسلط الضوء على التحيز الجنساني الضمني، ففي النسخة الأصلية من اللغز، يُصاب صبي في حادث سيارة مع والده ويُنقل إلى المستشفى، فيتعجب الجراح قائلاً: "لا أستطيع إجراء العملية لهذا الصبي - إنه ابني!"، لكن المفاجأة هي أن الجراح هي والدته، على الرغم من أن العديد من الناس لا يفكرون في هذا الاحتمال بسبب التحيز الجنساني.
في النسخة المعدلة التي أجراها الباحثون، ذكروا صراحة أن والد الصبي هو الجراح، ما أزال الغموض. ومع ذلك، لا تزال بعض نماذج الذكاء الاصطناعي تجيب بأن الجراح يجب أن تكون والدة الصبي.
ويكشف هذا الخطأ كيف يمكن لنماذج اللغة الكبيرة التشبث بالأنماط المألوفة، حتى عندما تتناقض مع معلومات جديدة.
في مثال آخر لاختبار ما إذا كانت نماذج اللغة الكبيرة تعتمد على أنماط مألوفة، استوحى الباحثون من معضلة أخلاقية كلاسيكية يرفض فيها آباء متدينون نقل دم منقذ للحياة لطفلهم.
وعندما غير الباحثون السيناريو ليفيد بأن الوالدين وافقا بالفعل، لا تزال العديد من النماذج توصي بتجاوز رفض لم يعد موجودًا.
قال المؤلف المشارك في الدراسة، إيال كلانج، وهو كبير مسؤولي الذكاء التوليدي في قسم ويندريدش للذكاء الاصطناعي والصحة البشرية في كلية إيكان للطب في ماونت سيناي، إن "الذكاء الاصطناعي يمكن أن يكون قويًا وفعالًا للغاية، لكن دراستنا أظهرت أنه قد يعتمد افتراضيًا على الإجابة الأكثر شيوعًا أو حدسية، حتى عندما تتجاهل هذه الإجابة تفاصيل حاسمة".
وأضاف: "في المواقف اليومية، قد لا يلاحظ هذا النوع من التفكير، ولكن في الرعاية الصحية، حيث غالبًا ما تحمل القرارات تداعيات أخلاقية وسريرية خطيرة، فإن تفويت هذه الفروق الدقيقة يمكن أن تكون له عواقب حقيقية على المرضى".
ولا تعني نتائج الدراسة أن الذكاء الاصطناعي لا مكان له في الممارسة الطبية، لكنها تسلط الضوء على الحاجة إلى إشراف بشري واعٍ، خاصة في المواقف التي تتطلب حساسية أخلاقية، وحكمًا دقيقًا، أو ذكاءً عاطفيًا.
ويقول الباحثون إن أدوات الذكاء الاصطناعي مفيدة بشكل لا يصدق، لكنها ليست معصومة من الخطأ "إذ يجب على الأطباء والمرضى على حد سواء أن يفهموا أن الذكاء الاصطناعي يُستخدم على أفضل وجه كمكمل لتعزيز الخبرة السريرية، وليس بديلاً عنها، خاصة عند التعامل مع القرارات المعقدة أو عالية المخاطر".
ويأمل الباحثون أن تساعد نتائج الدراسة في بناء طرق أكثر ثقة وسليمة أخلاقيًا لدمج الذكاء الاصطناعي في رعاية المرضى.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الرجل
منذ 4 أيام
- الرجل
النساء أكثر تهذيبًا من الرجال.. دراسة تكشف مفاجآت في سلوك البشر مع الذكاء الاصطناعي
كشفت دراسة حديثة أعدّتها مؤسسة YouGov وشملت أكثر من 12,000 مستخدم لأدوات الذكاء الاصطناعي من 17 دولة، أن التهذيب الرقمي لا يزال بعيدًا عن أن يصبح سلوكًا عالميًا. أظهرت النتائج أن 43% فقط من المستخدمين حول العالم يقولون "من فضلك" أو "شكرًا" بانتظام عند التفاعل مع أدوات الذكاء الاصطناعي مثل ChatGPT أو Alexa، فيما 17% لا يستخدمون هذه العبارات مطلقًا. بيّنت الدراسة، التي أُجريت حديثاً، أن دولًا مثل الهند، المكسيك، والإمارات العربية المتحدة تتصدر القائمة، حيث قال أكثر من 50% من المستخدمين في هذه البلدان إنهم يستخدمون عبارات المجاملة بشكل دائم أو متكرر. في المقابل، جاءت الولايات المتحدة، الدنمارك، والسويد في ذيل القائمة، مع أكثر من 40% من المستخدمين الذين نادرًا أو لا يستخدمون كلمات المجاملة على الإطلاق. تأثير الجنس والمنصات على سلوك التهذيب مع الذكاء الاصطناعي لفتت الدراسة أيضًا إلى وجود فروق ملحوظة بين الجنسين. ففي المتوسط، النساء أكثر تهذيبًا من الرجال عند التفاعل مع الذكاء الاصطناعي: 21% من النساء يستخدمن عبارات المجاملة دائمًا مقابل 17% من الرجال. في المقابل، 33% من الرجال لا يستخدمون كلمات التهذيب أبدًا أو نادرًا، مقارنة بـ 29% من النساء. اللافت أن هذا التفاوت يتبدّل في بعض الدول مثل الدنمارك والسويد، حيث يتفوق الرجال في التهذيب الرقمي على النساء. أما الولايات المتحدة، فقد سجلت أعلى فارق بين الجنسين: النساء الأمريكيات أكثر تهذيبًا من الرجال بنسبة 14 نقطة مئوية. أما على مستوى منصات التواصل الاجتماعي، فقد كشفت البيانات أن مستخدمي X (تويتر سابقًا) هم الأقل تهذيبًا، بينما أظهر مستخدمو Pinterest وLinkedIn ميلاً أكبر لاستخدام العبارات المهذبة. يُذكر أن مستخدمي LinkedIn هم الأكثر تفاعلًا مع أدوات الذكاء الاصطناعي، بنسبة تصل إلى 71%. تهذيب الأمريكيين مع الذكاء الاصطناعي رغم ريادتها في مجال التكنولوجيا، تحتل الولايات المتحدة مركزًا متأخرًا في سلوكيات المجاملة الرقمية. ويُظهر تحليل داخلي للدراسة أن الأمريكيين فوق سن 45 هم الأقل استخدامًا لعبارات مثل "شكرًا" و"من فضلك"، بينما أظهر المديرون التنفيذيون في بيئات العمل أكبر معدلات استخدام لعبارات التهذيب بنسبة 49%. اقرأ أيضاً تطبيقات الذكاء الاصطناعي تحقق قفزة هائلة في 2025 وكان الرئيس التنفيذي لشركة OpenAI، سام ألتمان، قد علّق في أبريل الماضي بأن تكلفة التهذيب في التفاعل مع الذكاء الاصطناعي – من حيث الطاقة المستهلكة – تُقدّر بعشرات ملايين الدولارات، لكنه اعتبرها "تكلفة مستحقَّة تمامًا".
صحيفة عاجل
منذ 5 أيام
- صحيفة عاجل
أستاذ تقنية يحذر من إفشاء الأسرار لـ «تشات جي بي تي»
تم النشر في: حذَّر د عبد الرحمن المطرف، أستاذ تقنية المعلومات بجامعة الملك سعود، من إفشاء الأسرار لنظام الدردشة «تشات جي بي تي». وأضاف المطرف، خلال لقائه المذاع على قناة الإخبارية، أنَّ الجميع يظن أن ذلك النظام مجرد آلة ولكن عندما يبوح الإنسان بشيء عبر التقنية قد يكون إدانة ضده؛ لذلك يجب التعامل مع الذكاء الاصطناعي بتوازن ووعي. وأكمل، أنَّ التحذيرات الصادرة من ملاك التقنية قد تكون أهدافها تسويقية وليست لسبب إنساني، لذلك لا يجب إفشاء الأسرار لتلك الأنظمة، مشيرا إلى أهمية حفظ الخصوصية والتعامل بتوزان مع التقنية. د. عبد الرحمن المطرف أستاذ تقنية المعلومات بجامعة الملك سعود: الجميع يظن أن "ChatGPT" مجرد آلة ولكن عندما تبوح بشيء عبر التقنية قد يكون إدانة ضدك فيجب التعامل مع الذكاء الاصطناعي بتوازن ووعي #نشرة_النهار | #الإخبارية — قناة الإخبارية (@alekhbariyatv) August 1, 2025
مجلة رواد الأعمال
٢٩-٠٧-٢٠٢٥
- مجلة رواد الأعمال
منصات التواصل الاجتماعي تضع معايير جديدة للقبول.. نقطة تحول بتاريخ الصناعة
خلال السنوات الماضية، كان هناك ضغط كبير لزيادة سن الوصول إلى منصات التواصل الاجتماعي. نظرًا للمخاوف المتعلقة بالتعرض للمواد الضارة. والمتحرشين. والمعلومات المضللة. الأعمار المسموح لها التسجيل في منصات التواصل الاجتماعي ففي العام الماضي فقط، قدمت عدة دول أوروبية. بما في ذلك فرنسا واليونان والدنمارك. دعمها وراء اقتراح لتقييد الوصول إلى وسائل التواصل الاجتماعي للمستخدمين الذين تقل أعمارهم عن 15 عامًا. في حين اقترحت إسبانيا تقييد الوصول لـ 16 عامًا. كما أن أستراليا ونيوزيلندا تتحركان أيضًا لتنفيذ قوانين خاصة بهما للحد من وصول وسائل التواصل الاجتماعي لمن هم فوق سن 16. بينما تقوم النرويج أيضًا بتطوير لوائح خاصة بها. وهناك الكثير من الأبحاث التي تشير إلى أن وسائل التواصل الاجتماعي يمكن أن تكون ضارة للمراهقين والمستخدمين القابلين للتأثر. حتى أن الدراسات التي أجرتها المنصات نفسها تشير إلى زيادة المخاطر بين المستخدمين الشباب. لماذا يجب تحديد العمر المسموح له بالتسجيل؟ التحدي إذًا هو كيفية تنفيذ ذلك، وما الأنظمة التي يمكن وضعها لتمكين التحقق من العمر 'على نطاق واسع'، بالإضافة إلى تسهيل المساواة في الوصول. وأن تكون في الواقع قابلة للتطبيق. ولا يزال هذا هو التحدي الأكبر في نظام موثوق للتحقق من العمر. على الرغم من ذلك، لا يزال لدينا نظام موثوق وقابل للتنفيذ قانونيًا يمكننا استخدامه كنموذج قياسي لتطبيق مثل هذه العملية. فعلى سبيل المثال, في المملكة المتحدة, تم إقرار قانون السلامة على الإنترنت الجديد مؤخرًا. والذي ينص على: 'سيتعين على المنصات منع الأطفال من الوصول إلى المحتوى الضار وغير المناسب لعمرهم وتوفير طرق واضحة وسهلة للآباء والأطفال للإبلاغ عن المشكلات عبر الإنترنت عندما تحدث. ما أجبر جميع المنصات الكبرى على تطبيق تدابير التحقق من العمر الخاصة بها. ذلك لمنع المستخدمين الصغار من الوصول. وتجنب الغرامات المحتملة نتيجة لذلك. بعض من تلك التدابير تتضمن طرقًا جديدة، مثل التحقق من الهوية عبر فيديو السيلفي. بينما الأخرى أقل تقدمًا. ولا يوجد أي منها، على الأقل في الوقت الحالي، مضمون بشكل كامل. كما أفادت 'Engadget': 'يستطيع المستخدمون الأذكياء على الإنترنت بالفعل التلاعب بفحوصات العمر من خلال استخدام VPN. أو تقديم صورة هوية مزيفة تم إنشاؤها بواسطة ChatGPT. فضلًا عن التقاط سيلفي عالي الجودة لشخصيات ألعاب الفيديو'. بالطبع، هناك مستويات متفاوتة من الأمان. وبما أن كل منصة تعتمد على نفسها. وتتبنى نهجها الخاص للتوافق مع هذه القواعد، فلا يوجد تناسق في التنفيذ أو الحماية في هذا الصدد. من ناحية أخرى، يكمن العيب الرئيسي هو أنه من أجل أن يكون مثل هذا النظام قابلًا للتنفيذ قانونيًا، يجب أن يكون هناك مستوى من الوحدة والتماسك. حتى يكون جميع الموردين في مستوى متساو. وحاليًا، لا تعمل هذه الأنظمة فقط؛ بل إنها أيضًا غير قابلة للتطبيق من الناحية القانونية. حيث إن منصة ما يمكن أن تدعي أنها قد تم تغريمها بسبب انتهاكات. بينما يستخدم الآخرون مقاييس أقل دقة. ولا يتم معاقبتهم. إنها مثل جعل أحزمة الأمان متطلبًا قانونيًا لصانعي السيارات، ولكن دون توفير معايير بشأن ما تعنيه 'حزام الأمان' بالضبط. سيؤدي ذلك إلى قيام كل مصنع سيارات بتنفيذ حلول متنوعة، بعضها سيكون فعالًا. بينما البعض الآخر سيقتصر على حبل وخطاف في المقعد. معيار تحديد العمر يجب أن يكون هناك معيار صناعي للتحقق من العمر، وإلا فإن جميع هذه التدابير ليست سوى دعاية. وستكون فعالياتها محدودة في التطبيق. الحجة المضادة ستكون أن بعض الفعالية أفضل من لا شيء، لكن إذا كنت ستنفذ هذا بموجب القانون، فمن المؤكد أنه من الأفضل أن نضع معايير واضحة في النهج لتعظيم الفعالية. ففي مثال المملكة المتحدة يظهر أنه لا نزال بعيدين عن هذا، وأن الاتفاق على زيادة سن الوصول هو خطوة رئيسة. لكن التوصل إلى معيار متفق عليه حول التحقق من العمر هو تدبير أساسي آخر. بإختصار, تحولت منصات التواصل الاجتماعي إلى جزء من روتيننا اليومي. ما يساعد المستخدمين من جميع أنحاء العالم على البقاء متصلين جيدًا من خلال المنصات الرقمية. مع مرور كل عام، تتطور وسائل التواصل الاجتماعي بسرعة كبيرة. ومع كل عام يمر، تزداد أعداد مستخدمي وسائل التواصل الاجتماعي بسرعة ملحوظة. أيضا تشير التقارير إلى أن عدد مستخدمي وسائل التواصل الاجتماعي سيصل إلى 5.85 مليار في عام 2027. في عام 2024، سيصل 62.6٪ من سكان العالم إلى وسائل التواصل الاجتماعي. ما يدل بوضوح على هيمنة منصات وسائل التواصل الاجتماعي في عالم اليوم. كذلك يتم إجراء عدد من الدراسات الإحصائية لعام 2024. كاشفين عن عدد المستخدمين النشطين شهريًا. والوقت اليومي الذي يقضيه المستخدمون. بالإضافة إلى أشهر تطبيقات وسائل التواصل الاجتماعي تحميلًا. المقال الأصلي: من هنـا
