
دراسة تكشف تحيّزات «تشات جي بي تي» في اتخاذ القرار... كالبشر تماماً
أصبحت النماذج اللغوية الكبيرة مثل «تشات جي بي تي» من «أوبن إيه آي (OpenAI)» محوراً رئيسياً في عدد من القطاعات، لقدرتها على توليد نصوص تشبه النصوص البشرية وتقديم رؤى في مجالات متنوعة. ومع ازدياد اعتماد المؤسسات على هذه النماذج في دعم عمليات اتخاذ القرار، يَبرز سؤال جوهري: هل تقع هذه النماذج في الانحيازات المعرفية نفسها التي تؤثر على الحكم البشري؟
هذا التساؤل يصبح أكثر أهمية في مجالات مثل إدارة العمليات، حيث تُعدّ القرارات الخالية من التحيّز أمراً أساسياً لتحقيق الكفاءة والفاعلية.
الانحيازات المعرفية للذكاء الاصطناعي
نشرت مجلة «Manufacturing & Service Operations Management» مؤخراً دراسة بعنوان: «مدير تنفيذي وذكاء اصطناعي: هل يتخذ (ChatGPT) قرارات متحيّزة مثلنا؟»، تستكشف ما إذا كان «ChatGPT» يُظهر أنماطاً من التحيّزات المعرفية البشرية عند وضعه في مواقف تتطلب اتخاذ قرارات تتعلق بإدارة العمليات.
تركّز الدراسة على 18 نوعاً شائعاً من التحيّزات البشرية، مثل الإفراط في الثقة، وتجنب الغموض، ومغالطة الاقتران بهدف تقييم مدى تعرض النموذج لهذه الأخطاء المعرفية.
أجرى الباحثون تجارب على نسختين من «ChatGPT» وهما: «GPT-3.5»، و«GPT-4»، وقدموا لهما سيناريوهات مستمَدة من الأدبيات العلمية (سياقات تقليدية)، وأخرى مُعادة صياغتها ضمن سياقات متعلقة بإدارة المخزون والعمليات. وقد هدفت هذه المقاربة إلى اختبار مدى اتساق ردود النموذج عبر سيناريوهات مختلفة، وتحليل مدى تطابقها مع التحيّزات البشرية.
أبرز نتائج الدراسة
كشفت الدراسة عن عدد من النتائج الجوهرية التي تُلقي الضوء على سلوك النموذج في اتخاذ القرار.
1. انعكاس جزئي لانحيازات البشر
في ما يقارب نصف التجارب، أظهر «تشات جي بي تي» أنماطاً من القرارات تشبه التحيّزات البشرية. فعلى سبيل المثال، في السيناريوهات التي تنطوي على درجة من عدم اليقين، أبدى النموذج ميلاً إلى تجنّب المخاطر وتفضيل الخيارات الآمنة، بما يتماشى مع ما يُعرف في علم النفس بسلوك البشر عند التعامل مع المخاطر. لكن على الجانب الآخر، وفي مسائل تتطلب تفكيراً منطقياً بحتاً مثل اختبارات الاحتمالات، اتخذ «ChatGPT» قرارات أكثر عقلانية وخالية من التحيّز.
2. اتساق ملحوظ عبر السياقات
أظهر النموذج اتساقاً كبيراً في طريقة اتخاذه القرارات بين السيناريوهات التقليدية وسيناريوهات إدارة العمليات، ما يشير إلى وجود منهجية منظمة وثابتة خلف قراراته، حتى عندما تتغير تفاصيل المهمة أو السياق الذي تعمل فيه.
3. تطوّر في الأداء بين النسخ
عند مقارنة النسختين «GPT-3.5» و«GPT-4»، لاحظ الباحثون أن النموذج الأحدث كان أكثر دقة في المسائل الرياضية المحددة، لكنه أظهر أيضاً مستويات أعلى من الانحياز في المسائل المتعلقة بالتفضيلات، مما يدل على أن التطور في قدرات النموذج قد يحسّن الأداء في بعض المهام، بينما يزيد احتمالية التحيّز في أخرى.
تحليل النتائج
مع ازدياد استخدام النماذج اللغوية الكبيرة في بيئات العمل، هناك ثلاث نقاط يجب على مديري العمليات أخذها في الحسبان. يمكن الاستفادة من «ChatGPT» في المجالات التي تتطلب قرارات تستند إلى قواعد واضحة أو حسابات محددة، حيث أظهر النموذج أداء عقلانياً ودقيقاً. وعند التعامل مع مواقف تتطلب أحكاماً ذاتية أو تقييمات تستند إلى التفضيلات، يجب أن يكون هناك وعي بأن النموذج قد يعكس انحيازات البشر. لذا يُنصح بوجود آليات رقابية أو مراجعات بشرية لتفادي اتخاذ قرارات غير موضوعية. وفي حالة الحاجة لاختيار النسخة الأنسب من «ChatGPT» ينبغي على المؤسسات الموازنة بين التكلفة والأداء. فرغم أن «GPT-4» يقدم أداء محسّناً في بعض المهام، لكن زيادة التحيّزات السلوكية في بعض الحالات قد تتطلب إشرافاً أكبر عند استخدامه في بيئات حرجة.
أبعاد أخلاقية أوسع
تكشف نتائج الدراسة أيضاً عن أبعاد أخلاقية مهمة مرتبطة بتوظيف الذكاء الاصطناعي في عمليات اتخاذ القرار. فإذا كانت هذه النماذج تكتسب تحيّزات البشر أو تعكسها، فقد يؤدي ذلك إلى استمرار، أو حتى تضخيم الأخطاء والتمييزات الموجودة مسبقاً. ومن هنا تبرز أهمية مراقبة أداء هذه النماذج باستمرار، وتطبيق إرشادات أخلاقية واضحة لضمان استخدامها بعدالة وشفافية.
مع تسارع دمج الذكاء الاصطناعي في بيئات العمل واتخاذ القرار، تصبح الحاجة لفهم سلوك هذه النماذج أكثر إلحاحاً. تقدم الدراسة رؤى مهمة حول كيف ولماذا قد تتصرّف النماذج اللغوية الكبيرة مثل البشر، في بعض الأحيان للأفضل، وفي أحيان أخرى للأسوأ. من خلال فهم هذه التحيّزات والتعامل معها بوعي، تستطيع المؤسسات الاستفادة من قدرات الذكاء الاصطناعي بشكل أكثر أماناً وفاعلية، بما يعزز جودة القرارات ويقلل الأخطاء.
نقلا عن الشرق الأوسط
هاشتاغز

جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة


الصحراء
منذ 4 أيام
- الصحراء
"OpenAI" تطلق وكيل ذكاء اصطناعي للبرمجة في شات جي بي تي
أعلنت شركة الذكاء الاصطناعي "OpenAI" يوم الجمعة أنها ستطلق معاينة بحثية لوكيل ذكاء اصطناعي للبرمجة يُدعى "Codex"، وهو أكثر وكلاء البرمجة بالذكاء الاصطناعي قدرة حتى الآن لدى الشركة. وقالت "OpenAI" إن وكيل "Codex" سيكون قادرًا على أداء عدة مهام في الوقت نفسه، بما في ذلك كتابة التعليمات البرمجية، وتصحيح الأخطاء البرمجية، وتشغيل الاختبارات، والإجابة على أسئلة المتعلقة بقاعدة بيانات أكواد العميل. ويعتمد الوكيل على نموذج ذكاء اصطناعي يُسمى "codex-1"، وهو نسخة من نموذج التفكير "O3" -من "OpenAI"- مُحسّنة لهندسة البرمجيات، وسيكون متاحًا لمستخدمي اشتراكات "ChatGPT Pro" و"Team" و"Enterprise" في "شات جي بي تي"، بحسب تقرير لصحيفة وول ستريت جورنال، اطلعت عليه "العربية Business". وأشارت الشركة إلى أنها تتطلع الآن إلى تعزيز جهودها في مجال البرمجة، وهو مجالٌ يشهد استثمارات متزايدة من منافسين مثل "مايكروسوفت" و"أمازون" و"غوغل" و"أنثروبيك" وشركات ناشئة مثل "Anysphere"، التي طورت أداة "Cursor" الشهيرة. وقال سرينيفاس نارايانان، نائب رئيس الهندسة في "OpenAI": "هناك العديد من أنظمة الذكاء الاصطناعي الجيدة المتوفرة... المنافسة موجودة بوضوح". تُجري "OpenAI" أيضًا محادثات للاستحواذ على شركة "Windsurf" الناشئة في مجال برمجة بالذكاء الاصطناعي مقابل 3 مليارات دولار. وفي حين تُعتبر "OpenAI" الشركة الأكثر ريادة في مجال روبوتات الدردشة الموجهة للمستهلكين، إلا أنها لا تتمتع بالمكانة نفسها في مجال البرمجة، وفقًا لواين تشي وفاليري تشين، طالبي الدكتوراه في جامعة كارنيجي ميلون، واللذين طورا نظامًا لتقييم أداء النماذج في هندسة البرمجيات. وأوضحا أن نماذج "Sonnet" من شركة أنثروبيك، مُنافسة "OpenAI"، تُعتبر حتى الآن الخيار الأمثل للعديد من المطورين. وأشارت "OpenAI" إلى أن نموذج "GPT-4.1" الخاص بها شهد انتشارًا سريعًا منذ إطلاقه، وأظهر أنه أفضل نموذج للبرمجة بدون قدرات استدلالية في بعض اختبارات المقارنة. وقالت الشركة إن وكيل "Codex" سيُحدث نقلة نوعية في طريقة عمل المطورين من خلال مساعدتهم على تفويض المزيد من المهام. وتعمل العديد من أدوات البرمجة الحالية جنبًا إلى جنب مع المطورين في الوقت الآني، بينما يعمل "Codex" بشكل مستقل في السحابة، ويقدم نتائج في غضون دقيقة إلى 30 دقيقة. وأشارت "OpenAI" إلى أن الأداة تتفوق على منافسيها في استنتاج أسلوب الترميز الخاص بمؤسسة، بالإضافة إلى المساعدة في مراجعة الأكواد البرمجية. نقلا عن العربية نت


الصحراء
منذ 7 أيام
- الصحراء
OpenAI ومايكروسوفت تعيدان النظر في بنود شراكتهما
تعيد شركتا مايكروسوفت وOpenAI النظر في بنود شراكتهما، والتي تبلغ قيمتها عدة مليارات من الدولارات، وذلك لتحقيق المصالح والأهداف التي تسعى كل منهما لتحقيقها. وتعمل الشركتان على إعادة صياغة بنود عقد شراكتهما، بحيث تتمكن مطورة ChatGPT من خوض عملية اكتتاب عام مستقبلاً، مع استمرار وصول مايكروسوفت إلى نماذج الذكاء الاصطناعي فائقة التطور الخاصة بها، وفق صحيفة "فاينانشيال تايمز". وشكّل عملاق نظام التشغيل "ويندوز" (Windows) عامل رفض رئيسي وراء تعطيل خطط الشركة الناشئة، التي تبلغ قيمتها 260 مليار دولار، للخضوع لإعادة هيكلة مؤسسية من شأنها أن تبعد المجموعة عن جذورها كمنظمة غير ربحية. وكانت إحدى المسائل الشائكة المطروحة على طاولة المفاوضات هو حجم الحصة التي ستحصل عليها مايكروسوفت، في حال تمت إعادة هيكلة OpenAI، نظير ما استثمرته، والذي وصل إلى قرابة 13 مليار دولار. إعادة صياغة كاملة وبحسب عدد من المصادر المطلعة، فإن إعادة الصياغة الجارية تشمل كذلك بنود العقد الأصلي الذي أبرمته الشركتان في عام 2019 عندما استثمرت مايكروسوفت أول مليار دولار في تطوير نماذج OpenAI الذكية. يُذكر أن الشراكة الحالية ممتدة حتى 2030، وتنص على السماح لمايكروسوفت بالوصول إلى مختلف ابتكارات OpenAI، بما في ذلك منتجاتها ونماذجها الذكية، إلى جانب حصة من العوائد ومبيعات المنتجات. وأشار الصحيفة إلى أن مايكروسوفت عرضت أن تتخلى عن جزء من حصتها في هيكل شركة OpenAI الجديد الهادف للربح، وذلك في مقابل تمديد قدرتها على الوصول إلى نماذج شريكتها إلى ما بعد 2030. ويُعد الشكل الجديد للشراكة نقطة فاصلة بالنسبة لجهود OpenAI الساعية لإعادة هيكلتها، إلى جانب رسم ملامح مستقبل الشركة، والتي تُعتبر من رواد سوق الذكاء الاصطناعي عبر نماذجها اللغوية الضخمة. تغيير في الاستراتيجية وكان الرئيس التنفيذي لشركة OpenAI، سام ألتمان، كشف مؤخراً، أن هدفه النهائي يتمثل في تطوير ذكاء اصطناعي عام (AGI)، أي أنظمة تتجاوز قدرات البشر. ويأتي هذا التصريح بينما تستمر الشركة في المضي قدماً بمسار معقد نحو إعادة هيكلة نموذجها المؤسسي. وكانت OpenAI تخلت الأسبوع الماضي عن خطط مثيرة للجدل كانت ستؤدي إلى إلغاء السيطرة النهائية للمؤسسة غير الربحية على المجموعة، إلا أن الشركة احتفظت بخطتها الرامية لتحويل ذراعها التجاري إلى شركة منفعة عامة (Public Benefit Corporation)، وهو نموذج يجمع بين تحقيق الأرباح والتركيز على المنفعة الاجتماعية. واعتمدت هذا النموذج مؤخراً، شركات منافسة مثل Anthropic ومبادرة xAI التي أطلقها الملياردير إيلون ماسك، حيث يتيح هذا الهيكل الجديد لشركة OpenAI تقديم أسهم للمستثمرين، في خطوة وصفها مصدر مقرب من الشركة بأنها مطلب رئيسي من المستثمرين الحاليين، حيث سيساعد هذا النموذج على "تمهيد الطريق لطرح أسهم الشركة للاكتتاب العام في المستقبل"، وفق ما نقله التقرير. علاقة متوترة ولفتت مصادر مطلعة على طبيعة العلاقة بين OpenAI ومايكروسوفت، إلى أن المفاوضات بين الطرفين تشهد حالة من الفتور في التعاون، رغم استمرار عملاق التقنية في دمج تقنيات OpenAI داخل منتجاته البرمجية، وتخصيص موارد ضخمة من القدرة الحاسوبية اللازمة لتدريب نماذج الذكاء الاصطناعي الخاصة بالشركة الناشئة. وتسعى مطورة ChatGPT من جانبها إلى تقليل اعتمادها على مايكروسوفت، حيث شرعت في بناء بنية تحتية حوسبية ضخمة بالتعاون مع شركاء عالميين من أمثال مجموعة SoftBank اليابانية وOracle التابعة للملياردير لاري إليسون، وذلك في مشروع أطلق عليه اسم Stargate. ونقلت "فاينانشيال تايمز" عن مسؤول بارز في مايكروسوفت، قوله: "الصراع نابع جزئياً من أسلوب العمل، إذ تقول OpenAI لنا: 'قدموا لنا الأموال والقدرة الحاسوبية ولا تتدخلوا في شؤوننا'، مما يؤدي بطبيعة الحال إلى نشوب توترات. بصراحة، هذا تصرف شركاء سيئين ويعكس نوعاً من الغرور". وأكد مصدر مقرب من OpenAI، أن الشركة لا تزال تسعى لإنجاح عملية التحويل إلى شركة منفعة عامة، قائلاً: "ما زالت مايكروسوفت ترغب في إنجاح هذا التحول. لم تصل الأمور إلى حد القطيعة التامة، إنها مفاوضات صعبة لكننا واثقون من التوصل إلى اتفاق". وقال مصدر مقرب من الشركة، إن شرط التحويل إلى نموذج ربحي تقليدي هو "اعتراف على أعلى مستوى بما يلزم لجمع هذا الحجم من التمويل"، مؤكداً أن جمع 40 مليار دولار ضمن هيكل ربحي محدود "أمر غير ممكن". مخاطر قانونية وحتى في حالة توصل OpenAI لاتفاق مع مايكروسوفت، ستظل هناك تحديات أخرى تحول دون التحول بالكامل إلى الربحية، فقد تعهدت الشركة بأن تحافظ المؤسسة غير الربحية على السيطرة النهائية عبر امتلاك حصة كبيرة في شركة المنفعة العامة، ومنحها حق تعيين أعضاء مجلس إدارتها. لكن هذا الالتزام لم يرضِ بعض المنتقدين الذين يرون أن الشركة تغلّب مصالح الربح على مهمتها الأساسية. من جانبه، شن إيلون ماسك، الذي غادر OpenAI بعد خلافات مع سام ألتمان، حملة قانونية ضد الشركة، وكتب محاميه مارك توبيروف، في بيان: "لا تزال المؤسسة الخيرية تقوم بتحويل أصولها وتقنياتها لأشخاص خاصين لتحقيق مكاسب خاصة، من بينهم سام ألتمان، بينما يتم نقل كافة أنشطة الذكاء الاصطناعي إلى شركة ربحية ضخمة". وتنتظر OpenAI حالياً موافقة سلطات كاليفورنيا وديلاوير، وهما الولايتان اللتان تحتضنان مقر الشركة وكيانها القانوني، على أن الخطة الجديدة ستحافظ على الهدف الأساسي للشركة بخدمة الصالح العام. وقالت المدعية العامة لولاية ديلاوير، كاثي جينينجز، إنها ستراجع خطة OpenAI لـ"ضمان توافقها مع أهدافها الخيرية، وضمان بقاء السيطرة الفعلية للمؤسسة غير الربحية على الكيان الربحي". فيما يرى خبراء الصناعة أن فشل خطة OpenAI في تحويل ذراعها التجاري إلى شركة منفعة عامة قد يُمثّل ضربة قاسية لها، ويؤثر على قدرتها على جذب التمويل، أو طرح أسهمها للاكتتاب العام مستقبلاً، أو حتى الحصول على الموارد المالية اللازمة لمنافسة شركات التكنولوجيا الكبرى مثل جوجل. نقلا عن الشرق للأخبار


الصحراء
١١-٠٥-٢٠٢٥
- الصحراء
تبني الشركات لتقنيات "OpenAI" يتسارع على حساب منافسيها
يبدو أن شركة الذكاء الاصطناعي "OpenAI" تتقدم بفارق كبير على منافسيها في سباق استقطاب إنفاق الشركات على الذكاء الاصطناعي، وفقًا لبيانات المعاملات من شركة "Ramp" للتكنولوجيا المالية. ووفقًا لمؤشر "AI Index" من "Ramp"، والذي يُقدّر معدل تبني الشركات لمنتجات الذكاء الاصطناعي بالاعتماد على بيانات "Ramp" لبطاقات الدفع والفواتير، كانت 32.4% من الشركات الأميركية تدفع مقابل اشتراكات لنماذج ومنصات وأدوات الذكاء الاصطناعي من "OpenAI" اعتبارًا من أبريل. وهذه النسبة أعلى من 18.9% في يناير و28% في مارس لمنتجات "OpenAI" مطورة روبوت الدردشة الشهير "شات جي بي تي"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business". وأظهرت البيانات أن منافسي "OpenAI" واجهوا صعوبة في تحقيق تقدم مماثل، فقد كانت نسبة 8% فقط من الشركات لديها اشتراكات في منتجات شركة أنثروبيك اعتبارًا من الشهر الماضي، مقارنةً بـ 4.6% في يناير. وفي غضون ذلك، شهدت اشتراكات "Google AI" انخفاضًا من 2.3% في فبراير إلى 0.1% في أبريل. وكتب آرا خرزيان، الخبير الاقتصادي في "Ramp"، في منشور مدونة نُشر يوم الثلاثاء: "تواصل OpenAI إضافة عملاء (بوتيرة) أسرع من أي شركة أخرى على منصة Ramp". وأضاف: "يُظهر مؤشر Ramp AI الخاص بنا...أن تبني الشركات لـ(منتجات) OpenAI ينمو أسرع من الشركات المنافسة". لكن تجدر الإشارة إلى أن مؤشر "Ramp AI" قد لا يُعد مقياسًا مثاليًا، فهو لا يتناول سوى عينة من بيانات إنفاق الشركات من حوالي 30,000 شركة. وفي تقرير نُشر في أبريل، ذكرت "OpenAI" أن لديها أكثر من مليوني مستخدم من الشركات، بزيادة عن مليون مستخدم في سبتمبر. وتتوقع الشركة أن تُسهم إيرادات الشركات بشكل كبير في صافي أرباحها. وفقًا لوكالة بلومبرغ، تتوقع شركة "OpenAI" تحقيق إيرادات بقيمة 12.7 مليار دولار هذا العام و29.4 مليار دولار في عام 2026. وتدرس "OpenAI"، التي لا تتوقع تحقيق تدفقات نقدية إيجابية حتى عام 2029، خططًا لفرض رسوم على عملاء من الشركات بآلاف الدولارات مقابل "وكلاء" ذكاء اصطناعي متخصصين مصممين للمساعدة في مهام هندسة البرمجيات والبحث. نقلا عن العربية نت