#أحدث الأخبار مع #Kovácsمجلة رواد الأعمال٢١-٠٤-٢٠٢٥علوممجلة رواد الأعمالهل يخدع الذكاء الاصطناعي البشر بمقالات ومراجعات مزيفة؟شهدت نماذج الذكاء الاصطناعي الكثير من التطور في الفترات القليلة الماضية، حتى إنها دخلت الكثير من المجالات الحياتية للبشر. ومن المعروف أن الكثيرين يعتمدون على مواقع المراجعات عند تجربة مطاعم جديدة أو أطباء على سبيل المثال. ويعد موقع Yelp أحد أهم هذه المواقع التي توفر خدمة المراجعات من مختصين وزوار. ومثل الكثير من الأشخاص أصبح Balázs Kovács؛ أستاذ السلوك التنظيمي في كلية 'ييل للإدارة'، يعتمد على تقييمات Yelp عندما يتعلق الأمر باختيار مطعم جديد. جدير بالذكر أن 'Kovács' متخصص في إجراء الأبحاث العلمية على نماذج اللغات الكبيرة وبرامج الذكاء الاصطناعي التوليدية. مثل: ChatGPT من OpenAI. تجارب حياتية للزوار قال 'Kovács': 'لا أهتم كثيرًا بالأرقام ومدلولاتها، بل أقرأ لأتفاعل مع التجربة. إذ يكون الأمر أكثر لطفًا لو كتب أحدهم عن تجربته. أو اشتكى مثلًا لاضطراره للانتظار 45 دقيقة للحصول على الحساء'. وأضاف: 'أدرك أن الذكاء الاصطناعي التوليدي أصبح أكثر تطورًا خلال السنوات القليلة الماضية. حيث كانت النصوص المُولّدة سابقًا بواسطة الذكاء الاصطناعي تبدو بسيطة وبدائية. لكن مع صدور أحدث إصدارات ChatGPT بدا الأمر أقرب إلى البشر. وإذا كان نص الذكاء الاصطناعي يبدو بشريًا فيمكننا التساؤل: ما مدى سهولة إنشاء تقييمات مزيفة على Yelp؟'. واتضح أن الأمر سهل؛ ففي سلسلةٍ من التجارب لدراسةٍ جديدة وجد 'Kovács' أن لجنة من المُختَبِرين البشريين لم يتمكنوا من التمييز بين المراجعات التي كتبها البشر وتلك التي كتبها GPT-4. إذ تمكن أسلوب الروبوت من خداعهم وكانوا أكثر ثقةً بمصداقية المراجعات التي كتبها الذكاء الاصطناعي مقارنةً بمراجعات البشر. الذكاء الاصطناعي يجتاز اختبارات محاكاة البشر تعود فكرة اختبار قدرة الذكاء الاصطناعي بقياس مدى نجاح الحاسوب في محاكاة الإنسان إلى عام 1950م، عندما اقترح عالِم الرياضيات Alan Turing 'لعبة المحاكاة' -المعروفة الآن باسم اختبار Turing- ولعقود كانت أنظمة الذكاء الاصطناعي تفشل في اجتياز هذا الاختبار دائمًا. يقول 'Kovács': 'في الماضي كان الأمر سيئًا للغاية، لدرجة أننا كنا نستطيع دائمًا التنبؤ بنتيجة الاختبار مسبقًا. أما الآن فلم نعد قادرين على التنبؤ به'. وبدأ Balázs Kovács دراسته بجمع مجموعة تقييمات متنوعة من قاعدة بيانات Yelp، كُتبت عام 2019م، قبل إصدار الذكاء الاصطناعي التوليدي. ومن ثم قدّمها إلى برنامج GPT-4، ثم طلب منه توليد تقييمات مماثلة لنفس المطاعم، بنفس الطول والأسلوب تقريبًا ، مع بعض التعديلات الطفيفة، مثل: الأخطاء المطبعية واستخدام الأحرف الكبيرة للتأكيد. وانتهى به الأمر بمجموعة من 100 تقييم مزيف. البشر لم يستطيعوا التفرقة وبعد ذلك عرض 'Kovács' مجموعة عشوائية من هذه المراجعات، ممزوجةً بمجموعة مختارة من 100 مراجعة حقيقية، على مجموعة من المشاركين في دراسة بحثية مدفوعة الأجر، وطلب منهم تحديد المراجعات التي كتبها بشر وتلك التي كتبها ذكاء اصطناعي. وكحافز وعد المشاركين بمكافأة مالية إذا تمكنوا من تصنيف 16 مراجعة من أصل 20 مراجعة بشكل صحيح. ومن بين 151 مشاركًا لم يتلقَّ سوى 6 مشاركين المكافأة الإضافية. وفي المرحلة الثانية من التجربة، بدلًا من سؤال المشاركين عن إجابة بسيطة بنعم أو لا، طلب منهم تقييم إجاباتهم على مقياس من خمس درجات، من 'على الأرجح بشر' إلى 'على الأرجح ذكاء اصطناعي'. وبشكل عام تمكنوا من تحديد المراجعات المكتوبة بشريًا في نصف الحالات تقريبًا، وهو ما يُعادل تقريبًا مستوى النجاح في رمي العملة المعدنية. مع ذلك كانت الردود على التقييمات المكتوبة بتلك الطريقة أكثر إثارة للاهتمام. ولم يتمكن المشاركون من تحديدها بشكل صحيح إلا في حوالي ثلث الحالات، وعندما أخطأوا في تحديد تقييم على أنه مكتوب من قِبل بشر، كانوا أكثر ثقة في إجاباتهم. بمعنى آخر: تمكّن GPT-4 من إنتاج تقييمات مطاعم تبدو أقرب إلى الواقع من أعمال بشرية. وكانت نتائج هذه التجارب مطابقةً تقريبًا لتوقعات 'Kovács'، لكنه فوجئ بمدى إتقان GPT-4 لكتابة اللغة البشرية. يقول: 'لم أكن أتوقع أن يكون أكثر إنسانيةً من البشر'. الذكاء الاصطناعي أفضل فى بعض التطبيقات أشار 'Kovács' إلى أن الذكاء الاصطناعي الذي يُنجز مهمةً بشريةً أفضل من الإنسان ليس بالضرورة أمرًا سيئًا. قائلًا: 'في حالة السيارة ذاتية القيادة كثيرٌ من الناس ليسوا سائقين ماهرين. إذا قاد الذكاء الاصطناعي السيارة بإتقانٍ ولم يُخطئ قط فهذا ما أتمناه'. إن تدفق تقييمات المطاعم المكتوبة بالذكاء الاصطناعي ليس بالضرورة كارثة. فلا يتطلب الأمر روبوتًا لكتابة تقييم لمطعم لم تزره من قبل. وإذا قرر الناس أنهم لم يعودوا قادرين على الوثوق بالتقييمات الجماعية فسوف يعودون ببساطة إلى البحث عن التوصيات كما كانوا يفعلون قبل عصر Yelp: بسؤال أصدقائهم أو الاعتماد على النقاد المحترفين. لكن كما يقول 'Kovács': ' تُظهر الدراسة قدرة المحتوى المُنشأ باستخدام نماذج اللغة الكبيرة على إحداث فوضى في مجالات أخرى. وعلى الناس إدراك أن الأمر مُخيف للغاية. فإذا لم يعد بإمكانهم معرفة ما يكتبه الروبوتات أو الإنسان فستكون هناك أخبار كاذبة أكثر من ذي قبل'. وأوضح أن تقييمات Yelp المزيفة ليست سوى غيض من فيض. مضيفًا: 'هناك صور وأفلام مزيفة، ولن يستطيع الناس تمييزها. وستكون هناك عواقب وخيمة، ولن يصدق أحد أي شيء'. نقلًا عن موقع 'Yale Insight'.
مجلة رواد الأعمال٢١-٠٤-٢٠٢٥علوممجلة رواد الأعمالهل يخدع الذكاء الاصطناعي البشر بمقالات ومراجعات مزيفة؟شهدت نماذج الذكاء الاصطناعي الكثير من التطور في الفترات القليلة الماضية، حتى إنها دخلت الكثير من المجالات الحياتية للبشر. ومن المعروف أن الكثيرين يعتمدون على مواقع المراجعات عند تجربة مطاعم جديدة أو أطباء على سبيل المثال. ويعد موقع Yelp أحد أهم هذه المواقع التي توفر خدمة المراجعات من مختصين وزوار. ومثل الكثير من الأشخاص أصبح Balázs Kovács؛ أستاذ السلوك التنظيمي في كلية 'ييل للإدارة'، يعتمد على تقييمات Yelp عندما يتعلق الأمر باختيار مطعم جديد. جدير بالذكر أن 'Kovács' متخصص في إجراء الأبحاث العلمية على نماذج اللغات الكبيرة وبرامج الذكاء الاصطناعي التوليدية. مثل: ChatGPT من OpenAI. تجارب حياتية للزوار قال 'Kovács': 'لا أهتم كثيرًا بالأرقام ومدلولاتها، بل أقرأ لأتفاعل مع التجربة. إذ يكون الأمر أكثر لطفًا لو كتب أحدهم عن تجربته. أو اشتكى مثلًا لاضطراره للانتظار 45 دقيقة للحصول على الحساء'. وأضاف: 'أدرك أن الذكاء الاصطناعي التوليدي أصبح أكثر تطورًا خلال السنوات القليلة الماضية. حيث كانت النصوص المُولّدة سابقًا بواسطة الذكاء الاصطناعي تبدو بسيطة وبدائية. لكن مع صدور أحدث إصدارات ChatGPT بدا الأمر أقرب إلى البشر. وإذا كان نص الذكاء الاصطناعي يبدو بشريًا فيمكننا التساؤل: ما مدى سهولة إنشاء تقييمات مزيفة على Yelp؟'. واتضح أن الأمر سهل؛ ففي سلسلةٍ من التجارب لدراسةٍ جديدة وجد 'Kovács' أن لجنة من المُختَبِرين البشريين لم يتمكنوا من التمييز بين المراجعات التي كتبها البشر وتلك التي كتبها GPT-4. إذ تمكن أسلوب الروبوت من خداعهم وكانوا أكثر ثقةً بمصداقية المراجعات التي كتبها الذكاء الاصطناعي مقارنةً بمراجعات البشر. الذكاء الاصطناعي يجتاز اختبارات محاكاة البشر تعود فكرة اختبار قدرة الذكاء الاصطناعي بقياس مدى نجاح الحاسوب في محاكاة الإنسان إلى عام 1950م، عندما اقترح عالِم الرياضيات Alan Turing 'لعبة المحاكاة' -المعروفة الآن باسم اختبار Turing- ولعقود كانت أنظمة الذكاء الاصطناعي تفشل في اجتياز هذا الاختبار دائمًا. يقول 'Kovács': 'في الماضي كان الأمر سيئًا للغاية، لدرجة أننا كنا نستطيع دائمًا التنبؤ بنتيجة الاختبار مسبقًا. أما الآن فلم نعد قادرين على التنبؤ به'. وبدأ Balázs Kovács دراسته بجمع مجموعة تقييمات متنوعة من قاعدة بيانات Yelp، كُتبت عام 2019م، قبل إصدار الذكاء الاصطناعي التوليدي. ومن ثم قدّمها إلى برنامج GPT-4، ثم طلب منه توليد تقييمات مماثلة لنفس المطاعم، بنفس الطول والأسلوب تقريبًا ، مع بعض التعديلات الطفيفة، مثل: الأخطاء المطبعية واستخدام الأحرف الكبيرة للتأكيد. وانتهى به الأمر بمجموعة من 100 تقييم مزيف. البشر لم يستطيعوا التفرقة وبعد ذلك عرض 'Kovács' مجموعة عشوائية من هذه المراجعات، ممزوجةً بمجموعة مختارة من 100 مراجعة حقيقية، على مجموعة من المشاركين في دراسة بحثية مدفوعة الأجر، وطلب منهم تحديد المراجعات التي كتبها بشر وتلك التي كتبها ذكاء اصطناعي. وكحافز وعد المشاركين بمكافأة مالية إذا تمكنوا من تصنيف 16 مراجعة من أصل 20 مراجعة بشكل صحيح. ومن بين 151 مشاركًا لم يتلقَّ سوى 6 مشاركين المكافأة الإضافية. وفي المرحلة الثانية من التجربة، بدلًا من سؤال المشاركين عن إجابة بسيطة بنعم أو لا، طلب منهم تقييم إجاباتهم على مقياس من خمس درجات، من 'على الأرجح بشر' إلى 'على الأرجح ذكاء اصطناعي'. وبشكل عام تمكنوا من تحديد المراجعات المكتوبة بشريًا في نصف الحالات تقريبًا، وهو ما يُعادل تقريبًا مستوى النجاح في رمي العملة المعدنية. مع ذلك كانت الردود على التقييمات المكتوبة بتلك الطريقة أكثر إثارة للاهتمام. ولم يتمكن المشاركون من تحديدها بشكل صحيح إلا في حوالي ثلث الحالات، وعندما أخطأوا في تحديد تقييم على أنه مكتوب من قِبل بشر، كانوا أكثر ثقة في إجاباتهم. بمعنى آخر: تمكّن GPT-4 من إنتاج تقييمات مطاعم تبدو أقرب إلى الواقع من أعمال بشرية. وكانت نتائج هذه التجارب مطابقةً تقريبًا لتوقعات 'Kovács'، لكنه فوجئ بمدى إتقان GPT-4 لكتابة اللغة البشرية. يقول: 'لم أكن أتوقع أن يكون أكثر إنسانيةً من البشر'. الذكاء الاصطناعي أفضل فى بعض التطبيقات أشار 'Kovács' إلى أن الذكاء الاصطناعي الذي يُنجز مهمةً بشريةً أفضل من الإنسان ليس بالضرورة أمرًا سيئًا. قائلًا: 'في حالة السيارة ذاتية القيادة كثيرٌ من الناس ليسوا سائقين ماهرين. إذا قاد الذكاء الاصطناعي السيارة بإتقانٍ ولم يُخطئ قط فهذا ما أتمناه'. إن تدفق تقييمات المطاعم المكتوبة بالذكاء الاصطناعي ليس بالضرورة كارثة. فلا يتطلب الأمر روبوتًا لكتابة تقييم لمطعم لم تزره من قبل. وإذا قرر الناس أنهم لم يعودوا قادرين على الوثوق بالتقييمات الجماعية فسوف يعودون ببساطة إلى البحث عن التوصيات كما كانوا يفعلون قبل عصر Yelp: بسؤال أصدقائهم أو الاعتماد على النقاد المحترفين. لكن كما يقول 'Kovács': ' تُظهر الدراسة قدرة المحتوى المُنشأ باستخدام نماذج اللغة الكبيرة على إحداث فوضى في مجالات أخرى. وعلى الناس إدراك أن الأمر مُخيف للغاية. فإذا لم يعد بإمكانهم معرفة ما يكتبه الروبوتات أو الإنسان فستكون هناك أخبار كاذبة أكثر من ذي قبل'. وأوضح أن تقييمات Yelp المزيفة ليست سوى غيض من فيض. مضيفًا: 'هناك صور وأفلام مزيفة، ولن يستطيع الناس تمييزها. وستكون هناك عواقب وخيمة، ولن يصدق أحد أي شيء'. نقلًا عن موقع 'Yale Insight'.
٢١-٠٤-٢٠٢٥
