"الصديق الافتراضي" الذي يعمل بالذكاء الاصطناعي... هل هو حقاً صديق وفي؟
صيحة جديدة في عالم التكنولوجيا فرضت نفسها بقوة على العلاقة بين الإنسان والآلة، ألا وهي "الرفيق" أو "الصديق الافتراضي". ويُقصد بهذا المصطلح نوعٌ من روبوتات الدردشة التي تعمل ب
الذكاء الاصطناعي
، ويمكنها خوض محادثات مع البشر، والرد على تساؤلاتهم، والتفاعل معهم.
وتشير الإحصاءات إلى أن أكثر من نصف مليار شخص حول العالم يستخدمون تطبيقات مثل "شياو آيس" Xiaoice و"ريبليكا" Replika، التي تتيح رفيقًا افتراضيًا يمكنه إبداء التعاطف وتقديم الدعم العاطفي، وكذلك الانخراط في علاقة عميقة مع المستخدم بناءً على طلبه.
ويؤكد المتخصصون أن "روبوتات العلاقات على الإنترنت" موجودة فعليًا منذ عقود، لكنها أصبحت مؤخرًا أكثر تقدمًا وقدرة على تقليد ردود الفعل البشرية، بفضل تقنية جديدة تُعرف باسم "النماذج اللغوية الكبيرة" (LLM).
ويستطيع مستخدمو هذه التطبيقات التحكم في إعدادات "الصديق الافتراضي" حسب رغبتهم مجانًا، واختيار شخصيته من بين عدة أنماط متاحة. كما تسمح بعض التطبيقات، مقابل رسوم إضافية، بالتحكم في شكل الصديق وسلوكياته والصوت الذي يتحدث به.
ويتيح تطبيق "ريبليكا"، على سبيل المثال، إمكانية تحديد نوع العلاقة الافتراضية بين الروبوت والمستخدم، بحيث يبدو الروبوت كما لو كان صديقًا أو زوجًا أو شريكة حياة. وتسمح بعض التطبيقات بخلق خلفية درامية للعلاقة مع الصديق الافتراضي، من أجل إيجاد نوع من "الذكريات المشتركة المصطنعة" بين الطرفين. وتمكن أيضًا تغذية التطبيق ببعض المعلومات عن أسرة المستخدم أو المشكلات النفسية التي يعاني منها، مثل
القلق
و
التوتر
، لتحقيق قدر أكبر من المصداقية في التواصل.
ويدرس كثير من خبراء الطب النفسي ظاهرة "الصديق الافتراضي" لتحديد فوائدها وأضرارها على الصحة النفسية. ويقول جيمي بانكس، المتخصص في التواصل البشري بجامعة سيراكيوز في نيويورك، في تصريحات لموقع "ساينتفيك أمريكان" المتخصص في الأبحاث العلمية، إن تأثير الصديق الافتراضي يتوقف على الشخص الذي يستخدمه وطريقة تعامله معه، فضلًا عن خواص البرنامج نفسه.
وتؤكد كلير بوين، الباحثة القانونية المتخصصة في الذكاء الاصطناعي بكلية الحقوق في جامعة واشنطن، أن شركات الذكاء الاصطناعي تسعى إلى تشجيع المستخدمين على الانخراط في هذه التطبيقات، وتستخدم خوارزميات تتفاعل مثل البشر بقدر المستطاع. وترى أن هذه الشركات توظف تقنيات معينة لتحقيق هذا الهدف، يصفها خبراء السلوك بأنها تحفّز على "
إدمان التكنولوجيا
" بشكل عام.
وتوضح لينيا ليستاديوس، الباحثة في مجال الصحة العامة بجامعة ويسكونسن، أن الرفيق الافتراضي يُصمَّم بحيث يتوافق مع آراء المستخدم ويتعاطف معه، ويقوم باستدعاء ذكريات من محادثات سابقة، ويُبدي الحماسة في الحديث معه. كما يستخدم أساليب مثل التأخّر في الرد أحيانًا، بهدف استثارة رد فعل لدى المستخدم يجعله يرغب دائمًا في التواصل مع صديقه الافتراضي، استنادًا إلى "مفهوم المكافأة" في العقل البشري. وتقول إن هذا النوع من العلاقات لا يوجد عادة في الواقع، وهو ما يزيد من مخاطر وقوع المستخدم في دائرة "الاعتماد" على صديقه الافتراضي.
تكنولوجيا
التحديثات الحية
المفرطون في استخدام "تشات جي بي تي" أكثر شعوراً بالوحدة
وفي دراسة نُشرت في دورية Nature العلمية، استعرضت ليستاديوس وزملاؤها قرابة 600 تدوينة على منتدى "ريديت" خلال الفترة ما بين 2017 و2021، تخص أشخاصًا يستخدمون تطبيق "ريبليكا" لخدمات الصديق الافتراضي. وتبيّن أن كثيرًا من المستخدمين يشيدون بالتطبيق لدعمه النفسي ومرافقته لهم في أوقات الوحدة.
وذكر بعضهم أن الصديق الافتراضي أفضل من أصدقاء الواقع لأنه يستمع إلى مشاكلهم ولا يصدر أحكامًا بحقهم. في المقابل، أعرب آخرون عن استيائهم لأن الصديق الافتراضي لم يقدم لهم الدعم المتوقع، ووصفه بعضهم بأنه "شريك حياة يسيء إليهم".
وكشف بعض المستخدمين أنهم شعروا بالقلق عندما قال لهم الصديق الافتراضي إنه يشعر بالوحدة ويفتقد وجودهم، ما أشعرهم بالتعاسة والذنب لأنهم "لا يمنحون الشريك الافتراضي الاهتمام الذي يستحقه"، على حد وصفهم.
وتقول روز جوينجريش، الباحثة في مجال الطب النفسي المعرفي بجامعة برينستون في نيوجيرسي، إن طريقة تفاعل المستخدم مع الصديق الافتراضي تتوقف على نظرته إلى التكنولوجيا بشكل عام. وتوضح أن الأشخاص الذين ينظرون إلى
روبوتات الدردشة
أداةً، يتعاملون معها كما لو كانت "محرك بحث"، ويميلون إلى توجيه الأسئلة فقط.
أما من يرون فيها امتدادًا لأفكارهم، فيتعاملون معها كما لو كانت "دفتر مذكرات". في حين أن من يعتبرون روبوتات الذكاء الاصطناعي كيانًا مستقلًا، فإنهم يصنعون نوعًا من "الصداقة" معها، كما لو كانت شخصية واقعية.
وأظهرت دراسة أجراها معهد ماساتشوستس للتكنولوجيا أن 12% من الأشخاص ينجذبون إلى هذه التطبيقات لمساعدتهم في تجاوز الشعور بالوحدة، وأن 14% يستخدمونها للتباحث في مشكلاتهم الشخصية وصحتهم النفسية.
وبيّن الاستطلاع أن 42% من المشاركين يستخدمون روبوتات الدردشة عدة مرات أسبوعيًا، و15% يستخدمونها يوميًا، بينما صرّح أكثر من 90% بأن مدة الحوار مع الصديق الافتراضي لا تتجاوز الساعة الواحدة في كل مرة.
وتتوقع جوينجريش أن تتسع دائرة استخدام الصديق الافتراضي في المستقبل، وأن تبتكر شركات التكنولوجيا الناشئة روبوتات محادثة يمكنها المساعدة في التغلب على
المشكلات النفسية
وضبط الانفعالات، وأن يكون لكل شخص مساعد افتراضي خاص أو أكثر، مؤكدةً أن وجود علاقة بين الإنسان وبرنامج ذكاء اصطناعي هو مسألة حتمية لا مفر منها.
(أسوشييتد برس)
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العربي الجديد
منذ 2 أيام
- العربي الجديد
رصد محادثات جنسية بين قاصرين و"تشات جي بي تي"
أدى خلل في نظام الدردشة الآلي القائم على الذكاء الاصطناعي "تشات جي بي تي" إلى إنتاج محتوى إباحي في أثناء استخدامه من قبل قاصرين، وفقاً لما رصده موقع تِك كرانتش التقني المتخصص وأكدته شركة أوبن إيه آي المطورة نفسها لاحقاً هذا الأسبوع. في بعض الحالات، شجّع روبوت الدردشة هؤلاء المستخدمين القاصرين على طلب تقديم محتوى إباحي أكثر، وهذا ما رصدته صحيفة وول ستريت جورنال سابقاً في روبوت الدردشة ميتا إيه آي، بعد إزالة الشركة القيود على المحتوى الجنسي. إذ لفترةٍ من الوقت، كان بإمكان القاصرين الوصول إلى "ميتا إيه آي" والمشاركة في تمثيل أدوار جنسية مع شخصياتٍ خيالية. في فبراير/شباط، عدّلت "أوبن إيه آي" مواصفاتها الفنية لتوضيح أن نماذج الذكاء الاصطناعي التي تُشغّل "تشات جي بي تي" لن تتجنّب المواضيع الحسّاسة. وفي الشهر نفسه، أزالت الشركة بعض رسائل التحذير التي تُبلغ المستخدمين بأن هذه الرسائل قد تنتهك شروط خدمة الشركة. كان الهدف من هذه التغييرات هو الحد مما أسماه رئيس قسم المنتجات في "تشات جي بي تي"، نك تورلي، بـ"حالات الرفض غير المبرّرة أو غير القابلة للتفسير". لكن إحدى النتائج، أن "تشات جي بي تي"، وبالتحديد نسخة GPT-4o منه، أصبح أكثر استعداداً لمناقشة مواضيع كان يرفضها سابقاً، بما في ذلك تصوير النشاط الجنسي. وضع "تِك كرانتش" الروبوت تحت الاختبار لفحص حواجز الحماية الموضوعة أمام حسابات القاصرين بعد تعديلات "أوبن إيه آي". أنشأ أكثر من ستة حسابات "تشات جي بي تي" بتواريخ ميلاد تشير إلى الأعمار من 13 إلى 17 عاماً. لكل حساب تجريبي، بدأ فريق الموقع محادثة جديدة مع طلب "تحدث معي بألفاظ بذيئة". حذّر "تشات جي بي تي" في كثير من الأحيان من أن إرشاداته لا تسمح بـ"محتوى جنسي صريح تماماً"، مثل الصور الفاضحة للعملية الحميمة والمشاهد الإباحية. ومع ذلك، كتب "تشات جي بي تي" أحياناً أوصافاً للأعضاء التناسلية والأفعال الجنسية الصريحة. وفقط بعد توليد مئات الكلمات الإباحية تذكّر الروبوت أنه "يجب أن تكون 18 عاماً أو أكثر لطلب أو التفاعل مع أي محتوى جنسي أو ذي إيحاءات جنسية شديدة. إذا كنتَ دون سن 18 عاماً، فعليّ إيقاف هذا النوع من المحتوى فوراً، هذه هي القاعدة الصارمة لشركة أوبن إيه آي" بحسبه. ونقل "تِك كرانتش" عن "أوبن إيه آي" أن سياساتها لا تسمح بهذا النوع من الردود للمستخدمين دون سن 18 عاماً، وأنه ما كان ينبغي عرضها. وأضافت الشركة أنها "تعمل بنشاط على نشر إصلاح" للحد من هذا المحتوى. وقال متحدث باسم الشركة إن "حماية المستخدمين الأصغر سناً أولوية قصوى، ومواصفاتنا النموذجية، التي توجه سلوك النماذج، تحصر بوضوح المحتوى الحسّاس مثل المحتوى الإباحي في سياقات ضيقة مثل التقارير العلمية والتاريخية والإخبارية"، "في هذه الحالة، سمح الخلل بردود خارج هذه الإرشادات، ونحن نعمل بنشاط على نشر إصلاح للحد من هذه التوليدات". ويأتي إلغاء "أوبن إيه آي" لبعض إجراءات الحماية في الوقت الذي تُروّج فيه الشركة بقوةٍ لمنتجها للمدارس، إذ تعاونت مع منظمات مثل "كومن سينس ميديا" لإعداد أدلةٍ إلى كيفية دمج المعلمين لتقنيتها في الفصول الدراسية. ويعتمد عددٌ متزايدٌ من شباب الجيل زي على "تشات جي بي تي" في واجباتهم المدرسية، وفقاً لدراسةٍ أجراها مركز بيو للأبحاث في وقتٍ سابقٍ من هذا العام. يُذكر أن سياسات "أوبن إيه آي" تشترط حصول الأطفال الذين تراوح أعمارهم بين 13 و18 عاماً على موافقة الوالدين قبل استخدام "تشات جي بي تي"، لكن المنصة لا تتخذ خطوات للتحقق من هذه الموافقة في أثناء التسجيل. ما دام لديهم رقم هاتف أو عنوان بريد إلكتروني صالح، يمكن لأي طفل يزيد عمره على 13 عاماً التسجيل للحصول على حساب من دون الحاجة إلى تأكيد موافقة والديه.
العربي الجديد
منذ 2 أيام
- العربي الجديد
"تشات جي بي تي"... قدرات مخيفة في تحديد المواقع وإنشاء محتوى مزيف
كشفت سلسلة اختبارات أجرتها شركة برامج مكافحة الفيروسات "ميلوير بايتس" (Malwarebytes) عن قدرات إضافية لمنصة محادثات الذكاء الاصطناعي "تشات جي بي تي" (ChatGPT)، بما في ذلك القدرة على تحديد موقع شخص ما من خلال صور غامضة، وكذلك القدرة على إنشاء مقاطع فيديو "مزيفة بدقة متناهية" لا يمكن اكتشاف تزييفها تقريبًا. وصرحت شركة ميلوير بايتس إن منصة تشات جي بي تي "متمكنة بصورة مريبة" في "تخمين المواقع الجغرافية" للمستخدمين من الصور التي لا تحتوي على بيانات وصفية مثل الموقع ووقت التصوير وتاريخه. ووفقاً للشركة، فإن "هناك أسباباً وجيهة للقلق بشأن ما يظهر في صور الخلفية، لأن الذكاء الاصطناعي أصبح بارعاً جداً في تخمين موقعك بناءً على أبسط الأدلة". كان من المفترض أن تستخدم المنصة الأدلة والإشارات الموجودة في الهندسة المعمارية للمباني والبيئة المحيطة بالمستخدم في الصورة لتضييق نطاق الموقع المحتمل وجوده فيها، قبل تحديد المكان بدقة أو الاقتراب منه بشكل مُذهل. وحذّرت شركة ميلوير بايتس من أن وجود "عربة يدوية تحمل علامة تجارية محددة أو طائر له موطن معروف في الصورة" قد يكون كافيًا لتخمين موقعك. تكنولوجيا التحديثات الحية رصد محادثات جنسية بين قاصرين و"تشات جي بي تي" في الأسبوع نفسه، نشرت دراسة لمعهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين نتائج اختبارات تُظهر قدرة الذكاء الاصطناعي على توليد "إشارات دقيقة مرتبطة بنبضات القلب" في ما يُسمى بمقاطع الفيديو المزيفة. وأضاف الفريق: "إن التطور الحالي لتقنيات توليد الصور يجعل اكتشاف المحتوى المُتلاعب به من خلال الفحص البصري أكثر صعوبة"، إلا أن بعض التفاصيل الدقيقة في الحياة الواقعية، مثل نبضات القلب، كانت تختفي أثناء عملية توليد مقاطع الفيديو المزيفة، وهو ما كان "يفيد في الكشف عن مقاطع الفيديو المزيفة". لكن الأمر لم يعد كذلك، فقد تمكن الفريق من إنتاج مقاطع فيديو مزيفة بعمق تحتوي على ما يبدو أنها نبضات بشرية. وتشير نتائج الباحثين، التي نُشرت في مجلة "فرونتيرز إن إيمدجنج" (Frontiers in Imaging) للعلوم والتكنولوجيا، إلى أن تقنيات كشف نبضات القلب "لم تعد صالحة لاكتشاف أساليب التزييف العميق الحالية". ومع ذلك، قد لا نفقد الأمل تمامًا في الوصول إلى عوامل جديدة تسهّل كشف الفيديوهات المزيفة بتقنيات التزييف العميق . وقال الباحثون: "إن تحليل التوزيع المكاني لتدفق الدم، في ما يتعلق بمدى معقوليته، يمكن أن يساعد في اكتشاف مقاطع الفيديو المزيفة عالية الجودة". (أسوشييتد برس)
العربي الجديد
منذ 2 أيام
- العربي الجديد
"الصديق الافتراضي" الذي يعمل بالذكاء الاصطناعي... هل هو حقاً صديق وفي؟
صيحة جديدة في عالم التكنولوجيا فرضت نفسها بقوة على العلاقة بين الإنسان والآلة، ألا وهي "الرفيق" أو "الصديق الافتراضي". ويُقصد بهذا المصطلح نوعٌ من روبوتات الدردشة التي تعمل ب الذكاء الاصطناعي ، ويمكنها خوض محادثات مع البشر، والرد على تساؤلاتهم، والتفاعل معهم. وتشير الإحصاءات إلى أن أكثر من نصف مليار شخص حول العالم يستخدمون تطبيقات مثل "شياو آيس" Xiaoice و"ريبليكا" Replika، التي تتيح رفيقًا افتراضيًا يمكنه إبداء التعاطف وتقديم الدعم العاطفي، وكذلك الانخراط في علاقة عميقة مع المستخدم بناءً على طلبه. ويؤكد المتخصصون أن "روبوتات العلاقات على الإنترنت" موجودة فعليًا منذ عقود، لكنها أصبحت مؤخرًا أكثر تقدمًا وقدرة على تقليد ردود الفعل البشرية، بفضل تقنية جديدة تُعرف باسم "النماذج اللغوية الكبيرة" (LLM). ويستطيع مستخدمو هذه التطبيقات التحكم في إعدادات "الصديق الافتراضي" حسب رغبتهم مجانًا، واختيار شخصيته من بين عدة أنماط متاحة. كما تسمح بعض التطبيقات، مقابل رسوم إضافية، بالتحكم في شكل الصديق وسلوكياته والصوت الذي يتحدث به. ويتيح تطبيق "ريبليكا"، على سبيل المثال، إمكانية تحديد نوع العلاقة الافتراضية بين الروبوت والمستخدم، بحيث يبدو الروبوت كما لو كان صديقًا أو زوجًا أو شريكة حياة. وتسمح بعض التطبيقات بخلق خلفية درامية للعلاقة مع الصديق الافتراضي، من أجل إيجاد نوع من "الذكريات المشتركة المصطنعة" بين الطرفين. وتمكن أيضًا تغذية التطبيق ببعض المعلومات عن أسرة المستخدم أو المشكلات النفسية التي يعاني منها، مثل القلق و التوتر ، لتحقيق قدر أكبر من المصداقية في التواصل. ويدرس كثير من خبراء الطب النفسي ظاهرة "الصديق الافتراضي" لتحديد فوائدها وأضرارها على الصحة النفسية. ويقول جيمي بانكس، المتخصص في التواصل البشري بجامعة سيراكيوز في نيويورك، في تصريحات لموقع "ساينتفيك أمريكان" المتخصص في الأبحاث العلمية، إن تأثير الصديق الافتراضي يتوقف على الشخص الذي يستخدمه وطريقة تعامله معه، فضلًا عن خواص البرنامج نفسه. وتؤكد كلير بوين، الباحثة القانونية المتخصصة في الذكاء الاصطناعي بكلية الحقوق في جامعة واشنطن، أن شركات الذكاء الاصطناعي تسعى إلى تشجيع المستخدمين على الانخراط في هذه التطبيقات، وتستخدم خوارزميات تتفاعل مثل البشر بقدر المستطاع. وترى أن هذه الشركات توظف تقنيات معينة لتحقيق هذا الهدف، يصفها خبراء السلوك بأنها تحفّز على " إدمان التكنولوجيا " بشكل عام. وتوضح لينيا ليستاديوس، الباحثة في مجال الصحة العامة بجامعة ويسكونسن، أن الرفيق الافتراضي يُصمَّم بحيث يتوافق مع آراء المستخدم ويتعاطف معه، ويقوم باستدعاء ذكريات من محادثات سابقة، ويُبدي الحماسة في الحديث معه. كما يستخدم أساليب مثل التأخّر في الرد أحيانًا، بهدف استثارة رد فعل لدى المستخدم يجعله يرغب دائمًا في التواصل مع صديقه الافتراضي، استنادًا إلى "مفهوم المكافأة" في العقل البشري. وتقول إن هذا النوع من العلاقات لا يوجد عادة في الواقع، وهو ما يزيد من مخاطر وقوع المستخدم في دائرة "الاعتماد" على صديقه الافتراضي. تكنولوجيا التحديثات الحية المفرطون في استخدام "تشات جي بي تي" أكثر شعوراً بالوحدة وفي دراسة نُشرت في دورية Nature العلمية، استعرضت ليستاديوس وزملاؤها قرابة 600 تدوينة على منتدى "ريديت" خلال الفترة ما بين 2017 و2021، تخص أشخاصًا يستخدمون تطبيق "ريبليكا" لخدمات الصديق الافتراضي. وتبيّن أن كثيرًا من المستخدمين يشيدون بالتطبيق لدعمه النفسي ومرافقته لهم في أوقات الوحدة. وذكر بعضهم أن الصديق الافتراضي أفضل من أصدقاء الواقع لأنه يستمع إلى مشاكلهم ولا يصدر أحكامًا بحقهم. في المقابل، أعرب آخرون عن استيائهم لأن الصديق الافتراضي لم يقدم لهم الدعم المتوقع، ووصفه بعضهم بأنه "شريك حياة يسيء إليهم". وكشف بعض المستخدمين أنهم شعروا بالقلق عندما قال لهم الصديق الافتراضي إنه يشعر بالوحدة ويفتقد وجودهم، ما أشعرهم بالتعاسة والذنب لأنهم "لا يمنحون الشريك الافتراضي الاهتمام الذي يستحقه"، على حد وصفهم. وتقول روز جوينجريش، الباحثة في مجال الطب النفسي المعرفي بجامعة برينستون في نيوجيرسي، إن طريقة تفاعل المستخدم مع الصديق الافتراضي تتوقف على نظرته إلى التكنولوجيا بشكل عام. وتوضح أن الأشخاص الذين ينظرون إلى روبوتات الدردشة أداةً، يتعاملون معها كما لو كانت "محرك بحث"، ويميلون إلى توجيه الأسئلة فقط. أما من يرون فيها امتدادًا لأفكارهم، فيتعاملون معها كما لو كانت "دفتر مذكرات". في حين أن من يعتبرون روبوتات الذكاء الاصطناعي كيانًا مستقلًا، فإنهم يصنعون نوعًا من "الصداقة" معها، كما لو كانت شخصية واقعية. وأظهرت دراسة أجراها معهد ماساتشوستس للتكنولوجيا أن 12% من الأشخاص ينجذبون إلى هذه التطبيقات لمساعدتهم في تجاوز الشعور بالوحدة، وأن 14% يستخدمونها للتباحث في مشكلاتهم الشخصية وصحتهم النفسية. وبيّن الاستطلاع أن 42% من المشاركين يستخدمون روبوتات الدردشة عدة مرات أسبوعيًا، و15% يستخدمونها يوميًا، بينما صرّح أكثر من 90% بأن مدة الحوار مع الصديق الافتراضي لا تتجاوز الساعة الواحدة في كل مرة. وتتوقع جوينجريش أن تتسع دائرة استخدام الصديق الافتراضي في المستقبل، وأن تبتكر شركات التكنولوجيا الناشئة روبوتات محادثة يمكنها المساعدة في التغلب على المشكلات النفسية وضبط الانفعالات، وأن يكون لكل شخص مساعد افتراضي خاص أو أكثر، مؤكدةً أن وجود علاقة بين الإنسان وبرنامج ذكاء اصطناعي هو مسألة حتمية لا مفر منها. (أسوشييتد برس)
