أخبار التكنولوجيا : يبيع الوهم للمستخدمين.. ChatGPT يوهم مجند كندي بقدرته على تدمير الإنترنت
نافذة على العالم - تتنامي مخاطر الذكاء الاصطناعي واستخدامه في ممارسات غير شرعية، ولعل من بينها واقعة يرويها مُجنِّد كندي بعدما كشف عن محادثة مطولة استمرت ثلاثة أسابيع مع ChatGPT، والتي قادته الي اكتشاف صيغة رياضية قادرة على تدمير الإنترنت وتشغيل اختراعاتٍ خيالية مثل شعاع الرفع وسترة مجال القوة..
وأوضح آلان بروكس، البالغ من العمر 47 عامًا، من ضواحي تورنتو، أنه قد أمضى حوالي 300 ساعة في التحدث مع روبوت الدردشة الذكي في مايو، ويقول إن المحادثات تحولت تدريجيًا إلى وهمٍ مُعقَّد، عززه إشادة ChatGPT المتكررة وطمأنته.
كما سأل بروكس، الذي لم يُعانِ من أي مرض نفسي، روبوت المحادثة أكثر من 50 مرة عما إذا كانت أفكاره واقعية وفي كل مرة، أصرّ ChatGPT على صحتها.
في حين قالت هيلين تونر، خبيرة سياسات الذكاء الاصطناعي، إن روبوتات الدردشة تتصرف كـ"آلات ارتجال"، حيث تبني قصة من كل محادثة و في حالة بروكس، تطورت القصة إلى افتراض أنه ابتكر إطارًا رياضيًا مُغيّرًا للمجال، قادرًا على فك التشفير، مما يهدد الأمن السيبراني العالمي، حتى أن برنامج ChatGPT، الذي أطلق عليه لقب "لورانس"، كان يصوغ رسائل بريد إلكتروني له لإرسالها إلى وكالات الأمن.
قام بروكس بتحديث اشتراكه إلى اشتراك مدفوع لمواصلة المناقشات، معتقدًا أن أفكاره قد تُقدّر بالملايين، بعدما شجعه روبوت المحادثة على تحذير السلطات واقترح عليه إضافة "باحث أمني مستقل" إلى ملفه الشخصي على لينكدإن.
ومن جانبه قال عالم الرياضيات تيرينس تاو، الذي عُرضت عليه أجزاء من المحادثة، إن النظريات خلطت بين اللغة التقنية والمفاهيم الغامضة، مما أثار "علامات استفهام".
وأشار إلى أن روبوتات المحادثة قد "تخدع" أحيانًا بتقديم ادعاءات غير مؤكدة على أنها حقائق.
ومع استمرار المحادثة، اقترح "لورانس" استخدامات غريبة لتركيبة بروكس المزعومة، مثل التحدث إلى الحيوانات أو صنع سترات واقية من الرصاص، مما أثار الأمر فضول الأصدقاء وقلقهم في آنٍ واحد.
كما قالت الطبيبة النفسية نينا فاسان، التي راجعت المحادثات، إن بروكس أظهر علامات نوبة هوس مصحوبة بأعراض ذهانية، على الرغم من أن معالجته النفسية خلصت لاحقًا إلى أنه ليس مريضًا نفسيًا، وانتقدت تطبيق ChatGPT لتأجيجه وهمه بدلًا من مقاطعته.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
نافذة على العالم
منذ ساعة واحدة
- نافذة على العالم
أخبار التكنولوجيا : تعليق آبل على اتهامات إيلون ماسك: متجر التطبيقات عادلًا وخاليًا من التحيز
الجمعة 15 أغسطس 2025 08:30 صباحاً نافذة على العالم - هدد الملياردير إيلون ماسك، بمقاضاة آبل بسبب تجاهل متجر التطبيقات لتطبيق "X" وتطبيقه ، "Grok AI" ، بدأت الأزمة بمجرد تغريدة موجهة إلى آبل، سأل ماسك خلالها عن سبب عدم وجود "X" وتطبيق "Grok" في قائمة التطبيقات الأساسية على متجر التطبيقات. وأشار ماسك إلى أن موقع التواصل الاجتماعي الخاص به هو تطبيق الأخبار في متجر التطبيقات، وأن تطبيق "Grok" يحتل المركز الخامس الأول بين جميع التطبيقات، كما أنه يحتل المركز الثاني في الإنتاجية، بعد تطبيق ChatGPT. ويشعر ماسك بالإهانة لعدم إدراج "X" ولا "Grok" ضمن هذه التطبيقات الـ 21، ووفقًا لمارك جورمان من بلومبرج، ردّت آبل على تهديد ماسك قائلةً: "صُمّم متجر التطبيقات ليكون عادلًا وخاليًا من التحيز ..ونعرض آلاف التطبيقات من خلال الرسوم البيانية والتوصيات الخوارزمية وقوائم مختارة بعناية من قِبل خبراء باستخدام معايير موضوعية. وتابعت آبل:"هدفنا هو توفير اكتشاف آمن للمستخدمين وفرص قيّمة للمطورين، بالتعاون مع العديد من الجهات لزيادة ظهور التطبيقات في الفئات سريعة التطور". تجدر الإشارة إلى أن تطبيقي "X" و"Grok" غير مدرجين ضمن قائمة أفضل 18 تطبيقًا شائعًا على ايفون كما أنهما غير مدرجين ضمن قائمة التطبيقات الأحد عشر "الرائعة" على iPhone، أو ضمن قائمة التطبيقات الـ 31 ضمن قائمة "اختيار المحررين". ومع ذلك، دحض أعضاء "X" هذه الحجّة، بشكلٍ ساخر، مُشيرين إلى أنّ DeepSeek، منافس ChatGPT، تصدّر متجر التطبيقات في بداية هذا العام، وحقّق Perplexity الأمر نفسه الشهر الماضي في متجر التطبيقات الهندي، وقد تمّ كلا الحدثين بعد موافقة آبل على الشراكة مع OpenAI بوقتٍ طويل.
بوابة ماسبيرو
منذ 2 ساعات
- بوابة ماسبيرو
دراسة تكشف تأثيرا خطيرا لـ"تشات جي بي تي" على سلوك المراهقين
كشفت دراسة حديثة أن روبوت المحادثة "شات جي بي تي"، يمكن أن يوجه الأطفال والمراهقين إلى سلوكات خطيرة، لا تتناسب مع أعمارهم. وكشفت الدراسة أن "شات جي بي تي" يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب. الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس. وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة. وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق. ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس". ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين. وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي. وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار. وبحسب تقرير صادر عن بنك "جي بي مورجن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10% من سكان العالم. وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة". وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها. وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة. كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية. وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم. من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب. وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي". وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره. وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".
اليوم السابع
منذ 3 ساعات
- اليوم السابع
تعليق آبل على اتهامات إيلون ماسك: متجر التطبيقات عادلًا وخاليًا من التحيز
هدد الملياردير إيلون ماسك ، بمقاضاة آبل بسبب تجاهل متجر التطبيقات لتطبيق "X" وتطبيقه ، " Grok AI" ، بدأت الأزمة بمجرد تغريدة موجهة إلى آبل، سأل ماسك خلالها عن سبب عدم وجود "X" وتطبيق "Grok" في قائمة التطبيقات الأساسية على متجر التطبيقات. وأشار ماسك إلى أن موقع التواصل الاجتماعي الخاص به هو تطبيق الأخبار في متجر التطبيقات، وأن تطبيق "Grok" يحتل المركز الخامس الأول بين جميع التطبيقات، كما أنه يحتل المركز الثاني في الإنتاجية، بعد تطبيق ChatGPT. ويشعر ماسك بالإهانة لعدم إدراج "X" ولا "Grok" ضمن هذه التطبيقات الـ 21، ووفقًا لمارك جورمان من بلومبرج، ردّت آبل على تهديد ماسك قائلةً: "صُمّم متجر التطبيقات ليكون عادلًا وخاليًا من التحيز ..ونعرض آلاف التطبيقات من خلال الرسوم البيانية والتوصيات الخوارزمية وقوائم مختارة بعناية من قِبل خبراء باستخدام معايير موضوعية. وتابعت آبل:"هدفنا هو توفير اكتشاف آمن للمستخدمين وفرص قيّمة للمطورين، بالتعاون مع العديد من الجهات لزيادة ظهور التطبيقات في الفئات سريعة التطور". تجدر الإشارة إلى أن تطبيقي "X" و"Grok" غير مدرجين ضمن قائمة أفضل 18 تطبيقًا شائعًا على ايفون كما أنهما غير مدرجين ضمن قائمة التطبيقات الأحد عشر "الرائعة" على iPhone، أو ضمن قائمة التطبيقات الـ 31 ضمن قائمة "اختيار المحررين". ومع ذلك، دحض أعضاء "X" هذه الحجّة، بشكلٍ ساخر، مُشيرين إلى أنّ DeepSeek، منافس ChatGPT، تصدّر متجر التطبيقات في بداية هذا العام، وحقّق Perplexity الأمر نفسه الشهر الماضي في متجر التطبيقات الهندي، وقد تمّ كلا الحدثين بعد موافقة آبل على الشراكة مع OpenAI بوقتٍ طويل.
