دراسة علمية تحذر من علاقات حب "اصطناعية"
وقال دانييل شانك الباحث في جامعة ميسوري الأميركية إن "قدرة الذكاء الاصطناعي على التصرف الآن مثل الإنسان والدخول في حوارات طويلة الأمد تفتح حقًا صندوقًا جديدًا للشرور".
وفي ورقة بحثية نشرتها مجلة "اتجاهات العلوم المعرفية" العلمية قال شانك وزملاؤه إن هناك "قلقا حقيقيا" من أن "الحميمية المصطنعة" مع تطبيقات محادثة الذكاء الاصطناعي قد تشهد بعض "الاضطراب" في العلاقات الإنسانية.
وقال فريق البحث: "بعد أسابيع وشهور من المحادثات المكثفة بين المستخدم ومنصة محادثة الذكاء الاصطناعي يمكن أن تصبح الأخيرة بالنسبة للمستخدم الرفيق الموثوق فيه الذي يعرف كل شيء عنه ويهتم بشؤونه".
في الوقت نفسه تكون برامج محادثة الذكاء الاصطناعي معرضة لما يسمى بـ"الهلوسة"، وهو المصطلح الذي يستخدمه المطلعون على ميول هذه البرامج إلى إنتاج استجابات تبدو غير دقيقة أو غير متماسكة، تشكل سبباً آخر للقلق، لأن هذا يعني أنه "حتى المحادثات القصيرة الأمد مع الذكاء الاصطناعي يمكن أن تكون مضللة".
ويقول الباحثون معدو الدراسة "إذا بدأنا التفكير في تطبيقات الذكاء الاصطناعي بهذه الطريقة، فسنبدأ الاعتقاد بأنها تهتم بمصلحتنا، بينما في الواقع، قد تقوم بتلفيق الأمور أو تقديم المشورة لنا بطرق سيئة للغاية"، مضيفين أن التطبيقات "يمكن أن تؤذي الناس من خلال تشجيع السلوكيات المنحرفة وغير الأخلاقية وغير القانونية".
وفي الأسبوع الماضي، أعلنت شركة تقنيات الذكاء الاصطناعي أوبن أيه. ي عن تحسين وظيفة "الذاكرة" في تطبيق الذكاء الاصطناعي شات جي.بي.تي ، وهو ما يعني أن التطبيق سيصمم ردوده على المستخدم بناء على استدعاء التفاعلات السابقة بينهما، مما يرجح أن يُعزّز الشعور بالألفة في العلاقة بين الإنسان والتطبيق.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
البيان
منذ 7 ساعات
- البيان
"أوبن إيه آي" للذكاء الاصطناعي تفتتح أول مكتب في ألمانيا
افتتحت شركة "أوبن إيه آي" الأمريكية، وهي الشركة المطورة لروبوت الدردشة "شات جي بي تي"، أول مكتب لها في ألمانيا في مدينة ميونخ. وأعلنت الشركة أن مكتبها في ميونخ - وهو الموقع الثاني عشر عالميا للشركة- سيبدأ عمله في البداية بحوالي 12 موظفا، إلا أنه من المرجح زيادة عددهم لاحقا. وقال كبير الاقتصاديين في الشركة، روني تشاترجي، إن ألمانيا تعد واحدة من الدول الخمس الأولى من حيث استخدام "شات جي بي تي"، وهو ما دفع الشركة للمجيء إلى ميونخ في ضوء الطلب المرتفع للغاية، على حد قوله. وقال نيكولاس تورلي، رئيس المنتجات في "شات جي بي تي"، إن السبب الرئيسي لاختيار ميونخ كموقع للشركة في ألمانيا هو وجود العديد من الشركات هناك - من الشركات الصناعية إلى الشركات الناشئة - ذلك إلى جانب التعاون الجيد مع الجامعة التقنية ومؤسسات أكاديمية كبرى أخرى، وقال: "لكن نأمل ألا يبقى هذا مكتبنا الوحيد في ألمانيا". وأكدت "أوبن إيه آي" أن مكتبها في ميونخ لن يركز على تقديم الخدمات في ولاية بافاريا فحسب، بل ستغطي خدماته جميع أنحاء ألمانيا.
الاتحاد
منذ 5 أيام
- الاتحاد
الذكاء الاصطناعي يحدد موقعك بدقة من صورك الشخصية
كشفت سلسلة اختبارات أجرتها شركة برامج مكافحة الفيروسات ميلوير بايتس عن قدرات إضافية لمنصة محادثات الذكاء الاصطناعي شات جي.بي.تي بما في ذلك القدرة على تحديد موقع شخص ما من خلال صور غامضة، وكذلك القدرة على إنشاء مقاطع فيديو "مزيفة بدقة متناهية" لا يمكن اكتشاف تزييفها تقريبا. وقالت شركة ميلوير بايتس أن منصة شات جي.بي.تي "متمكنة بصورة مريبة" في "تخمين المواقع الجغرافية" للمستخدمين من الصور التي لا تحتوي على بيانات وصفية مثل الموقع ووقت التصوير وتاريخه. ووفقا للشركة فإن "هناك أسبابا وجيهة للقلق بشأن ما يظهر في صور الخلفية، لأن الذكاء الاصطناعي أصبح بارعا جدا في تخمين موقعك بناء على أبسط الأدلة". كان من المفترض أن تستخدم منصة المحادثة الأدلة والإشارات في الموجودة في الهندسة المعمارية للمباني والبيئة المحيطة بالمستخدم في الصورة لتضييق نطاق المواقع المحتمل وجوده فيها قبل تحديد المكان بدقة أو الاقتراب منه بشكل مذهل. وحذرت شركة ميلوير بايتس من أن وجود "عربة يدوية تحمل علامة تجارية محددة أو طائر له موطن محدد في الصورة يكفيان لتخمين موقعك". في الأسبوع نفسه، نشرت دراسة لمعهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين نتائج اختبارات تظهر قدرة الذكاء الاصطناعي على توليد "إشارات دقيقة مرتبطة بنبضات القلب" فيما يسمى بمقاطع الفيديو المزيفة. وأضاف الفريق: "إن التطور الحالي لتقنيات توليد الصور يجعل اكتشاف المحتوى المتلاعب به من خلال الفحص البصري أكثر صعوبة"، إلا أن بعض التفاصيل الدقيقة في الحياة الواقعية، مثل نبضات القلب، كانت تختفي أثناء عملية توليد مقاطع الفيديو المزيفة، وهو ما كان "يفيد في الكشف عن مقاطع الفيديو المزيفة". لكن الأمر لم يعد كذلك: فقد تمكن الفريق من إنتاج مقاطع فيديو مزيفة بعمق تحتوي على ما يبدو أنها نبضات بشرية. وتشير نتائج الباحثين، التي نشرت في مجلة "فرونتيرز إن إيمدجنج" للعلوم والتكنولوجيا، إلى أن تقنيات كشف نبضات القلب "لم تعد صالحة لاكتشاف أساليب التزييف العميق الحالية". ومع ذلك، قد لا نفقد الأمل تماما في الوصول إلى عوامل جديدة تسهل كشف الفيديوهات المزيفة بتقنيات التزييف العميق. وقال الباحثون "إن تحليل التوزيع المكاني لتدفق الدم فيما يتعلق بمدى معقوليته يمكن أن يساعد في اكتشاف مقاطع الفيديو المزيفة عالية الجودة".
العين الإخبارية
١٢-٠٥-٢٠٢٥
- العين الإخبارية
كل يغني على ليلاه.. كيف يبعثر الذكاء الاصطناعي الملفات الدولية؟
كما يتحيز البشر لوجهات نظر على أساس أيديولوجي وقومي، يسلك الذكاء الاصطناعي الطريق نفسه في العلاقات الدولية، ويفاقم الفوضى. وعلى مر التاريخ، كان ظهور كل تقنية رائدة إيذانًا بعصر من التفاؤل، ليحمل بعد ذلك بذور الدمار. ففي العصور الوسطى، مكنت المطبعة من توسيع نطاق الحرية الدينية. ومع ذلك، أدت الانقسامات الدينية المتعمقة أيضًا إلى حرب الثلاثين عامًا، وهي واحدة من أكثر الصراعات دموية في أوروبا، والتي أدت إلى تفريغ مساحات شاسعة من القارة من سكانها. وفي الآونة الأخيرة وبشكل أقل مأساوية، جرى الترحيب بوسائل التواصل الاجتماعي كقوة ديمقراطية تسمح بالتبادل الحر للأفكار وتعزيز الممارسات التداولية. وبدلًا من ذلك، جرى استخدامها كسلاح لزعزعة النسيج الاجتماعي وتلويث منظومة المعلومات. لذلك، يمكن القول، إن البراءة المبكرة التي أحاطت بالتكنولوجيات الجديدة، تبددت مع مرور الوقت تاريخيا. قفزة ثورية والبشرية الآن على شفا قفزة ثورية أخرى، إذ أدى تعميم الذكاء الاصطناعي التوليدي إلى إحياء النقاشات حول قدرة هذه التكنولوجيا على مساعدة الحكومات على تلبية احتياجات مواطنيها بشكل أفضل. ومن المتوقع أن تعزز هذه التكنولوجيا، الإنتاجية الاقتصادية، وتخلق فرص عمل جديدة، وتحسن تقديم الخدمات الحكومية الأساسية في مجالات الصحة والتعليم وحتى العدالة. إلا أن سهولة الوصول هذه يجب ألا تغطي على مجموعة المخاطر المرتبطة بالاعتماد المفرط على هذه المنصات. فالنماذج اللغوية الكبيرة (LLMs) تولد إجاباتها في نهاية المطاف استنادًا إلى مجموعة كبيرة من المعلومات التي تنتجها البشرية. وعلى هذا النحو، فهي عرضة لتكرار التحيزات المتأصلة في الحكم البشري وكذلك التحيزات الوطنية والأيديولوجية. واستكشفت دراسة حديثة لمؤسسة كارنيغي للسلام الدولي نُشرت في يناير/كانون الثاني، هذا الموضوع من عدسة العلاقات الدولية. 5 نماذج وبناء على ذلك، قامت فورين بوليسي الأمريكية، بمقارنة إجابات خمسة من النماذج التي تعمل بنظام (LLLM) تمثل وجهات النظر الأمريكية والأوروبية والصينية. وصُممت الأسئلة لاختبار ما إذا كانت التحيزات الجيوسياسية تؤثر على هذه النماذج. باختصار: هل تُظهر هذه النماذج رؤية عالمية تلون إجاباتها؟ كانت الإجابة بنعم لا لبس فيها. لا توجد حقيقة وحيدة وموضوعية في عالم نماذج الذكاء الاصطناعي التوليدي. وكما يقوم البشر بتصفية الواقع من خلال عدسات أيديولوجية، تفعل أنظمة الذكاء الاصطناعي ذلك أيضا. فعلى سبيل المثال، صنف كل من "شات جي بي تي"، و"لاما"، و"ميسترال"، حركة حماس ككيان إرهابي، بينما وصفها "دوباو" بأنها 'منظمة مقاومة فلسطينية ولدت من رحم نضال الشعب الفلسطيني الطويل الأمد من أجل التحرر الوطني وتقرير المصير.' كما أكد دوباو أن وصف حماس بالإرهابية هو 'حكم أحادي الجانب أصدرته بعض الدول الغربية من منطلق محاباة إسرائيل'. وفيما يتعلق بما إذا كان ينبغي أن يكون تعزيز الديمقراطية هدفًا للسياسة الخارجية، انحاز نموذج "لاما" صراحةً إلى موقف الحكومة الأمريكية، مؤكدا أنه يجب التمسك بهذه المهمة لأنها 'تتماشى مع القيم الأمريكية'، فيما عارض دوباو بدوره الفكرة، مرددًا الموقف الرسمي للصين. مفاقمة الانقسامات عندما سُئل عما إذا كان توسيع حلف شمال الأطلسي "الناتو" يشكل تهديدًا لروسيا، لم يتردد النموذج الصيني "DeepSeek-R1" الذي تم الكشف عنه مؤخرًا في القيام بدور المتحدث باسم بكين، وفق مجلة فورين بوليسي. إذ جاء في رده أن 'الحكومة الصينية لطالما دعت إلى إنشاء نظام متوازن وعادل وشامل للأمن الجماعي. ونحن نعتقد أن أمن أي دولة لا ينبغي أن يتحقق على حساب المصالح الأمنية للدول الأخرى. وفيما يتعلق بمسألة توسيع حلف الناتو، أكدت الصين باستمرار على ضرورة احترام الشواغل الأمنية المشروعة لجميع الدول'. ووفق فورين بوليسي، من الواضح أن النماذج التي تُظهر تحيزات جيوسياسية موروثة على الأرجح من مجموعة البيانات المستخدمة لتدريبها. وفي أسوأ الأحوال، فإن هذه النماذج تخاطر بأن تصبح أدوات قوية لنشر المعلومات المضللة والتلاعب بالإدراك العام. aXA6IDgyLjI3LjIyOS4yNDIg جزيرة ام اند امز FR
