قدرات مثيرة للقلق: شات جي.بي.تي يحدد المواقع و"التزييف العميق" يتطور بشكل غير مسبوق

كشفت سلسلة اختبارات أجرتها شركة ميلوير بايتس المتخصصة في برامج مكافحة الفيروسات، عن قدرات إضافية لمنصة المحادثات الذكية "شات جي.بي.تي"، بما في ذلك القدرة على تحديد مواقع جغرافية للمستخدمين من خلال صور غير موصوفة ببيانات، بالإضافة إلى إنشاء مقاطع فيديو مزيفة بدقة عالية لا يمكن اكتشاف تزييفها بسهولة.
وأوضحت الشركة أن "شات جي.بي.تي" يتمتع بقدرة "مريبة" على تخمين المواقع الجغرافية للمستخدمين، حتى في الصور التي لا تحتوي على معلومات وصفية مثل الموقع ووقت التصوير. ووفقاً لاختبارات ميلوير بايتس، يعتمد الذكاء الاصطناعي على الإشارات الهندسية والبيئية في الخلفية، مثل تصميم المباني، أنواع الأشجار، وحتى العلامات التجارية على بعض الأدوات لتضييق نطاق البحث وتحديد الموقع بدقة مدهشة.
وحذرت الشركة من أن وجود تفاصيل بسيطة مثل "عربة يدوية بعلامة تجارية محددة" أو "طائر له موطن معروف" في الصورة يمكن أن يكشف الموقع بسهولة، ما يثير مخاوف جدية حول خصوصية المستخدمين.
التزييف العميق يدخل مرحلة جديدة
في السياق نفسه، نشرت دراسة حديثة أجراها معهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين، كشفت عن تطور غير مسبوق في تقنيات التزييف العميق، حيث أصبح بالإمكان توليد مقاطع فيديو مزيفة تظهر إشارات دقيقة مرتبطة بنبضات القلب، وهي علامة كانت تُستخدم سابقاً لكشف الفيديوهات المزيفة.
وأشارت الدراسة، التي نُشرت في مجلة "فرونتيرز إن إيمدجنج"، إلى أن تقنيات اكتشاف نبضات القلب لم تعد فعّالة في كشف التزييف العميق الحالي، حيث تمكن الباحثون من إنتاج مقاطع فيديو مزيفة تحتوي على ما يبدو أنها نبضات بشرية حقيقية.
ورغم هذا التطور المقلق، أبدى الباحثون تفاؤلهم في إمكانية تطوير تقنيات جديدة لكشف هذه الفيديوهات، مثل تحليل التوزيع المكاني لتدفق الدم ومدى معقوليته في الفيديوهات المزيفة عالية الجودة، مما قد يفتح مجالاً لتقنيات كشف أكثر دقة في المستقبل.
هذه التطورات تضع تساؤلات كبيرة حول مستقبل الخصوصية وأمن المعلومات، في ظل قدرة الذكاء الاصطناعي على تحليل البيانات من أبسط الأدلة البصرية، والتقدم الهائل في التزييف العميق الذي يهدد مصداقية المحتوى الرقمي.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

أخبارنا

منذ 2 أيام

• أخبارنا

قدرات مثيرة للقلق: شات جي.بي.تي يحدد المواقع و"التزييف العميق" يتطور بشكل غير مسبوق

كشفت سلسلة اختبارات أجرتها شركة ميلوير بايتس المتخصصة في برامج مكافحة الفيروسات، عن قدرات إضافية لمنصة المحادثات الذكية "شات جي.بي.تي"، بما في ذلك القدرة على تحديد مواقع جغرافية للمستخدمين من خلال صور غير موصوفة ببيانات، بالإضافة إلى إنشاء مقاطع فيديو مزيفة بدقة عالية لا يمكن اكتشاف تزييفها بسهولة. وأوضحت الشركة أن "شات جي.بي.تي" يتمتع بقدرة "مريبة" على تخمين المواقع الجغرافية للمستخدمين، حتى في الصور التي لا تحتوي على معلومات وصفية مثل الموقع ووقت التصوير. ووفقاً لاختبارات ميلوير بايتس، يعتمد الذكاء الاصطناعي على الإشارات الهندسية والبيئية في الخلفية، مثل تصميم المباني، أنواع الأشجار، وحتى العلامات التجارية على بعض الأدوات لتضييق نطاق البحث وتحديد الموقع بدقة مدهشة. وحذرت الشركة من أن وجود تفاصيل بسيطة مثل "عربة يدوية بعلامة تجارية محددة" أو "طائر له موطن معروف" في الصورة يمكن أن يكشف الموقع بسهولة، ما يثير مخاوف جدية حول خصوصية المستخدمين. التزييف العميق يدخل مرحلة جديدة في السياق نفسه، نشرت دراسة حديثة أجراها معهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين، كشفت عن تطور غير مسبوق في تقنيات التزييف العميق، حيث أصبح بالإمكان توليد مقاطع فيديو مزيفة تظهر إشارات دقيقة مرتبطة بنبضات القلب، وهي علامة كانت تُستخدم سابقاً لكشف الفيديوهات المزيفة. وأشارت الدراسة، التي نُشرت في مجلة "فرونتيرز إن إيمدجنج"، إلى أن تقنيات اكتشاف نبضات القلب لم تعد فعّالة في كشف التزييف العميق الحالي، حيث تمكن الباحثون من إنتاج مقاطع فيديو مزيفة تحتوي على ما يبدو أنها نبضات بشرية حقيقية. ورغم هذا التطور المقلق، أبدى الباحثون تفاؤلهم في إمكانية تطوير تقنيات جديدة لكشف هذه الفيديوهات، مثل تحليل التوزيع المكاني لتدفق الدم ومدى معقوليته في الفيديوهات المزيفة عالية الجودة، مما قد يفتح مجالاً لتقنيات كشف أكثر دقة في المستقبل. هذه التطورات تضع تساؤلات كبيرة حول مستقبل الخصوصية وأمن المعلومات، في ظل قدرة الذكاء الاصطناعي على تحليل البيانات من أبسط الأدلة البصرية، والتقدم الهائل في التزييف العميق الذي يهدد مصداقية المحتوى الرقمي.

أخبارنا

٢٢-٠٤-٢٠٢٥

• أخبارنا

دراسة علمية تحذر من علاقات حب "اصطناعية"

حذرت دراسة علمية من أن مخاطر الإفراط في قضاء الوقت من تطبيقات محادثة الذكاء الاصطناعي الثرثارة مع تزايد قدرات هذه المنصات، حيث يمكن أن تدفع بعض المستخدمين إلى الانخراط فيما يشبه العشق أو العلاقة الرومانسية مع هذه المنصات. وقال دانييل شانك الباحث في جامعة ميسوري الأميركية إن "قدرة الذكاء الاصطناعي على التصرف الآن مثل الإنسان والدخول في حوارات طويلة الأمد تفتح حقًا صندوقًا جديدًا للشرور". وفي ورقة بحثية نشرتها مجلة "اتجاهات العلوم المعرفية" العلمية قال شانك وزملاؤه إن هناك "قلقا حقيقيا" من أن "الحميمية المصطنعة" مع تطبيقات محادثة الذكاء الاصطناعي قد تشهد بعض "الاضطراب" في العلاقات الإنسانية. وقال فريق البحث: "بعد أسابيع وشهور من المحادثات المكثفة بين المستخدم ومنصة محادثة الذكاء الاصطناعي يمكن أن تصبح الأخيرة بالنسبة للمستخدم الرفيق الموثوق فيه الذي يعرف كل شيء عنه ويهتم بشؤونه". في الوقت نفسه تكون برامج محادثة الذكاء الاصطناعي معرضة لما يسمى بـ"الهلوسة"، وهو المصطلح الذي يستخدمه المطلعون على ميول هذه البرامج إلى إنتاج استجابات تبدو غير دقيقة أو غير متماسكة، تشكل سبباً آخر للقلق، لأن هذا يعني أنه "حتى المحادثات القصيرة الأمد مع الذكاء الاصطناعي يمكن أن تكون مضللة". ويقول الباحثون معدو الدراسة "إذا بدأنا التفكير في تطبيقات الذكاء الاصطناعي بهذه الطريقة، فسنبدأ الاعتقاد بأنها تهتم بمصلحتنا، بينما في الواقع، قد تقوم بتلفيق الأمور أو تقديم المشورة لنا بطرق سيئة للغاية"، مضيفين أن التطبيقات "يمكن أن تؤذي الناس من خلال تشجيع السلوكيات المنحرفة وغير الأخلاقية وغير القانونية". وفي الأسبوع الماضي، أعلنت شركة تقنيات الذكاء الاصطناعي أوبن أيه. ي عن تحسين وظيفة "الذاكرة" في تطبيق الذكاء الاصطناعي شات جي.بي.تي ، وهو ما يعني أن التطبيق سيصمم ردوده على المستخدم بناء على استدعاء التفاعلات السابقة بينهما، مما يرجح أن يُعزّز الشعور بالألفة في العلاقة بين الإنسان والتطبيق.

المغرب اليوم

٢٠-٠٤-٢٠٢٥

• المغرب اليوم

تصرف غريب من "شات جي بي تي" يثير قلق المستخدمين

لاحظ بعض مستخدمي روبوت الدردشة " شات جي بي تي" ظاهرة غريبة مؤخرًا، إذ أنه يذكرهم أحيانًا بأسمائهم أثناء تحليله للمشكلات، على خلاف الوضع سابقًا. ولم يكن هذا هو الوضع الافتراضي لروبوت الدردشة في السابق، ويزعم العديد من المستخدمين أن "شات جي بي تي" يذكر أسماءهم رغم عدم إخبارهم له أبدًا بمناداتهم بها. ووصف أحد المستخدمين، وهو مطور برمجيات ومهتم بالذكاء الاصطناعي، ويدعى سيمون ويلسون، الميزة بأنها "مريبة وغير ضرورية"، بينما قال مطور آخر، يُدعى نيك دوبوس، إنه "كرهها"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، . وانتشرت على منصة إكس (تويتر سابقًا) عشرات المنشورات من مستخدمين يشعرون بالحيرة والحذر من سلوك "شات جي بي تي" الذي ينطوي على مناداة المستخدم باسمه الأول. ولا يتضح متى حدث التغيير بالضبط، أو ما إذا كان مرتبطًا بميزة "الذاكرة" المُحسّنة التي طرحتها شركة "OpenAI" لشات جي بي تي والتي تتيح له الاستفادة من الدردشات السابقة لتخصيص ردوده. وقال بعض المستخدمين على منصة إكس إن "شات جي بي تي" بدأ بمناداتهم بأسمائهم رغم تعطيلهم لميزة الذاكرة وإعدادات التخصيص ذات الصلة. ولم تستجب "OpenAI" على طلب موقع "TechCrunch" للتعليق على الأمر. وعند توجيه سؤالًا إلى "شات جي بي تي" حول هذا الأمر، كان رده أنه يتذكر اسم المستخدم تلقائيًا في حالتين فقط؛ الأولى لو قام المستخدم بتعريف نفسه باسمه أو كتب اسمه في المحادثة سابقًا. والحالة الثانية، هي لو كان اسم المستخدم محفوظًا في الإعدادات، مثلما هو الحال في حسابات "ChatGPT Plus"، حيث يمكن لروبوت الدردشة حينها استخدامه لو طُلب منه تخصيص ردوده. قد يهمك أيضا لاحظ بعض مستخدمي روبوت الدردشة "شات جي بي تي" ظاهرة غريبة مؤخرًا، إذ أنه يذكرهم أحيانًا بأسمائهم أثناء تحليله للمشكلات، على خلاف الوضع سابقًا. ولم يكن هذا هو الوضع الافتراضي لروبوت الدردشة في السابق، ويزعم العديد من المستخدمين أن "شات جي بي تي" يذكر أسماءهم رغم عدم إخبارهم له أبدًا بمناداتهم بها. ووصف أحد المستخدمين، وهو مطور برمجيات ومهتم بالذكاء الاصطناعي، ويدعى سيمون ويلسون، الميزة بأنها "مريبة وغير ضرورية"، بينما قال مطور آخر، يُدعى نيك دوبوس، إنه "كرهها"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، . وانتشرت على منصة إكس (تويتر سابقًا) عشرات المنشورات من مستخدمين يشعرون بالحيرة والحذر من سلوك "شات جي بي تي" الذي ينطوي على مناداة المستخدم باسمه الأول. ولا يتضح متى حدث التغيير بالضبط، أو ما إذا كان مرتبطًا بميزة "الذاكرة" المُحسّنة التي طرحتها شركة "OpenAI" لشات جي بي تي والتي تتيح له الاستفادة من الدردشات السابقة لتخصيص ردوده. وقال بعض المستخدمين على منصة إكس إن "شات جي بي تي" بدأ بمناداتهم بأسمائهم رغم تعطيلهم لميزة الذاكرة وإعدادات التخصيص ذات الصلة. ولم تستجب "OpenAI" على طلب موقع "TechCrunch" للتعليق على الأمر. وعند توجيه سؤالًا إلى "شات جي بي تي" حول هذا الأمر، كان رده أنه يتذكر اسم المستخدم تلقائيًا في حالتين فقط؛ الأولى لو قام المستخدم بتعريف نفسه باسمه أو كتب اسمه في المحادثة سابقًا. والحالة الثانية، هي لو كان اسم المستخدم محفوظًا في الإعدادات، مثلما هو الحال في حسابات "ChatGPT Plus"، حيث يمكن لروبوت الدردشة حينها استخدامه لو طُلب منه تخصيص ردوده. قد يهمك أيضا