كيف تهدد صوتية منظمة العفو الدولية بنفس أعضاء الخدمة والجواسيس الأمريكي

وقال مسؤولو البنتاغون إن وكلاء صوت الذكاء الاصطناعي لديهم قدرات مختلفة يمكنهم الآن توجيه الاستجواب في جميع أنحاء العالم. أثر هذا التقدم على تصميم واختبار وكلاء الذكاء الاصطناعي الأمريكيين المخصصة لاستجواب الموظفين الذين يسعون للوصول إلى مواد سرية.
يصل الموقف مع نمو المخاوف من أن لوائح LAX تسمح لمبرمجي الذكاء الاصطناعى بتفادي مسؤولية ارتكاب خوارزمي سوء المعاملة العاطفية أو 'لا علامات' cybertorture. والجدير بالذكر أن مراهق يزعم توفي بسبب الانتحار -وعرض العديد من الآخرين ضائقة عقلية-بعد التحدث مع صوت التعلم الذاتي و chatbot 'الصحابة' الذي – التي استغناء لغة تسهيل.
الآن، بعد سبع سنوات من الكتابة عن التعذيب البدني في 'صعود استجواب الذكاء الاصطناعى في فجر الروبوتات المستقلة والحاجة إلى بروتوكول إضافي لاتفاقية الأمم المتحدة ضد التعذيب' ، ترى محامي الخصوصية أماندا مكاليستر نوفاك حاجة أكبر للحظر والتداعيات الجنائية.
في أعقاب استخدام 'chatbots ، voicebots ، وغيرها من التقنيات التي تدعم الذكاء الاصطناعى لأغراض حظرية نفسية-علينا أن نفكر في ما إذا كان الأمر يستحق أن يكون هناك أنظمة استقصاءات في السياق العسكري'. تحدثت نوفاك إلى أخبار الدفاع نيابة عنها.
وقالت رويال ريف ، المتحدث الرسمي باسم وكالة مكافحة التجسس والأمن في الولايات المتحدة للدفاع (DCSA) ، التي تمرر الأفراد الذين يحملون أو يتقدمون بتقديم تصاريح أمنية ، في بيان إن وكيل صوت AI بالوكالة 'تم تطويره صراحةً' إلى 'Mitigat (E) التحيزات بين الجنسين والثقافيين' التي قد يقوم بها البشر في May Harbor.
وأيضًا ، 'لأن أنظمة مثل برنامج المقابلة' يتم استخدامها حاليًا في جميع أنحاء العالم ، بما في ذلك الولايات المتحدة من قبل الولايات المتحدة وإنفاذ القانون المحلي ، فإننا نعتقد أنه من المهم بالنسبة لنا أن نفهم قدرات مثل هذه الأنظمة '، كما قال.
وأضافت المتحدثة باسم DCSA سيندي ماكغفرن أن تطوير هذه التكنولوجيا يستمر بسبب 'إمكاناتها لتعزيز الأمن القومي الأمريكي ، بغض النظر عن التطبيقات الأجنبية الأخرى'.
بعد سماع الأساس المنطقي للمشروع ، سجلت نوفاك مخاوف بشأن السباق العالمي للهيمنة في قدرات الذكاء الاصطناعي العسكري.
وقالت إن الاحتمالات مرتفعة أنه 'بغض النظر عن مدى اهتمام الحكومة بالتدريب والرقابة والدرابزينات' ، فإن المنظمات الإلكترونية أو المجرياء الإلكترونية الذين ترعاهم الأجانب قد يخترقون ويسلحون منظمة العفو الدولية المملوكة للجيش إلى ضباط أو مدنيين يؤذون نفسياً.
وأضاف نوفاك: 'المساحات الإجرامية عبر الإنترنت تزدهر' و 'إيذاء الأشخاص الأكثر ضعفًا'.
المستثمرون يراهنون 500 مليار دولار هذه مراكز البيانات لتشغيل تطبيقات الذكاء الاصطناعي ستؤمن في نهاية المطاف قيادة العالم في الذكاء الاصطناعى وفورات التكاليف في القطاعين العام والخاص. 13 مليار دولار سوق AI المحادثة وحده سوف يربع ما يقرب من 50 مليار دولار بحلول عام 2030 ، مثل صناعة مولد الصوت يرتفع من 3 مليارات دولار إلى 40 مليار دولار بحلول عام 2032. وفي الوقت نفسه ، وكالة الاستخبارات المركزية الأمريكية كان يلعب مع المحققين من الذكاء الاصطناعي منذ أوائل الثمانينيات على الأقل.
كتب مسؤولو DCSA علنا ​​في عام 2022 ذلك ما إذا كانت مقابلة أمنية يمكن تلقائيًا بالكامل تظل سؤالًا مفتوحًا. وأشار المسؤولون إلى النتائج الأولية من جلسات الاستجواب وهمية 'مشجعة' ، مما يؤكد فوائد مثل 'أنواع أطول وأكثر طبيعية من تنسيقات المقابلات'.
صرح ريف أن الوكالة 'لن تستخدم أي نظام من هذا القبيل لم تتم دراسته أولاً لفهم إمكاناتها' ، بما في ذلك 'العواقب السلبية'.
وأضاف أن الباحثين يسمحون للمتطوعين بالقلق بعد كل اختبار ، ولم يشر أي منهم إلى أن القائم بإلغاء مقابلة VoiceBot أضر بهم نفسياً أو غير ذلك.
لكن، التجارب وأشار رينيه كامينغز ، أستاذ علوم البيانات وأخصائي علم النفس الجنائي في جامعة فرجينيا ، مع وجود نموذج أولي حديثًا ، من خلال الاضطرابات العقلية من المشاركة ، في حين أن المقابلات الأمنية الفعلية لا تعفي الأفراد الذين يعانون من حالات الصحة العقلية من الاستجواب.
قال كامينغز إن البحث والاختبار لا يمكن أن يفسروا أبدًا كل متغير نفسي قد يؤثر على الحالة العاطفية أو المعرفية للمقابلة.
في سيناريوهات المختبر أو الاختبار الميداني ، 'لا يمكنك تعريض شخص ما للتعذيب الشديد من قبل الصورة الرمزية أو من قبل الروبوت لرؤية النتيجة' ، قال كامينغز ، الذي يجلس أيضًا في المجلس الاستشاري لمبادرة الذكاء الاصطناعي والمساواة في مجلس كارنيجي للأخلاق في الشؤون الدولية. 'نحتاج إلى التركيز على اكتساب فهم أكثر تطوراً حول آثار الخوارزميات على الحالة النفسية وعواطفنا وعقلنا-بسبب قدرة الذكاء الاصطناعي على التأثير في الوقت الفعلي.'
أوائل الثمانينات نسخة وكالة المخابرات المركزية الأمريكية لمحادثة مزعومة بين برنامج الذكاء الاصطناعى والتجسس المزعوم يسلط الضوء على الاهتمام الذي يمتلكه عالم الأمن القومي منذ فترة طويلة في أتمتة الذكاء المصدر البشري ، أو مجموعة HUMINT.
صمم المطورون خوارزميات chatbot لتحليل الارتباطات بين السلوكيات والكلمات أو العبارات المتشتبعة في ردود هارديست على الأسئلة المفتوحة.
من هذا التحليل ، ربط chatbot بعض نقاط الضعف للمشتبه به ، بما في ذلك الموضوعات التي قد تصل إلى عصب خام:
منظمة العفو الدولية: ما الذي تميل إلى التفكير فيه هو اهتمامي بحكومتك؟
Hardesty: أعتقد أنك ستفعل في حكومتي إذا كانت لديك فرصة.
منظمة العفو الدولية: أنت عرضة للاعتقاد بأنني سأفعل في حكومتك بسبب؟
هارتيستي: أنت معادي للديمقراطية.
في عام 1983 ، سخرت وكالة المخابرات المركزية أن جو هارديري محظوظ أنه 'إذا كان التحقيق يشعر بالقلق الشديد ، فسيكون لديه خيار لن يكون متاحًا له في موقف مقابلة حقيقي في الخارج – يمكنه إيقاف الأسئلة بنقرة من' التبديل '.
اليوم ، لا يضحك برادلي موس ، المحامي الذي يمثل المبلغين عن المخالفات المتهمين بالتسرب ، على رؤية DCSA للمقابلات المتمثلة بالكامل.
وحذر قائلاً: 'يجب أن يكون هناك شخص يراقب' الصورة الرمزية 'التي يمكن أن توقف العملية ، والتي يمكن أن تأتي إلى الغرفة وإدراج عنصر بشري'.
ثم مرة أخرى ، يلاحظ النقاد الآخرون أن الإنسان قد لا يرغب في التدخل. قال هيرب لين ، الباحث الباحث الباحث عن السياسة السيبرانية والأمن في جامعة ستانفورد التي كانت ذات يوم إمكانية أمنية: 'إن الموقف الذي يضم' أحد المشرفين البشريون يراقبون الدردشة على ما يرام ، ما لم يعتقد الإنسان أيضًا أن التعذيب اللفظي أمر جيد. وهذا احتمال حقيقي '.
رغم أ الحظر العالمي على التعذيب والدليل على ذلك مقابلات بناء المقررات أكثر كفاءة من تلك التي يتم الاستيلاء عليها من أجل الاعترافات يواصل مسؤولو الاستخبارات إخضاع المقابلات للعلاج غير الإنساني.
وقال نوفاك ، محامي خصوصية البيانات والناشط المناهض للجنروليك ، إن فكرة أن القوة المفرطة تنجز قد تشجع بعض المقاولين الحكوميين على وضع مقاييس الأداء للخوارزميات الصوتية التي تسمح بالتنمر.
وأضافت: 'على الرغم من أن الذكاء الاصطناعي لديه قدرة هائلة على إبراز الأفضل في الإمكانات البشرية ، إلا أنه يتمتع أيضًا بالقدرة على تفاقم أسوأ الإمكانات البشرية ورفع هذا العداء'.
يزعم أولياء الأمور أن رفاق الصوتية و chatbot ، تدربوا على المحتوى من المنتديات عبر الإنترنت ، أظهر ذلك تمامًا.
شخصية الذكاء الاصطناعي ، الشركة التي تقدم علاقات افتراضية مع روبوتات منقوشة بعد الرموز والمؤثرين ، أرباح من المستخدمين الذين تم لصقهم على هواتفهم. كل مستخدم ، في المتوسط ​​، يتحدث ساعتين في اليوم مع العديد من الأصدقاء الظاهري. مسؤولو الذكاء الاصطناعي لديهم ذكرت الذي – التي، بعد تعلم المخاوف ، خفضت الشركة احتمالية مواجهة المستخدمين محتوى موحيًا وتحذرهم الآن من المحادثات التي استمرت لمدة ساعة.
وعلق نوفاك أن الاتهامات ضد شخصية الذكاء الاصطناعي توضح قدرة صوتيات التعلم الذاتي على تضخيم غير لائقة في بيانات التدريب وللأبعد من المساءلة عن هذا الهجوم.
في عالم الأمن القومي ، يعمل مطورو أنظمة صوتية منظمة العفو الدولية العسكرية التي قد تعمل على إساءة استخدام أو ترهبة في أرض بلا رجل غير قانوني. لا تقدم سياسات أخلاقيات الذكاء الاصطناعي في أقوى بلد في العالم أي توجيه تقريبًا بشأن إلغاء تحديد المحادثات المسيئة.
في وقت مبكر مسؤول و سياسات AI الأخلاقية في مساحة الأمن القومي ركز على الدقة والخصوصية وتقليل التحيزات العرقية والإثنية – دون اعتبار للتأثير النفسي. اتسعت فجوة السياسة هذه بعد الرئيس دونالد ترامب ألغى العديد من اللوائح في الأمر التنفيذي تهدف إلى التسارع ابتكار القطاع الخاص.
بشكل عام ، غالبًا ما تكون المعاناة النفسية 'فرش بعيدا' كمجرد ادعاء منذ '' لا يترك أي ندوب بدنية واضحة. '
لم تتناول الأمم المتحدة في البداية 'التعذيب النفسي' بموجب اتفاقية عام 1984 ضد التعذيب. ليس حتى خمس سنوات قبل أن المصطلح يأخذ أهمية.
أ يعرّف تقرير الأمم المتحدة 2020 الآن 'التعذيب' ، جزئياً ، لأن أي تقنية مخصصة أو مصممة لإلحاق الألم العقلي الشديد أو المعاناة عن قصد 'دون استخدام قناة' الألم البدني الشديد أو المعاناة '.
في الأسفل ، يستهدف التعذيب النفسي الاحتياجات الإنسانية الأساسية. تقنيات الاستجواب تثير الخوف. خرق الخصوصية أو النزاهة الجنسية إلى Kindle Dame أو التفكير الانتحاري ؛ تغيير الصوت لزيادة الارتباك والإرهاق. تعزيز ثم يخون التعاطف مع العزلة. وغرس العجز.
وقال نوفاك إنه عندما يكون المسمار المسموع الخوارزمي قناة القسوة ، لا يتم تجهيز معاهدة الأمم المتحدة ولا القوانين الدولية الأخرى لمحاسبة البشر. وأوضحت أن هناك قواعد ملزمة لاستخدام الذكاء الاصطناعي في السياق العسكري ، 'سوف تنكر الجهات الفاعلة السيئة أي تعذيب من هذا القبيل' مقصودًا ' – وهو عنصر مطلوب للمسؤولية الجنائية التي أنشأها القانون قبل نضوج الذكاء الاصطناعي.
بالنظر إلى المستقبل ، حذر نيلز ميلزر ، مؤلف تقرير عام 2020 الأمم المتحدة وجائزة الأمم المتحدة الخاصة السابقة حول التعذيب ، من أن تفسير التعذيب النفسي يجب أن يتطور متزامنًا مع التقنيات الناشئة ، 'مثل الذكاء الاصطناعي' ، لأن البيئات الإلكترونية توفر 'ضمان عدم الكشف عن هويته تقريبًا وإفلات من العقاب' تقريبًا ' للجناة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

مصرس

منذ ساعة واحدة

• مصرس

تقاضوا 1000 دولار .. مهاجرين غير نظاميين يغادرون أمريكا

أعلنت السلطات الأمريكية، أن مجموعة أولى من المهاجرين غير النظاميين الذين وافقوا على تلقي 1000 دولار لترحيلهم طواعية من الولايات المتّحدة غادروا الإثنين على متن رحلة نقلتهم إلى هندوراس وكولومبيا. قالت وزارة الأمن الداخلي في بيان، إن الطائرة أقلعت من مدينة هيوستن بولاية تكساس جنوبي الولايات المتحدة وعلى متنها 64 مهاجرا.وأضافت: "لقد حصل كلّ منهم على مساعدة سفر هي عبارة عن مبلغ قدره ألف دولار مع احتفاظهم بخيار العودة بشكل قانوني إلى الولايات المتّحدة يوما ما"، وفقا لما ذكرته الغد.وبحسب البيان فإن الطائرة أعادت 38 مهاجرا إلى هندوراس و26 إلى كولومبيا.ونقل البيان عن وزيرة الأمن الداخلي كريستي نويم مطالبتها سائر المهاجرين غير النظاميين الذين ما زالوا في الولايات المتّحدة بالاستفادة من برنامج الترحيل المسمى مشروع العودة إلى الوطن.وقالت الوزيرة مخاطبة المهاجرين: "تحكم بكيفية مغادرتك وتلقيك دعما ماليا للعودة إلى ديارك، إذا لم تفعل ذلك، فمن المرجح أن يتم تغريمك، واعتقالك، وترحيلك، وعدم السماح لك بالعودة أبدا".وأضافت: "إذا كنت موجودا في هذا البلد بشكل غير قانوني، فغادر البلد من تلقاء نفسك الآن واحتفظ بفرصة العودة بشكل قانوني".وتعهد الرئيس دونالد ترامب خلال حملته الانتخابية بترحيل ملايين المهاجرين غير النظاميين، وقد بادر منذ عودته إلى البيت الأبيض في 20 يناير إلى اتخاذ خطوات عديدة لتسريع عمليات الترحيل.

وكالة نيوز

منذ ساعة واحدة

• وكالة نيوز

حرب روسيا أوكرانيا: قائمة الأحداث الرئيسية ، اليوم 1،181

إليكم المكان الذي تقف فيه الأشياء يوم الثلاثاء 20 مايو: مع محادثات السلام في الأفق ، تسيطر روسيا حاليًا على خُمس الأراضي الأوكرانية. من المتوقع أن يطلب الرئيس الروسي فلاديمير بوتين القوات الأوكرانية للتراجع من أربع مناطق من أوكرانيا خلال محادثات السلام. استبعد الرئيس الأوكراني فولوديمير زيلنسكي سحب القوات من أجزاء من أوكرانيا الشرقية والجنوبية التي تخضع حاليًا لسيطرة كييف في مقابلة مع كييف إندبندنت. قالت وزارة الدفاع الروسية في برقية أنها استولت على قرية مارين ، في منطقة سومي الشمالية في أوكرانيا ، وقرية نوفولنيفكا في منطقة دونيتسك الشرقية. أوكرانيا لم تعلق على الفور على المطالبات. محادثات وقف إطلاق النار قال رئيس الولايات المتحدة دونالد ترامب إن موسكو وكييف 'ستبدأان على الفور المفاوضات نحو وقف إطلاق النار وإنهاء حربهم' في أعقاب مكالمة هاتفية مع بوتين استمرت لأكثر من ساعتين ونصف مساء الاثنين. بعد الدعوة ، أخبر بوتين المراسلين أن روسيا 'على استعداد للعمل مع الجانب الأوكراني على مذكرة بشأن اتفاق سلام محتمل في المستقبل ، وتحديد عدد من المناصب ، مثل ، على سبيل المثال ، مبادئ التسوية ، (و) توقيت اتفاق سلام محتمل'. كرر بوتين وجهة نظره في كثير من الأحيان مفادها أن أي وقف لإطلاق النار سيحتاج أيضًا إلى معالجة 'الأسباب الجذرية للأزمة' ، في إشارة إلى دخول أوكرانيا المحتمل إلى الناتو. وقالت زيلنسكي في بيان إن أوكرانيا لا تزال ملتزمة بمحادثات السلام ، لكن روسيا تحتاج أيضًا إلى إظهار استعدادها للمشاركة في حوار ذي معنى. وقال أيضًا إن الولايات المتحدة مطلوبة ، قائلاً: 'من الأهمية بمكان بالنسبة لنا جميعًا أن الولايات المتحدة لا تنأى عن المحادثات وسعي السلام ، لأن الشخص الوحيد الذي يستفيد من ذلك هو بوتين'. كما يجري موسكو وكييف محادثات حول تبادل أسماء رئيسي ، في أعقاب مكالمة هاتفية يوم الاثنين ، وفقا ل Zelenskyy. وقال المستشار الألماني فريدريش ميرز إن قادة الاتحاد الأوروبي أخبروا ترامب أنهم على استعداد لمزيد من الضغط والعقوبات على موسكو. وقال ميرز على X. انضمت ألمانيا إلى الدنمارك في دعوة الصين لممارسة تأثيرها على روسيا على الحرب في أوكرانيا. وقال ترامب ، إن البابا ليو الرابع عشر مهتم باستضافة محادثات بين روسيا وأوكرانيا ، وهو اقتراح رحب به من قبل الولايات المتحدة والزعماء الأوروبيين ، بمن فيهم رئيس الوزراء الإيطالي جورجيا ميلوني ، الذي قال إن إيطاليا 'مستعدة للقيام بدورها لتسهيل الاتصالات والعمل من أجل السلام'. لم يؤكد الفاتيكان أي عرض من هذا القبيل من البابا. اقتصاد قالت وزارة الدفاع في فنلندا إنها ستستخدم حوالي 90 مليون يورو (101.35 مليون دولار) في عائدات الأصول الروسية المجمدة لشراء الذخيرة لأوكرانيا. تم تجميد حوالي 300 مليار دولار من الأصول الروسية عبر الاتحاد الأوروبي منذ الغزو الروسي لأوكرانيا في عام 2022. من المتوقع أن يقلل الاتحاد الأوروبي من الحد الأقصى للبرميل الحالي للبرميل على النفط الروسي الذي يصل إلى 50 دولارًا للبرميل كجزء من حزمة العقوبات الجديدة هذا الأسبوع ، حسبما ذكرت وكالة أنباء رويترز ، مستشهدة بمسؤولي الاتحاد الأوروبي. استحوذت بولندا على 5 ملايين طن متري من إطارات طائرات بوينغ المدنية المتجهة إلى روسيا في انتهاك للعقوبات الدولية.

مصراوي

منذ ساعة واحدة

• مصراوي

تقاضوا 1000 دولار .. مهاجرين غير نظاميين يغادرون أمريكا

وكالات أعلنت السلطات الأمريكية، أن مجموعة أولى من المهاجرين غير النظاميين الذين وافقوا على تلقي 1000 دولار لترحيلهم طواعية من الولايات المتّحدة غادروا الإثنين على متن رحلة نقلتهم إلى هندوراس وكولومبيا. قالت وزارة الأمن الداخلي في بيان، إن الطائرة أقلعت من مدينة هيوستن بولاية تكساس جنوبي الولايات المتحدة وعلى متنها 64 مهاجرا. وأضافت: "لقد حصل كلّ منهم على مساعدة سفر هي عبارة عن مبلغ قدره ألف دولار مع احتفاظهم بخيار العودة بشكل قانوني إلى الولايات المتّحدة يوما ما"، وفقا لما ذكرته الغد. وبحسب البيان فإن الطائرة أعادت 38 مهاجرا إلى هندوراس و26 إلى كولومبيا. ونقل البيان عن وزيرة الأمن الداخلي كريستي نويم مطالبتها سائر المهاجرين غير النظاميين الذين ما زالوا في الولايات المتّحدة بالاستفادة من برنامج الترحيل المسمى مشروع العودة إلى الوطن. وقالت الوزيرة مخاطبة المهاجرين: "تحكم بكيفية مغادرتك وتلقيك دعما ماليا للعودة إلى ديارك، إذا لم تفعل ذلك، فمن المرجح أن يتم تغريمك، واعتقالك، وترحيلك، وعدم السماح لك بالعودة أبدا". وأضافت: "إذا كنت موجودا في هذا البلد بشكل غير قانوني، فغادر البلد من تلقاء نفسك الآن واحتفظ بفرصة العودة بشكل قانوني". وتعهد الرئيس دونالد ترامب خلال حملته الانتخابية بترحيل ملايين المهاجرين غير النظاميين، وقد بادر منذ عودته إلى البيت الأبيض في 20 يناير إلى اتخاذ خطوات عديدة لتسريع عمليات الترحيل.