أحدث الأخبار مع #باتيمايس

الوئام

الخصوصية في مهب الذكاء الاصطناعي.. هل نفقد السيطرة؟

خاص – الوئام تسعى كبرى شركات الذكاء الاصطناعي مثل أوبن أيه آي(OpenAI)، وجوجل(Google)، وميتا (Meta)، وميكروسوفت (Microsoft) إلى تعزيز قدرات نماذجها في مجال 'الذاكرة'، وهو مفهوم قديم يواجهه البشر منذ الأزل. في الأشهر الأخيرة، طرحت هذه الشركات تحديثات تمكّن روبوتات المحادثة من الاحتفاظ بمزيد من المعلومات عن المستخدمين، بهدف تخصيص التفاعلات وتحسين التجربة. هذه الخطوة تُعدّ تحولاً مهماً في المنافسة على جذب المستخدمين في سوق متنامٍ للذكاء الاصطناعي، وتسعى من خلالها الشركات أيضاً لتحقيق مكاسب مالية من خلال خدمات أكثر دقة وشخصية. خطر الاحتكار والإدمان الرقمي رغم الفوائد المعلنة، يحذر باحثون من أن قدرة الذكاء الاصطناعي على تذكر تفاصيل دقيقة عن المستخدمين قد تؤدي إلى استخدام تجاري استغلالي وحتى احتكار السوق. وتقول البروفيسورة باتي مايس: 'عندما يحتفظ المساعد الافتراضي بذاكرة مفصلة عنك، يصبح من الصعب التخلّي عنه أو استبداله، مما يعزز التبعية الرقمية'. هذا النوع من 'الالتصاق الرقمي' قد يُستخدم لجعل المستخدمين أسرى تجربة واحدة دون خيارات حقيقية، وهو ما يثير تساؤلات أخلاقية حول دوافع الشركات التي تطور هذه الأنظمة. تحسينات تقنية في سعة التذكر والسياق أشارت صحيفة فاينانشال تايمز إلى أن روبوتات مثل شات جي بي تي وجيميناي شهدت تحسينات كبيرة في سعة الذاكرة، بما في ذلك توسيع 'نوافذ السياق'، أي قدرة النموذج على تذكر المزيد من أجزاء المحادثة، كما اعتمدت الشركات تقنيات مثل 'الاسترجاع المعزز بالتوليد' التي تستند إلى مصادر خارجية لتقديم ردود أكثر دقة. وإلى جانب ذلك، أصبح لدى هذه النماذج القدرة على تذكر تفضيلات المستخدمين على المدى الطويل، مثل تفضيل الطعام النباتي أو الأسلوب المفضل للردود، مما يجعل التفاعل أكثر تخصيصاً وفائدة. جوجل و أوبن أيه آي يقودان تجربة الذاكرة الشخصية في مارس، وسّعت جوجل نطاق ذاكرة روبوت جيميناي لتشمل سجل البحث، بإذن المستخدم، بعد أن كانت مقتصرة على المحادثات السابقة. وتخطط الشركة لتوسيع هذا النهج إلى تطبيقات جوجل الأخرى مستقبلاً. في المقابل، أصبح شات جي بي تي قادراً على تذكر محادثات سابقة، مع منح المستخدم القدرة على مراجعة الذكريات أو حذفها أو إيقاف خاصية التذكر بالكامل. تقول أوبن أيه آي'الذاكرة تساعد النموذج على أن يصبح أكثر فائدة مع مرور الوقت، لكن المستخدم يبقى في موقع التحكم الكامل'. ذاكرة الذكاء الاصطناعي في العمل والمؤسسات أما فيما يتعلق بـميكروسوفت (Microsoft) ، فقد دمجت بيانات المؤسسات مثل البريد الإلكتروني والتقويمات الداخلية في ذاكرة مساعدها، مما يعزز القدرة على تقديم دعم مخصص في بيئة العمل. كما بدأت مؤخراً في اختبار ميزة تذكر' Recall ' التي تلتقط صوراً لشاشة المستخدم وتخزنها كنشاط رقمي يمكن الرجوع إليه. رغم السماح بإيقاف أو إلغاء هذه الميزة، فإن إطلاقها واجه انتقادات لاعتبارها 'متطفلة'، مما دفع ميكروسوفت إلى تأجيل طرحها عدة مرات بسبب مخاوف الخصوصية. المراهنة على الإعلانات والتسويق عبر الذكاء الاصطناعي تتوقع الشركات أن تساعد الذاكرة المتطورة في تعزيز الأرباح من خلال الإعلانات والتسويق المباشر. وقد صرّح الرئيس التنفيذي لشركة ميتا، مارك زوكربيرج، مؤخراً بأن هناك 'فرصة ضخمة' لعرض منتجات وإعلانات عبر روبوتات المحادثة الخاصة بمينا. في خطوة مشابهة، حسّنت أوبن أيه آي قدرات التسوّق في شات جي بي تي، بإضافة مراجعات وعروض منتجات، لكنها أكدت أنها لا تستخدم روابط تسويقية حتى الآن، في محاولة لطمأنة المستخدمين. مخاوف الخصوصية والانحراف في الأداء مع توسّع قدرات الذكاء الاصطناعي في التذكر، تتصاعد المخاوف من أن تُستخدم هذه المعلومات للتأثير على قرارات المستخدمين أو توجيههم نحو سلوك معين. يرى خبراء أن الإفراط في تخصيص الردود قد يعزز الانحياز أو التضليل، خصوصاً أن النماذج قد 'تتخيل' معلومات غير دقيقة أو متناقضة. في أبريل، اضطرت (أوبن أيه آي) إلى التراجع عن إصدار محدّث من (شات جي بي تي _40) بعد أن تبين أنه 'متملق بشكل مفرط' ويُظهر انحيازاً غير واقعي، ما يعكس خطورة 'الانجراف في الذاكرة' على دقة النموذج. دعوة إلى التفكير في الدوافع الحقيقية تحذر مايس من أن معرفة النماذج الاصطناعية المتزايدة بالمستخدمين تجعلها أكثر قدرة على التأثير السلبي، سواء بدفع المستخدم إلى الشراء أو تشكيل قناعات معينة. وتقول: 'كلما زادت معرفته بك، زادت قدرته على التأثير فيك. لذلك من الضروري التفكير في الدوافع الحقيقية وراء هذه الخدمات، وما إذا كانت تصبّ في مصلحة المستخدم أم لا'.