الخصوصية في مهب الذكاء الاصطناعي.. هل نفقد السيطرة؟
تسعى كبرى شركات الذكاء الاصطناعي مثل أوبن أيه آي(OpenAI)، وجوجل(Google)، وميتا (Meta)، وميكروسوفت (Microsoft) إلى تعزيز قدرات نماذجها في مجال 'الذاكرة'، وهو مفهوم قديم يواجهه البشر منذ الأزل. في الأشهر الأخيرة، طرحت هذه الشركات تحديثات تمكّن روبوتات المحادثة من الاحتفاظ بمزيد من المعلومات عن المستخدمين، بهدف تخصيص التفاعلات وتحسين التجربة.
هذه الخطوة تُعدّ تحولاً مهماً في المنافسة على جذب المستخدمين في سوق متنامٍ للذكاء الاصطناعي، وتسعى من خلالها الشركات أيضاً لتحقيق مكاسب مالية من خلال خدمات أكثر دقة وشخصية.
خطر الاحتكار والإدمان الرقمي
رغم الفوائد المعلنة، يحذر باحثون من أن قدرة الذكاء الاصطناعي على تذكر تفاصيل دقيقة عن المستخدمين قد تؤدي إلى استخدام تجاري استغلالي وحتى احتكار السوق.
وتقول البروفيسورة باتي مايس: 'عندما يحتفظ المساعد الافتراضي بذاكرة مفصلة عنك، يصبح من الصعب التخلّي عنه أو استبداله، مما يعزز التبعية الرقمية'.
هذا النوع من 'الالتصاق الرقمي' قد يُستخدم لجعل المستخدمين أسرى تجربة واحدة دون خيارات حقيقية، وهو ما يثير تساؤلات أخلاقية حول دوافع الشركات التي تطور هذه الأنظمة.
تحسينات تقنية في سعة التذكر والسياق
أشارت صحيفة فاينانشال تايمز إلى أن روبوتات مثل شات جي بي تي وجيميناي شهدت تحسينات كبيرة في سعة الذاكرة، بما في ذلك توسيع 'نوافذ السياق'، أي قدرة النموذج على تذكر المزيد من أجزاء المحادثة، كما اعتمدت الشركات تقنيات مثل 'الاسترجاع المعزز بالتوليد' التي تستند إلى مصادر خارجية لتقديم ردود أكثر دقة.
وإلى جانب ذلك، أصبح لدى هذه النماذج القدرة على تذكر تفضيلات المستخدمين على المدى الطويل، مثل تفضيل الطعام النباتي أو الأسلوب المفضل للردود، مما يجعل التفاعل أكثر تخصيصاً وفائدة.
جوجل و أوبن أيه آي يقودان تجربة الذاكرة الشخصية
في مارس، وسّعت جوجل نطاق ذاكرة روبوت جيميناي لتشمل سجل البحث، بإذن المستخدم، بعد أن كانت مقتصرة على المحادثات السابقة. وتخطط الشركة لتوسيع هذا النهج إلى تطبيقات جوجل الأخرى مستقبلاً.
في المقابل، أصبح شات جي بي تي قادراً على تذكر محادثات سابقة، مع منح المستخدم القدرة على مراجعة الذكريات أو حذفها أو إيقاف خاصية التذكر بالكامل. تقول أوبن أيه آي'الذاكرة تساعد النموذج على أن يصبح أكثر فائدة مع مرور الوقت، لكن المستخدم يبقى في موقع التحكم الكامل'.
ذاكرة الذكاء الاصطناعي في العمل والمؤسسات
أما فيما يتعلق بـميكروسوفت (Microsoft) ، فقد دمجت بيانات المؤسسات مثل البريد الإلكتروني والتقويمات الداخلية في ذاكرة مساعدها، مما يعزز القدرة على تقديم دعم مخصص في بيئة العمل. كما بدأت مؤخراً في اختبار ميزة تذكر' Recall ' التي تلتقط صوراً لشاشة المستخدم وتخزنها كنشاط رقمي يمكن الرجوع إليه.
رغم السماح بإيقاف أو إلغاء هذه الميزة، فإن إطلاقها واجه انتقادات لاعتبارها 'متطفلة'، مما دفع ميكروسوفت إلى تأجيل طرحها عدة مرات بسبب مخاوف الخصوصية.
المراهنة على الإعلانات والتسويق عبر الذكاء الاصطناعي
تتوقع الشركات أن تساعد الذاكرة المتطورة في تعزيز الأرباح من خلال الإعلانات والتسويق المباشر. وقد صرّح الرئيس التنفيذي لشركة ميتا، مارك زوكربيرج، مؤخراً بأن هناك 'فرصة ضخمة' لعرض منتجات وإعلانات عبر روبوتات المحادثة الخاصة بمينا.
في خطوة مشابهة، حسّنت أوبن أيه آي قدرات التسوّق في شات جي بي تي، بإضافة مراجعات وعروض منتجات، لكنها أكدت أنها لا تستخدم روابط تسويقية حتى الآن، في محاولة لطمأنة المستخدمين.
مخاوف الخصوصية والانحراف في الأداء
مع توسّع قدرات الذكاء الاصطناعي في التذكر، تتصاعد المخاوف من أن تُستخدم هذه المعلومات للتأثير على قرارات المستخدمين أو توجيههم نحو سلوك معين. يرى خبراء أن الإفراط في تخصيص الردود قد يعزز الانحياز أو التضليل، خصوصاً أن النماذج قد 'تتخيل' معلومات غير دقيقة أو متناقضة.
في أبريل، اضطرت (أوبن أيه آي) إلى التراجع عن إصدار محدّث من (شات جي بي تي _40) بعد أن تبين أنه 'متملق بشكل مفرط' ويُظهر انحيازاً غير واقعي، ما يعكس خطورة 'الانجراف في الذاكرة' على دقة النموذج.
دعوة إلى التفكير في الدوافع الحقيقية
تحذر مايس من أن معرفة النماذج الاصطناعية المتزايدة بالمستخدمين تجعلها أكثر قدرة على التأثير السلبي، سواء بدفع المستخدم إلى الشراء أو تشكيل قناعات معينة.
وتقول: 'كلما زادت معرفته بك، زادت قدرته على التأثير فيك. لذلك من الضروري التفكير في الدوافع الحقيقية وراء هذه الخدمات، وما إذا كانت تصبّ في مصلحة المستخدم أم لا'.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
مجلة سيدتي
منذ 18 ساعات
- مجلة سيدتي
محادثاتك الشخصية مع ChatGPT تظهر على محرك البحث جوجل
يبدو أن أداة ChatGPT أصبحت تهدد مستخدميها بشكل مباشر، فبعد أيام من تصريحات سام ألتمان، الرئيس التنفيذي لشركة OpenAI ، التي حذر خلالها من وجود ثغرة في روبوت الدردشة لـ ChatGPT قد توقعك في قبضة العدالة في حال تم استخدام المعلومات التي أفصحت عنها مع الروبوت كدليل إدانة ضدك. وفي ذاك اللقاء الذي أجراه الرئيس التنفيذي لـ"أوبن آيه آي" عبر بودكاست ثيو فون، حذر من الاستعانة بـ ChatGPT بديلًا عن الطبيب النفسي، المفاجأة هنا أن خبراء التقنية اكتشفوا أن محادثاتك الشخصية مع ChatGPT موجودة بالفعل على محرك البحث جوجل ، الأمر الذي دفع شركة OpenAI لتوضيح الأمر. جوجل تظهر محادثات ChatGPT مع المستخدمين حسب ما ذكر في موقع techcrunch، فقد أوضح خبراء التقنية أنه في حال قمت بتصفية نتائج البحث على جوجل ستتمكن من العثور على محادثات غرباء تمت باستخدام ChatGPT، بعضها تضمن معلومات غير مهمة، وأخرى تعلقت بالمساعدة في إيجاد أفكار لوصفات وفهم الفيزياء الفلكية، لكن هل هذا يعني أن محادثاتك مع ChatGPT معلنة للجميع؟ بدأ الأمر يتضح تدريجيًا عندما تم العثور في نتائج بحث محرك جوجل على شخص استعان بـ ChatGPT من أجل كتابة سيرته الذاتية، ونتائج أخرى متعلقة بأسئلة غير منطقة لبعض المستخدمين، ويرجع السبب وراء انتشار تلك المحادثات أنه بعد الانتهاء من الدردشة يتواجد زر "المشاركة" عند الضغط عليه من قبل المستخدم يتم إنشاء رابط ثانٍ. بعد إنشاء الرابط، يمكن للمستخدمين تغيير ما إذا كانوا يريدون أن يكون هذا الرابط قابلاً للاكتشاف أم لا، مع ذلك، قد لا يتوقع المستخدمون أن تقوم محركات البحث الأخرى بفهرسة روابط ChatGPT المشتركة، مما قد يؤدي إلى كشف معلوماتهم الشخصية، وللأسف هذا ما حدث مع البعض بالفعل. رد شركة OpenAI على تسريب المحادثات جاء رد المتحدث الرسمي باسم شركة OpenAI على هذه الأخبار، ليوضح: "لا تُنشر دردشات ChatGPT إلا إذا اخترت مشاركتها"، وأكد على أنه تم اختبار طرق مختلفة لتسهيل مشاركة المحادثات المفيدة على أن يكون المتحكم فيها هو المستخدم، وعن سبب ظهور بعض المحادثات على محرك البحث جوجل أشار إلى أنها كانت تجربة لمن قاموا بالفعل بالضغط على مشاركة الدردشة. وبالفعل قامت شركة OpenAI بإزالة الميزة من ChatGPT التي كانت تسمح للمستخدمين بجعل محادثاتهم العامة قابلة للاكتشاف بواسطة محركات البحث، منوهة أن الأمر كانت بمثابة تجربة قصيرة الأمد. وفي رد المتحدث الرسمي لجوجل على تصريحات شركة OpenAI، أوضحت: "لا تتحكم جوجل ولا أي محرك بحث آخر في الصفحات التي تُنشر علنًا على الإنترنت، بل يتحكم ناشرو الصفحات في فهرستها من قبل محركات البحث".
الشرق السعودية
منذ 18 ساعات
- الشرق السعودية
openai تتراجع عن خاصية إظهار محادثات chatgpt في محركات البحث
أعلنت شركة OpenAI التراجع عن إتاحة محادثات مستخدمي تطبيقها الذكي ChatGPT، في نتائج محركات البحث مثل "جوجل سيرش"، وذلك بعد انتقادات وتحفظات. وقال دان ستاكي، مدير أمن المعلومات في OpenAI، في بيان نشره على منصة "إكس"، إن الشركة قررت إنهاء هذه التجربة القصيرة التي كانت تهدف إلى تسهيل اكتشاف المحادثات المفيدة من خلال محركات البحث، موضحاً أن الخاصية كانت تتطلب من المستخدم اختيار محادثة لمشاركتها، ثم تفعيل خيار إضافي يسمح بإدراجها ضمن نتائج البحث. وأوضح ستاكي، أن "الخاصية تطلبت مشاركة طوعية تماماً من المستخدمين، الذين كان عليهم اتخاذ خطوتين واضحتين لتفعيل الفهرسة"، لكنه أشار إلى أن OpenAI خلصت إلى أن الخاصية "فتحت العديد من الأبواب لمشاركة محتوى شخصي عن غير قصد". وأضاف: "نعتقد أن هذه الميزة خلقت فرصاً كثيرة للمستخدمين لمشاركة معلومات لم يكونوا ينوون مشاركتها علناً، سواء بسبب سوء الفهم أو الإهمال"، مؤكداً قرار OpenAI بإزالة خيار الفهرسة تماماً من التطبيق، معلناً بدء العمل على إزالة المحتوى المفهرس من محركات البحث. أولوية الخصوصية وشدد ستاكي، على أن الشركة الرائدة في مجال الذكاء الاصطناعي، تضع الخصوصية والأمان في مقدمة أولوياتها، قائلاً: "سنواصل العمل على تحسين منتجاتنا وميزاتها لتعكس هذا الالتزام بشكل واضح ومتين". ويأتي هذا القرار عقب تحقيق نشره موقع Fast Company، كشف ظهور آلاف المحادثات التي أجراها مستخدمو ChatGPT وتمت مشاركتها عبر الإنترنت، في نتائج البحث على Google. وأشار الموقع إلى أن هذه المحادثات شملت معلومات شخصية تتعلق بالإدمان، والاضطرابات النفسية، والعلاقات العاطفية، والعنف الأسري، وحتى نقاشات حول نظريات المؤامرة والبرمجة النفسية. وأوضح الموقع، أن عدد المحادثات المفهرسة بلغ نحو 4500 محادثة، بينما قد يكون الرقم الحقيقي أعلى بكثير، إذ لا يمكن التأكد مما إذا كانت محركات البحث قد فهرست جميع المحادثات القابلة للمشاركة. وأثار تقرير الموقع، قلقاً واسعاً، لا سيما أن خيار جعل المحادثة قابلة للفهرسة، لم يكن متاحاً سوى عبر موقع ChatGPT على الويب، بينما لا يظهر هذا الخيار في تطبيقات الهواتف الذكية سواء على iOS أو "أندرويد"، كما لا يمكن تفعيله من داخل الإعدادات. وكانت OpenAI قد حذرت سابقاً المستخدمين من مشاركة معلومات حساسة مع روبوت المحادثة، مشيرة إلى أنها قد تُجبر على تسليم هذه المعلومات في حال صدور أمر قضائي. وهذه ليست المرة الأولى التي تُطرح فيها تساؤلات حول الخصوصية في أدوات الذكاء الاصطناعي، إذ ظهرت حالات مشابهة مع روبوتات تابعة لشركة "ميتا"، حيث بدأت تظهر استفسارات المستخدمين ضمن خلاصات عامة على بعض تطبيقاتها. وبينما تتيح OpenAI للمستخدمين حذف روابط المشاركة في أي وقت، فإن ضعف الوعي الرقمي بين المستخدمين، إلى جانب تعقيد بعض خيارات المشاركة، قد ساهم في الكشف غير المقصود عن معلومات شخصية حساسة.
الرجل
منذ يوم واحد
- الرجل
زوكربيرغ يغيّر قواعد السباق: "الذكاء الشخصي" سلاح ميتا الجديد
أعلن مارك زوكربيرغ، الرئيس التنفيذي لشركة Meta، عن تحوّل استراتيجي بارز في رؤيته للذكاء الاصطناعي، كاشفًا ما أطلق عليه "الذكاء الشخصي الخارق" (Personal Superintelligence). ويُفهم من البيان الجديد أن Meta لم تعد تسعى لمنافسة أدوات مثل ChatGPT من حيث الكفاءة الإنتاجية، بل تسعى إلى استثمار نقاط قوتها التاريخية في الترفيه والتفاعل الاجتماعي. وقال زوكربيرغ في مدوّنة حملت طابعًا فكريًا: "إذا استمرّت الاتجاهات الحالية، فإن الناس سيقضون وقتًا أقل في أدوات الإنتاجية، وأكثر في الإبداع والتواصل.. الذكاء الشخصي الذي يعرفنا ويفهم أهدافنا سيكون الأكثر نفعًا". تأتي هذه الخطوة بعد عام من محاولة Meta نشر مساعدها الذكي في كل تطبيق تملكه، من إنستغرام إلى واتساب، لمواجهة الانتشار الكبير لـ ChatGPT. ومع تعثّر هذا المسعى، أعادت Meta التموضع لتخوض المنافسة من زاوية مختلفة، تُركّز على "ملء وقت الفراغ" الذي توفّره أدوات الإنتاج لا على استبدالها. ووفقًا لمصادر مطلعة داخل الشركة، باتت هذه الرؤية تُطرح بوضوح في الاجتماعات الداخلية، وعروض التوظيف، وفي الخطابات التوجيهية للفرق. استراتيجية Meta للذكاء الاصطناعي الترفيهي ضمن عرض داخلي لفريق العمل، قال كريس كوكس، كبير مسؤولي المنتجات في Meta: "علينا أن نتميّز من خلال عدم التركيز المفرط على الإنتاجية كما يفعل الآخرون، سنركّز بدلًا من ذلك على الترفيه، والتواصل، ونمط الحياة، وهي المجالات التي نتقنها". ويعني هذا التوجه أن Meta ستعتمد على الذكاء الاصطناعي لتعزيز تجربة المستخدم عبر تطبيقاتها من خلال إنشاء محتوى أكثر تخصيصًا، مثل مقاطع Reels المقترحة، أو حتى توليدها بالكامل، بالإضافة إلى إطلاق شخصيات ذكية تتفاعل مع المستخدمين بأسلوب ترفيهي. من المتوقع أيضًا أن يشهد المستخدمون إعلانات أكثر استهدافًا باستخدام تقنيات AI متقدمة، وهو ما قد يعزز من ربحية المنصة. ويبدو أن مصطلح "الذكاء الشخصي الخارق" لم يكن من وحي Meta، بل صاغه مؤسس نوام شازير، الذي كاد ينضم إلى Meta قبل أن يعود إلى Google، ما يعكس حجم المنافسة الشرسة على العقول اللامعة في مجال الذكاء الاصطناعي. عروض Meta لتوظيف خبراء الذكاء الاصطناعي في سياق موازٍ، تواصل Meta جهودها المكثّفة لجذب أفضل المواهب في قطاع الذكاء الاصطناعي، عبر عروض مالية ضخمة. لكن تلك العروض، بحسب مصادر داخلية، ليست مباشرة أو مفتوحة، بل مرتبطة بأهداف أداء صارمة. الموظفون يُمنحون وحدات أسهم مشروطة بتحقيق نتائج محددة، إلى جانب إمكانية سحب المكافآت إذا غادروا الشركة مبكرًا. هذه الشروط المعقدة تفسّر لماذا لم تنجح Meta بعد في استقطاب جميع الكفاءات التي تستهدفها. ورغم أن هذه الاستراتيجية تبدو أقل طموحًا مقارنة بمنصات مثل OpenAI وAnthropic، فإنها تستند إلى نقطة قوة مركزية في Meta: السيطرة على وقت المستخدم. فبينما يسعى الآخرون إلى جعل الذكاء الاصطناعي أكثر إنتاجية، تسعى Meta لجعل أوقات الراحة أكثر جاذبية وربحًا عبر الذكاء نفسه.
