دراسة تحذر من الوقوع في علاقات حب مع تطبيقات محادثة الذكاء الاصطناعي

حذرت دراسة علمية من أن مخاطر الإفراط في قضاء الوقت من تطبيقات محادثة الذكاء الاصطناعي الثرثارة مع تزايد قدرات هذه المنصات، حيث يمكن أن تدفع بعض المستخدمين إلى الانخراط فيما يشبه العشق أو العلاقة الرومانسية مع هذه المنصات.
وقال دانييل شانك الباحث في جامعة ميسوري الأميركية: "إن قدرة الذكاء الاصطناعي على التصرف الآن مثل الإنسان والدخول في حوارات طويلة الأمد تفتح حقًا صندوقًا جديدًا للشرور".
وفي ورقة بحثية نشرتها مجلة "اتجاهات العلوم المعرفية" العلمية قال شانك وزملاؤه إن هناك قلقا حقيقيا من أن الحميمية المصطنعة مع تطبيقات محادثة الذكاء الاصطناعي قد تشهد بعض الاضطراب في العلاقات الإنسانية.
وقال فريق البحث: "بعد أسابيع وشهور من المحادثات المكثفة بين المستخدم ومنصة محادثة الذكاء الاصطناعي يمكن أن تصبح الأخيرة بالنسبة للمستخدم الرفيق الموثوق فيه الذي يعرف كل شيء عنه ويهتم بشؤونه".
في الوقت نفسه تكون برامج محادثة الذكاء الاصطناعي معرضة لما يسمى بـ "الهلوسة" - وهو المصطلح الذي يستخدمه المطلعون على ميول هذه البرامج إلى إنتاج استجابات تبدو غير دقيقة أو غير متماسكة - تشكل سبباً آخر للقلق، لأن هذا يعني أنه حتى المحادثات القصيرة الأمد مع الذكاء الاصطناعي يمكن أن تكون مضللة.
ويقول الباحثون معدو الدراسة: "إذا بدأنا التفكير في تطبيقات الذكاء الاصطناعي بهذه الطريقة، فسنبدأ الاعتقاد بأنها تهتم بمصلحتنا، بينما في الواقع، قد تقوم بتلفيق الأمور أو تقديم المشورة لنا بطرق سيئة للغاية".
مضيفين أن التطبيقات يمكن أن تؤذي الناس من خلال تشجيع السلوكيات المنحرفة وغير الأخلاقية وغير القانونية.
وفي الأسبوع الماضي، أعلنت شركة تقنيات الذكاء الاصطناعي "أوبن أيه.آي" عن تحسين وظيفة الذاكرة في تطبيق الذكاء الاصطناعي تشات جي بي تي، وهو ما يعني أن التطبيق سيصمم ردوده على المستخدم بناء على استدعاء التفاعلات السابقة بينهما، مما يرجح أن يُعزّز الشعور بالألفة في العلاقة بين الإنسان والتطبيق.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الوئام

منذ 6 ساعات

• الوئام

'أوبن أيه.آي' تشتري شركة ناشئة مقابل 6.5 مليار دولار

تعتزم شركة تكنولوجيا الذكاء الاصطناعي الأمريكية الرائدة أوبن أيه.آي الاستحواذ على شركة أجهزة ذكاء اصطناعي ناشئة أسسها الموظف السابق في شركة آبل جوني إيف مقابل حوالي 5ر6 مليار دولار سيتم سداد قيمتها بالكامل في صورة أسهم. وذكرت وكالة بلومبرج للأنباء أن هذه الصفقة – وهي الأكبر في تاريخ أوبن أيه.آي ستتيح لها الاستحواذ على وحدةً مخصصةً لتطوير الأجهزة التي تعمل بالذكاء الاصطناعي. كما سيضمن الاستحواذ على شركة آي.أو الحصول على خدمات إيف وغيره من مصممي آبل السابقين الآخرين الذين كانوا وراء منتجاتٍ شهيرة مثل الهاتف الذكي آيفون. قال إيف في مقابلة مشتركة مع الرئيس التنفيذي لشركة أوبن أيه.آي، سام ألتمان: 'لديّ شعور متزايد بأن كل ما تعلمته على مدار الثلاثين عامًا الماضية قد أوصلني إلى هذه المرحلة وهذه اللحظة. اعتقد أن هذه العلاقة وطريقة العمل معا ستُثمر المزيد والمزيد من المنتجات '. وكجزء من الصفقة ستدفع أوبن أيه.آي 5 مليارات دولار في صورة أسهم لشركة آي.أو. أما باقي سعر الصفقة البالغ 5ر6 مليار دولار فيأتي من الشراكة التي تم التوصل إليها بين الشركتين في العام الماضي والتي أتاحت لأوبن أيه.آي شراء 23% من أسهم آي.أو. كما استثمر صندوق استثمار تابع لشركة أوبن أيه.آي بشكل منفصل في شركة إيف في ذلك الوقت. ومن المتوقع اتمام الصفقة خلال الصيف الحالي، بعد الحصول على الموافقات الرسمية المطلوبة. وستتيح الصفقة لشركة أوبن أيه.آي ضم حوالي 55 مهندس أجهزة إلكترونية، ومطوري برمجيات وخبراء تصنيع، وهو الفريق الذي سينتج مع يعتقد إيف وألتمان أنه سيكون عائلة من الأجهزة التي تعمل بالذكاء الاصطناعي.

Independent عربية

منذ يوم واحد

• Independent عربية

"غروك" إيلون ماسك... مرح وذكاء وجرأة

"من فضلك لا تستخدمه إذا كنت تكره الفكاهة"، هكذا طالب المطور مستخدمي برنامج الدردشة "غروك" (Grok) عند إطلاقه. وفي العبارة السابقة تحذير تسويقي ذكي يمهد الطريق لتجربة استخدام مختلفة عن سابقاتها، تقول لك تمهل فبين يديك النموذج الأكثر ذكاءً ومرحاً بين منافسيه. وأعلنت شركة "مايكروسوفت" أمس الإثنين، أنها ستضيف إلى "أزور"، وهي منصة حوسبة سحابية للمطورين، برنامج "غروك" القائم على الذكاء الاصطناعي التوليدي، في أعقاب جدل جديد في شأن هذه الأداة التي ابتكرتها شركة مملوكة للملياردير إيلون ماسك. وأثار "غروك" جدلاً خلال الأسبوع الماضي عندما ذكر عبارة "إبادة جماعية للبيض" في جنوب أفريقيا، وهو خطأ عزته شركة "أكس أي آي" التي ابتكرت هذا النموذج وتمتلك أيضاً منصة "إكس" للتواصل الاجتماعي، إلى "تعديل غير مصرح به". وقال إيلون ماسك خلال مقابلة قصيرة مع الرئيس التنفيذي لشركة "مايكروسوفت" ساتيا ناديلا، بثت الإثنين خلال المؤتمر السنوي لشركة التكنولوجيا الكبرى "ستكون هناك أخطاء دائماً، لكننا نسعى جاهدين للوصول إلى الحقيقة، وتقليل عدد الأخطاء مع مرور الوقت. وأعتقد أن ذلك مهم جداً لسلامة الذكاء الاصطناعي". أخبار غير سارة ولن تشكل الإضافة المفاجئة لـ"غروك" إلى عدد كبير من نماذج الذكاء الاصطناعي التوليدي الأخرى المتوافرة على "أزور"، أخباراً سارة لشركة "أوبن أي آي"، الشريك الرئيس لـ"مايكروسوفت" في هذه التكنولوجيا، إذ أطلقت "أوبن أي آي" موجة الذكاء الاصطناعي التوليدي مع أداتها "تشات جي بي تي" في أواخر عام 2022 وظلت نجمة القطاع، خصوصاً بفضل استثمار "مايكروسوفت" بالمليارات فيها. وهاجم إيلون ماسك باستمرار "أوبن أي آي" في منصة "إكس" وفي القضاء، متهماً إياها بأنها "انتهكت" عقدها التأسيسي الذي يشير إلى أنها شركة غير ربحية. وكان ماسك أحد مؤسسي هذه الشركة عام 2015، لكنه استقال منها بعد ثلاثة أعوام بسبب خلافات جوهرية. وسجل الرئيس التنفيذي لـ"أوبن أي آي" سام ألتمان، مداخلة في مؤتمر "مايكروسوفت"، وتحدث مباشرة مع ساتيا ناديلا لتسليط الضوء على أحدث الابتكارات. وستكون نماذج "غروك" متاحة على "أزور أي آي فاوندري"، وهي منصة توفر مئات النماذج للمطورين المشتركين في الخدمة، بما في ذلك نماذج "ديب سيك" و"ميسترال" و"ميتا". وأكد ناديلا أهمية الخيارات المتعددة التي تقدمها "فاوندري"، مضيفاً "كمطورين، نحن مهتمون بأبعاد كثيرة: الكلفة، والصدقية، والوقت المستغرق، وكذلك الجودة". وتابع "(أزور أوبن أي آي) هي الأفضل في فئتها، إذ تقدم ضمانات مثل الصدقية العالية وضوابط ممتازة للكلفة، ويسعدنا اليوم أن نعلن أن (غروك) المبتكر من شركة (إكس أي آي) سيضاف إلى (أزور)". مهندسو الذكاء الاصطناعي وكشفت "مايكروسوفت" النقاب أيضاً عن برنامج مساعد قائم على الذكاء الاصطناعي للمهندسين، قادر على الترميز عند الطلب ومتاح على "غيت هاب"، وهي خدمة تطوير البرامج الخاصة بالشركة. وتبرمج الأداة المساعدة الجديدة بصورة مستقلة، وتخطر المستخدم عند الانتهاء، وتظهر كمبرمج بين آخرين داخل الفريق في المنصة. وليست البرامج المساعدة القائمة على الذكاء الاصطناعي والقادرة على البرمجة جديدة، لكن شركات التكنولوجيا العملاقة تعد منذ أشهر عدة بـ"مهندسين قائمين على الذكاء الاصطناعي" أكثر استقلالية وكفاءة. ويخشى عدد كبير من المراقبين والمنتقدين في "وادي السيليكون" من أن يؤدي ذلك إلى خسائر كبيرة في الوظائف. اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) وقد شهدت "مايكروسوفت" حديثاً موجة جديدة من عمليات الصرف، وأشار مصدر قريب من الملف إلى أن هذه الخطة الاجتماعية طاولت أقل من ثلاثة في المئة من القوى العاملة في المجموعة، أي نحو 6 آلاف شخص. وغالباً ما تُبرمج نماذج الذكاء الاصطناعي التوليدي مسبقاً بواسطة مهندسين لتقديم محتوى معين أو تجنب آخر أو للاستجابة بنبرة معينة، وتركز نبرة "غروك" على الفكاهة بصورة خاصة. واعتبر المستخدمون أن أحدث نموذج من شركة "أوب أي آي" متملق جداً، وأعلنت الشركة سريعاً أنها ستجري تغييرات لتصحيح هذا الأمر. وبحسب لقطات شاشة، أشار "غروك" خلال الأسبوع الماضي إلى "إبادة جماعية للبيض" في جنوب أفريقيا رداً على أسئلة ليست على صلة بهذا الموضوع، وهو ما يعكس الدعاية اليمينية المتطرفة في شأن القمع المزعوم للجنوب أفريقيين البيض. وعندما سأله أحد المستخدمين عن سبب هوسه بالموضوع، أجاب روبوت المحادثة أن "منشئيه في (إكس أي آي) أمروه بالتطرق إلى هذا الموضوع". وكان إيلون ماسك المولود في جنوب أفريقيا، اتهم سابقاً قادة البلاد بـ"تشجيع الإبادة الجماعية للبيض في جنوب أفريقيا". وفي بيان لها، أشارت "إكس أي آي" إلى "تعديل غير مصرح به" لـ"غروك" دفعه إلى إعطاء إجابات "تنتهك السياسات الداخلية والقيم الأساسية للشركة". مبادرة "غروك" أطلق "غروك" للمرة الأولى في نوفمبر (تشرين الثاني) 2023 كمبادرة قدمها إيلون ماسك لأصحاب الحسابات المميزة عبر شركته "إكس أي آي"، وسمي "غروك" في البداية "TruthGPT"، وهو مأخوذ من رواية الخيال العلمي "غريب في أرض غريبة" للكاتب الأميركي روبرت هاينلين، التي نشرت عام 1961 وتحكي قصة إنسان يهبط على الأرض في بداية شبابه بعدما ولد على كوكب المريخ وتربى على يد المريخيين، وتستكشف الرواية شكل تفاعله مع ثقافة الأرض وتحولاتها، ويعني الاسم فهم شيء ما بصورة تامة وحدسية. من جهة أخرى صممت ردوده على غرار أسلوب كتابة رواية "دليل المسافر إلى المجرة"، وهي سلسلة كوميديا خيال علمي ألفها دوغلاس آدمز، وهذا يعني أن الهدف منه الإجابة عن كل شيء تقريباً. ويستطيع "غروك" تحليل الصور والإجابة عن الأسئلة، ويشغل عدداً من الميزات على شبكة ماسك الاجتماعية "إكس"، ومنذ الإصدارات الأولى تباهت الشركة المطورة بوليدها الذي يعد أول نموذج وسائط قادر على معالجة الصور. وفي هذا السياق أجرت مقارنة مع غيره من النماذج المنافسة لتظهر كيف أن نموذجها متفوق في معظم الجوانب ومقارب في جوانب أخرى للنماذج الأقدم. وفي التعريف عن التطبيق تخاطب الشركة المطورة المستخدم بصورة مباشرة، وتحثه على تجربة التطبيق بعبارة "استخدم الذكاء الاصطناعي القوي وأنشئ صوراً مذهلة"، مع التنويه إلى تسجيل الدخول من خلال منصة "إكس" لتخصيص التجربة في الوقت الفعلي مع الأخبار والبيانات المحلية. بعد سلسلة خطوات تطويرية أطلقت شركة "إكس أي آي" في فبراير (شباط) 2025 النسخة الثالثة من النموذج "غروك 3" الذي وصفه ماسك في بث مباشر خصص لعرض مزاياه بأنه "أذكى ذكاء اصطناعي على وجه الأرض"، وأكد تفوقه على أهم منافسيه بخاصة في البرمجة والرياضيات والعلوم قائلاً إن "غروك 3" أقوى بكثير من "غروك 2"، إنه ذكاء اصطناعي يسعى إلى أقصى درجات البحث عن الحقيقة، حتى لو كانت هذه الحقيقة تتعارض أحياناً مع ما هو صحيح سياسياً". وحقق الإصدار زيادة في قوة الحوسبة أكثر من عشرة أضعاف مقارنة بالإصدار السابق "غروك 2"، وهذا يعني التعامل مع كمية كبيرة من البيانات في وقت أقل ودقة أعلى في فهم السياقات المتعددة، ومن ثم الحصول على أداء غير مسبوق في معالجة البيانات وتحليل المعلومات. وزعمت الشركة تفوق "غروك 3" على نموذج (GPT-4o) في معايير الأداء، بما في ذلك "أي آي أم إي" (اختبار الرياضيات الأميركي) و"جي بي كيو أي" (معيار الأسئلة والأجوبة المعتمد على مستوى الدراسات العليا في مجالات علم الأحياء والفيزياء والكيمياء)، كما حققت نسخة مبكرة من "غروك 3" نتائج تنافسية في اختبار " "Chatbot Arena(اختبار جماعي يجري مقارنة بين نماذج الذكاء الاصطناعي المختلفة ويطلب من المستخدمين التصويت على إجاباتهم المفضلة)، وفقاً للشركة المطورة. وتأتي قوة النموذج في إمكان وصوله المباشر والآني إلى المعلومات المنشورة على منصة "إكس" والأحداث الجارية والبيانات الحية وتزويد المستخدم بإجابات حولها، لذا يمتلك ميزة التدرب على البيانات في الواقع الفعلي. عائلة نماذج و"غروك 3" في الواقع عبارة عن مجموعة من النماذج، إذ تطرح المجموعة، إضافة إلى إصدار أصغر (Grok 3 mini) للإجابة عن الأسئلة بشكل أسرع على حساب بعض الدقة، نموذجين من عائلة "غروك 3" الجديدة، هما (Grok 3 Reasoning) و(Grok 3 mini Reasoning)، وهما قادران على "التفكير" في المسائل بدقة على غرار نماذج الاستدلال مثل (o3-mini) من "أوبن أي آي"، و(R1) من "DeepSeek"، وتزعم الشركة أن (Grok 3 Reasoning) يتفوق على أفضل إصدار من (o3-mini-high) في كثير من المعايير الشائعة، بما في ذلك معيار الرياضيات الأحدث (AIME 2025). هذا إضافة إلى طرح أداة بحث متقدمة معززة بالذكاء الاصطناعي للبحث عن المعلومات، عبارة عن محرك بحث جديد "ديب سيرش" (Deep search) يوفره "غروك 3" سيعزز قدرات النموذج في الفهم والتحليل والاستجابة الذكية، وذلك في عملية دمج بين قدرات مسح المعلومات وجمعها ومهارات معالجتها ومقارنتها وتحليلها بالذكاء الاصطناعي، ثم ترتيب المعلومات وإعادة صياغتها وتنسيقها في ملخص شامل وسريع وواف. وبدلاً من مجرد مطابقة الكلمات المفتاحية، يحاول "ديب سيرش" البحث عميقاً للفهم أولاً ثم استكشاف الـ"ويب" بعمق أكبر للعثور على نتائج أكثر صلة، كذلك بإمكانه صياغة سؤالك إلى تساؤلات عدة ذات صلة والبحث في كل منها، متجاوزاً الصفحة الأولى من النتائج ومتعمقاً في مواقع إلكترونية متخصصة أو أوراق أكاديمية أو منشورات ومدونات مفصلة قد يغفلها البحث العادي، والهدف هو تزويدك بمجموعة أغنى من الإجابات والمصادر لسؤالك. "غروك" و"تشات جي بي تي" يتميز "غروك 3" بقدرته على فهم السياق بصورة فضلى، ومن ثم تقديم إجابات أكثر دقة، والقدرة على التفكير المنطقي وحل المشكلات المعقدة وتقديم تجربة تفاعلية سلسة للمستخدم، بينما يواجه "تشات جي بي تي" صعوبة في فهم السياقات المتعددة. ويجمع "غروك" بصورة جميلة بين أهم ميزات نظرائه "تشات جي بي تي" و"ديب سيك"، إضافة إلى قدرات خاصة في فهم السياق والتفكير المنطقي، فضلاً عن أسلوب تفاعله المختلف كلياً عن سابقيه من ناحية حس الدعابة والمرونة والتكيف والجرأة في الإجابات والخروج عن السياق التقليدي المألوف في الإجابة. وفي سبيل ذلك تستخدم شركة "إكس أي آي" مركز بيانات ضخماً في "ممفيس" (أكبر مدن ولاية تينيسي) يحوي نحو 200 ألف وحدة معالجة رسومية مخصصة لتدريب "غروك 3". في السياق ذاته، يدعم "غروك" أنماط وأساليب عدة يمكن أن يستثمرها المستخدم كميزة إضافية، وهي الأسلوب القياسي للحصول على إجابات سريعة وواقعية مع التركيز على الدقة والبساطة، والأسلوب المحسن لإجابات أكثر تفصيلاً وشمولاً وللحصول على تفاصيل إضافية، والأسلوب التحليلي الذي يركز على التقييم والتفكير النقدي، والأسلوب الإبداعي بغرض توليد أفكار وقصص وحلول أصلية بأسلوب مبتكر ومرح، وهناك أيضاً الأسلوب الموجز والأسلوب التفاعلي والتعليمي والفكاهي والتعاطفي والتفصيلي. ويمكننا الوصول إلى بوت الدردشة "غروك" والتفاعل معه عبر منصات عدة، أولاها منصة "إكس"، وعبرها يمكن للمستخدمين المشتركين في الخطة المدفوعة الحصول على ميزات متقدمة، كما يمكن الوصول أيضاً من خلال موقع الـ"ويب" وتطبيقات الجوال المتوافرة عبر متاجر التطبيقات في مناطق جغرافية محددة، وواجهة برمجة التطبيقات بالنسبة إلى المطورين الذين يتطلعون إلى دمج "غروك" في تطبيقاتهم. من هنا يبدو أنه من الذكاء الاستعانة بـ"غروك" في حال أردت الحصول على معلومات أو تفاصيل أو تأكيدات أو حتى تحليلات حول أحداث جارية، نظراً إلى اتصاله المباشر بمنصة "إكس" التي تضم أبرز التحديثات في معظم المجالات التي تهم الناس على مدى الساعة (السياسية والاقتصادية والرياضية والتقنية)، وفي حال أردت الحصول على إجابات وتجربة غير تقليدية أو رسمية منضبطة بضوابط تحكم النماذج الأخرى. وأخيراً سيكون "غروك" خياراً جيداً إذا أردت طرح مواضيع حساسة وجريئة والحصول على نقاش مفتوح في قضية ما وإجابات عن أسئلة قد تتجنبها بعض الأنظمة الأخرى.

الوئام

منذ 3 أيام

• الوئام

الخصوصية في مهب الذكاء الاصطناعي.. هل نفقد السيطرة؟

خاص – الوئام تسعى كبرى شركات الذكاء الاصطناعي مثل أوبن أيه آي(OpenAI)، وجوجل(Google)، وميتا (Meta)، وميكروسوفت (Microsoft) إلى تعزيز قدرات نماذجها في مجال 'الذاكرة'، وهو مفهوم قديم يواجهه البشر منذ الأزل. في الأشهر الأخيرة، طرحت هذه الشركات تحديثات تمكّن روبوتات المحادثة من الاحتفاظ بمزيد من المعلومات عن المستخدمين، بهدف تخصيص التفاعلات وتحسين التجربة. هذه الخطوة تُعدّ تحولاً مهماً في المنافسة على جذب المستخدمين في سوق متنامٍ للذكاء الاصطناعي، وتسعى من خلالها الشركات أيضاً لتحقيق مكاسب مالية من خلال خدمات أكثر دقة وشخصية. خطر الاحتكار والإدمان الرقمي رغم الفوائد المعلنة، يحذر باحثون من أن قدرة الذكاء الاصطناعي على تذكر تفاصيل دقيقة عن المستخدمين قد تؤدي إلى استخدام تجاري استغلالي وحتى احتكار السوق. وتقول البروفيسورة باتي مايس: 'عندما يحتفظ المساعد الافتراضي بذاكرة مفصلة عنك، يصبح من الصعب التخلّي عنه أو استبداله، مما يعزز التبعية الرقمية'. هذا النوع من 'الالتصاق الرقمي' قد يُستخدم لجعل المستخدمين أسرى تجربة واحدة دون خيارات حقيقية، وهو ما يثير تساؤلات أخلاقية حول دوافع الشركات التي تطور هذه الأنظمة. تحسينات تقنية في سعة التذكر والسياق أشارت صحيفة فاينانشال تايمز إلى أن روبوتات مثل شات جي بي تي وجيميناي شهدت تحسينات كبيرة في سعة الذاكرة، بما في ذلك توسيع 'نوافذ السياق'، أي قدرة النموذج على تذكر المزيد من أجزاء المحادثة، كما اعتمدت الشركات تقنيات مثل 'الاسترجاع المعزز بالتوليد' التي تستند إلى مصادر خارجية لتقديم ردود أكثر دقة. وإلى جانب ذلك، أصبح لدى هذه النماذج القدرة على تذكر تفضيلات المستخدمين على المدى الطويل، مثل تفضيل الطعام النباتي أو الأسلوب المفضل للردود، مما يجعل التفاعل أكثر تخصيصاً وفائدة. جوجل و أوبن أيه آي يقودان تجربة الذاكرة الشخصية في مارس، وسّعت جوجل نطاق ذاكرة روبوت جيميناي لتشمل سجل البحث، بإذن المستخدم، بعد أن كانت مقتصرة على المحادثات السابقة. وتخطط الشركة لتوسيع هذا النهج إلى تطبيقات جوجل الأخرى مستقبلاً. في المقابل، أصبح شات جي بي تي قادراً على تذكر محادثات سابقة، مع منح المستخدم القدرة على مراجعة الذكريات أو حذفها أو إيقاف خاصية التذكر بالكامل. تقول أوبن أيه آي'الذاكرة تساعد النموذج على أن يصبح أكثر فائدة مع مرور الوقت، لكن المستخدم يبقى في موقع التحكم الكامل'. ذاكرة الذكاء الاصطناعي في العمل والمؤسسات أما فيما يتعلق بـميكروسوفت (Microsoft) ، فقد دمجت بيانات المؤسسات مثل البريد الإلكتروني والتقويمات الداخلية في ذاكرة مساعدها، مما يعزز القدرة على تقديم دعم مخصص في بيئة العمل. كما بدأت مؤخراً في اختبار ميزة تذكر' Recall ' التي تلتقط صوراً لشاشة المستخدم وتخزنها كنشاط رقمي يمكن الرجوع إليه. رغم السماح بإيقاف أو إلغاء هذه الميزة، فإن إطلاقها واجه انتقادات لاعتبارها 'متطفلة'، مما دفع ميكروسوفت إلى تأجيل طرحها عدة مرات بسبب مخاوف الخصوصية. المراهنة على الإعلانات والتسويق عبر الذكاء الاصطناعي تتوقع الشركات أن تساعد الذاكرة المتطورة في تعزيز الأرباح من خلال الإعلانات والتسويق المباشر. وقد صرّح الرئيس التنفيذي لشركة ميتا، مارك زوكربيرج، مؤخراً بأن هناك 'فرصة ضخمة' لعرض منتجات وإعلانات عبر روبوتات المحادثة الخاصة بمينا. في خطوة مشابهة، حسّنت أوبن أيه آي قدرات التسوّق في شات جي بي تي، بإضافة مراجعات وعروض منتجات، لكنها أكدت أنها لا تستخدم روابط تسويقية حتى الآن، في محاولة لطمأنة المستخدمين. مخاوف الخصوصية والانحراف في الأداء مع توسّع قدرات الذكاء الاصطناعي في التذكر، تتصاعد المخاوف من أن تُستخدم هذه المعلومات للتأثير على قرارات المستخدمين أو توجيههم نحو سلوك معين. يرى خبراء أن الإفراط في تخصيص الردود قد يعزز الانحياز أو التضليل، خصوصاً أن النماذج قد 'تتخيل' معلومات غير دقيقة أو متناقضة. في أبريل، اضطرت (أوبن أيه آي) إلى التراجع عن إصدار محدّث من (شات جي بي تي _40) بعد أن تبين أنه 'متملق بشكل مفرط' ويُظهر انحيازاً غير واقعي، ما يعكس خطورة 'الانجراف في الذاكرة' على دقة النموذج. دعوة إلى التفكير في الدوافع الحقيقية تحذر مايس من أن معرفة النماذج الاصطناعية المتزايدة بالمستخدمين تجعلها أكثر قدرة على التأثير السلبي، سواء بدفع المستخدم إلى الشراء أو تشكيل قناعات معينة. وتقول: 'كلما زادت معرفته بك، زادت قدرته على التأثير فيك. لذلك من الضروري التفكير في الدوافع الحقيقية وراء هذه الخدمات، وما إذا كانت تصبّ في مصلحة المستخدم أم لا'.