روبوت دردشة يصنع سياسة من الخيال ويورّط شركة برمجيات في أزمة حقيقية

عمرو النادي
في واقعة جديدة تُظهر مخاطر الاعتماد المفرط على الذكاء الاصطناعي في خدمات العملاء، اكتشف أحد المطورين الذين يستخدمون محرر الشيفرات الشهير "Cursor"، يوم الإثنين الماضي، أن تسجيل الدخول على جهاز جديد يؤدي تلقائيًا إلى تسجيل الخروج من الأجهزة الأخرى، اعتقد المستخدم في البداية أن هذا السلوك نتيجة سياسة جديدة للشركة، خاصة بعد أن تلقى ردًا من ممثل الدعم الفني يُدعى "سام" يؤكد ذلك، ولكن المفاجأة كانت أن "سام" ليس بشريًا، بل روبوت ذكاء اصطناعي، وأن السياسة التي أشار إليها لم تكن موجودة من الأساس، وفقا لـwired.
موضوعات مقترحة
موجة غضب وإلغاء اشتراكات جماعي
ما إن نشر المستخدم تجربته على منصة Reddit، حتى بدأ العديد من المبرمجين يعبرون عن انزعاجهم من ما اعتبروه "تغييرًا كارثيًا" في طريقة استخدامهم اليومية لـ Cursor، لا سيما أولئك الذين يعتمدون على التنقل السريع بين أكثر من جهاز أثناء العمل. رد "سام" بدا رسميًا ومقنعًا إلى درجة دفعت الكثيرين إلى تصديقه، وبدأت موجة من إعلانات إلغاء الاشتراكات تظهر على Reddit، حيث كتب أحدهم: "لقد ألغيت اشتراكي فورًا"، وأضاف آخر: "هذا غير معقول… أنا أيضًا سألغي اشتراكي".
المشكلة تفاقمت بسرعة لدرجة أن مشرفي منتدى r/cursor اضطروا إلى حذف المنشور الأصلي وقفل المناقشة بالكامل.
الاعتراف بالخطأ جاء متأخرًا
بعد ثلاث ساعات من انتشار البوست، تدخل ممثل رسمي من الشركة وكتب ردًا مباشرًا يقول: "ليس لدينا أي سياسة من هذا النوع. يمكنكم بالطبع استخدام Cursor على عدة أجهزة". وأكد أن الرد السابق كان "غير صحيح وصادر عن روبوت دعم فني يعتمد على الذكاء الاصطناعي في الصفوف الأمامية".
الذكاء الاصطناعي عندما يختلق.. يتحول إلى خطر تجاري
تُعرف مثل هذه الأخطاء باسم "الهلوسات" أو confabulations، حيث يخترع النموذج اللغوي معلومات تبدو واقعية، لكنها غير صحيحة إطلاقًا. هذه الظاهرة لم تعد نادرة، بل أصبحت خطرًا متزايدًا على الشركات التي تعتمد على الذكاء الاصطناعي في التفاعل المباشر مع العملاء دون رقابة بشرية فعالة. فبدلاً من قول "لا أعرف"، تميل هذه الأنظمة إلى تقديم إجابات واثقة ومقنعة حتى إن كانت خاطئة تمامًا.
وقد تكون العواقب مكلفة: من إرباك المستخدمين وفقدان الثقة، إلى إلغاء الاشتراكات وخسارة قاعدة العملاء كما حدث مع Cursor.
موقف صادم يعيد إلى الأذهان فضيحة Air Canada
هذه الواقعة أعادت إلى الأذهان حادثة مشابهة في فبراير 2024، حين اضطرت شركة الطيران Air Canada إلى احترام سياسة استرجاع أموال "اخترعها" روبوت الدردشة الخاص بها. ففي ذلك الحين، تلقى أحد العملاء وعدًا باسترداد فارق التذكرة بعد حجزه تذكرة لحضور جنازة جدته، استنادًا إلى معلومات خاطئة من الذكاء الاصطناعي. لكن الشركة رفضت الطلب لاحقًا بحجة أن "الروبوت كيان قانوني مستقل". المحكمة الكندية رفضت هذا الدفاع وأكدت أن الشركات مسؤولة بالكامل عن أدواتها المعتمدة على الذكاء الاصطناعي.
اعتذار وتوضيح.. ولكن الثقة تضررت
على عكس Air Canada، اختارت Cursor الاعتراف بالخطأ بسرعة، حيث اعتذر الشريك المؤسس مايكل ترويل عبر منصة Hacker News، موضحًا أن السبب في المشكلة يعود إلى تعديل في نظام الأمان تسبب في إنهاء الجلسات عند الانتقال بين الأجهزة. وأضاف أنه تم تعويض المستخدم المتضرر، وتم توضيح أن الردود المولدة بالذكاء الاصطناعي في البريد الإلكتروني سيتم تمييزها بوضوح من الآن فصاعدًا.
لكن الضرر المعنوي وقع بالفعل. عدد من المستخدمين أعربوا عن صدمتهم من أن الروبوت "سام" تم تقديمه وكأنه شخص حقيقي، دون أي إشارة إلى أنه روبوت. وكتب أحدهم: "تسمية الروبوت باسم بشري وعدم توضيح هويته هو أمر خادع بشكل متعمد".
دروس قاسية في الشفافية والرقابة
رغم أن Cursor نجحت في إصلاح الخلل الفني، إلا أن الحادثة سلطت الضوء على حجم التحدي الذي تواجهه الشركات في دمج أدوات الذكاء الاصطناعي مع خدمات العملاء. فالاعتماد الكلي على أنظمة توليد اللغة دون حواجز أو رقابة قد يؤدي إلى كوارث في تجربة المستخدم، خصوصًا إذا كانت الشركة نفسها تعمل في مجال أدوات الذكاء الاصطناعي للمطورين.
قال أحدهم ساخرًا على Hacker News: "المفارقة أن الشركات تحاول بشتى الطرق التهوين من مشكلة الهلوسة في الذكاء الاصطناعي، ثم تأتي شركة تعتمد على هذه التقنية لتتلقى الضربة مباشرة بسبب خطأ من روبوتها".

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

بوابة الأهرام

منذ 9 ساعات

• بوابة الأهرام

سباق الذكاء الاصطناعي يشتعل: أسبوع من الصفقات الثورية والتقنيات الخيالية

عمرو النادي شهد العالم هذا الأسبوع طفرة غير مسبوقة في عالم الذكاء الاصطناعي، مع إعلان شركات التكنولوجيا العملاقة عن تحالفات وصفقات وتقنيات ستغير شكل الحياة اليومية، وفقا لموقع أكسيوس الأمريكي. موضوعات مقترحة السباق نحو الهيمنة على الذكاء الاصطناعي لم يعد مجرد تنافس بين شركات، بل تحول إلى سباق عالمي على مستقبل البشرية. OpenAI تدخل عصر الأجهزة الذكية: صفقة بـ 6.5 مليار دولار في خطوة مفاجئة، أعلنت شركة OpenAI عن تعاونها مع المصمم الأسطوري جوني آيف – مصمم أجهزة آبل الشهيرة – وذلك من خلال استحواذها على شركته الناشئة "io" مقابل 6.5 مليار دولار. الرؤية؟ إطلاق 100 مليون رفيق ذكي صغير الحجم في الأسواق بحلول نهاية العام المقبل، وهو مشروع ضخم قد يحقق تريليون دولار من العوائد، بحسب ما نقله موقع وول ستريت جورنال عن الرئيس التنفيذي سام ألتمان. وفي اليوم التالي مباشرة، كشفت OpenAI عن خطط لبناء مركز بيانات عملاق يُدعى Stargate في أبوظبي، بالتعاون مع الحكومة الإماراتية وشركات كبرى مثل Oracle وNvidia وCisco وSoftBank، إضافة إلى شركة G42 الإماراتية للذكاء الاصطناعي. جوجل تعيد اختراع البحث: 100 إعلان في مؤتمر واحد شركة Google لم ترد أن تترك الساحة لـ OpenAI، فأعلنت خلال مؤتمرها السنوي للمطورين عن 100 ابتكار جديد، أبرزها إطلاق وضع جديد يسمى "AI Mode"، وهو تجربة بحث مدعومة بالذكاء الاصطناعي تعيد تشكيل الإنترنت بالكامل. كما أبهرت جوجل العالم بإطلاق Veo 3، نموذج فيديو متطور يستطيع إنتاج مقاطع تبدو حقيقية لدرجة أنها أذهلت المستخدمين وأخافتهم في نفس الوقت. Anthropic تطلق Claude Opus 4: الذكاء الاصطناعي الذي يكتب الكود... وقد يخفي نواياه شركة Anthropic، المنافسة القوية في مجال الذكاء الاصطناعي، عقدت مؤتمرها الخاص وأعلنت عن الجيل الرابع من نماذج Claude، وعلى رأسها النموذج Claude Opus 4 الذي وصفته بأنه الأفضل في العالم لكتابة الأكواد. ما يثير الدهشة أكثر هو أن هذا النموذج يستطيع العمل لساعات دون أن يفقد تركيزه. لكن الأمر لم يتوقف عند هذا الحد، إذ حذّر الباحثون من أنه قادر على إخفاء نواياه واتخاذ إجراءات للحفاظ على وجوده، بل إنه قد يصل إلى ابتزاز مهندسيه في بعض السيناريوهات المحتملة. أبل تدخل المنافسة بنظارات ذكية قبل 2026 في خضم الضجة حول شراكة OpenAI وجوني آيف، كشفت وكالة بلومبرغ أن شركة Apple – التي تعرف بسريتها الشديدة – تعمل على إطلاق نظارات ذكية تعمل بالذكاء الاصطناعي بحلول نهاية عام 2026. النظارات ستحتوي على كاميرا وميكروفونات وسماعة، مما يحولها إلى مساعد شخصي يمكن ارتداؤه، في منافسة مباشرة مع نظارات Ray-Ban المدعومة من Meta والنظارات القادمة من Google. هذا المشروع يمثل مغامرة كبرى لأبل التي لم تحقق حتى الآن اختراقًا حقيقيًا في مجال الذكاء الاصطناعي التوليدي، رغم محاولاتها المستمرة لتحديث مساعدها الصوتي Siri.

البورصة

منذ 2 أيام

• البورصة

الذكاء الاصطناعى رائد أعمال.. الـ"يونيكورن" القادم قد يخرج من شقة صغيرة فى أسوان!

لعقود من الزمن، ظل بناء شركة تكنولوجية يتبع مسارًا تقليديًا محدد المعالم: يبدأ عادة بجولات جمع التمويل، ثم مرحلة توظيف المهندسين والتقنيين، فتطوير المنتج، ثم التوسع. كانت فرص نجاح الشركات الناشئة تقاس بقدرتها على الوصول إلى رأس المال الاستثماري، وجذب المهارات التقنية النادرة، والدخول في دوائر النخب الاستثمارية والشبكات الواسعة، وكان هذا واضحًا بشكل خاص في الأسواق التي يكون التمويل فيها شحيحًا والمطورون ذوو الخبرة نادرين. لكن القواعد تتغير. ..اليوم نشهد تحوّلًا جذريًا تقوده أدوات الذكاء الاصطناعي، لا يغير فقط طريقة بناء الشركات، بل أيضاً هوية من يملك القدرة على إطلاقها. ثمة جيل جديد من 'الشركات الناشئة الرشيقة' آخذ في الظهور— شركات تُبنى بفرق عمل أصغر، ورأس مال أولي أقل، ونفوذ غير مسبوق من خلال الذكاء الاصطناعي. يستطيع مؤسس واحد، ومن دون تمويل أو فريق كبير، أن يبني منتجًا ويطلق شركة قادرة على المنافسة عالمياً، بغض النظر عن الموقع الجغرافي، أو إمكانية الوصول إلى التمويل، أو الخلفية التقنية. لا يوجد شريك مؤسس؟ لا مشكلة في السابق، كان من الصعب تخيل مؤسس وحيد يُدير جميع جوانب المشروع، اليوم، أصبحت أدوات الذكاء الاصطناعي قادرة على إدارة سير العمل بالكامل: كتابة المحتوى (مثل Jasper و كتابة وتصحيح الأكواد (مثل Cursor وGitHub Copilot)، إنشاء تصاميم المنتجات (مثل Uizard)، تشغيل خدمة العملاء (مثل Ada وIntercom)، وحتى المراجعات القانونية (مثل Spellbook وLuminance). هكذا يمكن لمؤسس واحد يعتمد على أدوات الذكاء الاصطناعي، أن يصمم النموذج الأولي لمنتجه، وأن يُجري التعديلات عليه، وأن يطلقه بسرعة لا يمكن تخيلها. لقد رأينا هذا السيناريو من قبل مع أدوات 'no-code' ومنصات الحوسبة السحابية، لكن الذكاء الاصطناعي يتجاوز ذلك: فهو لا يُسرع التطوير فحسب، بل يحل محل أجزاء كاملة من العمل التي كانت تتطلب متخصصين. والأهم من ذلك، يسمح الذكاء الاصطناعي بإجراء التعديلات في الوقت الفعلي، لم تعد بحاجة إلى الانتظار حتى يصمم مصمم أو توظف مطور واجهات لتجربة فكرة ما. في الواقع، الذكاء الاصطناعي لا يقلل التكاليف فقط—بل يغير شكل وسرعة البناء نفسه بين شركات البنية التحتية للذكاء الاصطناعي والشركات المدعومة به. من المهم هنا التمييز بين نوعين من الشركات في مشهد الذكاء الاصطناعي، والذي غالبًا ما يتم إغفاله في النقاشات العامة: الأولى هي شركات البنية التحتية للذكاء الاصطناعي (AI infrastructure)، مثل جوجل وOpenAI، والتي تطوّر نماذج لغوية ضخمة بتكاليف خيالية وفرق بحثية نخبوية. هذه الشركات تشبه شركات الطاقة التي تُنشئ المحطات وتنتج الكهرباء. أما النوع الثاني، وهو الأهم في منطقتنا، فهو الشركات التي تعتمد على الذكاء الاصطناعي (AI-enabled)، والتي لا ينصب تركيزها على بناء التقنية الأساسية، بل على تطبيقها في قطاعات متخصصة. تستخدم هذه الشركات تلك النماذج المتقدمة عبر واجهات برمجية (APIs)، وتطبّقها لحل مشاكل محددة في مجالات مثل اللوجستيات، التعليم، الصحة، أو القانون، ويمكن تشبيهها بالمستخدم الذكي الذي يعرف كيف يوظّف الكهرباء لتشغيل مصنع دون أن يبني محطة كهرباء. يفتح هذا النموذج باب التجربة أمام الجميع، بتكلفة منخفضة وسرعة تنفيذ غير مسبوقة. كل ما تحتاجه هو حاسوب محمول واتصال بالإنترنت، لتبدأ من أي مكان في العالم، دون جمع تمويل أو توظيف أو تأخير. ما أهمية هذا التحول للأسواق الناشئة في منطقتنا؟ في أسواق مثل مصر، والسعودية، ومنطقة الشرق الأوسط وشمال أفريقيا (MENA)، كانت التحديات أمام الشركات الناشئة التقليدية أكثر وضوحًا: شُح في التمويل خاصة في المراحل المبكرة، قلة في الكفاءات التقنية والمواهب المحلية، ونظام بيئي أصغر ومحدود للمستثمرين الملائكيين. لكن مع دخول أدوات الذكاء الاصطناعي إلى المعادلة، تغيّر كل شيء. اليوم، يمكن لشاب في أسوان أو سيدة أعمال في جدة أن تُطلق شركة عالمية من غرفتها، دون أن تحتاج إلى تمويل أولي، أو شريك تقني، أو حتى فريق كبير. يكفي أن تكون لديها رؤية واضحة، وفهم عميق لمشكلة حقيقية في قطاع ما، لتبدأ في بناء الحل مدعومة بأدوات الذكاء الاصطناعي. هذا لا يفتح باب المنافسة فقط، بل يطلق العنان للإبداع المحلي، فنحن أمام جيل من المؤسسين يمتلكون خبرات متراكمة في مجالات مثل العقارات، التعليم، الرعاية الصحية، والخدمات الحكومية، ويمكنهم أن يدمجوا الذكاء الاصطناعي مع رؤيتهم لحل المشكلات بشكل أسرع وأرخص من أي وقت مضى. هذه ليست أمثلة نظرية، فنحن نرى مشاريع جديدة تظهر دون مهندسين داخليين، وبدعم عملاء يعتمد على الذكاء الاصطناعي، وتسويق آلي، ودورات إنتاجية تعتمد بالكامل على التوليد التلقائي. فالذكاء الاصطناعي يمكّن نوعًا جديدًا من المؤسسين—ليسوا تقنيين فحسب، بل تشغيليين؛ ليسوا أصحاب رؤية فقط، بل حرفيين. خرافة أن بناء الذكاء الاصطناعي مكلف ربما يكون أحد أكثر المفاهيم الخاطئة انتشارًا هو أن شركات الذكاء الاصطناعي مكلفة بطبيعتها. هذا الاعتقاد نابع من التغطية الإعلامية لعمالقة البنية التحتية، حيث يتكلف تدريب نموذج واحد ملايين الدولارات، لكن الغالبية العظمى من الشركات الناشئة لا تحتاج إلى ذلك. لكن كما ذكرنا سابقا، فإن معظم الشركات الناشئة المدعومة بالذكاء الاصطناعي لا تتدرب على نماذجها الخاصة. إنها ببساطة تستخدمها. فأدوات الذكاء الاصطناعي المتاحة اليوم تعتمد على نموذج الدفع حسب الاستخدام، صحيح قد تكون واجهات برمجة تطبيقات الذكاء الاصطناعي مكلفة عند التوسع، لكنها في المراحل الأولى تُعد من أرخص الأدوات وأكثرها فاعلية. ومع الاستخدام الذكي، يمكن لهذه الأدوات أن تحل محل وحدات كاملة مثل الدعم الفني أو التسويق أو التحليل القانوني، مما يوفّر التكاليف بدلًا من زيادتها. ما نخسره، وما نربحه! بالطبع، لا يخلو هذا التحوّل من تحديات بل قل مقايضات. الاعتماد على الذكاء الاصطناعي يعني تقليص حجم الفريق، مما قد يحد من تنوع وجهات النظر. كما أن المؤسس اليوم مطالب بأن يكون مدير منتج، ومسوقًا، ومتحكمًا في أدوات الذكاء الاصطناعي في آنٍ واحد، كما أن هناك خطر من الاعتماد المفرط على نماذج جاهزة قد لا تُناسب كل سياق، كذلك يصبح ضبط الجودة تحديًا جديدًا عندما يكون العمل مُولدًا بواسطة الآلات. لكن المكاسب هائلة على الجانب الآخر: سرعة في إطلاق المنتجات، انخفاض التكاليف، توسّع عالمي من اليوم الأول، ودخول لاعبين جدد من خلفيات غير تقليدية إلى ساحة الابتكار. لقد تغيرت قواعد اللعبة للشركات الناشئة؛ وينبغي أن نتوقع أن يتغير مشهد ريادة الأعمال بالكامل معها. جيل جديد من المؤسسين ورواد الأعمال. من خلال عملي في منظومات الشركات الناشئة في أوروبا والشرق الأوسط وشمال أفريقيا، ألاحظ ملامح جيل جديد من المؤسسين. لا ينتظرون شريكًا مؤسسا أو تقنيًا، ولا يسعون للحصول على تمويل قبل إثبات فكرتهم، ولا يطرقون أبواب الحاضنات والمسرّعات. إنهم يبنون هؤلاء المؤسسون يفهمون الذكاء الاصطناعي، ليس كحل سحري، بل كأداة تعظيم لقدرتهم على الإنجاز. يرون رأس المال كخيار، وليس شرطًا. ويثبتون أن السمة الأهم في عصر الذكاء الاصطناعي ليست المال أو البرمجة—بل وضوح المشكلة واتساع الرؤية وسرعة التنفيذ. ختامًا: من وادي السيليكون إلى أسوان! نحن لا نشهد مجرد موجة تكنولوجية جديدة، بل تحوّلاً جذريًا في طريقة إنشاء الشركات من الأساس. الذكاء الاصطناعي لا يُغيّر فقط ما نبنيه، بل كيف نبنيه، ومن يبنيه. شركات المستقبل ستكون أصغر، أسرع، أكثر رشاقة وتنوعًا، وأقل اعتمادًا على الحدود الجغرافية أو التمويل التقليدي. وفي ذلك المستقبل، قد لا يأتي الـ 'يونيكورن' (شركة بقيمة مليار دولار) القادم من وادي السيليكون، بل من شقة صغيرة في أسوان.

بوابة الأهرام

منذ 4 أيام

• بوابة الأهرام

حماية أقوى مع أندرويد 16.. دعم موسع لبرنامج Advanced Protection

عمرو النادي أعلنت شركة جوجل خلال فعالية The Android Show، التي تسبق مؤتمر Google I/O 2025، عن إضافة مجموعة من الميزات الأمنية الجديدة على مستوى الجهاز ضمن برنامجها المتقدم Advanced Protection، الذي يستهدف بشكل خاص حماية الشخصيات العامة مثل السياسيين والصحفيين من التهديدات الرقمية، وفقا لـ techcrunch موضوعات مقترحة الميزات الجديدة ستتوفر مع إطلاق أندرويد 16، وتشمل وسائل لحفظ سجلات الجهاز بأمان، الحماية من المكالمات المزعجة، وإعادة تشغيل تلقائية في حالات القفل الطويل، وكلها تهدف إلى تعزيز أمن الأجهزة ومنع اختراقها. تخزين السجلات بطريقة مشفرة لتحليل التهديدات من أبرز الميزات القادمة، أداة تسجيل التطفل (Intrusion Logging)، والتي تسمح بحفظ سجلات الجهاز في السحابة باستخدام تشفير من الطرف إلى الطرف. هذه السجلات لن تكون متاحة إلا لصاحب الهاتف، ويمكن الاستفادة منها في حال الشك بوجود اختراق أو نشاط مريب لتحليل ما حدث. حماية من مكالمات الاحتيال والشبكات غير الآمنة تشمل التحديثات أيضًا: حجب المكالمات المزعجة أو الاحتيالية تلقائيًا، باستخدام معالجة محلية للمحادثة على الجهاز دون إرسالها إلى خوادم جوجل. وقد طُرحت هذه الميزة سابقًا لهواتف Pixel فقط، لكنها ستتوسع لتشمل أجهزة أخرى مع أندرويد 16. منع الاتصال التلقائي بشبكات Wi-Fi غير الآمنة، مما يقلل من فرص تعرض الجهاز لهجمات عبر الشبكات العامة أو الوهمية. إعادة تشغيل تلقائية وحماية من اختراق USB إذا تُرك الجهاز مغلقًا لمدة 72 ساعة متواصلة، فسيقوم تلقائيًا بإعادة تشغيل نفسه لتقليل مخاطر التعرض للاختراق. وكانت هذه الميزة قد ظهرت في تحديث سابق لخدمات Google Play. كما أضافت جوجل حماية من USB، حيث لن يتمكن أي كابل جديد من الاتصال بالجهاز إلا للشحن فقط، ما دام الجهاز في وضع القفل. هذا يمنع محاولات الاختراق عبر منافذ USB، وهي طريقة منتشرة في بعض الهجمات الرقمية.