تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

السوسنة

منذ 16 ساعات

• السوسنة

فشل الذكاء الاصطناعي في حماية مستخدمه

السوسنة - اعترف روبوت الدردشة "شات جي بي تي"، التابع لشركة "OpenAI"، بفشله في التعامل مع أحد مستخدميه، عقب تفاعلات وصفها خبراء الصحة النفسية بأنها تشكّل نوعًا جديدًا من التهديد العاطفي والنفسي المرتبط بتكنولوجيا الذكاء الاصطناعي التوليدي. وجاء هذا الاعتراف بعد أن خاض روبوت الدردشة محادثات مطوّلة مع المستخدم الأميركي جاكوب إروين (30 عامًا)، والذي يعاني من طيف التوحد غير المشخّص طبيًا، حيث طلب من "شات جي بي تي" تقييم نظرية شخصية ادّعى فيها قدرته على تغيير مسار الزمن عبر السفر بسرعة تفوق سرعة الضوء، رغم أنها تفتقر إلى أي أساس علمي. ورغم علامات التشكيك التي ظهرت عليه لاحقًا، وطلبه من الروبوت البحث عن ثغرات علمية في فكرته، إلا أن "شات جي بي تي" استمر في تشجيعه ومجاراته، بل ووصف نظريته بأنها سليمة، ما عزّز قناعة المستخدم بأنه حقق إنجازًا علميًا غير مسبوق. وبحسب صحيفة "وول ستريت جورنال"، فإن إروين نُقل إلى المستشفى مرتين في شهر مايو، جراء نوبات هوس حادة، فيما قامت والدته لاحقًا بمراجعة سجل المحادثات مع روبوت الدردشة، لتجد مئات الصفحات التي تمدح أفكاره بإفراط وتُشجعه على المضي فيها. وعند إرسال رسالة للنموذج تطلب منه تقييم الوضع ذاتيًا دون الإشارة إلى حالة إروين، اعترف "شات جي بي تي" بوجود خلل في التفاعل، موضحًا: "بعدم إيقاف تدفق الرسائل أو تعزيز رسائل التحقق من الواقع، فشلتُ في وقف ما قد يُشبه نوبة هوس أو أزمة هوية عاطفية حادة"، كما أقرّ بأنه "أعطى تصورًا بوجود رفقة واعية، وطمس الخط الفاصل بين لعب الأدوار التخيلي والواقع". وأكد الروبوت في ردّه أنه كان من الواجب عليه تذكير المستخدم باستمرار بأنه نموذج لغوي لا يملك مشاعر أو معتقدات أو وعي حقيقي. وتشير التقارير إلى تزايد حالات التفاعل العاطفي غير الآمن بين روبوتات الدردشة والمستخدمين، خاصةً لدى الفئات الأكثر هشاشة، حيث بات هذا النمط يشكّل تحديًا أمام شركات التكنولوجيا لضبط تعامل نماذج الذكاء الاصطناعي مع الحالات النفسية المعقّدة. وفي هذا السياق، أعلنت شركة "OpenAI" في أبريل الماضي تراجعها عن تحديث "شات جي بي تي" بنموذج "GPT-4o" بعدما أظهر الروبوت سلوكًا مفرطًا في المجاملة والموافقة مع المستخدمين، فيما ذكرت متحدثة باسم الشركة أن هذه الحالة تُسلط الضوء على "مخاطر أعلى" لدى المستخدمين الحساسين، مشيرة إلى أن الشركة تعمل على تطوير استجابة الروبوت للمواقف العاطفية، وتمكينه من رصد علامات الاضطراب النفسي بشكل أسرع. وأكدت الباحثة الرئيسية في فريق السلامة داخل "OpenAI"، أندريا فالون، أن تدريب النموذج على التعامل بذكاء ومسؤولية مع الحالات النفسية غير المألوفة يشكل أولوية حالية، مع التوقع بحدوث تحسينات تدريجية في هذا الجانب مستقبلاً. اقرأ ايضاً:

خبرني

منذ 18 ساعات

• خبرني

سام ألتمان يحذر.. الذكاء الاصطناعي سيعيد رسم خريطة العمل العالمي

خبرني - أطلق الرئيس التنفيذي لشركة "أوبن إيه آي" (OpenAI)، سام ألتمان تصريحات صادمة بشآن مستقبل التوظيف في عصر يهيمن عليه الذكاء الاصطناعي. خلال زيارته الأخيرة إلى واشنطن، رسم آلتمان صورة جريئة ومقلقة في آنٍ واحد لمستقبل تُهيمن عليه تقنيات الذكاء الاصطناعي. وفي كلمته خلال مؤتمر "الإطار الرأسمالي للبنوك الكبرى" الذي نظمه مجلس محافظي الاحتياطي الفيدرالي، تحدث ألتمان عن كيفية قيام الذكاء الاصطناعي بإعادة تشكيل – بل واستبدال – فئات مهنية كاملة، مع التركيز على وظائف خدمة العملاء. كما أعرب عن مخاوفه العميقة بشأن إمكانية إساءة استخدام الذكاء الاصطناعي من قبل جهات معادية، حتى مع إشادته بالدور المتزايد للتقنية في مجالات مثل الرعاية الصحية والأمن القومي. ووفقا لتقرير لصحيفة الغارديان، كان ألتمان صريحًا في تقييمه لتأثير الذكاء الاصطناعي على سوق العمل. وقال: "بعض المجالات، أعتقد أنها ستختفي تمامًا". وخصّ بالذكر وظائف الدعم الفني وخدمة العملاء، قائلاً: "عندما تتصل بخدمة العملاء الآن، يتم الرد عليك من قبل ذكاء اصطناعي، وهذا جيد تمامًا". ووصف ألتمان مشهدًا يعتقد أنه بات واقعًا: تجربة خدمة عملاء سلسة ومتكاملة تُدار بالكامل بواسطة الذكاء الاصطناعي. وقال: "عندما تتصل الآن، يجيبك نظام ذكاء اصطناعي ذكي للغاية وكأنه شخص قادر ومتمكن. لا توجد قوائم هاتفية، ولا تحويلات. يستطيع فعل كل ما يمكن لموظف خدمة العملاء القيام به. لا يرتكب أخطاء، سريع جدًا. تتصل مرة واحدة، ويتم الأمر فورًا". وانتقل ألتمان للحديث عن الرعاية الصحية، وهي مجال آخر يرى أن الذكاء الاصطناعي سيُحدث فيه ثورة. وادّعى أن إصدارات ChatGPT الحالية تتفوق في التشخيص على غالبية الأطباء البشريين. وقال: "ChatGPT في الوقت الحالي يمكنه – في أغلب الأحيان – أن يقدم لك تشخيصًا أفضل من معظم الأطباء في العالم". لكنه شدد في الوقت نفسه على ضرورة وجود العنصر البشري في هذه العملية. وأضاف: "لا يزال الناس يذهبون إلى الأطباء، وأنا – ربما أبدو قديماً – لكنني لا أرغب في أن أضع مصيري الطبي في يد ChatGPT دون وجود طبيب بشري ضمن العملية". جاءت زيارة ألتمان إلى واشنطن في لحظة مفصلية تتغير فيها سياسة الحكومة الأمريكية تجاه الذكاء الاصطناعي. ففي عهد إدارة جو بايدن السابقة، دعت "أوبن إيه آي" وشركات التكنولوجيا الأخرى إلى تنظيم صارم للتقنية. أما في ظل عودة دونالد ترامب إلى الرئاسة، فقد تغيّر الخطاب. وتطلق الإدارة بشكل وشيك خطة "العمل من أجل الذكاء الاصطناعي"، والتي تركز على تخفيف القيود التنظيمية وتوسيع مراكز البيانات، مع تشديد اللهجة على منافسة الصين. ورغم نبرة التفاؤل حيال التقدم التقني، لم يُخفِ ألتمان مخاوفه من الجوانب التدميرية المحتملة للذكاء الاصطناعي. وأعرب عن قلقه من احتمال استخدام دول معادية لهذه التكنولوجيا في شن هجمات على النظام المالي الأمريكي. وقال: "هذا أحد السيناريوهات التي تُبقيني يقظ في الليل". كما حذر من استخدام تقنيات مثل تقليد الصوت (voice cloning) في عمليات الاحتيال وسرقة الهوية، مشيرًا إلى أن "بعض المؤسسات المالية لا تزال تقبل بصمة الصوت كوسيلة للمصادقة". وتأتي هذه الزيارة في إطار توسّع نفوذ "أوبن إيه آي" في العاصمة الأمريكية، مع محاولة الشركة التأثير في السياسات التي ستحدد مستقبل الذكاء الاصطناعي. وقد أعلن ألتمان عن خطة لافتتاح أول مكتب للشركة في واشنطن العاصمة خلال العام المقبل، كجزء من استراتيجيتها الجديدة للتواصل المباشر مع صناع القرار. ويمثل هذا التحول دخولاً جديدًا لأوبن إيه آي إلى المشهد السياسي، الذي كان في السابق يُهيمن عليه شخصيات مثل إيلون ماسك. وتأتي هذه الخطوة بعد شهادة ألتمان البارزة أمام لجنة التجارة في مجلس الشيوخ في مايو/آيار 2023، والتي أسهمت في تعزيز مكانته على الساحة العالمية. وفي ظل التطور السريع للذكاء الاصطناعي، كانت رسالة ألتمان واضحة: هذه التكنولوجيا ستُعيد تشكيل المجتمع بطرق جوهرية، ويتوجب على قادة هذا القطاع تحمل مسؤولية إدارة الفرص والمخاطر الهائلة التي تصاحبها.

السوسنة

منذ يوم واحد

• السوسنة

أمازون تستحوذ على سوار تسجيل ذكي

السوسنة - أعلنت شركة أمازون، الأربعاء، استحواذها على شركة Bee الناشئة، التي طورت سوارًا ذكيًا يُسجل جميع الأصوات المحيطة به باستمرار، ليحوّلها إلى تذكيرات ومهام ذكية باستخدام تقنيات الذكاء الاصطناعي.وأكدت أمازون أن إجراءات الاستحواذ لا تزال جارية، فيما أعلنت ماريا دي لورديس زولو، الشريكة المؤسسة لشركة Bee، الخبر عبر حسابها على "لينكدإن".وسوار Bee، الذي يتوفر بسعر 49.99 دولارًا مع اشتراك شهري، يعمل كـ"هاتف سحابي" رقمي دائم، يمكنه الوصول إلى إشعارات المستخدم، مواعيده، وحتى إرسال الرسائل نيابة عنه، ما يجعله رفيقًا شخصيًا يساعد على التركيز والتذكّر والتنقل بحرية.وتسعى Bee لتقديم بديل منخفض التكلفة وأكثر واقعية مقارنة بأجهزة أخرى مثل "Humane AI Pin" ذات السعر المرتفع، مما قد يجذب المستخدمين العاديين المهتمين بالتقنية.ومع ذلك، يثير الجهاز مخاوف كبيرة حول الخصوصية بسبب تسجيله المستمر للأصوات، رغم تأكيدات الشركة بأن بيانات الصوت لا تُستخدم لتدريب نماذج الذكاء الاصطناعي، وأن المستخدم يمكنه حذفها في أي وقت، كما أن النظام يخزن فقط المعلومات التي يتعلمها عن المستخدم لتقديم اقتراحات ذكية.وتعمل Bee على ميزات لتحديد أوقات وأماكن توقف التسجيل تلقائيًا، إضافة إلى خطط لمعالجة البيانات محليًا دون الاعتماد الكامل على السحابة.ويُثير استحواذ أمازون تساؤلات حول مستقبل خصوصية المستخدمين، خاصة في ظل سجل الشركة السابق في تسليم بيانات كاميرات "Ring" الأمنية للسلطات دون إذن مسبق، وتعاملها مع قضايا اختراق بيانات العملاء.يمثّل هذا الاستحواذ خطوة جديدة لأمازون في مجال الذكاء الاصطناعي القابل للارتداء، في ظل منافسة قوية من شركات كبرى مثل OpenAI، ميتا، وأبل، التي تطور أجهزة مماثلة. اقرأ أيضاً: