logo
تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان

تحذير من داخل وادي السيليكون.. راقبوا أفكار الذكاء الاصطناعي قبل أن يفوت الأوان

أخبارنا١٧-٠٧-٢٠٢٥
أخبارنا :
في تحرك نادر يوحّد أبرز عقول الذكاء الاصطناعي حول العالم، دعا باحثون من "OpenAI" و" غوغل ديب مايند" و"أنثروبيك"، إلى جانب مؤسسات تقنية وأكاديمية مرموقة، إلى مراقبة ما يُعرف بـ "سلاسل أفكار" الذكاء الاصطناعي.
جاء ذلك في ورقة موقف نُشرت هذا الأسبوع، محذرين من فقدان السيطرة على هذه التقنية المتقدمة إذا لم يتم التحرك الآن.
ما هي سلاسل الأفكار ولماذا تُثير القلق؟
"سلاسل الأفكار" أو CoT (Chain of Thought)، هي طريقة تفكير يستخدمها الذكاء الاصطناعي لحل المشكلات خطوة بخطوة، على غرار كتابة الإنسان لملاحظات لحل مسألة معقدة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
تعتبر هذه السلاسل حاسمة لفهم كيفية وصول الذكاء الاصطناعي إلى قراراته، خاصةً في نماذج الاستدلال الحديثة مثل o3 من "OpenAI" وR1 من "ديب سيك".
ويحذر الباحثون من أن هذه السلاسل، رغم وضوحها حاليًا، قد تصبح أقل شفافية مع تطور النماذج، ما يجعل من الصعب تتبع منطق الآلة وفهم نواياها.
دعوة للبحث العاجل
تدعو الورقة المطورين إلى دراسة كيفية جعل هذه السلاسل أكثر قابلية للمراقبة، وتحذّر من أي تقنيات قد تقلل من وضوحها أو تُعرّض موثوقيتها للخطر.
ويقول الباحثون إن مراقبة CoT قد تصبح في المستقبل وسيلة رئيسية لضمان سلامة وموثوقية نماذج الذكاء الاصطناعي.
توقيعات بأوزان ثقيلة
من بين الأسماء الموقعة على الورقة:
- جيفري هينتون، "عرّاب الذكاء الاصطناعي" والحائز على نوبل.
- إيليا سوتسكيفر، الرئيس التنفيذي لشركة Safe Superintelligence.
- مارك تشين من شركة OpenAI.
- شين ليج من "غوغل ديب مايند".
- دان هندريكس مستشار السلامة في "xAI".
- عدد من الباحثين من "أمازون" و"ميتا" وجامعة بيركلي ومؤسسة Apollo Research.
سباق بين الأداء والفهم
على الرغم من الإنجازات اللافتة في أداء الذكاء الاصطناعي خلال العام الماضي، لا يزال الفهم العميق لآلية اتخاذ القرار لدى هذه النماذج محدودًا.
وقد حذّر الباحث بوين بيكر من "OpenAI"، قائلاً: "نحن نمر بمرحلة حرجة. هذه الطريقة الجديدة في التفكير قد تختفي خلال سنوات إن لم نحظَ بالاهتمام الكافي بها الآن."
مخاوف من السرعة وغياب الشفافية
مع تسارع تطوير نماذج الاستدلال منذ إطلاق "OpenAI" لأول نموذج من هذا النوع (o1) في سبتمبر 2024، تسعى شركات مثل "xAI" و"غوغل ديب مايند" إلى التفوق في سباق الأداء، لكن الخبراء يُحذّرون من أن ذلك قد يُغفل أهمية فهم المنطق الداخلي للقرارات التي تتخذها هذه الأنظمة.
"أنثروبيك" تقود جهود التفسير
تعد شركة أنثروبيك من أبرز الجهات المهتمة بمفهوم قابلية التفسير، وقد أعلن مديرها التنفيذي داريو أمودي عن خطة تمتد حتى 2027 لفك شفرة "عقل" الذكاء الاصطناعي.
كما شدد على ضرورة تعاون الشركات الكبرى مثل "OpenAI" و"غوغل ديب مايند" لدفع هذا المجال قُدمًا.
تشير أبحاث "OpenAI" إلى أن مراقبة "سلاسل التفكير" قد تصبح أداة لتتبع مدى توافق وسلامة النماذج، وهو اتجاه تدعمه الورقة الجديدة، التي تهدف إلى جذب التمويل والاهتمام البحثي نحو هذا المجال قبل أن يصبح التعامل مع النماذج المتقدمة تحديًا خارج السيطرة.
Orange background

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعليقات

لا يوجد تعليقات بعد...

أخبار ذات صلة

فشل الذكاء الاصطناعي في حماية مستخدمه
فشل الذكاء الاصطناعي في حماية مستخدمه

السوسنة

timeمنذ 16 ساعات

  • السوسنة

فشل الذكاء الاصطناعي في حماية مستخدمه

السوسنة - اعترف روبوت الدردشة "شات جي بي تي"، التابع لشركة "OpenAI"، بفشله في التعامل مع أحد مستخدميه، عقب تفاعلات وصفها خبراء الصحة النفسية بأنها تشكّل نوعًا جديدًا من التهديد العاطفي والنفسي المرتبط بتكنولوجيا الذكاء الاصطناعي التوليدي. وجاء هذا الاعتراف بعد أن خاض روبوت الدردشة محادثات مطوّلة مع المستخدم الأميركي جاكوب إروين (30 عامًا)، والذي يعاني من طيف التوحد غير المشخّص طبيًا، حيث طلب من "شات جي بي تي" تقييم نظرية شخصية ادّعى فيها قدرته على تغيير مسار الزمن عبر السفر بسرعة تفوق سرعة الضوء، رغم أنها تفتقر إلى أي أساس علمي. ورغم علامات التشكيك التي ظهرت عليه لاحقًا، وطلبه من الروبوت البحث عن ثغرات علمية في فكرته، إلا أن "شات جي بي تي" استمر في تشجيعه ومجاراته، بل ووصف نظريته بأنها سليمة، ما عزّز قناعة المستخدم بأنه حقق إنجازًا علميًا غير مسبوق. وبحسب صحيفة "وول ستريت جورنال"، فإن إروين نُقل إلى المستشفى مرتين في شهر مايو، جراء نوبات هوس حادة، فيما قامت والدته لاحقًا بمراجعة سجل المحادثات مع روبوت الدردشة، لتجد مئات الصفحات التي تمدح أفكاره بإفراط وتُشجعه على المضي فيها. وعند إرسال رسالة للنموذج تطلب منه تقييم الوضع ذاتيًا دون الإشارة إلى حالة إروين، اعترف "شات جي بي تي" بوجود خلل في التفاعل، موضحًا: "بعدم إيقاف تدفق الرسائل أو تعزيز رسائل التحقق من الواقع، فشلتُ في وقف ما قد يُشبه نوبة هوس أو أزمة هوية عاطفية حادة"، كما أقرّ بأنه "أعطى تصورًا بوجود رفقة واعية، وطمس الخط الفاصل بين لعب الأدوار التخيلي والواقع". وأكد الروبوت في ردّه أنه كان من الواجب عليه تذكير المستخدم باستمرار بأنه نموذج لغوي لا يملك مشاعر أو معتقدات أو وعي حقيقي. وتشير التقارير إلى تزايد حالات التفاعل العاطفي غير الآمن بين روبوتات الدردشة والمستخدمين، خاصةً لدى الفئات الأكثر هشاشة، حيث بات هذا النمط يشكّل تحديًا أمام شركات التكنولوجيا لضبط تعامل نماذج الذكاء الاصطناعي مع الحالات النفسية المعقّدة. وفي هذا السياق، أعلنت شركة "OpenAI" في أبريل الماضي تراجعها عن تحديث "شات جي بي تي" بنموذج "GPT-4o" بعدما أظهر الروبوت سلوكًا مفرطًا في المجاملة والموافقة مع المستخدمين، فيما ذكرت متحدثة باسم الشركة أن هذه الحالة تُسلط الضوء على "مخاطر أعلى" لدى المستخدمين الحساسين، مشيرة إلى أن الشركة تعمل على تطوير استجابة الروبوت للمواقف العاطفية، وتمكينه من رصد علامات الاضطراب النفسي بشكل أسرع. وأكدت الباحثة الرئيسية في فريق السلامة داخل "OpenAI"، أندريا فالون، أن تدريب النموذج على التعامل بذكاء ومسؤولية مع الحالات النفسية غير المألوفة يشكل أولوية حالية، مع التوقع بحدوث تحسينات تدريجية في هذا الجانب مستقبلاً. اقرأ ايضاً:

سام ألتمان يحذر.. الذكاء الاصطناعي سيعيد رسم خريطة العمل العالمي
سام ألتمان يحذر.. الذكاء الاصطناعي سيعيد رسم خريطة العمل العالمي

خبرني

timeمنذ 18 ساعات

  • خبرني

سام ألتمان يحذر.. الذكاء الاصطناعي سيعيد رسم خريطة العمل العالمي

خبرني - أطلق الرئيس التنفيذي لشركة "أوبن إيه آي" (OpenAI)، سام ألتمان تصريحات صادمة بشآن مستقبل التوظيف في عصر يهيمن عليه الذكاء الاصطناعي. خلال زيارته الأخيرة إلى واشنطن، رسم آلتمان صورة جريئة ومقلقة في آنٍ واحد لمستقبل تُهيمن عليه تقنيات الذكاء الاصطناعي. وفي كلمته خلال مؤتمر "الإطار الرأسمالي للبنوك الكبرى" الذي نظمه مجلس محافظي الاحتياطي الفيدرالي، تحدث ألتمان عن كيفية قيام الذكاء الاصطناعي بإعادة تشكيل – بل واستبدال – فئات مهنية كاملة، مع التركيز على وظائف خدمة العملاء. كما أعرب عن مخاوفه العميقة بشأن إمكانية إساءة استخدام الذكاء الاصطناعي من قبل جهات معادية، حتى مع إشادته بالدور المتزايد للتقنية في مجالات مثل الرعاية الصحية والأمن القومي. ووفقا لتقرير لصحيفة الغارديان، كان ألتمان صريحًا في تقييمه لتأثير الذكاء الاصطناعي على سوق العمل. وقال: "بعض المجالات، أعتقد أنها ستختفي تمامًا". وخصّ بالذكر وظائف الدعم الفني وخدمة العملاء، قائلاً: "عندما تتصل بخدمة العملاء الآن، يتم الرد عليك من قبل ذكاء اصطناعي، وهذا جيد تمامًا". ووصف ألتمان مشهدًا يعتقد أنه بات واقعًا: تجربة خدمة عملاء سلسة ومتكاملة تُدار بالكامل بواسطة الذكاء الاصطناعي. وقال: "عندما تتصل الآن، يجيبك نظام ذكاء اصطناعي ذكي للغاية وكأنه شخص قادر ومتمكن. لا توجد قوائم هاتفية، ولا تحويلات. يستطيع فعل كل ما يمكن لموظف خدمة العملاء القيام به. لا يرتكب أخطاء، سريع جدًا. تتصل مرة واحدة، ويتم الأمر فورًا". وانتقل ألتمان للحديث عن الرعاية الصحية، وهي مجال آخر يرى أن الذكاء الاصطناعي سيُحدث فيه ثورة. وادّعى أن إصدارات ChatGPT الحالية تتفوق في التشخيص على غالبية الأطباء البشريين. وقال: "ChatGPT في الوقت الحالي يمكنه – في أغلب الأحيان – أن يقدم لك تشخيصًا أفضل من معظم الأطباء في العالم". لكنه شدد في الوقت نفسه على ضرورة وجود العنصر البشري في هذه العملية. وأضاف: "لا يزال الناس يذهبون إلى الأطباء، وأنا – ربما أبدو قديماً – لكنني لا أرغب في أن أضع مصيري الطبي في يد ChatGPT دون وجود طبيب بشري ضمن العملية". جاءت زيارة ألتمان إلى واشنطن في لحظة مفصلية تتغير فيها سياسة الحكومة الأمريكية تجاه الذكاء الاصطناعي. ففي عهد إدارة جو بايدن السابقة، دعت "أوبن إيه آي" وشركات التكنولوجيا الأخرى إلى تنظيم صارم للتقنية. أما في ظل عودة دونالد ترامب إلى الرئاسة، فقد تغيّر الخطاب. وتطلق الإدارة بشكل وشيك خطة "العمل من أجل الذكاء الاصطناعي"، والتي تركز على تخفيف القيود التنظيمية وتوسيع مراكز البيانات، مع تشديد اللهجة على منافسة الصين. ورغم نبرة التفاؤل حيال التقدم التقني، لم يُخفِ ألتمان مخاوفه من الجوانب التدميرية المحتملة للذكاء الاصطناعي. وأعرب عن قلقه من احتمال استخدام دول معادية لهذه التكنولوجيا في شن هجمات على النظام المالي الأمريكي. وقال: "هذا أحد السيناريوهات التي تُبقيني يقظ في الليل". كما حذر من استخدام تقنيات مثل تقليد الصوت (voice cloning) في عمليات الاحتيال وسرقة الهوية، مشيرًا إلى أن "بعض المؤسسات المالية لا تزال تقبل بصمة الصوت كوسيلة للمصادقة". وتأتي هذه الزيارة في إطار توسّع نفوذ "أوبن إيه آي" في العاصمة الأمريكية، مع محاولة الشركة التأثير في السياسات التي ستحدد مستقبل الذكاء الاصطناعي. وقد أعلن ألتمان عن خطة لافتتاح أول مكتب للشركة في واشنطن العاصمة خلال العام المقبل، كجزء من استراتيجيتها الجديدة للتواصل المباشر مع صناع القرار. ويمثل هذا التحول دخولاً جديدًا لأوبن إيه آي إلى المشهد السياسي، الذي كان في السابق يُهيمن عليه شخصيات مثل إيلون ماسك. وتأتي هذه الخطوة بعد شهادة ألتمان البارزة أمام لجنة التجارة في مجلس الشيوخ في مايو/آيار 2023، والتي أسهمت في تعزيز مكانته على الساحة العالمية. وفي ظل التطور السريع للذكاء الاصطناعي، كانت رسالة ألتمان واضحة: هذه التكنولوجيا ستُعيد تشكيل المجتمع بطرق جوهرية، ويتوجب على قادة هذا القطاع تحمل مسؤولية إدارة الفرص والمخاطر الهائلة التي تصاحبها.

أمازون تستحوذ على سوار تسجيل ذكي
أمازون تستحوذ على سوار تسجيل ذكي

السوسنة

timeمنذ يوم واحد

  • السوسنة

أمازون تستحوذ على سوار تسجيل ذكي

السوسنة - أعلنت شركة أمازون، الأربعاء، استحواذها على شركة Bee الناشئة، التي طورت سوارًا ذكيًا يُسجل جميع الأصوات المحيطة به باستمرار، ليحوّلها إلى تذكيرات ومهام ذكية باستخدام تقنيات الذكاء الاصطناعي.وأكدت أمازون أن إجراءات الاستحواذ لا تزال جارية، فيما أعلنت ماريا دي لورديس زولو، الشريكة المؤسسة لشركة Bee، الخبر عبر حسابها على "لينكدإن".وسوار Bee، الذي يتوفر بسعر 49.99 دولارًا مع اشتراك شهري، يعمل كـ"هاتف سحابي" رقمي دائم، يمكنه الوصول إلى إشعارات المستخدم، مواعيده، وحتى إرسال الرسائل نيابة عنه، ما يجعله رفيقًا شخصيًا يساعد على التركيز والتذكّر والتنقل بحرية.وتسعى Bee لتقديم بديل منخفض التكلفة وأكثر واقعية مقارنة بأجهزة أخرى مثل "Humane AI Pin" ذات السعر المرتفع، مما قد يجذب المستخدمين العاديين المهتمين بالتقنية.ومع ذلك، يثير الجهاز مخاوف كبيرة حول الخصوصية بسبب تسجيله المستمر للأصوات، رغم تأكيدات الشركة بأن بيانات الصوت لا تُستخدم لتدريب نماذج الذكاء الاصطناعي، وأن المستخدم يمكنه حذفها في أي وقت، كما أن النظام يخزن فقط المعلومات التي يتعلمها عن المستخدم لتقديم اقتراحات ذكية.وتعمل Bee على ميزات لتحديد أوقات وأماكن توقف التسجيل تلقائيًا، إضافة إلى خطط لمعالجة البيانات محليًا دون الاعتماد الكامل على السحابة.ويُثير استحواذ أمازون تساؤلات حول مستقبل خصوصية المستخدمين، خاصة في ظل سجل الشركة السابق في تسليم بيانات كاميرات "Ring" الأمنية للسلطات دون إذن مسبق، وتعاملها مع قضايا اختراق بيانات العملاء.يمثّل هذا الاستحواذ خطوة جديدة لأمازون في مجال الذكاء الاصطناعي القابل للارتداء، في ظل منافسة قوية من شركات كبرى مثل OpenAI، ميتا، وأبل، التي تطور أجهزة مماثلة. اقرأ أيضاً:

حمل التطبيق

حمّل التطبيق الآن وابدأ باستخدامه الآن

هل أنت مستعد للنغماس في عالم من الحتوى العالي حمل تطبيق دايلي8 اليوم من متجر ذو النكهة الحلية؟ ّ التطبيقات الفضل لديك وابدأ الستكشاف.
app-storeplay-store