الأب الروحي للذكاء الاصطناعي يحذر من خطر «توحش» التقنية
حذّر الدكتور جيفري هينتون، المعروف بأنه الأب الروحي للذكاء الاصطناعي، من التوسع السريع في تطوير التقنية الناشئة، معرباً عن مخاوف من أن يؤدي ذلك إلى نتائج وخيمة في المستقبل.
وقال الحائز على جائزة نوبل: «هناك خطر بين 10 و20% من أن تتولى نماذج الذكاء الاصطناعي زمام الأمور»، مُقراً بأنه عندما اكتشف كيفية جعل الحاسوب يعمل بشكل أشبه بالدماغ البشري، لم يكن يعتقد بالوصول للمرحلة الحالية في غضون 40 عاماً فقط.
وتساءل في مقابلة مع قناة «سي بي إس نيوز»: «متى تصبح النماذج ذكية لدرجة أننا لا نعرف ما تفكر فيه، أو ربما ما تخطط له؟»، مشبهاً استخدام الذكاء الاصطناعي بشخص يملك شبل نمر يبدو لطيفاً، لكن عندما ينمو ويزداد قوة، قد يصبح خطيراً جداً إذا لم يتم السيطرة الكاملة عليه.
ويعتقد «هينتون» أن الذكاء الاصطناعي سيجعل المخترقين أكثر فاعلية في مهاجمة أهداف مثل البنوك والمستشفيات والبنية التحتية، مشيراً إلى أنه سعيد لأنه يبلغ من العمر 77 عاماً، ما قد لا يجعله يشهد تحقق أسوأ سيناريو محتمل يتعلق بالتقنية الناشئة.
وأعرب عن خيبة أمله بسبب تركيز شركات التكنولوجيا الكبرى العاملة في مجال الذكاء الاصطناعي على الأرباح قصيرة الأجل، وذلك على حساب العمل على أمن وسلامة التقنية الناشئة، محملاً المسؤولية للحكومات التي لم تُطبّق أي لوائح تنظيمية.
وأشاد بجهود إيليا سوتسكيفر، تلميذه وكبير العلماء السابق في «أوبن إيه آي»، والذي ساعد في إقالة الرئيس التنفيذي لمطورة «شات جي بي تي» سام ألتمان لفترة وجيزة، بسبب مخاوف تتعلق بسلامة الذكاء الاصطناعي، قبل أن يعود الأخير لمنصبه ويستقيل سوتسكيفر.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العين الإخبارية
منذ 6 ساعات
- العين الإخبارية
«غروك» يصل إلى «أزور».. «مايكروسوفت» توسع خيارات الذكاء الاصطناعي
أعلنت شركة "مايكروسوفت" الإثنين أنها ستضيف إلى "أزور"، وهي منصة حوسبة سحابية للمطورين، برنامج "غروك" القائم على الذكاء الاصطناعي التوليدي، في أعقاب جدل جديد بشأن هذه الأداة التي ابتكرتها شركة مملوكة للملياردير إيلون ماسك. أعلنت شركة "مايكروسوفت" الإثنين أنها ستضيف إلى "أزور"، وهي منصة حوسبة سحابية للمطورين، برنامج "غروك" القائم على الذكاء الاصطناعي التوليدي، في أعقاب جدل جديد بشأن هذه الأداة التي ابتكرتها شركة مملوكة للملياردير إيلون ماسك. وفقا لوكالة "فرانس برس"، أثار "غروك" جدلا خلال الأسبوع الماضي عندما ذكر عبارة "إبادة جماعية للبيض" في جنوب أفريقيا، وهو خطأ عزته شركة "اكس ايه آي" التي ابتكرت هذا النموذج وتمتلك أيضا منصة "اكس" للتواصل الاجتماعي، إلى "تعديل غير مصرح به". وقال إيلون ماسك خلال مقابلة قصيرة مع الرئيس التنفيذي لشركة "مايكروسوفت" ساتيا ناديلا، بُثّت الاثنين خلال المؤتمر السنوي لشركة التكنولوجيا الكبرى "نسعى جاهدين من أجل الحقيقة". وأضاف "ستكون هناك أخطاء دائما، لكننا نسعى جاهدين للوصول إلى الحقيقة، وتقليل عدد الأخطاء مع مرور الوقت. وأعتقد أن ذلك مهم جدا لسلامة الذكاء الاصطناعي". ولن تشكل الإضافة المفاجئة لـ"غروك" إلى عدد كبير من نماذج الذكاء الاصطناعي التوليدي الأخرى المتوفرة على "أزور"، أخبارا سارة لشركة "اوبن ايه آي"، الشريك الرئيسي لـ"مايكروسوفت" في هذه التكنولوجيا. أطلقت "أوبن إيه آي" موجة الذكاء الاصطناعي التوليدي مع أداتها "تشات جي بي تي" في أواخر العام 2022 وتظل نجمة القطاع، خصوصا بفضل استثمار "مايكروسوفت" بالمليارات فيها. هاجم إيلون ماسك باستمرار "اوبن ايه آي" في منصة "إكس" وفي القضاء، متهما إياها بأنها "انتهكت" عقدها التأسيسي الذي يشير إلى أنها شركة غير ربحية. وكان ماسك أحد مؤسسي هذه الشركة في العام 2015، لكنه استقال منها بعد ثلاث سنوات بسبب خلافات جوهرية. سجّل الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان مداخلة في مؤتمر "مايكروسوفت"، وتحدّث مباشرة مع ساتيا ناديلا لتسليط الضوء على أحدث الابتكارات. ستكون نماذج "غروك" مُتاحة على "أزور ايه آي فاوندري"، وهي منصة توفر مئات النماذج للمطورين المشتركين في الخدمة، بما في ذلك نماذج "ديب سيك" و"ميسترال" و"ميتا". وأكد ناديلا أهمية الخيارات المتعددة التي تقدمها "فاوندري". وقال "كمطورين، نحن مهتمون بأبعاد كثيرة: التكلفة، والصدقية، والوقت المستغرق، وكذلك الجودة"، مضيفا "أزور أوبن إيه آي هي الأفضل في فئتها، إذ تقدم ضمانات مثل الصدقية العالية وضوابط ممتازة للتكلفة". وتابع "يسعدنا اليوم أن نعلن أنّ غروك المُبتكر من شركة إكس إيه آي سيُضاف إلى أزور". وكشفت "مايكروسوفت" النقاب أيضا عن برنامج مساعد قائم على الذكاء الاصطناعي للمهندسين، قادر على الترميز عند الطلب ومتاح على "غيت هاب"، خدمة تطوير البرامج الخاصة بالشركة. تبرمج الأداة المساعدة الجديدة بشكل مستقل، وتخطر المستخدم عند الانتهاء، وتظهر كمبرمج بين آخرين داخل الفريق في المنصة. وليست البرامج المساعدة القائمة على الذكاء الاصطناعي والقادرة على البرمجة جديدة، لكنّ شركات التكنولوجيا العملاقة تَعِد منذ أشهر عدة بـ"مهندسين قائمين على الذكاء الاصطناعي" أكثر استقلالية وكفاءة. ويخشى عدد كبير من المراقبين والمنتقدين في سيليكون فالي من أن يؤدي ذلك إلى خسائر كبيرة في الوظائف. وقد شهدت "مايكروسوفت" حديثا موجة جديدة من عمليات الصرف. وأشار مصدر قريب من الملف إلى أن هذه الخطة الاجتماعية طالت "أقل من 3%" من القوى العاملة في المجموعة، أي نحو 6 آلاف شخص. غالبا ما تتم برمجة نماذج الذكاء الاصطناعي التوليدي مسبقا بواسطة مهندسين لتقديم محتوى معيّن أو تجنّب آخر أو للاستجابة بنبرة معينة. تركز نبرة "غروك" على الفكاهة بشكل خاص. واعتبر المستخدمون أن أحدث نموذج من شركة "أوبن إيه آي" متملق جدا، وأعلنت الشركة سريعا أنها ستجري تغييرات لتصحيح هذا الأمر. وبحسب لقطات شاشة، أشار "غروك" خلال الأسبوع الماضي إلى "إبادة جماعية للبيض" في جنوب أفريقيا ردا على أسئلة ليست على صلة بهذا الموضوع، وهو ما يعكس الدعاية اليمينية المتطرفة بشأن القمع المزعوم للجنوب أفريقيين البيض. عندما سأله أحد المستخدمين عن سبب هوسه بالموضوع، أجاب روبوت المحادثة أن "منشئيه في إكس إيه آي أمروه بالتطرق إلى هذا الموضوع". وكان إيلون ماسك المولود في جنوب أفريقيا، قد اتهم سابقا قادة البلاد بـ"تشجيع الإبادة الجماعية للبيض في جنوب أفريقيا". وفي بيان لها، أشارت "إكس إيه آي" إلى "تعديل غير مصرح به" لـ"غروك" دفعه إلى إعطاء إجابات "تنتهك السياسات الداخلية والقيم الأساسية لشركة إكس إيه آي". aXA6IDgyLjI3LjIyNC41IA== جزيرة ام اند امز CA
العين الإخبارية
منذ يوم واحد
- العين الإخبارية
خطة مثيرة للجدل.. نموذج ذكاء اصطناعي صيني على هواتف آيفون
أفادت صحيفة نيويورك تايمز أن البيت الأبيض ومسؤولين في الكونغرس يدرسون بدقة خطة مثيرة للجدل، حيث تسعى شركة أبل لإبرام صفقة مع شركة علي بابا لإتاحة نموذج الذكاء الاصطناعي الخاص بالشركة الصينية على أجهزة آيفون داخل الصين حصريا. وأضافت الصحيفة، نقلاً عن ثلاثة أشخاص مطلعين على الأمر، أن السلطات الأمريكية كانت قلقة من أن الصفقة ستساعد الشركة الصينية على تحسين قدراتها في مجال الذكاء الاصطناعي، وتوسيع نطاق روبوتات الدردشة الصينية مع فرض قيود على الرقابة، وتعميق خضوع أبل لقوانين بكين المتعلقة بالرقابة ومشاركة البيانات. وبحسب شبكة سي إن بي سي، لم تستجب أبل وعلي بابا لطلبات رويترز للتعليق فورًا. وفي فبراير/شباط، أكدت علي بابا شراكتها مع أبل لدعم خدمات الذكاء الاصطناعي لأجهزة آيفون داخل الصين. وبالنسبة لشركة علي بابا، تُعد هذه الشراكة فوزًا كبيرًا في سوق الذكاء الاصطناعي التنافسي في الصين، موطن شركة DeepSeek، التي تصدرت عناوين الأخبار هذا العام بنماذج طُوّرت بتكلفة زهيدة مقارنةً بالمنافسين الغربيين. وفي شهر مارس/آذار الماضي، أعلنت مجموعة "علي بابا" القابضة عن تطوير نموذج جديد للذكاء الاصطناعي يتمتع بقدرة على التعرف على المشاعر، في خطوة تهدف من خلالها إلى التفوق على أحدث إصدارات شركة "أوبن إيه آي". وخلال عرضين توضيحيين، قدّم باحثو "مختبر تونجي" (Tongyi Lab) التابع لـ"علي بابا" عرضًا لإمكانات النموذج الجديد "R1-Omni"، حيث أظهر قدرته على تحليل الحالة العاطفية لشخص من خلال مقطع فيديو، إلى جانب توصيف ملابسه والبيئة المحيطة به. ويُعد نموذج "R1-Omni" تطورًا بارزًا في مجال الرؤية الحاسوبية، إذ يُمثّل نسخة محسّنة من نموذج مفتوح المصدر يُعرف باسم "HumanOmni"، الذي تم تطويره تحت إشراف الباحث جياشينغ تشاو. وتسعى شركة "علي بابا" جاهدة لتعزيز مكانتها في ميدان الذكاء الاصطناعي، لا سيما عقب الظهور القوي لنموذج "ديب سيك" (DeepSeek) في يناير/كانون الثاني الماضي. وفي هذا الإطار، تواصل الشركة العملاقة في قطاع التجارة الإلكترونية إطلاق أدوات وتطبيقات متنوعة تغطي مجالات متعددة. وفي سياق منافستها المستمرة، أجرت "علي بابا" مقارنة بين نموذجها "كيو وين" (Qwen) ونموذج "ديب سيك"، كما أبرمت شراكة استراتيجية مع شركة "أبل" لتطوير تقنيات الذكاء الاصطناعي على أجهزة "آيفون"، في خطوة تعزز من استعدادها لمنافسة "أوبن إيه آي". وعلاوة على ذلك، أتاحت "علي بابا" نموذجها الجديد "R1-Omni" بشكل مجاني للمستخدمين عبر منصة "هاجينغ فيس" (Hugging Face). في المقابل، أطلقت "أوبن إيه آي" نموذج "تشات جي بي تي-4.5 (GPT-4.5) مع بداية 2025، مع قلها أنه يتمتع بقدرات محسنة في فهم الإشارات الدقيقة فيما يخص الطلبات النصية للمستخدمين والتفاعل معها بمرونة أكثر كفاءة. إلا أن النموذج الجديد يتوفر بسعر مرتفع، إذ يقتصر حاليًا على المشتركين في الخطة المدفوعة بقيمة 200 دولار شهريًا. وفي تصريح أدلى به خلال شهر فبراير/شباط الماضي، أكد إدي وو، الرئيس التنفيذي لمجموعة "علي بابا"، أن الذكاء الاصطناعي العام أصبح "الهدف الأساسي" الذي تسعى الشركة لتحقيقه في المرحلة المقبلة. aXA6IDgyLjI3LjI0My40MSA= جزيرة ام اند امز GB
الاتحاد
منذ 2 أيام
- الاتحاد
الذكاء الاصطناعي يحدد موقعك بدقة من صورك الشخصية
كشفت سلسلة اختبارات أجرتها شركة برامج مكافحة الفيروسات ميلوير بايتس عن قدرات إضافية لمنصة محادثات الذكاء الاصطناعي شات جي.بي.تي بما في ذلك القدرة على تحديد موقع شخص ما من خلال صور غامضة، وكذلك القدرة على إنشاء مقاطع فيديو "مزيفة بدقة متناهية" لا يمكن اكتشاف تزييفها تقريبا. وقالت شركة ميلوير بايتس أن منصة شات جي.بي.تي "متمكنة بصورة مريبة" في "تخمين المواقع الجغرافية" للمستخدمين من الصور التي لا تحتوي على بيانات وصفية مثل الموقع ووقت التصوير وتاريخه. ووفقا للشركة فإن "هناك أسبابا وجيهة للقلق بشأن ما يظهر في صور الخلفية، لأن الذكاء الاصطناعي أصبح بارعا جدا في تخمين موقعك بناء على أبسط الأدلة". كان من المفترض أن تستخدم منصة المحادثة الأدلة والإشارات في الموجودة في الهندسة المعمارية للمباني والبيئة المحيطة بالمستخدم في الصورة لتضييق نطاق المواقع المحتمل وجوده فيها قبل تحديد المكان بدقة أو الاقتراب منه بشكل مذهل. وحذرت شركة ميلوير بايتس من أن وجود "عربة يدوية تحمل علامة تجارية محددة أو طائر له موطن محدد في الصورة يكفيان لتخمين موقعك". في الأسبوع نفسه، نشرت دراسة لمعهد فراونهوفر هاينريش هيرتز وجامعة هومبولت في برلين نتائج اختبارات تظهر قدرة الذكاء الاصطناعي على توليد "إشارات دقيقة مرتبطة بنبضات القلب" فيما يسمى بمقاطع الفيديو المزيفة. وأضاف الفريق: "إن التطور الحالي لتقنيات توليد الصور يجعل اكتشاف المحتوى المتلاعب به من خلال الفحص البصري أكثر صعوبة"، إلا أن بعض التفاصيل الدقيقة في الحياة الواقعية، مثل نبضات القلب، كانت تختفي أثناء عملية توليد مقاطع الفيديو المزيفة، وهو ما كان "يفيد في الكشف عن مقاطع الفيديو المزيفة". لكن الأمر لم يعد كذلك: فقد تمكن الفريق من إنتاج مقاطع فيديو مزيفة بعمق تحتوي على ما يبدو أنها نبضات بشرية. وتشير نتائج الباحثين، التي نشرت في مجلة "فرونتيرز إن إيمدجنج" للعلوم والتكنولوجيا، إلى أن تقنيات كشف نبضات القلب "لم تعد صالحة لاكتشاف أساليب التزييف العميق الحالية". ومع ذلك، قد لا نفقد الأمل تماما في الوصول إلى عوامل جديدة تسهل كشف الفيديوهات المزيفة بتقنيات التزييف العميق. وقال الباحثون "إن تحليل التوزيع المكاني لتدفق الدم فيما يتعلق بمدى معقوليته يمكن أن يساعد في اكتشاف مقاطع الفيديو المزيفة عالية الجودة".
