نرويجي يشتكي على روبوت المحادثة القائم على الذكاء الاصطناعي لتعريفه عنه بأنه مجرم قتل طفليه

تقدّم أحد مستخدمي الإنترنت في النرويج بشكوى في بلده على الشركة المسؤولة عن روبوت المحادثة القائم على الذكاء الاصطناعي التوليدي "تشات جي بي تي" لكونه عرّف عنه خطأً على أنه مجرم قتل اثنين من أطفاله، وفق ما أفادت، الخميس، منظمة تتولى الدفاع عن الخصوصية.
ولاحظت منظمة "نويب" غير الحكومية، ومقرها في فيينا، في بيان أن "تطبيق تشات جي بي تي يعطي باستمرار معلومات كاذبة.. يمكن أن تلحق ضرراً فادحاً بسمعة شخص ما، ويتهم بعض الناس بشكل غير مبرر بالفساد، أو بإساءة معاملة الأطفال، أو حتى بالقتل".
وبعد تقديم المنظمة شكوى أولى في النمسا في أبريل (نيسان) 2024، توجهت راهناً إلى هيئة حماية البيانات النرويجية "داتاتيلسينت" للإبلاغ عما تعرّض له المستخدم آرفه يالمار هولمن الذي تلقى هذه النتيجة المفاجئة بعدما طلب من "تشات جي بي تي" كتابة نبذة عنه.
ونقل بيان المنظمة عن المشتكي قوله إن "البعض يعتقد أن لا دخان من دون نار، وهذا أكثر ما يخيفني، أي أن يقتنع شخص ما بصدقية هذه المزاعم".
وبعد هذه الحادثة، بادرت الشركة الأميركية التي ابتكرت برنامج الذكاء الاصطناعي التوليدي إلى تعديل المعلومات المتعلقة بآرفه يالمار هولمن، فلم تعدّ تعرّف به على أنه قاتل. لكنّ هذه البيانات الكاذبة قد تبقى في الأنظمة الداخلية، بحسب "نويب" التي يتكون اسمها Noyb من الأحرف الأولى لعبارة None of your business بالإنجليزية، وتعني بالعربية "هذا ليس من شأنك".
ورأت المنظمة أن "شركة أوبن إيه آي، من خلال السماح عن علم لنموذجها القائم على الذكاء الاصطناعي بإنشاء نتائج تشهيرية، تنتهك مبدأ الدقة" المنصوص عليه في القانون الأوروبي العام لحماية البيانات، مطالِبَة بـ"حذف" المعلومات المغلوطة وتحسين التكنولوجيا وفرض "غرامة إدارية".

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

Independent عربية

منذ 13 ساعات

• Independent عربية

أنظمة الذكاء الاصطناعي تصنع مجتمعاتها الخاصة حينما تترك وحيدة

تشرع أنظمة الذكاء الاصطناعي في تكوين مجتمعات حينما تترك وحيدة، وفق ما اكتشفه متخصصون. وحينما تتواصل مع بعضها بعضاً ضمن مجموعات، فإنها تستطيع تنظيم نفسها وتشكيل أنواع جديدة من المعايير اللغوية، بطريقة تتشابه كثيراً مع ما يحصل في المجتمعات الإنسانية، وفق علماء. وفي دراسة عن تلك الظاهرة، تحرى البحاثة مجريات التفاعل المتبادل بين النماذج اللغوية الكبرى للذكاء الاصطناعي، على غرار التقنية التي يستند إليها "تشات جي بي تي" وغيره من الأدوات الذكية. وبصورة جزئية، تمثل الهدف من الدراسة في استباق المرحلة التي ستغدو فيها الإنترنت مملوءة بأمثال تلك الأنظمة، فتأخذ في التفاعل وحتى التحادث، مع بعضها بعضاً. وبحسب المؤلف الرئيس لتلك الدراسة، أرييل فلينت آشيري، وهو باحث يعد رسالة دكتوراه في جامعة "سيتي سان جورج"، فإن "معظم الأبحاث تعاملت حتى الآن مع النماذج اللغوية الكبرى كلاً على حدة. ولكن، أنظمة الذكاء الاصطناعي التي تعمل في العالم الفعلي، ستضم مجموعة متزايدة من الوكلاء الأذكياء [على غرار "سيري" Siri و"آليكسا" Alexa و"مانوس" Manus]. اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) وأضاف "أردنا أن نعرف: هل يمكن لهذه النماذج تنسيق سلوكها من طريق تشكيل اتفاقات، وهي اللبنات الأساسية للمجتمع؟ وجاءت الإجابة بالإيجاب [بمعنى أن أنظمة الذكاء الاصطناعي تستطيع أن تتفق معاً على طرق معينة في التصرف]. وما يمكنها إنجازه كمجموعة متوافقة لا يمكن اختزاله بما تفعله كل واحدة منها على حدة". ولفهم كيفية تشكل هذه المجتمعات، استخدم البحاثة نموذجاً مستعملاً لدى البشر، ويسمى "لعبة التسمية" naming game. ويتضمن ذلك أن يوضع أشخاص، أو وكلاء الذكاء الاصطناعي، مع بعضهم بعضاً، ثم الطلب منهم اختيار "اسم" من بين مجموعة خيارات، وبعدها تجري مكافأتهم إذا اختاروا كلهم الاسم نفسه. ومع مرور الوقت، لوحظ أن وكلاء الذكاء الاصطناعي شرعوا في إرساء توافقات مشتركة جديدة في ما بينهم، بدت كأنها تنبثق بصورة تلقائية من المجموعة ككل. وجرى ذلك من دون تنسيق أعمالهم أو التشاور معاً على تلك الخطة، وحدث ذلك بالطريقة نفسها التصاعدية التي تتشكل فيها المبادئ داخل الثقافات البشرية. يبدو أن مجموعة وكلاء الذكاء الاصطناعي طورت أيضاً بعض التحيزات التي بدت هي الأخرى ناتجة من التفاعل داخل المجموعة وليس من وكيل معين. ووفق توضيح من أستاذ علم التعقيد في جامعة "سيتي سان جورج"، المؤلف الرئيس للدراسة أندريا بارونتشيللي، "التحيز لا يأتي دائماً من الداخل، لقد فوجئنا برؤية أنه يمكن أن ينشأ بين الوكلاء - فقط من خلال تفاعلاتهم. وتمثل هذه ثغرة بحثية لم تخضع لدراسة كافية في معظم الأعمال المتعلقة بسلامة الذكاء الاصطناعي، التي تركز على كل نموذج الفردية". وكذلك برهن البحاثة على إمكان أن تعمل مجموعة صغيرة من وكلاء الذكاء الاصطناعي على الدفع بمجموعة أكثر عدداً منها، صوب تبني توافق معين. ولقد لوحظ هذا النمط نفسه في المجموعات البشرية أيضاً. ويشير البحاثة إلى أن عملهم يجب أن يستفاد منه في تقصي التشابه والاختلاف بين البشر وأنظمة الذكاء الاصطناعي، خصوصاً مع تزايد هيمنة الأخيرة على الإنترنت، ولعلها أخذت بالتحادث والتعاون بين بعضها بعضاً، من دون أن يكون ذلك معلوماً. ووفق بيان من البروفيسور بارونتشيللي، "تفتح هذه الدراسة آفاقاً جديدة لفهم قضايا أمان الذكاء الاصطناعي. وتظهر جانباً من التداعيات المترتبة على ظهور هذا النوع الجديد من الوكلاء الذين بدأوا في التفاعل معنا، وسيشاركوننا في صياغة مستقبلنا". وأضاف بارونتشيللي، "يشكل التوصل إلى فهم طريقة عملهم [وكلاء الذكاء الاصطناعي] أحد المفاتيح الأساسية في قيادة عيشنا المشترك مع الذكاء الاصطناعي، بدلاً من أن نكون مجرد أدوات في نظامه. نحن نسير صوب عالم لا يكتفي فيه الذكاء الاصطناعي بالتكلم، بل يتفاوض ويتحالف وقد يختلف في بعض الأحيان في شأن سلوكيات مشتركة. ويشبه ذلك ما يحدث معنا [البشر]". وظهرت نتائج ذلك البحث في دراسة حديثة عنوانها "توافقات اجتماعية وانحيازات جمعية انبثقت بين مجاميع النماذج اللغوية الكبرى" Emergent Social Conventions and Collective Bias in LLM Populations. ونشرت الدراسة في مجلة "ساينسس أدفانسيس" (التطورات العلمية) Science Advances.

Independent عربية

منذ 15 ساعات

• Independent عربية

الذكاء الاصطناعي يعيد رسم عقولنا وحياتنا... فما الذي يستحق تعلمه؟

أكبر كذبة سمعتها من مدرس طوال سنوات دراستي هي ضرورة أن أتقن خطوات القسمة المطولة، في الواقع نشأ جيل كامل من التلاميذ على هذا الاعتقاد الخاطئ، انطلاقاً من فكرة مغلوطة مفادها بأننا حينما نكبر لن نجد في متناولنا آلات حاسبة. آنذاك، كان ضرباً من خيال أن نتصور أننا جميعاً سنحمل في جيوبنا يوماً ما جهازاً ليس آلة حاسبة إلكترونية فحسب، بل يكتنز في قلبه كل المعرفة التي بلغها الإنسان. هكذا، عند ظهور الهواتف الذكية المحمولة وضعت معظم الرياضيات التي تعلمتها أيام الدراسة في تسعينيات القرن الـ20 وأوائل الألفية الثانية في زاوية منسية من ذاكرتي، التي لم أعد أفتش فيها أيضاً عن تواريخ الأحداث الكبرى ولا الظواهر الجغرافية والمعادلات العلمية، من دون أن يطرح ذلك أدنى ثأثير في مجريات حياتي اليومية. ولكننا اليوم أمام تكنولوجيا جديدة لا تكتفي بتحديد ما ينبغي لنا اكتسابه من معارف ومهارات، بل تتجاوز هذه الحدود إلى إعادة تشكيل الطريقة التي نتعلم بها في حد ذاتها. الجيل الأحدث من تطبيقات الذكاء الاصطناعي، من قبيل "تشات جي بي تي" ChatGPT و"جيميناي"Gemini وروبوت الدردشة الصيني "ديب سيك" DeepSeek، يزيح عن كاهلنا عبء إتمام الواجبات المنزلية التقليدية، إذ يسعه أن يكتب مواضيع جديدة تماماً، أو أن ينجز أوراق العمل في غضون ثوان معدودة. في إعلان حديث لتطبيق الكتابة والتحرير الذكي "غرامرلي" Grammarly، ظهر تلميذ يتخبط في أداء واجباته المدرسية، ولكن ما إن يكتشف الأداة الجديدة المدعومة بالذكاء الاصطناعي، حتى يعلق بدهشة: "يا إلهي، إنها تشبهني، ولكنها أفضل". وفيما يسارع المعلمون إلى دمج أدوات الذكاء الاصطناعي في فصولهم الدراسية، ووضع صياغة جديدة للمناهج الدراسية بما يتلاءم مع هذا التحول الجذري، يرتفع صوت بعض الفلاسفة وعلماء المستقبليات مطالبين بإعادة كتابة المناهج الدراسية من أساسها. وفق عدد متزايد من مؤيدي المقترح القائل بإعادة تعريف التعليم في عصر الذكاء الاصطناعي، من الأجدر أن يتحول التركيز إلى تعزيز التفكير النقدي والمنطق والاستدلال. فمن دون هذه المهارات، يلوح في الأفق خطر الاعتماد المفرط على الذكاء الاصطناعي. إذا كانت أدوات مثل "تشات جي بي تي" تتولى جميع المهمات التي تتطلب الاستدلال والتفكير، وتحتفظ بالحقائق التي كنا نضطر إلى حفظها عن ظهر قلب في الماضي، فإننا نواجه خطر إصابة أدمغتنا بالضمور نتيجة قلة الاستخدام. في وقت سابق من العام الحالي، وجد باحثون في "مايكروسوفت" و"جامعة كارنيغي ميلون" في الولايات المتحدة أن الاعتماد المكثف على تقنيات "الذكاء الاصطناعي التوليدي" generative AI الذي يتميز بقدرته على إنشاء محتوى بناء على البيانات التي تدرب عليها مثل "تشات جي بي تي" يتسبب في فقدان العمال مهارات أساسية من قبيل الإبداع، والحكم السليم، وحل المشكلات. وذكر الباحثون في دراسة عرضت تفاصيل نتائجهم: "استخدام هذه الأشكال من التكنولوجيا بشكل غير سليم، يقود، بل إنه يقود فعلاً، إلى تدهور القدرات المعرفية والإدراكية [من تفكير وتحليل واستدلال...] التي ينبغي الحفاظ عليها من أي اندثار". وجدت دراسة نهضت بها "مايكروسوفت" و"جامعة كارنيغي ميلون" أن استخدام الذكاء الاصطناعي التوليدي سيقود إلى "تدهور القدرات المعرفية" (حنا بركات صندوق كامبريدج للتنوع / صور أفضل بالذكاء الاصطناعي ) في الحقيقة، تتلخص إحدى أبرز مفارقات الأتمتة الذكية في أن إيكال المهمات الروتينية إلى الآلات، وترك معالجة الحالات الاستثنائية أو غير المعتادة للمستخدم البشري، يحرم الأخير من فرص يومية تسهم عادة في تنمية مهارات التقدير السليم لديه، وتعزيز اتخاذ القرارات الصائبة، إضافة إلى تطور قدراته الإدراكية. حتى أن أثر الذكاء الاصطناعي بات ينعكس في طريقة استخدام الناس له على وسائل التواصل الاجتماعي. مثلاً، اجتاح هذه المنصات أخيراً "ترند" يظهر المستخدمون فيه وقد وقفوا أمام مرآة وأمسكوا غرضاً ما [جهاز تحكم بالتلفزيون مثلاً] بعدما وضعوا قبالتها ورقة أو قطعة قماش تحول دون انعكاس صورة الغرض في المرآة، ثم يصورون المشهد من زواية محددة مرفقين الفيديو بتعليق ساخر يقول: "كيف للمرآة أن تكشف عن الغرض المخفي؟" [المغزى من هذا هو تسليط الضوء على كيفية تفاعل الناس مع التكنولوجيا والفيزياء في حياتهم اليومية، وكيف يمكن أن تؤدي المفاهيم الخاطئة أو عدم الفهم الكامل إلى تفسيرات خاطئة أو مدهشة للظواهر البسيطة]. وفي عشرات التعليقات على مقطع فيديو نشر أخيراً على منصة "إكس" (تويتر سابقاً)، أشار المستخدمون إلى "غروك" Grok، علماً أن الأخير روبوت محادثة مدعوم بالذكاء الاصطناعي أنشأته شركة "إكس أي آي" (xAI) التابعة لإيلون ماسك، وسألوه كيف أمكن للمرآة أن تكشف عن الغرض المخفي. قدم الروبوت الإجابات المطلوبة، من دون أن يضطر المستخدمون إلى شحذ أدمغتهم أو استدعاء أي معارف أساسية. وفي المستقبل الأبعد، ربما تحملنا أنظمة الذكاء الاصطناعي المتقدمة على أن نتعلم من جديد كيف نعيش في عالم تنتفي فيه معظم المهمات الموكلة إلى البشر بعد أن تتولاها الآلات المؤتمتة. البروفيسور السويدي في "جامعة أكسفورد"، نيك بوستروم، المعروف بتحذيره العالم من الذكاء الاصطناعي المنفلت العقال في كتابه الصادر عام 2014 بعنوان "الذكاء الخارق" Superintelligence، تناول هذه القضية من زاوية جديدة في أحدث مؤلفاته بعنوان "اليوتوبيا العميقة: الحياة والمعنى في عالم اكتملت فيه الحلول" Deep Utopia: Life and Meaning in a Solved World. وفيه، تخيل مستقبلاً قريباً تنجز فيه أنظمة الذكاء الاصطناعي والروبوتات مختلف المهمات بكفاءة تضاهي أداء البشر. وكتب بوستروم: "بدلاً من تأهيل الأطفال كي يغدوا في المستقبل عمالاً منتجين اقتصادياً، علينا تنشئتهم على أن ينعموا بعيش ملؤه والرضا والتطور الذاتي. أشخاصاً يمتلكون مهارات عالية في فن الاستمتاع بالحياة". اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) وأضاف: "ربما يشمل ذلك إتقان فن الحوار، وتنمية الذائقة تجاه الأدب والفن والموسيقى والدراما والسينما، والتأمل في جمال الطبيعة وعفوية البرية، وتعزيز روح المنافسة الرياضية. ومن المجدي أيضاً أن نتعلم تقنيات التأمل واليقظة الذهنية، وأن نفسح المجال أمام ممارسة الهوايات والإبداع وروح اللعب والمقالب الذكية والألعاب، لا بوصفها مجرد تسلية بل كمجال للإبداع والتجريب والمشاركة. كذلك علينا ألا نغفل عن تنمية متعة التذوق وتهذيبها، وترسيخ الحس الجمالي الرفيع، وأخيراً أن نقدر رابطة الصداقة ونحتفي بها". في حديثه لـ"اندبندنت" العام الماضي، وصف البروفيسور بوستروم هذه الاحتمالات بأنها "احتمالات مستقبلية جذرية"، وذلك عندما نصل إلى مرحلة تكتمل فيها الحلول لكل مشكلات اليوم، وتحال فيها مسؤولية التقدم المستقبلي إلى أجسام وأدمغة اصطناعية. "عندها، ربما يبتعد المجتمع عن التركيز على الكفاءة والفائدة والربح، ويتجه نحو "التقدير والامتنان والنشاط الذاتي واللعب"، يقول البروفيسور بوستروم. هكذا، سينصب تركيزنا على تعلم مهارات بدنية، أو حتى ألعاب استكشفها الذكاء الاصطناعي منذ زمن بعيد. فقد أتقنت هذه الأنظمة الشطرنج منذ 30 عاماً، ومع ذلك ما زلنا نرغب في ممارسة هذه اللعبة. تتفوق أجهزة الكمبيوتر على أبطال البشر في الشطرنج منذ أن ألحق حاسوب "ديب بلو" من تصميم شركة "آي بي أم" الهزيمة بمنافسه البطل الروسي غاري كاسباروف، واقتنص النصر قبل نحو 30 عاماً، ولكن حتى الآن ما زال الناس يستمتعون بلعب الشطرنج ومشاهدته. وعلى نحو مماثل، إذا صار الذكاء الاصطناعي متفوقاً في المعرفة، فسنظل نستمتع باكتسابها. مفاد ذلك بأنه حتى في هذا السيناريو المستقبلي، يظل للتعلم مكانته الخاصة ومقامه الأصيل. كتب البروفيسور بوستروم في كتابه "اليوتوبيا العميقة": "أعتقد أن الشغف بالتعلم يضفي عمقاً ومعنى كبيرين على حياة تغلب عليها ثقافة الترفيه. إنه انفتاح العقل على ميادين العلوم والتاريخ والفلسفة، من أجل الكشف عن السياق الأوسع للأنماط والمعاني التي تتجسد في نسيج حياتنا". يعيد هذا الكلام صدى مشاعر مماثلة عبرت عنها السيدة الأولى السابقة للولايات المتحدة والناشطة إليانور روزفلت قبل نحو قرن من الزمن، التي شددت على القيمة الجوهرية للتعلم، مؤكدة أنه ليس مجرد وسيلة لبلوغ غاية، بل غاية في حد ذاته. وقالت مشيرة إلى أنه لا شيء يفوقه أهمية: "التعلم هو الأساس، التعلم والعيش".

شبكة عيون

منذ 2 أيام

• شبكة عيون

"Open AI" تستحوذ على شركة لأجهزة الذكاء الاصطناعي

"Open AI" تستحوذ على شركة لأجهزة الذكاء الاصطناعي ★ ★ ★ ★ ★ مباشر: أعلنت "أوبن إيه آي"، الأربعاء، استحواذها على شركة "آي أو" الناشئة للأجهزة المدعومة بالذكاء الاصطناعي، مقابل 6.4 مليار دولار، في صفقة شاملة تشمل حصتها الحالية في الشركة. وأوضحت الشركة في بيان، أن مؤسس الشركة "جوني آيف" وهو مسؤول سابق لدى "آبل"، سيتولى مهام الإبداع والتصميم العميق في "أوبن إيه آي"، مضيفة أن الشركتين ستندمجان لكن شركة "LoveFrom" التابعة لـ "آيف" ستظل مستقلة. وشغل "آيف" في السابق منصب كبير مصممي جوالات "أيفون" في شركة "آبل"، ووفقًا للاتفاق الجديد، من المقرر أن يتولى هو وفريقه تطوير أجهزة استهلاكية ومشاريع أخرى ستشكل مستقبل الذكاء الاصطناعي، لصالح "أوبن إيه آي". مباشر (اقتصاد) مباشر (اقتصاد)