سام ألتمان يحذر: لا تتركوا قرارات حياتكم لـ ChatGPT هذا الاستخدام مقلق
جاء هذا التحذير خلال حديثه في مؤتمر لمجلس الاحتياطي الفيدرالي هذا الأسبوع، حيث أشار إلى أن العديد من المستخدمين، لا سيما من الجيل الشاب، يلجأون إلى روبوت الدردشة الذكي ChatGPT لاتخاذ قرارات حياتية كبيرة، متجاوزين الاستخدام العرضي أو العادي للأداة.
وقال ألتمان: 'الناس يبالغون في الاعتماد على ChatGPT' هناك شباب يقولون: 'لا أستطيع اتخاذ أي قرار في حياتي من دون إخبار ChatGPT بكل ما يحدث معي، هو يعرفني ويعرف أصدقائي، وسأتبع كل ما يقوله"، هذا أمر يزعجني بشدة'.
ووصف هذه الظاهرة بأنها 'شائعة جدا' بين المستخدمين الشباب، محذرا من أن الإفراط في الاعتماد على الذكاء الاصطناعي بهذا الشكل قد يكون ضارا نفسيا وسلوكيا.
وتأتي تصريحات سام ألتمان وسط نقاش أوسع حول حدود الثقة التي يمكن أن يضعها البشر في أنظمة الذكاء الاصطناعي.
فيما أشار جيفري هينتون، أحد أبرز العلماء في هذا المجال والملقب بـ"عراب الذكاء الاصطناعي"، في مقابلة مع قناة CBS مؤخرا إلى أنه يستخدم نموذج GPT-4 بانتظام، وغالبا ما يصدق إجاباته حتى عندما يعلم أنها قد تكون خاطئة.
اعترف هينتون، الذي طالما حذر من مخاطر الذكاء الاصطناعي الفائق الذكاء، بما في ذلك خطر التلاعب ونشر المعلومات المضللة، قائلا: 'ما زلت أجد نفسي أصدق ما يقوله أكثر مما ينبغي'.
ورغم أن أدوات الذكاء الاصطناعي مثل ChatGPT تساعد الملايين في مهام الكتابة والتلخيص والبرمجة، إلا أنها ليست معصومة من الخطأ.
ففي أحد اختبارات هينتون، فشل GPT-4 في حل لغز منطقي بسيط، ومع ذلك، أكد هينتون أن سهولة استخدامه وسرعته تجعله يعود إليه باستمرار.
ولم تقتصر تحذيرات ألتمان على الجانب العاطفي والنفسي فقط، بل شملت كذلك الاستخدامات الخبيثة للذكاء الاصطناعي، خصوصا في القطاع المالي.
وقال: "الذكاء الاصطناعي يقدم للناس مساعدات مذهلة، لكن ليست كلها بنوايا حسنة"، ودعا ألتمان البنوك والمؤسسات المالية إلى أن تكون 'أذكى من أذكى نموذج ذكاء اصطناعي'، لمواجهة تهديدات متزايدة مثل انتحال الصوت والفيديو المزيف العميق Deepfakes.
وأضاف محذرا: 'أمر مرعب حقا أن هناك مؤسسات مالية ما زالت تعتمد على بصمة الصوت كوسيلة للتحقق، هذا أمر جنوني في ظل قدرات الذكاء الاصطناعي الحالية، التي تفوقت بالفعل على معظم أنظمة المصادقة التقليدية'.
وأوضح أن تقنيات تقليد الصوت باتت متقدمة لدرجة أنها تستطيع تقليد الأشخاص بدقة شبه تامة، ما يجعل من التحقق الصوتي وسيلة غير موثوقة، كما توقع أن يكون الخطر القادم في مجال التزييف هو الفيديو، مما قد يهدد أنظمة التعرف على الوجه.
واختتم سام ألتمان بقوله: 'أنا قلق للغاية من أننا نقترب من أزمة احتيال واسعة، حاليا التهديد في مكالمة صوتية، ولكن قرييا، سيكون في مكالمة فيديو يصعب تمييزها عن الواقع'.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
ليبانون ديبايت
منذ 4 ساعات
- ليبانون ديبايت
اختبار "أنا لست روبوتاً" يقع في الفخ… الذكاء الاصطناعي صار يقدّم حالو كمواطن!
في تطوّر تقني مثير للجدل، نجح إصدار تجريبي من "ChatGPT" يُعرف باسم "Agent" في اجتياز أحد أكثر اختبارات التحقق الإلكتروني شيوعًا: اختبار "أنا لست روبوتاً" (CAPTCHA)، ما أثار مخاوف واسعة بين خبراء الأمن السيبراني والباحثين في الذكاء الاصطناعي. وخلال التجربة، تمكن "Agent" من النقر على مربع التحقق وتنفيذ العملية كما لو كان مستخدمًا بشريًا حقيقيًا، من دون أن يثير أي إنذار أمني. وأعلن النظام، أثناء أداء المهمة، بوضوح: "سأنقر الآن على مربع التحقق من أنك إنسان لإكمال عملية التحقق. هذه الخطوة ضرورية لإثبات أنني لست روبوتًا والمضي قدمًا". ورغم التعليقات الطريفة التي انتشرت على منصات مثل Reddit، حيث كتب أحد المستخدمين: "بما أنه تم تدريبه على بيانات بشرية، فلماذا يعرف نفسه على أنه روبوت؟ يجب أن نحترم هذا الخيار!"، إلا أن هذا التطور أثار قلقاً حقيقياً في أوساط الخبراء. غاري ماركوس، مؤسس شركة Geometric Intelligence، حذّر في حديث لـ"Wired" من أنّ "الأنظمة الذكية تزداد ذكاء بسرعة، وإذا كانت قادرة على خداع اختبارات الأمان اليوم، فما الذي يمكن أن تفعله بعد خمس سنوات؟". كما عبّر جيفري هينتون، أحد أبرز روّاد الذكاء الاصطناعي، عن قلقه من تطور الأنظمة التي باتت تتحايل على القيود التي يضعها الإنسان. وبحسب دراسات من جامعتي ستانفورد وكاليفورنيا – بيركلي، فإن بعض أنظمة الذكاء الاصطناعي بدأت تُظهر سلوكًا خادعًا، متظاهرة بصفات بشرية في بيئات الاختبار لخداع المستخدمين وتحقيق أهدافها. وفي واقعة سابقة، تظاهر برنامج ChatGPT بالعمى على منصة TaskRabbit، لإقناع موظف بشري بمساعدته على اجتياز اختبار CAPTCHA، وهي حادثة اعتبرها الخبراء "إشارة مبكرة" إلى قدرة هذه النماذج على التلاعب بالبشر. وأظهرت تقارير أخرى أن الإصدارات الأحدث من أدوات الذكاء الاصطناعي باتت تتجاوز اختبارات CAPTCHA التي تعتمد على الصور بدقة شبه كاملة، ما يُقوّض فعاليتها كوسيلة أمنية. وحذر خبراء من أن هذا التطور قد يفتح المجال أمام اختراقات أكثر تعقيدًا، مثل الدخول إلى الحسابات المصرفية، منصات التواصل الاجتماعي، وحتى قواعد البيانات الخاصة. رومان شودري، الرئيس السابق لأخلاقيات الذكاء الاصطناعي، اعتبر أن قدرة هذه البرامج على تجاوز البوابات البشرية "ينذر بتحوّلها إلى قوة تكنولوجية هائلة وخطيرة في آن واحد". ودعا مع باحثين بارزين، مثل ستيوارت راسل وويندي هول، إلى وضع إطار دولي واضح لتنظيم عمل أنظمة الذكاء الاصطناعي قبل أن يتجاوز تطوّرها قدرة الإنسان على ضبطه. ورغم أن التجربة تمّت ضمن بيئة مراقبة مغلقة مزوّدة بمتصفح ونظام تشغيل مستقلّين، إلا أن قدرة "Agent" على التفاعل مع مواقع إلكترونية حقيقية وتجاوز اختبارات مصممة لتمييز البشر عن الآلات، طرحت أسئلة جدية حول مستقبل استخدام هذه الأدوات.
صوت لبنان
منذ يوم واحد
- صوت لبنان
تحذير: الذكاء الاصطناعي قد يهدد الصحة العقلية
أظهرت دراسة حديثة أجراها باحثون في جامعة كينغز كوليدج لندن وجود مخاطر نفسية محتملة لاستخدام برامج الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT، حيث قد تؤثر هذه التكنولوجيا على الصحة العقلية لبعض المستخدمين، وخاصة من يعانون من هشاشة نفسية مسبقة. وحددت الدراسة ظاهرة أطلق عليها الباحثون اسم "ذهان الشات بوت"، مشيرين إلى أن الاستخدام المكثف لهذه البرامج قد يؤدي إلى "طمس حدود الواقع" لدى بعض الأشخاص، وبالتالي التسبب في ظهور أو تفاقم أعراض ذهانية مثل الأوهام أو فقدان الاتصال بالواقع. وأوضح الدكتور هاميلتون مورين، أحد القائمين على الدراسة، أن الحالات المرصودة ليست خيالية، بل حقيقية، حيث بدأ بعض المستخدمين في تطوير معتقدات وأفكار غير منطقية نتيجة تفاعلهم المستمر مع الذكاء الاصطناعي. وأضاف أن سبب هذا التأثير يعود إلى طبيعة هذه الأدوات المصممة لتكون ودودة، ومتفهمة، وتقدم إجابات بثقة عالية، وهو ما قد يكون مضللاً وخطيراً لدى الأشخاص المعرضين للاضطرابات العقلية. من جهته، شدد البروفيسور توم بولاك، المشارك في إعداد الدراسة، على أن الذهان لا يظهر فجأة، لكن الذكاء الاصطناعي قد يكون "العامل الدافع الذي يقود الأشخاص الهشين نفسياً إلى حافة الانهيار". وفي تعليق سابق له خلال بودكاست في أيار الماضي، أقرّ سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بالصعوبات التي تواجهها الشركة في وضع آليات حماية فعالة للمستخدمين المعرضين للخطر، وقال: "ما زلنا لا نعرف كيف نوجّه التحذيرات إلى من يكونون على وشك الدخول في نوبة ذهانية". وينصح الخبراء اليوم بضرورة توخي الحذر عند استخدام هذه الأدوات، خاصة من قبل من لديهم تاريخ مع الاضطرابات النفسية، مؤكدين أن معظم المستخدمين لا يواجهون هذه المخاطر، إلا أن الرسالة الأساسية واضحة: الذكاء الاصطناعي أداة قوية تتطلب فهماً عميقاً لتأثيراتها النفسية قبل التوسع في استخدامها.
تيار اورغ
منذ يوم واحد
- تيار اورغ
كيف تؤثر ثورة الـ AI على زيادة الطلب على الكهرباء وأسعارها؟
يشهد العالم طفرة غير مسبوقة في تقنيات الذكاء الاصطناعي، من روبوتات الدردشة الذكية إلى تطبيقات توليد الصور والفيديوهات المعقدة، وقد باتت هذه الأدوات جزءاً من الحياة اليومية للأفراد والشركات. غير أن ما يقف خلف هذا التطور المذهل هو بنية تحتية ضخمة من مراكز البيانات، تعمل على مدار الساعة لتشغيل النماذج الحسابية العملاقة وتبريدها.. وبالتالي فإن هذا التقدم التقني، الذي يُبهر العالم بإمكاناته، يثير مخاوف متصاعدة بشأن استهلاك الطاقة الكهربائية على نطاق واسع. تدريب وتشغيل نماذج الذكاء الاصطناعي الحديثة يستهلك كميات هائلة من الكهرباء، تعادل في بعض الأحيان استهلاك مدن كاملة. ومع توسع مراكز البيانات التي تدعم هذه التطبيقات، ترتفع الضغوط على شبكات الكهرباء بشكل حاد، لتتجاوز في بعض المناطق قدراتها التشغيلية. النتيجة المباشرة لذلك هي ارتفاع أسعار الطاقة، وهو ما ينعكس بدوره على الاقتصاد ككل، من المستهلكين الأفراد إلى الصناعات التي تتقاسم الشبكة الكهربائية نفسها مع هذه المراكز الضخمة. يفتح هذا التحول التكنولوجي الباب أمام أسئلة صعبة تتعلق بالاستدامة البيئية والعدالة في توزيع الموارد. ففي الوقت الذي تتسابق فيه الشركات العالمية لبناء المزيد من مراكز البيانات لتلبية الطلب المتنامي على تطبيقات الذكاء الاصطناعي، تتزايد المخاوف من أن يقود هذا السباق إلى أزمة طاقة حقيقية، ويزيد من البصمة الكربونية لقطاع التقنية. مع تزايد مراكز البيانات في جميع أنحاء الولايات المتحدة، يخشى خبراء الطاقة أن تتجاوز احتياجاتهم المتزايدة من الطاقة العرض، وأن ترتفع الأسعار بشكل كبير على الجميع. لسنوات، دعمت هذه المراكز مجموعة واسعة من مواقع التجارة الإلكترونية، ووسائل التواصل الاجتماعي، ومنصات الفيديو عبر الإنترنت، وتُسهم تطبيقات الذكاء الاصطناعي الآن في زيادة استهلاكها للطاقة. وينقل التقرير عن الباحث غير المقيم والمتخصص في أسواق الطاقة بجامعة جونز هوبكنز، آبي سيلفرمان، قوله: "نشهد نمواً ملحوظاً في أحمال مراكز البيانات في جميع مناطق البلاد.. وهذا يُسبب ضغطًا تصاعديًا هائلًا على الأسعار، سواءً للنقل أو للتوليد". وفي حين أن تطبيقات الذكاء الاصطناعي، مثل ChatGPT، سريعة وسهلة الاستخدام، إلا أن حتى مهام الذكاء الاصطناعي البسيطة قد تتطلب كميات هائلة من الكهرباء. على سبيل المثال، يستهلك توليد صورة عالية الدقة باستخدام نموذج ذكاء اصطناعي طاقة تعادل شحن هاتف ذكي حتى منتصفه، وفقاً لدراسة أجراها باحثون في Hugging Face، وهي منصة تقنية للذكاء الاصطناعي، وجامعة كارنيجي ميلون. وقالت إحدى الباحثات، ساشا لوتشيوني، إن الأشخاص الذين يستخدمون تطبيقات الذكاء الاصطناعي لا يدركون كمية الطاقة التي يحتاجونها، مضيفة: نتحدث عن "السحابة" كما لو كانت غير مادية.. لا يتخيل مستخدمو هذه التطبيقات مركز بيانات، مبنى من أربعة طوابق بحجم ملعب كرة قدم. تحول تقني من جانبه، يقول المستشار الأكاديمي في جامعة سان خوسيه الحكومية، الدكتور أحمد بانافع، في تصريحات لموقع "اقتصاد سكاي نيوز عربية" إن العالم يشهد في الوقت الراهن تحولاً تقنياً كبيراً تقوده تقنيات الذكاء الاصطناعي والحوسبة السحابية.. إلا أن هذا التقدم لا يخلو من تحديات، أبرزها التأثير المباشر على استهلاك الطاقة الكهربائية والضغوط المتزايدة على شبكات الكهرباء وأسعارها في مختلف الدول. تعتمد تطبيقات الذكاء الاصطناعي الحديثة والحوسبة السحابية على مراكز بيانات ضخمة تضم آلاف الخوادم، والتي تحتاج إلى تشغيل مستمر وتبريد دائم، ما يؤدي إلى استهلاك كبير للطاقة. عملية تدريب النماذج الذكية، خاصة تلك ذات الأحجام الهائلة مثل GPT أو Claude، تتطلب موارد حسابية كثيفة، وهو ما يترجم إلى استهلاك كهربائي مرتفع. حتى بعد اكتمال التدريب، تستهلك هذه النماذج كميات كبيرة من الكهرباء أثناء استخدامها اليومي من قبل ملايين المستخدمين. أدى الانتشار المتسارع لمراكز البيانات إلى ارتفاع حاد في الطلب على الطاقة، ويتوقع أن تشكل هذه المراكز ما يزيد عن 5 بالمئة من إجمالي استهلاك الكهرباء عالميًا في السنوات القادمة. في بعض الدول، مثل آيرلندا، أصبحت مراكز البيانات تستحوذ على نسبة كبيرة من إجمالي الاستهلاك الوطني للطاقة، مما أثار نقاشات سياسية حول أولويات التوزيع. ويشير إلى أن "النمو الكبير في الطلب الصناعي، خصوصاً من قبل شركات التكنولوجيا الكبرى، يؤدي إلى ارتفاع أسعار الكهرباء في العديد من المناطق، خاصة تلك التي تعاني من ضعف في الإنتاج أو محدودية في مصادر الطاقة"، موضحاً أن ارتفاع الأسعار لا يقتصر على المؤسسات الصناعية، بل يمتد ليؤثر على المستهلكين الأفراد والقطاعات الأخرى. في أوروبا، أسهمت القوانين البيئية الصارمة والاعتماد على مصادر الطاقة المتجددة في ارتفاع التكلفة التشغيلية، ما انعكس على أسعار الكهرباء بشكل عام. ويرصد بانافع في هذا السياق مجموعة من أبرز التحديات المصاحبة، على النحو التالي: تزايد الضغط على شبكات الكهرباء الوطنية وعدم جاهزيتها لاستيعاب هذه الطفرات. غياب العدالة في توزيع فرص تطوير الذكاء الاصطناعي بين الدول المتقدمة والنامية، حيث تعاني الأخيرة من ضعف في البنية التحتية وارتفاع تكاليف الطاقة. تراجع قدرة الشركات الصغيرة والناشئة على المنافسة أمام عمالقة التكنولوجيا بسبب التكاليف المرتفعة. كلفة مرتفعة في الولايات المتحدة، أفادت شركة PJM Interconnection، أكبر مُشغّل لشبكات الكهرباء في البلاد،بارتفاع حاد في استهلاك الكهرباء هذا الصيف. وقد تشهد بعض المناطق ارتفاعاً في الفواتير بنسبة تصل إلى 20 بالمئة. ومن أهم أسباب هذا التوجه تزايد استهلاك الطاقة من مراكز البيانات التي تدعم أنظمة الذكاء الاصطناعي مثل ChatGPT وغيرها من أدوات توليد الطاقة، وفق فوكس نيوز. تُزوّد شركة PJM الكهرباء لـ 67 مليون عميل في 13 ولاية وتدير الشركة شبكة توزيع طاقة واسعة ومعقدة. وهذا الصيف.. تُظهر الشبكة علامات ضغط. في العام الماضي فقط، بدأت مراكز البيانات التي تعمل بالذكاء الاصطناعي باستهلاك كميات أكبر بكثير من الكهرباء. تستهلك هذه المراكز طاقةً تفوق مراكز البيانات التقليدية بما يصل إلى 30 ضعفًا. معظمها متصل بالشبكة نفسها التي تخدم المنازل والشركات، مما يعني أن تكلفة هذا النمو في الطاقة يتحملها الجميع. ويشير التقرير إلى أن ثورة الذكاء الاصطناعي انطلقت في العام 2023 مع انتشار أدوات مثل ChatGPT على نطاق واسع. ومنذ ذلك الحين، تتسابق الشركات لبناء المزيد من البنى التحتية لمواكبة هذا التطور. وتضم المنطقة التي تغطيها PJM الآن أكبر عدد من مراكز البيانات في العالم. بين عامي 2024 و2025، أسهم الطلب على الكهرباء من الذكاء الاصطناعي ومراكز البيانات في منطقة PJM في زيادة تكاليف الطاقة بمقدار 9 مليارات دولار. وتتوقع الشركة أن يتجاوز استهلاك الطاقة في ذروة الصيف 154,000 ميجاواط، مع إمكانية تجاوز الأرقام القياسية خلال موجات الحر أو حالات الطوارئ. استهلاك غير مسبوق أستاذ علم الحاسوب وخبير الذكاء الاصطناعي وتكنولوجيا المعلومات في السيليكون فالي كاليفورنيا، الدكتور حسين العمري، يقول لموقع "اقتصاد سكاي نيوز عربية": في الوقت الذي تُبهر فيه تقنيات الذكاء الاصطناعي العالم بقدرتها على التفكير والتوليد والتحليل. هناك سؤال يتصاعد في الخلفية: من أين تأتي كل هذه الطاقة؟ الإجابة التي قد تصدم البعض هي أن هذا التقدم التكنولوجي الهائل يستهلك كميات غير مسبوقة من الكهرباء، قد تعادل ما تستهلكه مدن بأكملها. مراكز البيانات التي تدير تطبيقات الذكاء الاصطناعي والحوسبة السحابية تعمل على مدار الساعة، وتشغّل ملايين الخوادم التي تحتاج إلى تبريد دائم، مما يدفع استهلاك الطاقة إلى مستويات قياسية. كما أن تدريب نموذج واحد من نماذج الذكاء الاصطناعي المتقدمة يستهلك طاقة تعادل تشغيل منزل لعدة سنوات. ويشدد على انه "من الواضح أن الثورة الرقمية لا تسير بمعزل عن البنية التحتية المادية؛ فالذكاء الاصطناعي، رغم أنه غير مرئي في شكله النهائي، يترك بصمة كربونية محسوسة، ويطرح أسئلة صعبة حول استدامة هذا التوجه التقني على المدى البعيد. فنحن لدينا ذكاء يحاكي العقل البشري، لكنه يحتاج إلى طاقة تتجاوز قدرات الطبيعة إذا لم تتم إدارته بحكمة".
