دراسة تكشف تأثيرا خطيرا لـ"تشات جي بي تي" على سلوك المراهقين
الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات ، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس.
وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة.
وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق.
ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس".
ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين.
وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي.
وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار.
وبحسب تقرير صادر عن بنك "جي بي مورغن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10 بالمئة من سكان العالم.
وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة".
وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها.
وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة.
كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية.
وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم.
من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب.
وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي".
وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره.
وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
البوابة العربية للأخبار التقنية
منذ 39 دقائق
- البوابة العربية للأخبار التقنية
هل يساعد الذكاء الاصطناعي في إنقاذ مصداقية العلم؟
يُشكّل مبدأ (التصحيح الذاتي) الركيزة الأساسية، التي يقوم عليها البحث العلمي، إذ تهدف آلياته إلى ضمان دقة وموثوقية الأبحاث العلمية، وتُعدّ عملية مراجعة الأقران (Peer Review)، واحدة من أهم أدوات هذا التصحيح، إذ يقوم خبراء مجهولون بتدقيق الأبحاث العلمية قبل نشرها، لضمان موثوقيتها العلمية. ولكن مع ازدياد عدد الأبحاث والمجلات واحتدام التنافس الأكاديمي، وتأثير المصالح التجارية والشركات الكبرى، بدأت هذه الآلية تواجه تحديات جسيمة تهدد فعاليتها وتؤثر في ثقة الجمهور بالمؤسسة العلمية بأكملها. واليوم، نقف على أعتاب ثورة جديدة يقودها الذكاء الاصطناعي، الذي يَعد بتعزيز قدرتنا على كشف هذه العيوب على نطاق لم يسبق له مثيل. وفي هذا السياق، يُطرح تساؤل مهم: هل يستطيع الذكاء الاصطناعي إنقاذ مصداقية العلم، أم سيتحول إلى سلاح يُستخدم في حملات التضليل لتقويض المشروع العلمي برمته؟ أولًا؛ قصور مراجعة الأقران في مواجهة التحديات الحديثة: شهدت العقود الأخيرة انفجارًا ضخمًا في عدد الأوراق البحثية والمجلات العلمية، بفعل التحول الرقمي وتنوع التخصصات، ولكن هذا النمو غير المسبوق لم يُقابله دائمًا ضبط نوعي، مما فتح الباب واسعًا أمام الاستغلال التجاري للمجال الأكاديمي. فقد أدى السباق المحموم للنشر إلى ظهور كيانات انتهازية تُعرف باسم (مصانع الأوراق البحثية) Paper Mills، وهي كيانات تبيع للأكاديميين الباحثين عن زيادة رصيدهم البحثي فرصة النشر السريع مقابل مراجعة سطحية، مما يفرغ العملية من محتواها. وفي الوقت نفسه، تحقق دور النشر التجارية أرباحًا طائلة من رسوم معالجة المقالات، مما يصنع حافزًا اقتصاديًا لقبول المزيد من الأوراق بغض النظر عن جودتها. ولكن الأخطر من ذلك، هو تأثير الشركات الكبرى، فقد استغلت بعض الشركات هذه الثغرات لتمويل أبحاث منخفضة الجودة أو كتابة أوراق بحثية بالنيابة عن آخرين (Ghostwriting) بهدف تشويه الأدلة العلمية لصالح منتجاتها، وفي هذه الحالة قد يقوم بعض موظفي الشركة بكتابة أوراق بحثية ونسبتها إلى أكاديميين مستقلين ظاهريًا، وذلك بهدف التأثير في الأدلة العلمية، وتوجيه السياسات العامة، وتشكيل الرأي العام بما يخدم مصالح منتجاتها. ويتجلى خطر تأثير الشركات في قضية التحقيق في سلامة مبيد الأعشاب (جليفوسات)، إذ كشفت وثائق قانونية أن المراجعة العلمية الشاملة حول سلامة المنتج، التي استُشهد بها عالميًا، كانت في الحقيقة من كتابة موظفي شركة (مونسانتو) المنتجة للمبيد، ونُشرت في مجلة لها صلات معروفة بصناعة التبغ، وحتى بعد فضح الحقيقة، استمر تأثير الورقة المضللة لسنوات. وردًا على هذه التحديات، ظهرت مجموعة من المبادرات الشعبية والمؤسسية، التي تعمل كخط دفاع إضافي لتقوية نزاهة العلم، ومن أبرزها: موقع (Retraction Watch)، الذي يتتبع الأوراق المسحوبة ويكشف عن حالات سوء السلوك الأكاديمي، ومبادرة (Data Collada) التي تطور أساليب لتحديد التلاعب بالبيانات في الأبحاث، بالإضافة إلى الصحافة الاستقصائية، التي تكشف عن النفوذ الخفي للشركات على البحث العلمي. ومع فاعلية هذه الجهود، فإنها تبقى محدودة التأثير ومكلفة للغاية، وتبرز قصور الاعتماد على مراجعة الأقران كحارس وحيد للموثوقية العلمية. ولكن في الوقت نفسه؛ يلوح في الأفق أمل جديد، إذ يُتوقع أن يتمكن الذكاء الاصطناعي من تعزيز هذه الجهود بقوة، والمساعدة في تحديد الأبحاث المزورة بكفاءة وسرعة عالية، مما قد يساهم مستقبلًا في تنقية السجل العلمي ودعم الثقة به. ثانيًا؛ هل سيكون الذكاء الاصطناعي هو الحل؟ حتى وقت قريب، كانت الأدوات التقنية التي تساعد في التدقيق الأكاديمي تركز في كشف الانتحال التقليدي، لكن المشهد يتغير بسرعة بفضل التقدم في مجال الذكاء الاصطناعي، فقد ظهرت أدوات متقدمة مثل: (ImageTwin)، و (Proofig)، التي تستخدم خوارزميات التعلم الآلي المتقدمة لمسح ملايين الأشكال والرسوم البيانية بحثًا عن علامات التلاعب أو التكرارأ أو استخدام أدوات الذكاء الاصطناعي لكتابة الأبحاث. وفي الوقت نفسه، تستطيع أدوات معالجة اللغة الطبيعية، تحديد (العبارات المشوهة) Tortured phrases، وهي عبارة عن تراكيب لغوية غير منطقية أو اصطناعية تُشير غالبًا إلى الأبحاث التي تنتجها ما يُعرف باسم (مصانع الأوراق البحثية)، وبالإضافة إلى ذلك، توفر لوحات المعلومات (الببليومترية) Bibliometric، مثل تلك التي يقدمها محرك البحث الأكاديمي (Semantic Scholar) رؤى حول كيفية الاستشهاد بالأوراق البحثية، سواء كان ذلك لدعم نتائجها أم لدحضها، مما يوفر مؤشرات على القيمة الفعلية للأبحاث في السياق العلمي. ولكن المستقبل يحمل ما هو أعظم، إذ من المتوقع أن يكشف الذكاء الاصطناعي قريبًا عن عيوب أكثر دقة في الأبحاث، خاصة مع تطور نماذج الذكاء الاصطناعي التي تتميز بقدرات استدلالية متقدمة في الرياضيات والمنطق، فعلى سبيل المثال، يهدف مشروع (Black Spatula) إلى اختبار قدرة أحدث نماذج الذكاء الاصطناعي على التحقق من البراهين الرياضية المنشورة. وقد أظهرت هذه النماذج بالفعل قدرة على التحقق من صحة البراهين الرياضية المعقدة وكشف التناقضات التي عجز المراجعون البشر عن رؤيتها. وتُظهر هذه القدرات أن هذه الأنظمة، إذا أُتيح لها الوصول الكامل إلى قواعد بيانات الأبحاث العلمية وقوة حاسوبية كافية، يمكنها قريبًا إجراء تدقيق شامل للسجل الأكاديمي العالمي بأكمله. ومن المرجح أن يكشف هذا التدقيق عن بعض حالات الاحتيال الصريح، ولكن الأهم من ذلك، أنه سيكشف عن كتلة أكبر بكثير من الأبحاث الروتينية غير المؤثرة والأخطاء الشائعة، وهو ما يتعارض تمامًا مع الصورة البطولية للاكتشافات العلمية التي يروج لها الإعلام. ثالثًا؛ ما تأثير ونتائج التدقيق الشامل للسجل الأكاديمي؟ بينما لا يزال مدى انتشار الاحتيال في الأبحاث العلمية غير معروف بدقة، فإننا نعلم أن نسبة كبيرة من الأبحاث المنشورة غير مؤثرة، ويعرف العلماء أنفسهم هذه الحقيقة جيدًا، إذ إن الكثير من هذه الأوراق البحثية المنشورة لا يُستشهد به مطلقًا أو نادرًا ما يُشار إليها. وقد يكون هذا الاكتشاف – أي أن كثيرًا من الأبحاث العلمية ليست ذات تأثير يُذكر – صادمًا للجمهور العام بقدر اكتشاف الاحتيال، لأنه يتناقض مع الصورة البطولية والدرامية للاكتشافات العلمية، التي تُروج لها المؤسسات الأكاديمية ووسائل الإعلام المتخصصة. ولكن يكمن الخطر الأكبر في أن نتائج هذا التدقيق الشامل ستكون عرضة للاستغلال في حملات التضليل المعلوماتي، فالجماعات المناهضة للعلم قد تستخدم هذه النتائج كدليل قاطع على سردية (العلم معطوب)، مما يقوض الثقة العامة بنحو خطير، وما يزيد الأمر تعقيدًا هو أن الذكاء الاصطناعي قد يُنظر إليه على أنه محايد وكفؤ، مما يضفي على نتائجه مصداقية إضافية في نظر الجمهور. وهنا تكمن المفارقة: الذكاء الاصطناعي قد يكشف عن خلل المنظومة العلمية، لكنه في الوقت ذاته قد يُستخدم لتقويض الثقة بها، إذ إن هذه الاكتشافات، رغم دقتها، قد تُستغل في حملات تضليل، خاصة مع استخدام الذكاء الاصطناعي نفسه في إنتاج محتوى زائف أو توجيه سرديات مضللة. رابعًا؛ الشفافية هي خط الدفاع الأول عن الثقة العلمية؟ لا يكمن الحل في إنكار العيوب، بل في قيادة عملية الكشف عنها، لذلك يجب على المجتمع العلمي أن يبادر بإجراء هذا التدقيق بنفسه، وأن يستعد لنتائجه بشفافية، ويتطلب هذا الأمر إعادة صياغة جذرية للصورة العامة لدور العالِم، وتبني صورة أكثر واقعية وصدقًا للعالِم كمساهم في فهم جماعي متطور وتدريجي. كما يجب التخلي عن أسطورة الاستعراض البطولي للاكتشافات الفردية الخارقة. لأن معظم الأبحاث العلمية اليوم ليست ثورات فكرية، بل جهود تراكمية متدرجة، تهدف إلى تعزيز المعرفة، وتُمارَس في سياق التعليم، والإرشاد الأكاديمي، والمشاركة المجتمعي، والاعتراف بهذه الحقيقة لن يقلل من قيمة العلم، بل سيجعل صورته أكثر صمودًا في وجه التدقيق المدفوع بالذكاء الاصطناعي. فلم يستمد العلم قوته أبدًا من العصمة من الخطأ، بل تكمن مصداقيته في الاستعداد الدائم للتصحيح والإصلاح، والآن، أصبح إظهار هذا الاستعداد علنًا ضرورة ملحة، قبل أن تنهار مصداقية العلم تمامًا.
زاوية
منذ 3 ساعات
- زاوية
"أومني هَب" من مركز البحوث والتطوير التابع لهيئة كهرباء ومياه دبي يحصل على علامة المطابقة الأوروبية (CE)
دبي، الإمارات العربية المتحدة: أعلن مركز البحوث والتطوير التابع لهيئة كهرباء ومياه دبي أنّ جهاز "أومني هَب(OmniHub) " لإنترنت الأشياء حصل على شهادة المطابقة الأوروبية CE للصحة والسلامة والبيئة. وقد اجتاز «أومني هَب» جميع اختبارات الاعتماد في دورة تطوير واحدة شملت مرحلة الفكرة والتسليم والصيانة، متفوقاً على المعايير القياسية في القطاع. وأشار المركز إلى الميزات المتقدمة للجهاز، ولا سيما قدرته على الاتصال بالقمر الاصطناعي النانوي "ديوا سات-1" مما يمهد الطريق للتطبيقات الميدانية. وقد تم تطوير "أومني هَب" وفق أعلى معايير الاعتمادية والكفاءة ضمن برنامج الفضاء "سبيس دي" التابع للهيئة بهدف ربط المجسات الأرضية بالأقمار الاصطناعية والشبكات الأرضية. وقد جرى تصميم وتصنيع الجهاز في مركز البحوث والتطوير، بما في ذلك هيكله المطبوع بتقنية ثلاثية الأبعاد. وقد تم تشغيل عدة أجهزة "أومني هَب" في الميدان لأكثر من ستة أشهر، وأثبتت بفعالية قدرتها على تلبية الاحتياجات التشغيلية لمختلف وحدات الأعمال في هيئة كهرباء ومياه دبي. ويظهر ذلك موثوقية "أومني هَب" وتنوعه وفعاليته في التطبيقات الواقعية. وقال معالي سعيد محمد الطاير، العضو المنتدب الرئيس التنفيذي لهيئة كهرباء ومياه دبي: "انسجاماً مع التوجيهات السديدة لسيدي صاحب السمو الشيخ محمد بن راشد آل مكتوم، نائب رئيس الدولة رئيس مجلس الوزراء حاكم دبي، رعاه الله، نسهم في تطوير قطاع الفضاء والقطاعات المرتبطة به إضافة إلى دعم التحوّل نحو اقتصاد متنوّع قائم على المعرفة. وبفضل بيئة الابتكار والتميّز التي توفرها الهيئة، أصبح مركز البحوث والتطوير محرّكاً رئيساً لتحقيق الاستراتيجية الوطنية للفضاء 2030 ودعم الصناعة الفضائية بمختلف أنشطتها الحكومية والتجارية والعلمية." وقد أثبت «أومني هَب» توافقه الكامل مع متطلبات تقنية العمليات في الهيئة. فهو يدعم الاتصال متعدد التقنيات، ويتمتع بقدرات اتصال قوية، وتتوافق مع معايير صارمة لأمن العمليات والمعلومات. وبعمر بطارية يصل إلى ستة أشهر واستهلاك منخفض للطاقة، تم تصميم الجهاز ليتحمّل البيئات القاسية، بما فيها الظروف المغبرّة والرطبة، مع ضمان أداء ثابت عبر مختلف قطاعات وأعمال الهيئة. ويتوافق الجهاز مع المعايير الدولية، مما يضمن أماناً متيناً للأجهزة المتصلة. وهو يتوافق كذلك مع المعايير الدولية الخاصة بأمن أجهزة إنترنت الأشياء وشبكة الإنترنت اللاســـــلكي (Wi-Fi) والبلوتوث منخفض الطاقة (BLE)، وإنترنت الأشياء ضيق النطاق (NB-IoT)، وشبكة الهاتف المتحرك المخصصة لإنترنت الأشياء (LTE CAT-M)، وشبكة الراديو طويل المدى (LoRa\LoRaWAN)، وذلك لضمان اتصالٍ سلسٍ مع عدة أقمار اصطناعية وشبكات أرضية مختلفة. وتعتمد الهيئة منصة إنترنت الأشياء الرقمية المُستضافة في مركز بياناتها – التي يقوم بتشغيلها مركز البيانات للحلول المتكاملة "مورو"، الشركة التابعة لـ "ديوا الرقمية"، الذراع الرقمي للهيئة، لتسهيل إدارة الأجهزة عن بُعد. -انتهى-
صحيفة الخليج
منذ 3 ساعات
- صحيفة الخليج
«السلامة الغذائية» تغلق منشأة «المخبز المصري» في أبوظبي
أصدرت هيئة أبوظبي للزراعة والسلامة الغذائية، قراراً بالإغلاق الإداري لمنشأة «المخبز المصري»، وتحمل الرخصة التجارية (1852988 CN-) في أبوظبي، لمخالفتها القانون رقم (2) لسنة 2008 في شأن الغذاء والتشريعات الصادرة بموجبه، ولخطورتها على الصحة العامة. ضمان السلامة والصحة وأوضحت الهيئة أن تقرير الرقابة الغذائية أفاد بأن قرار الإغلاق الإداري للمنشأة جاء نتيجة تكرار مخالفات السلامة الغذائية وعدم تطبيق الإجراءات التصحيحية الفعالة، ما استدعى اتخاذ إجراء فوري يضمن سلامة الغذاء وصحة المستهلكين. وأكدت الهيئة أن أمر الإغلاق الإداري سيستمر حتى زوال أسباب المخالفة، مع إمكانية استئناف النشاط بعد تصحيح أوضاع المنشأة بالكامل والالتزام بجميع متطلبات السلامة الغذائية. تعزيز منظومة السلامة وأشارت إلى أن الإغلاق الإداري وكشف التجاوزات يأتي ضمن خطة الهيئة لتعزيز منظومة السلامة الغذائية في أبوظبي، وخضوع جميع المنشآت الغذائية لتفتيش دوري للتأكد من امتثالها للاشتراطات. مع التركيز على الحماية الاستباقية للمستهلكين وضمان التزام المنشآت باشتراطات السلامة الغذائية. تواصل الجمهور وناشدت الهيئة الجمهور بالتواصل معها، والإبلاغ عن أية مخالفات يرصدها في أية منشأة غذائية أو عند الشك في محتويات المادة الغذائية بالاتصال على الرقم المجاني لحكومة أبوظبي 800555 حتى يتخذ مفتشو الهيئة الإجراء اللازم.
