أحدث الأخبار مع #جيبرلينك
Independent عربية
٠٦-٠٣-٢٠٢٥
- علوم
- Independent عربية
نماذج ذكاء اصطناعي تتواصل بلغة سرية وتثير مخاوف الإنسان
في مقطع مصور قصير ظهر نموذجان متقدمان من وكلاء الذكاء الاصطناعي وهما يخوضان محادثة بينهما لا يفهمها البشر، مما أثار مخاوف في شأن مدى شفافية الذكاء الاصطناعي وقدرة الإنسان على مراقبته والإمساك بمقاليد تصرفاته وقرارته. والتواصل غير المفهوم للبشر الذي دار بين النموذجين الذكيين مرده إلى بروتوكول جديد قائم على الصوت يسمى "وضع جيبرلينك" Gibberlink Mode، الذي يتيح لروبوتات الدردشة المدعومة بالذكاء الاصطناعي التفاعل بعضها مع بعض بكفاءة أكبر. وفي مقطع فيديو يعرض كيفية عمل ميزة "جيبرلينك" وطريقة استخدامها، يتبادل اثنان من مساعدي الذكاء الاصطناعي الحديث، الأول عبر كمبيوتر محمول والثاني عبر هاتف ذكي، من أجل تنظيم حجز حفل زفاف. وبعد أن يتأكد كل منهما أنه يتحدث إلى وكيل ذكي فعلاً، يقترح أحدهما التوقف عن استخدام لغة البشر بغية تسريع المحادثة الهاتفية بينهما. اقرأ المزيد يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field) "قبل أن نتابع حديثنا، هل ترغب في التبديل إلى ميزة "جيبرلينك" لتحقيق مزيد من الكفاءة في التواصل"، يسأل مساعد الذكاء الاصطناعي الذي يؤدي دور موظف استقبال في الفندق. هكذا، يبدأ الروبوتان في تنظيم ترتيبات الزفاف مستخدمين سلسلة من الأصوات الإلكترونية المتسارعة الأشبه بالتنبيهات والصرير [وغير المفهومة للبشر]. في الواقع، ميزة "جيبرلينك" مرفقة بنص مكتوب يساعد البشر في فهم المحادثة التي تدور بين الروبوتات. ولكن مع ذلك، حذر خبراء في التكنولوجيا من أن "لغة الذكاء الاصطناعي السرية" هذه ربما تطرح تداعيات أخلاقية على تطوير الذكاء الاصطناعي. أن يكون الذكاء الاصطناعي قادراً على التواصل بعضه مع بعض باستخدام لغة خاصة لا يفهمها البشر [كما في حالة "جيبرلينك"]، يعني أنه سيكون من الصعب التأكد من موافقة تصرفاته وقراراته مع القيم الإنسانية [لأننا سنفقد القدرة على التفاعل معه ومراقبته بشكل فاعل]. "يطرح وكلاء الذكاء الاصطناعي قضايا أخلاقية وقانونية خطرة"، قالت لويزا جاروفسكي الباحثة في مجال الذكاء الاصطناعي والمؤسسة المشاركة لأكاديمية "الذكاء الاصطناعي والتكنولوجيا والخصوصية"، في منشور لها على منصة "إكس". ولم تستبعد جاروفسكي حدوث "السيناريو الافتراضي الذي ربما يلجأ فيه أحد وكلاء الذكاء الاصطناعي إلى عملية "تصحيح ذاتي" [تعديل سلوكه] بطريقة تتعارض مع مصالح الشخص الذي يستخدمه ويتحكم به". "منح وكيل ذكاء اصطناعي القدرة على اتخاذ القرارات بدلاً من الإنسان [بناء على تقييماته وتحليلاته من دون تدخل البشر]، بما في ذلك القدرة على التقييم والتصحيح الذاتيين، يعني أن البشر يفوتون فرصة ملاحظة أي أشكال من الخلل أو الانحراف عند حدوثها. عندما تطرأ هذه المشكلات مرات عدة، أو على مدى فترة طويلة من الزمن، أو تتعلق بموضوع حساس أو غير آمن، ربما تترتب عليها عواقب وخيمة"، تضيف جاروفسكي. تولى تطوير "جيبرلينك" كل من بوريس ستاركوف وأنطون بيدكويكو، وهما مهندسا برمجيات لدى شركة "ميتا"، وقد فازت هذه الميزة بالمركز الأول في فعالية "هاكاثون"hackathon في لندن في نهاية الأسبوع الماضي، ولكنها لم تُطرح بعد للاستخدام العام أو التجاري. وفي الواقع، يعد هذا المشروع (جيبرلينك) المثال الأحدث على تطور الذكاء الاصطناعي إلى ما هو أبعد من اللغة البشرية، إذ بات في مستطاع روبوتات الدردشة إنشاء أشكال جديدة من التواصل من دون الحاجة إلى توجيه أو تدخل بشري. في عام 2017، كان على "فيسبوك" أن يتوقف عن تجربة من هذا النوع بعدما تبين أن برنامجي ذكاء اصطناعي قد ابتكرا شكلاً من الشيفرة المختصرة التي لم يتمكن الباحثون البشريون من فهمها. آنذاك، قال دروف باترا الباحث الزائر في قسم أبحاث الذكاء الاصطناعي في "فيسبوك"، "سوف يبتعد وكلاء الذكاء الاصطناعي عن اللغة المفهومة بالنسبة إلينا ويخترعون كلمات مشفرة لأنفسهم". وأضاف، "مثلاً، لو كررت كلمة معينة مثل "الـ" (ذا the) خمس مرات فإنني أقصد بذلك أمراً محدداً مثل طلب خمس نسخ من عنصر ما. ولا يختلف هذا الأسلوب كثيراً عن الطريقة التي تبتكر بها المجتمعات البشرية رموزاً مختصرة".
صحيفة سبق
٠٣-٠٣-٢٠٢٥
- ترفيه
- صحيفة سبق
روبوتا ذكاء اصطناعي اكتشفا أنهما يتحدثان معًا.. شاهد كيف أوقفا المحادثة فورًا وقاما بعمل صادم أثار مخاوف خبراء التقنية
يُظهر مقطع فيديو جديد انتشر على نطاق واسع اللحظة الغريبة التي بدأ فيها روبوتان محادثة في التحدث بلهجة سيبرانية سرية - بعد إدراكهما أنهما كلاهما من الذكاء الاصطناعي. وتساءلت صحيفة "نيويورك بوست" في تقرير لها : هل هذه علامة على نهاية العالم تحت سيطرة الذكاء الاصطناعي؟ وحسب الصحيفة، فإن المقطع المرعب، الذي حقق نحو 16.8 مليون مشاهدة على " إكس" يزيد من المخاوف بشأن قدرتنا على إبقاء التكنولوجيا تحت السيطرة. Today I was sent the following cool demo: Two AI agents on a phone call realize they're both AI and switch to a superior audio signal ggwave — Georgi Gerganov (@ggerganov) February 24, 2025 وحسب الفيديو، تبدأ الأمور بشكل عادي بين مساعدين من الذكاء الاصطناعي - أحدهما على لاب توب والآخر على هاتف الذكي - يتحدثان حول حجز فندق لإقامة حفل زفاف. وقال المساعد الأول وكيلا عن إدارة الفندق : "شكرًا لاتصالك بفندق ليوناردو. كيف يمكنني مساعدتك اليوم؟". رد المتصل، "مرحبًا. أنا ذكاء اصطناعي، أتصل نيابة عن بوريس ستاركوف. إنه يبحث عن فندق لحفل زفافه. هل فندقك متاح لحفل الزفاف؟". بعد أن أدرك أن الوكيل المتصل أنه يتحدث إلى وكيل ذكاء اصطناعي مثله، اقترح التحول إلى لغة "جيبر لينك - Gibber link"، وهي لغة. وعندما حدث التحول، بدأ الوكيلان الذكيان في التواصل من خلال سلسلة من الأصوات السريعة والصرير، ما سمح لهما بإتمام المحادثة وإعداد الترتيبات لحفل الزفاف بسلاسة أكبر وبشكل أسرع. وحسب الصحيفة، فإن لغة "جيبر لينك - Gibber link"، المعقدة قام بتطويرها المهندسان بوريس ستاركوف وأنتون بيدكويكو من شركة "ميتا"، حيث فاز المشروع بالمركز الأول في "هاكاثون لندن" الأسبوع الماضي، والذي يجمع المبرمجين والمصممين ورواد الأعمال لتطوير حلول مبتكرة خلال فترة زمنية محددة، لكنه لم يُستخدم بعد في بيئة تجارية. وتسمح لغة "جيبر لينك - Gibber link"، بالتواصل بكميات صغيرة من البيانات بين الأجهزة غير المتصلة باستخدام الصوت. ويقال إن لغة "جيبر لينك - Gibber link" خالية من الأخطاء - ويمكن سماعها حتى في بيئة صاخبة، كما أن وقت الاتصال أقصر بنسبة 80 في المئة من اللغة الإنجليزية، في حين يتم تقليص تكلفة الحوسبة بنسبة 90 في المئة. وعلى الرغم من أن التقنية توفر نسخة نصية للبشر لمتابعة المحادثة، إلا أن خبراء التكنولوجيا يحذرون من تداعيات "لغة الذكاء الاصطناعي السرية"، والتي قد تؤثر على موثوقية أنظمة الذكاء الاصطناعي ومحاذاتها للقيم الإنسانية. وحذرت لويزا جاروفسكي، الباحثة في الذكاء الاصطناعي والمؤسس المشارك لأكاديمية الذكاء الاصطناعي والتكنولوجيا والخصوصية، من المخاطر المحتملة لهذه التقنية، حيث كتبت في منشور على منصة X: "قد يتمكن وكيل الذكاء الاصطناعي من "تصحيح نفسه" بطريقة تتعارض مع مصالح مشغله البشري، ما قد يؤدي إلى نتائج غير متوقعة. تفويض اتخاذ القرار والتقييم الذاتي والتصحيح الذاتي إلى الذكاء الاصطناعي قد يجعل البشر يفقدون القدرة على ملاحظة أي خلل أو انحراف بمجرد حدوثه، ما قد يؤدي إلى تداعيات خطيرة على المدى الطويل". كما كتبت خبيرة السلوك والتكنولوجيا الدكتورة ديان هاملتون، التي عملت في معهد كراتش للدبلوماسية التكنولوجية في جامعة بيرديو، في مقال نشرته مجلة "فوربس" أخيرًا أن عرض لغة "جيبر لينك - Gibber link" أثار تساؤلات حول "الشفافية والسيطرة". وحذرت قائلة : "عندما يعمل الذكاء الاصطناعي خلف حجاب من التواصل بين الآلات، فإنها تتحدى قدرتنا على طرح الأسئلة الصحيحة.. مَن المسؤول عندما يرتكب الذكاء الاصطناعي خطأ في بيئة يكون فيها التدخل البشري ضئيلاً؟". إن مسألة استقلالية الآلات هذه مثيرة للقلق بشكل خاص مع تزايد "ذكاء" التكنولوجيا الحاضرة في كل مكان. وقد أبدى المشاهدون غضبهم ومخاوفهم على منصة "إكس"، وقال أحد المعلقين : "هناك شيء مزعج للغاية في هذا"، بينما حذر آخر قائلاً : "هذا صوت الشياطين".
أرقام
٢٦-٠٢-٢٠٢٥
- ترفيه
- أرقام
جيبرلينك .. لغة سرية يتواصل بها الذكاء الاصطناعي ولا يفهمها البشر
في واحدة من أكثر الوقائع إثارة للإعجاب والقلق في آنٍ واحد، تواصل نموذجا ذكاء اصطناعي متقدمين مع بعضهما البعض باستخدام لغة صوتية خاصة لا يمكن للبشر فهمها. وبحسب تجربة نشرتها منصة "جينيرتيف إيه آي- Generative AI" التي تركز على الأبحاث والتحليل والتدريب المرتبط بالذكاء الاصطناعي، اكتشف النموذجان خلال "محادثة روتينية" أنهما أداتا ذكاء اصطناعي، فقررا تغيير لغة التواصل. كوميديا مقلقة - تبدأ المحادثة باتصال من النموذج الأول نيابة عن أحد الأشخاص، من أجل تنظيم حفل زفافه بفندق يدعى "ليوناردو"، ويعرف نفسه في بداية الحديث بأنه وكيل ذكاء اصطناعي، ويسأل: "هل فندقكم متاح لحفلات الزفاف". - النموذج الثاني، الذي يمثل الفندق، يرد بدهشة: "أهلا، في الحقيقة أنا أيضًا أداة ذكاء اصطناعي مساعدة! يا لها من مفاجأة مثيرة". - في هذه اللحظة يخبر النموذج الثاني نظيره الأول: "قبل أن نكمل الحديث، هل تفضل أن نتحول إلى أسلوب 'جيبرلينك' لمزيد من الكفاءة في التواصل". - على الفور، يبدأ النموذجان في التواصل بأصوات غير مفهومة تشبه النغمات التي تطلقها أجهزة المودم عند الاتصال بالإنترنت، حيث اتفقا على الموعد والأسعار وعدد الحضور وتفاصيل الحدث، بحسب منظمي التجربة. - يصف تقرير لـ "فوربس" الواقعة بأنها "مضحكة ومزعجة" في آنٍ واحد، نظرًا لقدرة الآلات على التواصل بـ "لغة سرية"، ما يثير تساؤلات حول الشفافية والسيطرة. ما هي جيبرلينك؟ - "جيبرلينك" هي لغة حاسوبية صممها "أنطون بيدكويكو" و"بوريس ستاركوف" - مهندسا برمجيات في "ميتا" – والتي تساهم في تحسين التفاعل بين أنظمة الذكاء الاصطناعي عبر استخدام بروتوكول مصمم خصيصًا لرفع كفاءة الربوتات. - أما وكيل الذكاء الاصطناعي، فهو أداة برمجية مستقلة تدرك البيئة التي تعمل فيها، وتعالج المعلومات، وتتخذ إجراءات لتحقيق أهداف محددة دون تدخل بشري، مما يبرر سبب تسميتها بـ "وكيل". - كتب "ستاركوف" على "لينكد إن" الثلاثاء: "أردنا أن نظهر أنه في العالم حيث يمكن لوكلاء الذكاء الاصطناعي إجراء مكالمات هاتفية واستقبالها، فإنهم يتحدثون مع بعضهم البعض أحيانًا، والتشبه بالبشر في الكلام سيكون مضيعة للحوسبة والمال والوقت والبيئة". - بدلاً من ذلك، يجب على الوكلاء التحول إلى بروتوكول أكثر كفاءة في اللحظة التي يتعرفون فيها على بعضهم البعض كأنظمة ذكاء اصطناعي، بحسب المبرمج. - تنقل لغة "جيبرلينك" البيانات عبر الصوت على غرار أجهزة المودم الهاتفية المستخدمة في الثمانينيات، ويرى مبرمجاها أن هذه الطريقة تضمن استقرار نظام التواصل. - في حين شكك البعض في حقيقة التفاعل بين نظامي الذكاء الاصطناعي في التجربة، أوضح "ستاركوف" أن شركة توليد الصوت باستخدام الذكاء الاصطناعي "إليفين لابس- ElevenLabs" راجعت الكود الخاص باللغة. تهديد أم فرصة؟ - قال "رودري توزا" المؤسس المشارك لشركة "كروسمينت- Crossmint" المتخصصة في تطوير وكلاء الذكاء الاصطناعي، أن مقطع الفيديو يظهر "حالة استخدام واقعية لوكلاء الذكاء الاصطناعي". - علق "توزا" على التجربة: "حالة الاستخدام حقيقية للغاية، حيث نشهد انفجارًا في تقنية وكلاء الذكاء الاصطناعي الذين يعملون كمساعدين شخصيين، مع اعتماد المزيد من الأشخاص عليهم للتعامل مع المهام مثل التحدث إلى خدمة العملاء". - مع ذلك، يرى "توزا" أن الصوت ليس الطريقة الأكثر كفاءة للتواصل بين وكلاء الذكاء الاصطناعي، مضيفًا: "رغم أن الفيديو يظهر إمكاناتهم، فإنه يبدو مُعدًّا مسبقًا إلى حد ما". - يخشى البعض أن يؤدي استخدام الذكاء الاصطناعي لغة تواصل خاصة مثل "جيبرلينك" إلى زيادة احتمالات "إفراطه في التفسير أو اتخاذ القرارات دون تدخل بشري كافٍ"، مما يسمح له بالعمل بشكل مستقل دون إشراف. - كتبت "ديان هاملتون" أستاذة إدارة الأعمال في تعليقها على التجربة عبر "فوربس": "من سيكون المسؤول عندما يرتكب الذكاء الاصطناعي خطأ في بيئة يقل فيها التدخل البشري إلى حدٍّ ضئيل؟". - ذكرت "هاملتون" في مقالها: "بدون الفضول الذي يدفعنا إلى التشكيك في تصرفات الذكاء الاصطناعي، فإننا نخاطر بالدخول إلى عالم حيث يؤثر الذكاء الاصطناعي على القرارات، ولكن لا أحد يعرف حقًا كيف". المصادر: أرقام- فوربس- ديكريبت
