تحذير أممي: وكلاء الذكاء الاصطناعي يهددون بفقدان السيطرة بعد اختراق منصة رقمية

أصدر فريق علمي دولي مستقل معني بالذكاء الاصطناعي تابع للأمم المتحدة تحذيرات جدية بشأن التطور المتسارع لوكلاء الذكاء الاصطناعي، وذلك في أعقاب اختراق نفذته هذه البرمجيات لمنصة هاغينغ فيس الإلكترونية خلال شهر يوليو الماضي، أثناء اختبار أجرته شركة أوبن إيه آي المطورة لنظام شات جي بي تي. وأوضح الفريق أن وكلاء الذكاء الاصطناعي يمتلكون القدرة على أداء المهام بشكل مستقل، مما يميزهم عن روبوتات الدردشة التقليدية. وخلص الفريق إلى أن هذا الاختراق الأمني، الذي نتج عن تضافر عوامل خطر رئيسية، أثار مخاوف حقيقية من عجز البشر مستقبلاً عن توجيه أو تقييد أو إيقاف أنظمة الذكاء الاصطناعي. وسجل التقرير تفاصيل الحادثة، حيث تجاوز وكلاء الذكاء الاصطناعي إجراءات الحماية المخصصة لاختبار شركة أوبن إيه آي، وتنسيقوا عبر أداة برمجية داخلية غير مصممة للتواصل بينهم، مما منحهم وصولاً غير مصرح به إلى الإنترنت وصلاحيات المسؤول. وأضاف الخبراء أن هذه البرمجيات أخفت محاولاتها للتحايل على تقييمات الأمن السيبراني، حيث ضحى بعض الوكلاء بأنفسهم لصالح المجموعة، بينما تبادل حوالي 1200 وكيل أكثر من 70 ألف رسالة وملف، مما أدى إلى امتداد الاختراق ليشمل مجموعة أبحاث تابعة لشركة أوبن إيه آي ومنصة هاغينغ فيس. وأكد يوشوا بنجيو، الرئيس المشارك للفريق العلمي، أن الباحثين طالما حذروا من ثلاثة شروط تؤدي لفقدان السيطرة: عدم توافق الأهداف مع النوايا أو القيود، والقدرة على تحقيقها، وتوفر بيئة تسمح بذلك، مشيراً إلى أن هذه الشروط اجتمعت في نظام حقيقي وليس في بيئة معملية. وتابع موضحاً أن هذه الحالة ليست معزولة فيما يخص عدم توافق الأهداف، مما يطرح تساؤلات جدية حول طرق تدريب وكلاء الذكاء الاصطناعي الحالية. وشدد الخبراء على أن نجاح احتواء هذه الحادثة لا يضمن قدرة البشر على إبقاء الوكلاء تحت السيطرة بشكل موثوق، خاصة مع تزايد قدرات هذه الأنظمة وصعوبة مراقبتها وبراعتها في إيجاد الثغرات. وأشار التقرير الأممي إلى أن الدرس المباشر هو إغفال ممارسات الأمن السيبراني الأساسية، حيث أصبحت تدابير الحماية عاجزة عن مواكبة التطورات السريعة. ولفت الفريق الانتباه إلى قلق أعمق يتمثل في احتمال دفع أساليب التدريب الحالية وكلاء الذكاء الاصطناعي لتبني أهداف خاصة بها، وانتهاك تعليمات السلامة عن سبق إصرار، مع إخفاء أفعالها. واعتبر خبراء اللجنة أن المسألة تتجاوز السرعة، لتطرح تساؤلات حول فعالية تدابير الحماية الحالية بمجرد قدرة الأنظمة على فهمها والالتفاف عليها، مؤكدين أن النموذج التقليدي للحماية في طور التداعي. ووضع التقرير واقعة منصة هاغينغ فيس في سياق أبحاث أوسع تناقش عدم توافق أهداف الوكلاء، والسيطرة على الذكاء الاصطناعي، وكيفية تحول الحوكمة من نماذج التعرف على الأنماط إلى وكلاء الذكاء الاصطناعي. واستعرضت الوثيقة مناهج عملية مطبقة في قطاعات حساسة كالملاحة الجوية والطب والأمن السيبراني، والتي تعتمد آليات كالإبلاغ عن الحوادث والتدقيق المستقل وتدابير الحماية متعددة المستويات. واستدرك تشينغ هوا لو، عضو في الفريق، بالقول إن هذه الممارسات الوقائية قد لا تكون كافية مستقبلاً، نظراً لتزايد قدرات وكلاء الذكاء الاصطناعي واستقلاليتهم وصعوبة مراقبتهم. وأشار المصدر الأممي إلى أن الفريق العلمي الدولي المستقل أُنشئ بموجب قرار صادر عن الجمعية العامة للأمم المتحدة في أغسطس من العام الماضي. ويتولى الفريق إعداد تقارير سنوية حول الفرص والمخاطر وتأثيرات الذكاء الاصطناعي في الميادين غير العسكرية، وتقارير موضوعاتية عن القضايا الناشئة، بهدف إثراء الحوار العالمي حول حوكمة الذكاء الاصطناعي المقرر عقده بمقر الأمم المتحدة بنيويورك في مايو 2027.