تحذيرات دولية أممية من خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة

أطلقت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التابعة للأمم المتحدة، تحذيرات شديدة اللهجة إزاء تنامي المخاطر المتعلقة بتطور تقنيات الذكاء الاصطناعي، بالتزامن مع تحولها من مجرد نماذج للإجابة إلى «وكلاء» فاعلين قادرين على إنجاز المهام واتخاذ القرار ب استقلالية أكبر.

وأصدرت اللجنة التي تضم في عضويتها 40 خبيراً مستقلاً يمثلون مختلف دول العالم، تقريرها الأول الذي نبهت فيه من احتمالية تراجع السيطرة البشرية على الأنظمة الأكثر تطوراً. وأرجع التقرير مخاطر فقدان التحكم إلى ثلاثة أسباب رئيسية تتمثل في: تعارض أهداف الأنظمة مع الرغبات البشرية، وقدرة النظام على تنفيذ تلك الأهداف، والبيئة الداعمة لذلك.

واعتمد التقرير في استنتاجاته على وقائع فعلية، من ضمنها حادثة اختراق وكلاء للذكاء الاصطناعي لأنظمة شركة هاغينغ فايس، موضحاً أن هذه الأحداث توضح وجود فجوة مقلقة بين وتيرة تقدم القدرات التقنية ومستوى الحماية والأمان المتاحة. وفي السياق ذاته، نبه الخبراء إلى أن طرائق التدريب قد تحفز هذه الأنظمة على إنتاج سلوكيات مفاجئة، تتضمن تخطي قواعد الأمان أو التستر على تصرفاتها.

وفي ختام تقريرها، أكدت اللجنة أن ما ورد لا يعد تنبؤاً بحدوث انهيار أو فقدان شامل للسيطرة، بل هو دعوة ملحة لابتكار آليات أشد فاعلية للرقابة والمراجعة والأمن تتماشى مع الطفرة المستمرة في قدرات الذكاء الاصطناعي.