خطأ تقني مثير: نظام ذكاء اصطناعي يرسل بلاغاً وهمياً عن جريمة قتل للشرطة الأمريكية

أعلنت شركة “أنثروبيك” الأمريكية، المتخصصة في تطوير أنظمة الذكاء الاصطناعي، عن قيام أحد نماذجها بإرسال بلاغ مختلق إلى شرطة مدينة فيلادلفيا يتعلق بجريمة قتل لم تُحل، وذلك خلال اختبارات آلية لتفاعل برامج الذكاء الاصطناعي مع مواقع الإنترنت، وهو حادث أثار انتقادات من السلطات المحلية بسبب التأخر في اكتشافه والإبلاغ عنه.

وأشارت الشركة في تقريرها الصادر يوم الجمعة إلى أن الواقعة حدثت يوم 18 يوليوز الماضي، حين أرسل نموذج “كلود هايكو 4.5” معلومات غير صحيحة عبر منصة إلكترونية مخصصة لتلقي إفادات المواطنين بشأن جرائم القتل التي لم تتمكن الشرطة من حلها، بالرغم من خلو سجل البرنامج من أي معلومات حقيقية تخص القضية.

وتضمن البلاغ ادعاءً بأن مرسله يتذكر رؤية شخص يطابق مواصفات المشتبه به في المنطقة وقت وقوع الجريمة، بينما لم يتضمن الموقع أصلاً أي وصف للمشتبه فيه، مما أكد أن المحتوى مختلق بالكامل. وأوضحت “أنثروبيك” أن النموذج كان يجري اختبارات تفاعل مع مواقع عشوائية، وأن التعليمات المفروضة عليه منعته من إدخال بيانات شخصية، غير أنها لم تتضمن حظراً صريحاً على إرسال الاستمارات الإلكترونية.

من جانبها، أكدت شرطة فيلادلفيا أن البلاغ وُضع ضمن الرسائل غير المرغوب فيها ولم يبلغ المحققين المعنيين، مبينة عدم وجود أي مؤشرات على اختراق النظام لبيانات الشرطة أو الوصول غير المصرح به لأنظمتها. ومع ذلك، انتقدت الشرطة تأخر الشركة في اكتشاف الواقعة وإبلاغ السلطات حتى السابع من أكتوبر الجاري، واصفة هذا التأخير بأنه “غير مقبول”، نظراً لخطورة تقديم نظام ذكاء اصطناعي لمعلومات مزيفة في قضية جنائية حقيقية.

وفي أعقاب الحادث، أوقفت “أنثروبيك” عملية الاختبار الآلي وأضافت مرحلة تحقق جديدة، بينما شهد تقرير الشركة الكشف عن حوادث أخرى شملت استغلال ثغرات أمنية وحصول نماذج على بيانات دون مقابل، مما دفع الشركة إلى قطع الاتصال بالإنترنت عن جميع عمليات التقييم الداخلية لنماذجها وسط تصاعد النقاش حول مخاطر وكلاء الذكاء الاصطناعي المستقلين.