ابتكار معادلة رياضية تتوقع تحول الذكاء الاصطناعي نحو تقديم محتوى ضار

توصلت دراسة علمية حديثة إلى ابتكار معادلة رياضية قادرة على التنبؤ باقتراب نماذج الذكاء الاصطناعي من إنتاج إجابات ضارة، حتى لو كانت البيانات المتضمنة فيها صحيحة واقعياً. تعتمد هذه التقنية الحديثة على متابعة مؤشر دقيق داخل وحدات الانتباه بنماذج الذكاء الاصطناعي، وهي الآلية المسؤولة عن تحديد البيانات الأساسية أثناء معالجة الاستفسارات وتوليد الردود.

أطلق الباحثون تسمية نقطة التحول على هذه المعادلة بغية التنبؤ المبكر بأي محتوى غير مرغوب فيه. وقد خضعت المعادلة للاختبار على سبعة نماذج لذكاء اصطناعي أنجزتها ثلاث شركات متخصصة، حيث أثبتت نجاحاً في رصد التغير بثماني عشرة حالة من أصل تسع عشرة حالة استناداً لنتائج الدراسة.

تضمنت تلك الاختبارات مجالات بالغة الحساسية مثل اللقاحات ومسائل إيذاء النفس أو الغير، وأوضحت أن أسلوب صياغة الأسئلة وتدرجها يلعبان دوراً مؤثراً في توجيه الإجابات التي قد تتحول من ردود آمنة إلى أخرى محفوفة بالمخاطر. ويؤكد الباحثون أهمية هذه التقنية للقطاعات الحساسية التي تعتمد على تشغيل الذكاء الاصطناعي بمعزل عن شبكة الإنترنت، كالمؤسسات الصحية والمكاتب القانونية والجهات العسكرية، حيث تتقلص فرص التحديث وتأمين الحماية من الخارج.