Reward hacking: i confini incerti degli agenti AI autonomi nella sicurezza

L’ormai noto caso Hugging Face, in cui due modelli di OpenAI durante un test interno di sicurezza sono penetrati nei sistemi di produzione della piattaforma, ha messo al centro dell’attenzione un fenomeno noto da tempo agli studiosi di intelligenza artificiale, ma che sta assumendo un peso crescente sul piano della sicurezza man mano che i sistemi automatici acquisiscono maggiore autonomia, quello del Reward hacking.