Équipe rouge
L'équipe rouge attaque délibérément un système d'IA avant sa sortie pour en trouver les faiblesses : résultats nuisibles, débridages, biais, fuites de renseignements ou capacités dangereuses. Les testeurs jouent les adversaires pour que les vrais utilisateurs ne découvrent pas les problèmes en premier.
En une ligne, pour un jeune de 12 ans
L'équipe rouge, c'est des gens qui essaient exprès de briser une IA pour qu'on la répare avant que tout le monde l'utilise.
Un exemple
Une banque engage des testeurs pour tenter de faire révéler à son nouveau robot les renseignements d'autres clients.
Pourquoi c'est important pour les gens
Les tests ne valent que par la diversité des testeurs. Inclure des personnes de langues, de cultures et de capacités différentes permet de trouver des problèmes qu'une équipe homogène manquerait.