Humain dans la boucle
Humain dans la boucle signifie qu'une personne examine, approuve ou peut renverser le résultat d'un système d'IA avant qu'il ne prenne effet. C'est une protection de base pour les décisions qui touchent des personnes et pour les agents IA qui agissent dans le monde.
En une ligne, pour un jeune de 12 ans
Humain dans la boucle, ça veut dire qu'une vraie personne vérifie le travail de l'IA avant que quelque chose arrive.
Un exemple
Une IA rédige des réponses aux demandeurs de prestations, mais un agent lit et signe chacune avant l'envoi.
Pourquoi c'est important pour les gens
La supervision ne fonctionne que si la personne a le temps, l'information et le pouvoir d'être en désaccord. Un simple tampon n'est pas une protection.