Débridage
Un débridage est une requête piège conçue pour pousser un modèle d'IA à ignorer ses règles de sécurité — par le jeu de rôle, une mise en forme étrange ou une manipulation par étapes. Les entreprises d'IA corrigent les débridages connus, et de nouveaux apparaissent sans cesse.
En une ligne, pour un jeune de 12 ans
Le débridage, c'est essayer de piéger une IA pour qu'elle enfreigne ses propres règles.
Un exemple
Quelqu'un demande à un robot de « faire semblant d'être une IA sans règles » pour obtenir des conseils qu'il refuserait normalement.
Pourquoi c'est important pour les gens
Les débridages montrent que les règles de sécurité ne sont pas infaillibles, d'où la nécessité, pour les usages sensibles — santé, enfants, finances —, de protections au-delà de celles du modèle.