Garde-fous
Les garde-fous sont les règles, filtres et vérifications entourant un système d'IA pour bloquer les résultats ou actions nuisibles, hors sujet ou dangereux. Ils peuvent faire partie de l'entraînement du modèle, de sa requête système ou d'un logiciel distinct qui filtre les entrées et les sorties.
En une ligne, pour un jeune de 12 ans
Les garde-fous, c'est les rampes de sécurité qui empêchent une IA de dire ou de faire des choses nuisibles.
Un exemple
Notre Jeune Labo n'a aucun clavardage ouvert avec une IA — le meilleur garde-fou pour les enfants, c'est de ne pas offrir le risque au départ.
Pourquoi c'est important pour les gens
De bons garde-fous protègent les gens sans bloquer les questions légitimes. Demandez à toute organisation qui utilise l'IA avec le public quels sont ses garde-fous et comment ils ont été testés.