Explicabilité
L'explicabilité est la capacité de comprendre et de décrire pourquoi un système d'IA a produit un résultat donné. Les modèles simples sont faciles à expliquer; les grands réseaux de neurones ne le sont pas, si bien que des chercheurs conçoivent des outils pour regarder à l'intérieur.
En une ligne, pour un jeune de 12 ans
L'explicabilité, c'est pouvoir répondre à « pourquoi l'IA a-t-elle décidé ça? »
Un exemple
Un refus de prêt est accompagné des principales raisons : revenu trop bas pour le montant et historique de crédit trop court.
Pourquoi c'est important pour les gens
Quand une décision vous touche, vous méritez des raisons compréhensibles et contestables. La Loi 25 du Québec donne le droit d'être informé lorsqu'une décision vous concernant est fondée exclusivement sur un traitement automatisé, et d'en connaître les principales raisons.