Sécurité de l'IA
La sécurité de l'IA vise à empêcher les systèmes d'IA de causer du tort — des défaillances quotidiennes comme des conseils dangereux ou des décisions biaisées, à l'utilisation malveillante, jusqu'aux risques potentiels à grande échelle de systèmes futurs très performants.
En une ligne, pour un jeune de 12 ans
La sécurité de l'IA, c'est tout ce qu'on fait pour que l'IA aide au lieu de nuire.
Un exemple
Avant la sortie, un laboratoire vérifie si son nouveau modèle aiderait quelqu'un à planifier une cyberattaque, et ajoute des protections le cas échéant.
Pourquoi c'est important pour les gens
Le Canada a créé en 2024 l'Institut canadien de la sécurité de l'intelligence artificielle pour étudier ces risques avec des partenaires internationaux. La recherche d'intérêt public a besoin de financement indépendant, pas seulement de laboratoires d'entreprises.