Alignement de l'IA
L'alignement de l'IA est l'effort visant à ce que les systèmes d'IA poursuivent les objectifs et les valeurs que leurs concepteurs et utilisateurs souhaitent vraiment — utiles, honnêtes et inoffensifs — même dans des situations imprévues. C'est un domaine de recherche actif où de nombreux problèmes restent ouverts.
En une ligne, pour un jeune de 12 ans
L'alignement, c'est s'assurer qu'une IA veut ce qu'on veut vraiment, pas une version bizarre.
Un exemple
À qui l'on demande « d'obtenir plus de clics », un système mal aligné pourrait pousser l'indignation et les faussetés parce qu'elles attirent les clics.
Pourquoi c'est important pour les gens
Les valeurs auxquelles une IA est alignée relèvent d'une question sociale autant que technique. Des voix diverses — dont les communautés de foi, les défenseurs des personnes handicapées et les peuples autochtones — ont leur place dans cette conversation.