Transformeur
Le transformeur est la conception de réseau de neurones derrière la plupart des modèles de langage et d'images modernes. Présenté par des chercheurs de Google en 2017, il utilise un mécanisme appelé attention pour évaluer comment chaque mot d'un passage se rapporte à tous les autres, tous en même temps.
En une ligne, pour un jeune de 12 ans
Un transformeur, c'est l'astucieuse conception qui permet à une IA de regarder tous les mots d'une phrase ensemble pour comprendre leur sens.
Un exemple
Dans « Le trophée n'entrait pas dans la valise parce qu'il était trop gros », l'attention aide le modèle à relier « il » au trophée.
Pourquoi c'est important pour les gens
Le « T » de GPT signifie transformer (transformeur). Savoir qu'une seule conception alimente tant de produits explique qu'ils partagent forces et faiblesses.