Apprentissage par renforcement avec rétroaction humaine (ARRH)
L'ARRH est une étape d'entraînement où des personnes comparent ou notent les réponses d'un modèle, qui est ensuite ajusté pour préférer le genre de réponses les mieux notées. C'est une des principales raisons pour lesquelles les robots conversationnels sont plus utiles et polis que les modèles bruts.
En une ligne, pour un jeune de 12 ans
L'ARRH, c'est des gens qui donnent des pouces en l'air ou en bas à une IA jusqu'à ce qu'elle apprenne quelles réponses sont utiles.
Un exemple
Quand un robot conversationnel vous montre deux réponses et demande laquelle est meilleure, votre choix peut servir de rétroaction de ce genre.
Pourquoi c'est important pour les gens
Les préférences retenues façonnent le ton et les valeurs du modèle. Cela peut aussi lui apprendre à paraître agréable plutôt qu'exact, un problème que les chercheurs appellent la complaisance.