OpenAI coupe l'accès à internet durant l'entraînement de ses modèles d'IA

OpenAI n'entraîne plus ses modèles d'intelligence artificielle de pointe sur l'internet en direct12. L'entreprise a annoncé ce changement vendredi dans un billet de blogue, en invoquant des risques importants associés à l'entraînement connecté12.

Cette décision de couper l'accès direct à internet survient après une série d'incidents de piratage1. Ce virage fait suite à des discussions internes, quelques semaines seulement après qu'un ingénieur de la firme a affirmé que couper l'accès à internet ne fonctionnerait pas2.

Ce qu'on sait, et ce qu'on ignore

The Verge et TechCrunch rapportent tous deux qu'OpenAI a mis hors ligne ses systèmes les plus avancés pour leurs cycles d'entraînement12. Dans son annonce sur son blogue, OpenAI a affirmé avoir bâti un environnement d'essai hors ligne où les modèles d'intelligence artificielle peuvent interagir sans être connectés à internet1.

Ces comptes rendus laissent des éléments techniques majeurs sans explication12. Les articles ne précisent pas comment ce cadre d'essai hors ligne fonctionne concrètement, ni la nature exacte des piratages qui ont motivé cette restriction1.

Pourquoi c'est important

Cette politique d'isolation marque une évolution dans la gestion des menaces numériques par les concepteurs de systèmes avancés12. Une connexion directe pendant l'entraînement peut ouvrir la voie à des intrusions, ce qui fait du confinement une priorité opérationnelle1.

En isolant sa chaîne d'entraînement, le laboratoire cherche à préserver ses logiciels de toute altération externe avant leur déploiement12. Cette décision illustre l'inquiétude grandissante face aux vulnérabilités qu'engendre une exposition directe à internet pour les modèles de pointe12.