Satya Nadella de Microsoft réclame un frein d'urgence pour l'IA

Satya Nadella, chef de la direction de Microsoft, a affirmé que les modèles d'intelligence artificielle ont besoin d'un « emergency brake » et a prévenu qu'il faut considérer tous les modèles comme « compromised »12. Dans une publication diffusée un samedi matin, Nadella a écrit qu'il est temps « to step back and assess the trust architecture » de la technologie tout en abordant les périls posés par les systèmes hautement avancés12.

Ce qu'on sait, et ce qu'on ignore

Nadella a également adopté l'expression « super intelligence » au lieu d'intelligence artificielle, reprenant le vocabulaire privilégié par Trump, et a utilisé cet argument pour s'en prendre à OpenAI et Anthropic3. Dans ce message sur X, le dirigeant de Microsoft a décrit les modèles comme des menaces internes et s'est opposé à l'idée de traiter un logiciel simplement comme un « set of nested » éléments23.

Les sources rapportent que Nadella a exposé les dangers des modèles puissants et a invité le secteur à affronter directement ces vulnérabilités12. La question de savoir si Microsoft appliquera des modifications logicielles précises, des vérifications ou des garde-fous réglementaires pour instaurer un frein d'urgence demeure sans réponse12.

Pourquoi c'est important

Ces déclarations indiquent que les organisations devraient traiter les systèmes automatisés avancés comme vulnérables plutôt que sûrs par défaut2. Pour les personnes et les entreprises qui exploitent des outils d'apprentissage automatique, la position de Nadella implique que des protections externes demeurent nécessaires face aux compromissions internes123.