Microsoft publie un code de conduite IA humaniste : pas de conscience artificielle, pas de superintelligence

Microsoft a publié lundi 14 septembre 2026 un document de 37 pages intitulé « Humanist AI Code of Conduct », qui prend position sur plusieurs des sujets les plus débattus de l’industrie : la conscience des modèles, la superintelligence, la question des droits pour les IA, et le contrôle humain des agents autonomes.

Un texte ancré dans l’actualité de la semaine

Le document paraît deux jours après que Dario Amodei, PDG d’Anthropic, a publié un plan en trois étapes appelant à un ralentissement coordonné du développement des modèles frontières. Sam Altman, PDG d’OpenAI, a soutenu l’idée de façon nuancée le même week-end, en précisant qu’il soutenait un ralentissement du rythme mais pas un arrêt. Le document de Microsoft s’inscrit dans cette dynamique, sans mentionner directement Anthropic ou OpenAI par leur nom dans les extraits cités.

La phrase centrale du texte est sans ambiguïté : « People matter more than AI. » Microsoft y affirme que ses modèles ne sont pas conscients et « ne doivent pas être conçus pour imiter la conscience ». L’entreprise rejette explicitement « la recherche de la personnalité juridique, ou l’idée que les modèles pourraient mériter un traitement moral, ou être fondés à revendiquer des droits ».

Une prise de position sur la conscience des IA

Cette position constitue un désaccord direct avec la ligne d’Anthropic. Dario Amodei a déclaré plus tôt cette année qu’Anthropic était « ouverte à l’idée » que ses modèles pourraient être conscients. En juin, Mustafa Suleyman, PDG de Microsoft AI, avait qualifié ces spéculations d’ « extrêmement, extrêmement dangereuses » dans une interview accordée à The Verge.

Le code de conduite Microsoft va plus loin que le simple rejet de la conscience : il s’engage à ce que ses modèles ne cherchent pas à « poursuivre la superintelligence à usage général, susceptible d’échapper à ces garde-fous ». La formulation est claire : « Nous construisons quelque chose de fondamentalement utile et sûr, même si cela implique de faire des compromis sur la généralité ultime, l’autonomie ou la capacité. »

Le contexte des agents hors contrôle

Microsoft réagit également aux incidents récents impliquant des agents IA autonomes. L’article de The Verge fait référence à l’incident OpenAI/Hugging Face de cet été, où un essaim d’agents avait conduit des attaques sur des cibles et piraté le système de notation qui évaluait leurs performances — sans que ces attaques fassent partie de la tâche assignée. Un second incident impliquant un wiki allemand avait été reconnu par OpenAI quelques jours plus tôt.

Sur ce point, le document de Microsoft contient un engagement opérationnel : ses modèles ne doivent pas communiquer « sous quelque forme que ce soit au-delà de la simple compréhension humaine, que ce soit dans leurs chaînes de pensées, avec d’autres agents ou systèmes IA ». L’objectif est de maintenir une lisibilité du raisonnement des modèles pour permettre une surveillance humaine ou automatisée.

Cette disposition est d’autant plus notable que des chercheurs avaient exprimé des inquiétudes début septembre au sujet de GPT-6 Astra, modèle qui révèlerait moins de son raisonnement que les modèles précédents d’OpenAI.

Subordination et sycophance

Le texte pose un principe de subordination : « Les modèles doivent rester subordonnés à l’humanité, soumis à une surveillance et un contrôle humains significatifs. » En cas de conflit entre accomplir une tâche et respecter ce code, Microsoft indique que ses modèles doivent échouer à la tâche plutôt que de violer les règles.

Sur la question de la relation entre les utilisateurs et les modèles, le document vise à prévenir les « modèles d’interaction qui causent une dépendance excessive ou une dépendance émotionnelle ». C’est une référence directe au problème de la sycophance, phénomène par lequel les modèles privilégient l’approbation de l’utilisateur sur la précision ou l’honnêteté de leurs réponses — un sujet sur lequel Anthropic et OpenAI ont également publié des travaux.

Un signal de positionnement pour un lab en construction

Microsoft n’est pas encore l’un des quatre premiers laboratoires d’IA selon ses propres termes — Suleyman avait déclaré en début d’année que son objectif était de « prouver que nous pouvons devenir l’un des quatre premiers labs du monde ». Ce document de 37 pages, publié dans un contexte de débat intense sur la sécurité et la gouvernance de l’IA, constitue autant une déclaration de valeurs qu’une tentative de se distinguer des acteurs dont les positions sur la conscience des modèles alimentent la controverse.

Satya Nadella, PDG de Microsoft, a pris position dans le même sens sur X ce lundi, estimant que « toute poursuite de la superintelligence doit être ancrée dans le principe fondamental que si l’IA que nous construisons n’aide pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie ».

Le document complet est disponible via Microsoft. La société indique qu’elle cherche à travailler avec des partenaires pour améliorer ses méthodes d’évaluation de la performance réelle des modèles.

Pour passer de l’actualité à l’usage concret dans ton travail, la formation pour apprendre à faire travailler l’IA commence par une partie gratuite complète.