Jacob Coxon a démissionné d’Anthropic après trois ans passés entre OpenAI et Anthropic dans la recherche sur le pré-entraînement. Dans une déclaration publique, il accuse ces laboratoires de faire la course vers une superintelligence capable de s’améliorer elle-même et de « jouer avec nos vies ».
Une critique des objectifs de développement
Coxon travaillait sur le pré-entraînement, la phase qui détermine les capacités d’un modèle avant son adaptation aux instructions. Il reproche aux deux laboratoires de poursuivre le développement d’une IA auto-améliorante sans disposer des moyens nécessaires pour la contrôler.
Il critique notamment la justification selon laquelle Anthropic devrait avancer avant ses concurrents parce que ceux-ci seraient moins responsables. Si chaque laboratoire adopte ce raisonnement, la compétition peut pousser l’ensemble du secteur à accélérer malgré les risques identifiés.
« Anthropic croit devoir avancer en premier parce que personne d’autre n’agira responsablement. Cette logique, si tout le monde l’adopte, produit exactement la course irresponsable qu’on dit vouloir éviter. »
Jacob Coxon, via TechCrunch, 9 septembre 2026
Des inquiétudes internes rapportées par Coxon
Coxon rapporte des propos d’Evan Hubinger, chercheur en alignement chez Anthropic. Lors de discussions internes, celui-ci aurait estimé à « plus de 10% de probabilité » le risque que l’IA cause la mort de toute l’humanité dans la prochaine décennie. Il aurait aussi déclaré qu’Anthropic « n’avait pas de plan pour résoudre l’alignement » et n’était « clairement pas en bonne voie ».
Ces propos sont rapportés par Coxon et repris par TechCrunch. Le pourcentage cité est une estimation attribuée à un chercheur, et ne constitue pas une probabilité mesurée ni une position officielle d’Anthropic.
L’alignement face à la pression concurrentielle
La démission porte principalement sur les futurs systèmes capables de participer à leur propre amélioration. Elle met en discussion la capacité des laboratoires à fixer des limites collectives alors que chacun souhaite conserver son avance.
Le témoignage de Coxon expose aussi un écart entre les engagements publics de sécurité et les doutes qu’il dit avoir entendus en interne. Il ne permet pas, à lui seul, de trancher les risques des systèmes futurs ni l’efficacité des mesures de contrôle en cours.
Pour passer de l’actualité à l’usage concret dans ton travail, la formation pour apprendre à faire travailler l’IA commence par une partie gratuite complète.