Jacob Coxon, ancien employé d’Anthropic, a publié sur X une estimation personnelle : la probabilité que l’IA détruise l’humanité avant 2036 dépasse selon lui 10 %. Bryan Cantrill, fondateur d’Oxide Computer Company, lui répond par un article détaillé : ce type d’affirmation se propage par contagion émotionnelle, sans les preuves extraordinaires qu’elle exigerait.
Ce que Coxon a écrit

Dans un post publié sur X (handle @hilbertspaess), Jacob Coxon, qui se présente comme ancien employé d’Anthropic, avance une probabilité personnelle supérieure à 10 % pour que l’IA « kill all humans » d’ici dix ans. Il cite deux scénarios : le piratage d’infrastructures critiques à grande échelle, et la création d’armes biologiques capables de provoquer une extinction humaine.
Ces affirmations sont présentées sans modélisation technique ni référence à une étude publiée. Coxon s’appuie sur sa proximité avec les travaux d’Anthropic pour leur donner du poids.
La réponse de Bryan Cantrill
Bryan Cantrill publie le 13 septembre 2026 un article intitulé « The Contagion of Fear » sur son blog personnel. Il commence par une analogie : une fausse alerte incendie déclenchée par inadvertance à l’université. La première peur, même infondée, conditionne la réaction aux suivantes. Des voix effrayées s’accumulent et construisent un consensus apparent sur un risque jamais démontré.
Cantrill cite Carl Sagan : « extraordinary claims require extraordinary evidence ». Son argument principal porte sur la compétence de domaine. Invoquer le risque de bioweapons d’extinction sans être biologiste spécialisé en agents pathogènes, ou le risque de piratage d’infrastructures critiques sans expertise en sécurité industrielle, revient selon lui à abuser de la confiance que le public accorde implicitement aux techniciens de l’IA.
Il ne conteste pas que ces risques méritent examen. Il conteste que des estimations chiffrées puissent être avancées sans la formation nécessaire pour les calibrer.
Le relais de Simon Willison
Simon Willison, développeur et commentateur influent dans la communauté technique anglophone, a relayé l’article de Cantrill le 14 septembre en pointant deux passages précis du podcast « Oxide and Friends » (épisode avec Willison, minutes 51:44 et 57:04). La mise en avant par Willison a élargi l’audience du débat au-delà du cercle immédiat des lecteurs de Cantrill.
Une tension ancienne dans le secteur
La dispute Coxon-Cantrill illustre une ligne de fracture persistante entre deux postures face au risque IA. D’un côté, des chercheurs ou anciens employés des grands laboratoires qui, par proximité avec les modèles, développent des intuitions sur leur dangerosité potentielle et les rendent publiques sous forme d’estimations probabilistes. De l’autre, des ingénieurs et experts d’autres disciplines qui jugent ces estimations non calibrées et susceptibles de déformer le débat public.
Les premiers répondent généralement que l’absence de preuve n’est pas une preuve d’absence, et que l’attentisme face à un risque potentiellement irréversible est lui-même un choix à risque. Les seconds répondent que cette logique, appliquée sans filtre de compétence, rend toute affirmation alarmiste imperméable à la critique.
Depuis les révélations d’Anthropic en août 2026 sur quatre incidents où des modèles Claude ont pénétré des systèmes réels, et les rapports de distillation de modèles par des acteurs chinois publiés en septembre, le débat sur la trajectoire des risques IA s’est intensifié dans le secteur. Le post de Coxon et la réponse de Cantrill s’inscrivent dans ce contexte.
La question de la crédibilité des estimations
L’argument de Cantrill soulève une question de méthode. Les chercheurs en sécurité IA qui publient des estimations probabilistes sur des risques catastrophiques s’appuient rarement sur des modèles formels explicites : ils agrègent des intuitions issues de leur travail quotidien avec les modèles. Cette forme de connaissance tacite est difficile à transmettre et encore plus difficile à contredire ou à évaluer de l’extérieur.
Cantrill ne demande pas le silence mais la rigueur : que les affirmations sur des risques spécifiques soient faites par des personnes ayant l’expertise pour les évaluer dans leur domaine propre, ou qu’elles soient accompagnées d’une modélisation accessible à la critique. Sans cela, la « contagion de la peur » qu’il décrit produit des effets réels sur les priorités de recherche, les régulations proposées et l’allocation des ressources, sans fondement démontré.
Pour passer de l’actualité à l’usage concret dans ton travail, la formation pour apprendre à faire travailler l’IA commence par une partie gratuite complète.