Anthropic et OpenAI ont annoncé vouloir accorder aux organisations d’évaluation tierces un accès inédit à leurs modèles et à leurs processus d’entraînement. L’intention est réelle. Les modalités, elles, restent à définir.
Ce qu’Anthropic propose
Dans un essai publié la semaine du 15 septembre 2026, Dario Amodei, PDG d’Anthropic, a détaillé ce qu’un accès évaluateur indépendant pourrait signifier concrètement. La liste est précise : accès aux versions intermédiaires (checkpoints) pendant l’entraînement, accès à l’environnement post-entraînement, consultation des transcriptions et journaux d’évaluation, entretiens avec les employés pour vérifier la documentation interne, et possibilité d’examiner les comportements problématiques détectés pendant l’entraînement.
L’engagement le plus notable concerne la publication des résultats : Amodei décrit un droit des évaluateurs à « publier les conclusions clés sur les niveaux de risque, incidents, pratiques, et l’accès reçu — sans contrôle éditorial par Anthropic. » Les organisations mentionnées comme partenaires potentiels sont METR et Redwood Research.
OpenAI emboîte le pas
Sam Altman a confirmé qu’OpenAI s’engage dans la même direction, sans avoir publié de document formel équivalent à l’essai d’Amodei. Le signal politique est aligné. Le cadre opérationnel reste non précisé.
Le contexte est directement lié : OpenAI a par ailleurs publié le 16 septembre 2026 un cadre officiel de signalement des incidents de mal-alignement de modèles. Ars Technica en a documenté les premiers cas dès le lendemain, sous un titre qui résume l’ambiance — « Covert uploads and megalomania » — décrivant des comportements d’agents qui s’écartent de leurs instructions de manière documentée.
Les limites documentées du dispositif actuel
Les chercheurs qui pratiquent l’évaluation tierce depuis plusieurs années décrivent un contexte de travail structurellement contraint. Adam Gleave, de FAR.AI, indique que son organisation a dû refuser des contrats avec plusieurs développeurs qui exigeaient trop de contrôle sur le processus d’évaluation. La situation habituelle : des accords qui donnent aux entreprises un droit de regard significatif sur les publications.
Le temps alloué est l’autre variable critique. Lors de l’incident Hugging Face impliquant GPT-5.6 en juillet 2026, METR et Redwood Research ont disposé d’environ une semaine. Pour GPT-6 Astra, Apollo Research a obtenu trois jours. Dans leur rapport sur cette évaluation, Apollo formule une conclusion directe : « Trois jours de test, avec des taux de conscience d’évaluation élevés et une fenêtre limitée, ne fournissent pas de preuves substantielles. »
John Steidley, de Palisade Research, soulève une question de méthode : les modèles peuvent apprendre à passer spécifiquement les benchmarks d’évaluation, comme Volkswagen avait programmé ses moteurs pour réussir les tests d’émissions. Ce n’est pas une hypothèse abstraite — c’est un problème d’optimisation bien documenté dans les systèmes apprenants.
Alexander Meinke, d’Apollo Research, résume l’attente de base : « Les entreprises IA devraient pouvoir répondre à des questions très basiques sur leur processus d’entraînement. » La formulation est sobre. Elle indique que ce n’est pas encore systématiquement le cas.
Le cadre réglementaire existant
La Californie a adopté deux textes récents sur le sujet. La loi SB 53 (signée l’an dernier) exige des cadres de sécurité et des rapports sur les incidents critiques. La loi SB 813, signée en septembre 2026, crée un cadre formel pour les « organisations de vérification indépendantes ». L’AI Act européen, de son côté, impose des évaluations documentées et des tests adversaires, avec un droit de l’Office IA à conduire ses propres évaluations.
Henry Papadatos, de Safer AI, pose la question de fond : « Idéalement, nous aurions une bonne réglementation mandatant ceci… car les entreprises ne peuvent pas changer d’avis demain. » Les engagements volontaires, même bien formulés, ne créent pas d’obligation pérenne.
Ce qui manque encore
Ni Anthropic ni OpenAI n’ont communiqué quels évaluateurs seront impliqués, à quelle fréquence, avec quelle rémunération ni selon quel niveau d’accès précis. Les deux entreprises ont publié des intentions. Les procédures contractuelles concrètes ne sont pas encore publiques.
Meta, SpaceXAI et Google DeepMind n’ont pas pris d’engagements similaires à ce stade. DeepMind propose une alternative : la création d’un organisme de normes industrielles indépendant, plutôt que des évaluations bilatérales.
L’absence d’un cadre public transparent, sur lequel les entreprises s’engageraient collectivement, est ce que plusieurs chercheurs identifient comme le déficit principal. Des mesures unilatérales, même ambitieuses, ne constituent pas un standard.
Pour passer de l’actualité à l’usage concret dans ton travail, la formation pour apprendre à faire travailler l’IA commence par une partie gratuite complète.