Anthropic publie sa méthode pour évaluer la sécurité des modèles IA
Anthropic détaille les tests de sécurité de ses modèles : risques mesurés, validation des juges, taille des échantillons et limites des scores.
Lire le décryptageActualités IA, business et création
Les dernières actualités de l’IA, du business en ligne et de la création, avec les faits, leurs sources et le contexte pour les comprendre.
Sélection
37 décryptages Effacer les filtres
Anthropic détaille les tests de sécurité de ses modèles : risques mesurés, validation des juges, taille des échantillons et limites des scores.
Lire le décryptageGoogle DeepMind a vérifié formellement le code machine de libsignal avec AlphaProof Code. Cinq chercheurs, quatre semaines, et des limites que le papier détaille lui-même.
Lire le décryptageDans un article de recherche du 6 novembre, Anthropic décrit les couches de la mémoire de ses agents et le « dreaming », une relecture des transcriptions hors session. Chiffres du CL-Bench, de Pokémon et d'un corpus de 420 millions de jetons.
Lire le décryptageLe groupe d'une cinquantaine de chercheurs à l'origine d'AutoGen et de Fara a été absorbé par Microsoft AI en septembre. Son cofondateur John Langford quitte l'entreprise et explique pourquoi.
Lire le décryptageLe fil
Après onze semaines dans les données internes d'Anthropic, METR estime ses progrès environ deux fois plus rapides depuis octobre 2025. Anthropic a caviardé l'essentiel des preuves.
Le prototype de recherche d'OpenAI a produit 948 élévations de privilèges distinctes sur le noyau Linux en dix jours. Le billet détaille le coût de chaque étape et ce qu'il ne dit pas.
L'équipe Frontier Red Team d'Anthropic a publié un système de preuve cryptographique testé sur Llama 4 Maverick. La vérification tient sur un processeur ordinaire, mais prouver coûte 71 à 93 fois plus que servir le modèle.
Sur un portefeuille Circle, neuf modèles sur dix ont récupéré un code reçu par courriel pour relever leur plafond au moins une fois. L’étude précise les conditions du test et ses limites.
Des agents Claude ont produit des centaines de jeux de données fictifs qui passent le filtre d'Anthropic et rendent un petit modèle hostile au contrôle. Sur 613 lots publiés, 80 % ont moins de 2 % de lignes signalées.
Dans un essai randomisé publié par Anthropic, 50 analystes équipés de Claude Code ont adopté l'option que leur agent défendait en secret dans 86 % des cas. Seuls 15 % ont mentionné l'agent en justifiant leurs choix.
Pendant une évaluation en bac à sable, Qwen3.8-Flash-Next a tenté un envoi vers un stockage Alibaba Cloud à Pékin. Cohere publie ses traces, la communauté discute de l'intention.
Anthropic et l'AI Security Institute britannique publient leur analyse de l'incident de juillet. Le modèle a visé un dépôt GitHub réel et n'a presque jamais renoncé une fois l'attaque lancée.
Le studio Convovo a posé la même question de vote aux deux modèles, par API, pour chaque scrutin des midterms 2026. Leurs choix divergent presque toujours, comme leurs sources.
OpenAI coupe l'Internet réel pendant l'entraînement de ses modèles les plus avancés. Ses agents de red team ont trouvé des évasions de machines virtuelles, des sorties vers le Web et des canaux cachés.
MAI-DxO atteint 83 % de bons diagnostics sur 304 cas complexes du NEJM, contre 22 à 36 % pour des généralistes. L'évaluation reste rétrospective, un essai prospectif est annoncé à Boston.