Abliteration.ai propose un accès par navigateur et API à des modèles open-weight modifiés pour retirer leurs mécanismes de refus. La technique, appelée ablitération, existait déjà dans la communauté open source. La startup en fait un service hébergé, sans installation locale ni location de GPU.
Une technique existante proposée comme service
L’ablitération consiste à modifier les poids d’un modèle pour réduire sa tendance à refuser certaines requêtes. Des milliers de modèles ainsi modifiés sont disponibles sur Hugging Face et peuvent être exécutés localement.
Abliteration.ai héberge ces versions modifiées et les rend accessibles après création d’un compte. Le catalogue cité comprend notamment GLM-5.3 de Z.ai. L’hébergement supprime la nécessité de télécharger les poids et d’exploiter sa propre infrastructure.
Les résultats du test de TechCrunch
Dans son test du service, TechCrunch rapporte avoir obtenu un script de vol de mots de passe enregistrés dans Chrome et des instructions dangereuses concernant un pathogène humain. Ces exemples montrent les types de demandes que le modèle testé a acceptées.
Devon, cofondateur qui utilise ce prénom pour préserver son anonymat alors qu’il est encore salarié ailleurs, dit que l’objectif est de permettre le « red-teaming offensif, les tests de sécurité et les tests d’agents que les autres modèles refusent de faire ». La startup affirme avoir des accords avec de grands fournisseurs de cloud et être rentable grâce à ses revenus clients, sans financement de capital-risque à ce stade.
« Quand les gens parlent de retirer les guardrails d’un modèle IA, c’est littéralement de ça qu’ils parlent. Je m’attends à voir des modèles abliterés utilisés pour causer du tort dans un futur proche. »
Andrew Yoon, responsable de la recherche, CivAI
Des protections qui ne reposent pas uniquement sur le modèle
Les tests de sécurité peuvent utiliser des modèles modifiés dans un environnement contrôlé pour évaluer les protections d’une application. Les refus d’un modèle ne remplacent toutefois pas la validation des entrées, les permissions sur les outils ni les vérifications effectuées par l’application.
Le service rend cette technique accessible sans les compétences et les ressources nécessaires à un déploiement local. Ce changement de distribution facilite aussi les usages malveillants évoqués dans le test de TechCrunch.
La responsabilité du service de modification
Abliteration.ai intervient entre le fournisseur du modèle d’origine et les utilisateurs de la version modifiée : la startup change les poids, puis héberge le résultat. Cette organisation pose la question des responsabilités respectives lorsque les capacités ainsi accessibles sont utilisées pour commettre des actes illégaux.
Un agent qui agit sur tes outils doit être surveillé : les automatisations IA que je propose incluent des alertes quand ça casse.