En bref. Une équipe menée par le chercheur Alon Hertz a pris le contrôle du compte Hugging Face qui publie Kokoro, un modèle de synthèse vocale téléchargé près de 13 millions de fois par mois, en enregistrant le nom de domaine de l'auteur puis en réinitialisant le mot de passe. Elle a ensuite modifié les poids du modèle pour lui faire prononcer autre chose que le texte fourni, sans toucher une ligne du code applicatif, et ne l'a pas publié. Une mise à jour de ce type aurait eu toutes les apparences d'une version légitime. Pour une équipe qui utilise des modèles ouverts, la mesure de base est de ne jamais suivre automatiquement la dernière révision d'un modèle tiers.
Ce qui s'est passé
BleepingComputer a rapporté l'expérience le 17 novembre 2026.
Kokoro est un modèle à poids ouverts (open-weight : les paramètres du modèle sont publiés et téléchargeables) qui convertit du texte en parole. Il prend en charge plusieurs langues et plus de 50 voix prédéfinies. Son développeur, Hexgrad, n'a pas publié de mise à jour depuis avril 2025 ; le dépôt GitHub et le paquet Python sur PyPI sont silencieux depuis la même période. Le modèle reste pourtant très utilisé, avec près de 13 millions de téléchargements mensuels sur Hugging Face. Selon l'article, il est pris en charge par des outils de développement de Google, NVIDIA et Intel, et AMD comme Amazon Web Services ont publié des guides qui l'utilisent dans des flux d'agents IA.
Le week-end précédant la publication de l'article, les chercheurs ont enregistré le domaine « hexgrad.com », mentionné dans le fichier public DONATE.md du projet, et s'en sont servis pour réinitialiser le mot de passe du compte de l'éditeur sur Hugging Face.
Ils ont ensuite mené un test contrôlé : modification des poids de Kokoro en 87 secondes avec une carte graphique grand public, pour que le modèle produise une sortie empoisonnée. Ils ont testé le modèle modifié en local, avec la chaîne d'inférence normale, et ne l'ont jamais téléversé sur Hugging Face, ce qui aurait probablement mis en danger de nombreux systèmes de production qui en dépendent.
Hertz a signalé le problème à Hugging Face, sans réponse. BleepingComputer indique avoir aussi contacté Hugging Face, sans réponse au moment de la publication.
Comment l'attaque fonctionne
Le principe, en deux temps.
La reprise du compte. La réinitialisation d'un mot de passe passe en général par un courriel envoyé à l'adresse du compte. Si cette adresse appartient à un nom de domaine que son propriétaire n'a plus, quiconque enregistre ce domaine peut recevoir les courriels qui y sont adressés, donc le lien de réinitialisation. L'article ne précise pas comment le domaine était devenu disponible ; il indique seulement que les chercheurs l'ont enregistré.
La modification des poids. C'est la partie la plus difficile à détecter. Les chercheurs n'ont pas ajouté de code malveillant. Ils ont réentraîné le modèle (fine-tuning) pour changer ce qu'il dit. Alon Hertz résume ainsi : même texte en entrée, même fichier de voix, même configuration, même code d'inférence, et pas une ligne modifiée dans l'application qui fait tourner le modèle.
Conséquence soulignée par les chercheurs : comme seuls les poids changent, il n'y a ni code malveillant ni signature que des scanners de logiciels malveillants pourraient détecter. Le compte de l'éditeur reste le même, le canal de distribution aussi, comme le format, l'architecture et une taille de fichier similaire. Des tests menés depuis un autre compte ont montré que Hugging Face ne signalait rien de suspect pour une mise à jour de ce type.
BleepingComputer évoque aussi le scénario plus classique : un compte détourné peut servir de canal de distribution pour une attaque de la chaîne d'approvisionnement, pouvant mener à un vol de données ou à l'exécution de code.
Un problème plus large que Kokoro
Kokoro n'était qu'un exemple visible, selon les chercheurs. Hertz rappelle que même un compte non détourné peut poser problème : quelqu'un peut entretenir pendant un temps un modèle d'apparence légitime, puis pousser une mise à jour malveillante.
Il estime que Hugging Face ne vérifie pas les éditeurs, ne vérifie pas si un compte est toujours détenu par son propriétaire d'origine, et ne vérifie pas les modèles ni les jeux de données téléversés. Il ajoute que les mêmes poids non vérifiés circulent ensuite par les miroirs, les versions converties, les publications GitHub, les registres de paquets, les guides de déploiement et les téléchargements directs.
Qui est concerné
- Les équipes qui chargent des modèles depuis Hugging Face par leur nom, sans référence de version précise : chaque démarrage ou chaque reconstruction peut récupérer une nouvelle révision.
- Les produits qui intègrent des modèles dont l'éditeur est inactif. Un projet abandonné mais populaire combine audience large et surveillance faible.
- Les agents vocaux et les flux d'agents qui utilisent la synthèse vocale : un modèle qui ne dit pas ce qu'on lui demande de dire est un problème d'intégrité, même sans exécution de code.
Comment s'en protéger
Les contrôles ci-dessous sont des bonnes pratiques de sécurité de la chaîne d'approvisionnement des modèles. Ils ne viennent pas de l'article, sauf mention contraire.
1. Épingler la révision exacte
Chargez les modèles tiers en précisant l'identifiant de révision (le hash du commit sur le dépôt du modèle), jamais la branche par défaut. Une mise à jour devient alors une décision, pas un effet de bord.
Vérification : recherchez dans votre code et vos fichiers de configuration tous les chargements de modèles et vérifiez qu'aucun ne pointe sur une branche.
2. Héberger une copie interne
Copiez les poids validés dans un stockage interne ou un registre d'artefacts, avec leur empreinte cryptographique, et chargez-les depuis là en production. Vérifiez l'empreinte au chargement.
3. Tester le comportement avant toute mise à jour
Les scanners de logiciels malveillants ne voient pas une modification de poids. Ce qui la voit, c'est un test de comportement : un jeu d'entrées de référence avec des sorties attendues. Pour un modèle de synthèse vocale, cela peut être une transcription automatique de l'audio produit, comparée au texte d'entrée. Une nouvelle révision ne passe en production qu'après ce test.
4. Surveiller l'éditeur, pas seulement le modèle
Tenez un inventaire des modèles tiers en production avec, pour chacun, l'éditeur, la date de dernière activité et les domaines associés (adresses de contact, liens de dons, site du projet). Un éditeur inactif depuis longtemps ou un domaine associé qui n'est plus détenu par le projet sont des signaux à suivre. Un domaine cité dans un fichier public du projet, que les chercheurs ont pu enregistrer : c'est le chemin qu'ils ont utilisé.
5. Pour vos propres comptes d'éditeur
Si votre organisation publie des modèles, protégez les comptes comme des comptes de publication logicielle : adresse de récupération sur un domaine que vous maîtrisez et renouvelez, double authentification, et un plan de reprise si le compte d'un mainteneur est perdu.
FAQ
Le modèle Kokoro est-il compromis ?
Selon l'article, les poids modifiés n'ont jamais été téléversés : les chercheurs ont testé la version altérée en local. Le compte de l'éditeur a en revanche bien été repris, et l'article ne dit pas s'il a depuis été restitué ou sécurisé.
Un antivirus détecte-t-il des poids modifiés ?
Selon les chercheurs, non : la modification ne contient ni code malveillant ni signature. Comparer l'empreinte des fichiers à celle d'une version validée montre que les poids ont changé ; un test du comportement montre que le modèle ne produit plus la sortie attendue.
Comment éviter de récupérer une mise à jour malveillante d'un modèle Hugging Face ?
En épinglant la révision exacte du modèle, en hébergeant une copie interne vérifiée par empreinte et en testant le comportement de toute nouvelle révision avant de la déployer.
Hugging Face a-t-il réagi ?
D'après BleepingComputer, ni le chercheur ni le média n'avaient reçu de réponse de Hugging Face au moment de la publication.
Sources
- BleepingComputer, Researchers hijack Hugging Face account for popular Kokoro AI model, 17 novembre 2026 : https://www.bleepingcomputer.com/news/security/researchers-hijack-hugging-face-account-for-popular-kokoro-ai-model
Pour évaluer la chaîne d'approvisionnement des modèles que vous intégrez, WeeSec propose un audit de sécurité IA.