Benchmark TTSFR
← Benchmark · Fiche modèle

Chatterbox v3

Le modèle de Resemble AI : licence MIT (la plus permissive du benchmark), et un curseur d'« exagération » émotionnelle qu'aucun autre n'expose.

MIT · usage commercialclonage zero-shot

Ce qui le distingue

Deux choses le distinguent. D'abord un réglage d'intensité expressive (exaggeration) que l'on pousse ou réduit phrase par phrase. Ensuite un tatouage numérique (« watermark ») inaudible ajouté à CHAQUE audio produit, conçu pour survivre à une compression MP3 ou à un montage : c'est un parti pris de traçabilité assumé par l'éditeur, pas une option à activer.

Choix techniques

ce que ses auteurs ont décidé, et ce que ça implique

Un transformeur de 0,5 B, mais un pipeline de 0,8 B

La communication annonce « 0,5 B ». Dans les poids épinglés, le transformeur texte→jetons que nous chargeons (t3_mtl23ls_v3) pèse effectivement 536 millions de paramètres — mais il faut y ajouter le générateur audio S3Gen (264 millions) et l'encodeur de voix (1,4 million) pour produire du son. Le dépôt embarque d'ailleurs plusieurs générations de checkpoints côte à côte.

Une base empruntée aux modèles de texte

La model card décrit un « backbone Llama » de 0,5 B et une couverture de 23 langues, dont le français.

La langue est un paramètre global

Pas de balise à insérer dans le texte : on passe language_id="fr" à l'appel. Sortie en 24 kHz.

Expressivité pilotée par type de passage

Notre adaptateur module l'exagération selon la nature du segment — 0,3 en narration, 0,9 en dialogue, 0,5 pour une réplique courte — la détection de dialogue se faisant sur la ponctuation (tirets cadratins, guillemets).

Langues couvertes

métadonnées language: de la model card

23 langues, dont le français

arabe, danois, allemand, grec, anglais, espagnol, finnois, FRANÇAIS, hébreu, hindi, italien, japonais, coréen, malais, néerlandais, norvégien, polonais, portugais, russe, suédois, swahili, turc, chinois

Ce qu'on peut régler

paramètres exposés par ce modèle

Relevé dans la signature du code réellement installé pour nos runs (et dans la documentation officielle quand elle précise les valeurs recommandées). Chaque modèle expose des leviers différents : c'est souvent là que se joue la différence entre un résultat correct et un bon résultat.

paramètredéfaut ce que ça change
exaggeration0.5Intensité expressive — le paramètre signature de Chatterbox, unique dans ce benchmark. La model card note qu'au-delà de 0,7 le débit s'accélère aussi. Nous le modulons par type de passage (0,3 narration / 0,9 dialogue / 0,5 réplique courte).
cfg_weight0.5Force du guidage. La model card conseille de le baisser vers 0,3 quand la voix de référence parle vite, ou pour compenser une exagération élevée. À 0, il neutralise le transfert d'accent depuis la référence.
language_id—Langue cible, en paramètre global (pas de balise dans le texte). Le code refuse une langue hors de la liste des 23 supportées.
temperature0.8Aléa du décodage — plus haut = plus varié, mais plus risqué.
repetition_penalty1.2Pénalise les motifs répétés (bégaiement, boucle). Une valeur inférieure à 1 inverserait l'effet : à ne jamais faire.
min_p / top_p0.05 / 1.0Filtrage des jetons candidats au moment du tirage (les deux stratégies cohabitent dans l'API).

Ce qu'on mesure sur ce modèle

nos runs, pas les chiffres de l'éditeur
WER moyen (toutes voix)4.4 %
SIM (similarité de timbre)0.766
Facteur temps réel (RTF)0.54×
Stabilité de durée (CV)4.8 %
Phrases avec hallucination0.2 %
Phrases avec répétition0.3 %
Phrases tronquées1.0 %
VRAM estimée4 Go
Voix mesurées10 voix · 630 runs

À l'oreilletest d'écoute en aveugle

Test 1 — A/B (préférence humaine)38 % sur 38 duels
Test 2 — MOS Naturel / Rythme (1–5)3.00 ±0.39 · n=24
Test 2 — MOS Similarité (1–5)2.38 ±0.50 · n=24
Test 2 — MOS Expressivité (1–5)2.96 ±0.30 · n=24
Test 3 — Émotion A/B39 % sur 22 duels

Détail complet : table de toutes les métriques · résultats du test d'écoute.

Réglages de génération utilisés

relevés dans les métadonnées de nos runs

Ces valeurs sont celles réellement passées au modèle pour produire les audios mesurés — pas des réglages recommandés recopiés d'une documentation. Elles sont écrites par l'adaptateur dans le meta.json de chaque run.

cfg_weight0.5
chunker"FAMILLE_CHATTERBOX"
exaggeration{"dialogue": 0.9, "narration": 0.3, "replique_courte": 0.5}
language_id"fr"

À savoir avant de l'utiliser

pièges, limites, nuances de licence
  • Le paquet PyPI officiel ne sait charger que le checkpoint de génération précédente (v2). Pour faire tourner le v3, on installe le code GitHub épinglé par-dessus les dépendances PyPI.
  • Dépendance piège : le composant de watermarking importe pkg_resources, retiré de setuptools ≥ 81 — d'où un setuptools<80 épinglé, sans quoi le chargement échoue.
  • Observé lors de nos premiers essais : le détecteur d'alignement interne a forcé la fin de génération sur 5 essais sur 6 (« répétition de jeton détectée »). C'est exactement le type d'arrêt prématuré que notre scoring de fidélité est là pour objectiver.

Sources & vérification

vérifié le 2026-09-12

Les comptes de paramètres cités plus haut sont lus directement dans les fichiers de poids de la révision épinglée ci-dessous (en-têtes safetensors / torch), pas repris d'une annonce. Les caractéristiques annoncées proviennent de la model card officielle, liée ici. Les chiffres de performance viennent de nos propres runs.

Dépôt de poidsResembleAI/chatterbox
Révision épinglée5bb1f6ee58e50c3b
Code épinglégit+https://github.com/resemble-ai/chatterbox.git@5de7a54aa4
Licence déclaréeMIT
Model card Hugging Face (ResembleAI/chatterbox)huggingface.co/ResembleAI/chatterbox
Code source GitHubgithub.com/resemble-ai/chatterbox