Il choisit chaque mot
Un modèle de langage n'écrit pas une phrase d'un coup. À chaque mot il donne une probabilité à des milliers de suites possibles. Des fois une seule écrase les autres, des fois cinq se tiennent dans un mouchoir.
Qwen 3.5 · 4B · en local
Chaque mot qu'un modèle de langage écrit devient une note. Quand il hésite, les mots qu'il a failli dire sonnent faux et la cassette se met à pleurer.
Le lecteur
J'ai interrogé Qwen sur la découverte de Neptune. Cliquez sur une question : sa vraie réponse se rejoue ici, mot par mot, avec le doute qu'il avait sur chacun. Le son est calculé dans votre navigateur par le même code que la vidéo, et les douze questions ont exactement la même musique.
Le principe
Un modèle de langage n'écrit pas une phrase d'un coup. À chaque mot il donne une probabilité à des milliers de suites possibles. Des fois une seule écrase les autres, des fois cinq se tiennent dans un mouchoir.
Ce doute se calcule pour chaque mot (l'entropie de son choix). Le mot joue la note suivante de la mélodie, et ceux qu'il a failli dire jouent en même temps un peu à côté, aussi fort qu'il y croyait. Plus il doute, plus la bande pleure et crache.
Ses bobines sont ses yeux. Sourcils, paupières, bouche qui tremble, goutte de sueur, bande qui sort : tout suit le même chiffre que le son, au même instant. Elle ne peut pas douter sans qu'on l'entende.
La tonalité, le tempo, l'harmonie, les instruments et la mélodie sont écrits à l'avance. Chaque mot prend juste la note suivante. Les cartes de texte et le tampon VRAI ou FAUX sont ajoutés à la main, sources à l'appui.
Le doute, mot par mot, et rien d'autre. Il agit par une seule règle, la même pour toutes les réponses. Un test du dépôt vérifie qu'avec un doute effacé partout la partition reste identique. Le modèle tourne à température zéro : il répond toujours pareil.
La vidéo
En 1846 Urbain Le Verrier trouve Neptune rien qu'avec des calculs. Treize ans plus tard il calcule de la même façon Vulcain, entre Mercure et le Soleil. Elle n'a jamais existé. La vidéo raconte cette histoire en six questions, sur un nocturne pour piano composé pour l'occasion.
Le banc d'essai
Avant de choisir, j'ai posé 32 questions en français à trois petits modèles qui tournent sur mon PC, dont des pièges sur des gens qui n'existent pas. Le score dit si leur doute sépare les inventions des bonnes réponses. À 0,5 c'est pile ou face.
Les limites
Le doute n'est pas la vérité. Un modèle peut mentir sans trembler et hésiter sur une bonne réponse. Quand Qwen dit que Le Verrier a vu Neptune en premier, il hésite sur la toute première lettre du nom puis il déroule le reste sans aucun doute. Souvent tout se joue sur un seul mot, celui où il bifurque.
Le calcul ne voit que les cinq meilleures suites de chaque mot, et le premier mot d'une réponse hésite souvent sur la forme plutôt que sur le fond. Six questions sur douze sont dans la vidéo. Les douze sont ici et dans le dépôt.