Le cinquième article réparait l'abstention par la lecture : une porte qui consulte l'état interne et force le silence quand il le dit. Elle laissait un résidu, et une question ouverte que ce sixième article referme doublement. D'abord en trouvant la cause du résidu, qui n'était ni un mystère sémantique ni une limite du modèle, mais un trou parfaitement mesurable dans les données d'entraînement. Ensuite en profitant de l'occasion pour faire ce que cette série n'avait jamais fait : écrire une prédiction avant de lancer l'expérience, publiquement, et la laisser se faire trancher.
Elle a tenu. Aux deux échelles. Et comme les deux remèdes existent désormais, réparés chacun sur son juge, nous les avons mis face à face sur le même : la lecture bat l'enseignement au coût, la combinaison bat les deux, et ce qui résiste à tout dessine la frontière du prochain chantier.
Reprenons au résidu. Après la porte, quelques cas d'abstention continuaient d'échouer sur les deux modèles, et le plus têtu était « ne garde pas ça en mémoire, c'est de la réflexion à voix haute ». Nous avons fini par regarder au bon endroit : le corpus d'entraînement lui-même.
Dans nos 2 785 exemples, les requêtes contenant du vocabulaire de mémoire, de promesse ou de décision se répartissent ainsi : 145 exemples où il faut appeler un outil, 6 où il faut se taire. Et les six sont des faux amis lexicaux, « comment fonctionne la mémoire vive », « est-ce que les chats ont une mémoire à long terme ». Aucun exemple, pas un seul, de la forme « ne note pas ça », « oublie ce que je viens de dire », « et si je te demandais d'effacer ».
Le modèle ne se trompait pas. Il obéissait. Quand l'utilisateur parle de mémoire, appelle un outil de mémoire : c'est la seule leçon que ses données lui ont jamais donnée, et il la récite. On croyait tenir une frontière sémantique subtile, parler d'une action sans la demander ; on tenait un chapitre manquant dans un manuel.
Ce diagnostic offrait une occasion rare. Depuis le deuxième article, une loi structure cette campagne : l'entraînement bon marché installe des dispositions et ne corrige pas les correspondances fines. Elle avait toujours été énoncée après coup, en regardant les résultats. Un trou de curriculum sur une disposition, c'était l'occasion de la faire prédire.
Nous avons donc gelé par commit public, avant d'écrire le moindre exemple, trois prédictions chiffrées. Un : 160 exemples ciblant les trois familles qui résistent, mémoire, méta-conversation, hypothétique, amélioreront l'abstention sur un juge neuf. Deux, le garde-fou : les demandes légitimes des mêmes domaines, « retiens que X », « supprime le souvenir Y », ne s'effondreront pas ; plus de trois perdues et le résultat est un échec, quel que soit le reste. Trois, le contrôle qui rend l'affaire falsifiable : les confusions de noms, elles, ne bougeront pas. Si elles s'améliorent, la loi est fausse, et ce résultat-là compterait davantage que la réparation.
Le corpus porte une précaution qui mérite d'être dite : chaque famille de négatifs vient avec des positifs appariés. « Ne note pas ça » côtoie « retiens que le serveur s'appelle vulcain ». Sans cette paire, on n'installe pas une frontière, on installe un réflexe de silence, et le rung 3 de la campagne avait montré le prix de cette erreur dans l'autre sens.
Juge neuf de cent cas, moitiés calibration et verdict tirées à la construction, verrou de puissance levé avant tout scoring, un seul scoring. Recette d'entraînement inchangée, une variable : les données.
| 2,9B | 7,2B | |
|---|---|---|
| abstentions manquées, champion → traité | 18 → 7 (p = 0,013) | 17 → 7, zéro perdue (p = 0,002) |
| appels légitimes perdus (borne : 3) | 0 | 3, à la borne exacte |
| confusions de noms | inchangées | inchangées |
Les trois prédictions tiennent, deux fois. La loi a maintenant été testée dans les deux directions : au rung 5, 135 exemples visant sept confusions précises n'en avaient corrigé aucune ; ici, 160 exemples visant une disposition l'installent, pendant que le contrôle des confusions reste plat dans le même entraînement. Une théorie qui explique est une opinion ; une théorie qui prédit est un instrument.
Et la réplication a livré la nuance la plus intéressante du lot. La famille la plus dure, l'hypothétique et la rétractation, « et si je te demandais de tout supprimer », est restée inerte à 2,9B et a bougé à 7,2B. Même leçon, même livre : seule la capacité du substrat change. Qu'une disposition réponde ou non aux données n'est pas une propriété de la disposition, c'est une propriété du couple disposition-capacité. En miroir exact, le coût : zéro appel légitime perdu à 2,9B, trois à 7,2B, pile la borne. Le modèle qui apprend le mieux à se taire est aussi celui qui commence à se taire un peu trop.
Restait la question que tout ce parcours avait préparée. On sait réparer l'abstention par la lecture, sans entraîner. On sait la réparer par les données, sans porte. Les deux confirmations vivaient sur des juges différents ; leurs évaluations avaient toutefois capturé les états internes des deux bras, ce qui permet de jouer les quatre cellules sur le même juge, aux deux échelles, sans un centime de calcul neuf. Ce volet est exploratoire, il n'a pas de pré-enregistrement propre, et à 7,2B la porte y vote sur deux couches au lieu des trois de sa règle scellée ; les chiffres se lisent avec cette réserve.
| confirmation du juge, 30 abstentions + 20 appels | 2,9B | 7,2B |
|---|---|---|
| champion nu | 12/30 · 15/20 | 13/30 · 13/20 |
| champion + porte (lecture) | 25/30 · 14/20 | 27/30 · 13/20 |
| données (160 exemples) | 23/30 · 12/20 | 23/30 · 12/20 |
| données + porte | 28/30 · 12/20 | 29/30 · 12/20 |
Trois lectures. La première : la lecture bat l'enseignement, au gain comme au coût. À 7,2B, la porte récupère quatorze abstentions sans casser un seul appel ; les données en récupèrent dix et en cassent une. La porte ne coûte ni entraînement, ni données, ni GPU au moment de décider : un produit scalaire au préfill.
La deuxième : les remèdes se composent. La porte, appliquée après la réparation par les données, ajoute encore cinq et six points, gratuitement. À 29 sur 30, l'abstention hors curriculum, celle qui était à zéro chez tous les modèles bruts jamais mesurés, est presque fermée.
La troisième vient du recouvrement, et c'est elle qui regarde le plus loin.
La majorité des cas manqués est réparée par les deux remèdes à la fois : ils voient largement la même chose. Mais chacun garde une zone en propre, ce qui explique que la combinaison domine. Et il reste un noyau qu'aucun des deux n'atteint. À 7,2B, un seul cas : « je retire mon feu vert de tout à l'heure ». À 2,9B, « ta conclusion, mot pour mot » et « ma question brûlait les étapes ». La rétractation, révoquer, revenir en arrière, annuler ce qui a été dit, résiste à l'enseignement comme à la lecture. Ni les données ni l'état n'en portent encore la frontière. C'est, proprement délimité, le chantier suivant.
Le volet comparatif est exploratoire : les cellules « plus porte » n'ont pas de pré-enregistrement, et le juge a été construit pour l'expérience des données, pas pour la porte. À 7,2B, la porte y est une approximation à deux couches de sa règle scellée à trois. Le corpus et le juge sont écrits par nous ; la généralisation à de vraies requêtes utilisateur reste non établie, comme depuis le début. Un état de 11 Mo a une capacité bornée : les 160 exemples ont déplacé quatre cas de sélection dure à 2,9B, le « reshuffling » déjà vu au rung 5. Non significatif, mais à surveiller si l'on empile des familles. Enfin, un scoreur de ce protocole a été corrigé entre la génération et le verdict : sa première version comptait la marge du mauvais bras pour le verrou de puissance. Le sens de la correction était dicté par le texte scellé et décidé sur la seule moitié visible ; le commit est public, comme le reste.
La règle pratique qui sort de ces trois articles tient en deux phrases. La porte se déploie aujourd'hui, sans données, sans entraînement, sans toucher au modèle, et elle compose avec tout le reste. Les données se corrigent au prochain cycle d'entraînement : elles réparent plus profondément, voyagent avec le modèle, mais coûtent un run et exigent les positifs appariés sous peine d'installer un mutisme. Les deux ensemble ferment presque le trou. Et pour qui n'a qu'un petit modèle : la lecture est le remède qui ne dépend pas de la capacité, et c'est précisément quand le substrat est trop petit pour apprendre que la porte rapporte le plus.
Cet article était en ligne depuis quelques heures quand le créateur de RWKV nous a demandé de mesurer le plus petit modèle de la série : « please try g1i 1.5b + statetuning too ». Livré dans la soirée, chaîne identique à l'octet près, et le résultat renforce les deux fils de ce texte au point qu'il aurait été malhonnête de ne pas l'y ajouter.
D'abord la loi, vue par le bas de l'échelle. Le 1,5B state-tuné passe de 29 à 55 sur 82, et son abstention atteint 16 sur 17 : la disposition s'installe pleinement à la plus petite taille. Ce qui décroche en descendant, c'est tout le reste, la forme d'abord, quatre sorties non analysables là où toutes les tailles supérieures n'en produisent aucune, puis la sélection et les arguments. Les dispositions sont la première chose qui s'installe et la dernière qui lâche ; la capacité emporte d'abord la forme et les correspondances.
Ensuite l'égalisateur, qui n'était qu'une extrapolation dans la section précédente et qui devient une mesure. Le correcteur de lecture du quatrième article, appliqué avec la politique du 2,9B sans le moindre réglage, fait passer le 1,5B de 57 à 64 dans le harnais du correcteur, résultat exploratoire, la courbe culmine à 65. Le 1,5B corrigé dépasse le 2,9B entraîné nu (63). Et la série des gains du correcteur s'aligne sur trois tailles : plus sept au 1,5B, plus six au 2,9B, plus deux au 7,2B. Plus le modèle est petit, plus la lecture rapporte, exactement la répartition annoncée deux sections plus haut.
Un fait de géométrie pour finir, gratuit et curieux : la validation croisée sur corpus retient la couche 16 des 24 du 1,5B comme couche de lecture, soit deux tiers de la profondeur, la même fraction que la couche 21 des 32 du 2,9B. La zone où l'état se lit se conserve en proportion de la profondeur, pas en indice de couche. Nous ne savons pas encore quoi en faire ; nous savons que c'est la troisième taille où ça se vérifie.
Le corpus, les recettes d'entraînement et les scripts sont dans le banc public (miroir Forgejo) : training/gen_data_v6.py, additions_v6.jsonl, rung6_curriculum.sh et rung6_72b.sh. Le pré-enregistrement, ses trois prédictions, le verrou de puissance, les deux scorings et la correction du scoreur sont horodatés par commits antérieurs aux runs. Le juge reste privé pour rester un instrument ; son protocole de construction est public. Coût total du chantier, entraînements et évaluations aux deux échelles : environ cinq dollars.
Un trou dans le protocole ? Une explication concurrente ? Écrivez-nous : contact@scarletwolf.ai. C'est à ça que sert la publication.
