L'IA de demain Glossaire
FR

← Retour au carnet

Approfondissement · Hypothèses

Les hypothèses à l'épreuve

Jusqu'ici, chaque hypothèse portait un seul chiffre, choisi d'un bloc. Un chiffre unique cache où se loge le doute. Ici, nous coupons chacune en maillons qui doivent tous tenir, nous chiffrons chaque maillon, nous multiplions, et nous confrontons le tout aux études parues depuis. Quatre hypothèses baissent nettement, trois montent, deux sont reformulées. Voici le raisonnement, chiffre par chiffre.

Spéculatif mise à jour du

I

Pourquoi rouvrir les hypothèses

Le carnet compte neuf hypothèses. Chacune dit une chose que nous croyons sur l'IA de demain, avec un degré de confiance : 75 %, 40 %, 55 %… Ces chiffres étaient honnêtes, mais globaux : nous regardions l'hypothèse en entier et demandions « est-ce probable ? ».

Le problème, c'est qu'une hypothèse est rarement une seule affirmation. C'est une chaîne : il faut que A soit vrai, et que B suive, et que C tienne en pratique. Un météorologue ne dit pas « il pleuvra demain à 70 % » d'instinct : il combine la probabilité qu'un front arrive, qu'il soit assez humide, qu'il ne dévie pas. C'est ce que nous faisons ici, pour chacune des neuf.

II

La méthode : couper en maillons

Étape 1. Écrire les affirmations dont l'hypothèse a besoin pour être vraie, et seulement celles-là. Ce sont les maillons a, b, c.

Étape 2. Chiffrer chaque maillon en supposant les précédents vrais. C'est ce qu'on appelle une probabilité conditionnelle : « si a est vrai, quelle chance pour b ? ». Ce détail compte : les maillons d'une même chaîne se soutiennent souvent, et les chiffrer séparément ferait baisser le total à tort.

Étape 3. Multiplier. Si a vaut 90 % et b, sachant a, 50 %, la chaîne vaut 0,9 × 0,5 = 45 %. Un produit est toujours plus petit que son plus petit facteur : une chaîne ne peut pas être plus solide que son maillon le plus faible.

Deux pièges guettent, en sens contraires. Le premier : une histoire riche et cohérente paraît plus probable qu'une histoire simple, alors qu'elle l'est forcément moins, puisqu'elle exige plus de choses. C'était notre défaut avec les chiffres globaux. Le second : couper en trop de maillons, chacun chiffré avec prudence, fait fondre le total artificiellement. Nous nous limitons donc à deux ou trois maillons par hypothèse, chacun vraiment nécessaire.

Une dernière règle, de cohérence : si une hypothèse en entraîne une autre, la première ne peut pas être plus probable que la seconde. Un cas particulier ne peut pas être plus sûr que la règle générale dont il découle. C'est cette règle qui nous a fait trouver notre première erreur.

III

Première découverte : deux hypothèses se contredisaient

H7 disait « le juge peut enseigner » : un modèle s'améliore en essayant et en étant noté. Nous lui donnions 50 %. H9, ajoutée il y a trois jours, disait qu'un petit modèle progresse sur un ordinateur ordinaire grâce à un juge extérieur. Nous lui donnions 55 %.

Or H9 est un cas particulier de H7 : si un juge fait progresser un petit modèle sur un PC, alors un juge peut enseigner. Le cas particulier ne pouvait pas être plus probable que le cas général. L'un des deux chiffres était faux.

En creusant, la contradiction venait d'un mot. « Enseigner » mélangeait deux choses très différentes. Affûter : rendre fiable ce que le modèle trouvait parfois. C'est acquis ; Yue et ses coauteurs le mesurent, toutes les études le confirment. Étendre : faire trouver ce que le modèle ne trouvait jamais. C'est cela qui est débattu.

Nous corrigeons donc H7. Affûter devient un fait, plus une hypothèse. H7 porte désormais sur l'extension, la vraie question ouverte. H9, elle, reste centrée sur l'affûtage, et les deux chiffres ne sont plus en conflit.

Source : Yue et al., Does RL Really Incentivize Reasoning Capacity Beyond the Base Model? (NeurIPS 2025)

IV

H1 · La hiérarchie absente : de 50 % à 55 %

Ce que dit H1 : donner au modèle la structure des données (provenance, niveau, dépendances) réduirait la quantité d'exemples nécessaire.

Maillon a, 85 % : des indices de structure économisent réellement des données, au moins jusqu'à quelques milliards de paramètres. Maillon b, 65 % : le gain ne s'efface pas aux grandes tailles. Les gains d'ordre d'apprentissage s'amenuisaient avec la taille, d'où notre prudence ; mais le résultat ci-dessous se retrouve de 600 millions à 8 milliards de paramètres.

Calcul : 0,85 × 0,65 = 55 %. H1 monte un peu. Ce qui reste ouvert : est-ce la hiérarchie qui aide, ou une simple étiquette d'origine ? L'étude utilise une étiquette plate, l'adresse du site. Notre H1 inclut la provenance, donc elle compte ; mais la forme la plus ambitieuse, des niveaux et des dépendances, reste à tester.

Établi

Nouveau : l'adresse du site comme indice (2025)

Gao et ses coauteurs, à Princeton, ajoutent simplement l'adresse d'origine (par exemple en.wikipedia.org) devant chaque texte pendant l'entraînement, puis la retirent à la fin. Un modèle de 1,6 milliard égale l'entraînement classique avec 33 % de données en moins, sans calcul supplémentaire, de 600 millions à 8 milliards de paramètres. Des sujets générés par un modèle marchent aussi comme étiquettes.

Source : Gao et al., Metadata Conditioning Accelerates Language Model Pre-training (2025)

V

H2 · Apprendre le haut, consulter le bas : de 75 % à 64 %

Ce que dit H2 : réserver les paramètres aux principes, et ranger les faits dans une mémoire externe.

Maillon a, 92 % : on peut sortir les faits du modèle sans perte sur les questions de connaissance. RETRO, les couches mémoire, Engram, et maintenant HippoRAG 2 le montrent. Maillon b, 82 % : la place libérée sert vraiment à mieux raisonner, à budget égal. Engram gagne 3 points, mais en partie sur des questions de connaissance : c'est un indice, pas une preuve. Maillon c, 85 % : le coût de consultation (temps, trafic mémoire) reste acceptable en usage réel.

Calcul : 0,92 × 0,82 × 0,85 = 64 %. C'est la plus grosse leçon de méthode : chaque maillon est solide, mais trois maillons solides font une chaîne moyenne. Notre 75 % global regardait le maillon a, le plus convaincant, et oubliait les deux autres.

Source : DeepSeek, Engram: Conditional Memory via Scalable Lookup (2026), Berges et al., Memory Layers at Scale (Meta, 2024)

Établi

Nouveau : une mémoire qui ne perd rien en route (2025)

HippoRAG 2 range les passages dans un graphe et y circule comme une rumeur se propage entre amis. Il dépasse la recherche classique à la fois sur les faits simples, sur la compréhension d'ensemble et sur les liens entre faits éloignés (environ 7 points de mieux), là où les méthodes à graphe précédentes perdaient sur les faits simples.

Source : Gutiérrez et al., From RAG to Memory: Non-Parametric Continual Learning for LLMs (ICML 2025)

VI

H3 · Règles et exceptions : de 40 % à 48 %, en se restreignant

Ce que disait H3 : partout, garder les règles et les seules données qui y échappent compresserait le savoir.

Décomposée, la forme générale s'effondre. Maillon a, 80 % : là où un programme peut vérifier, on sait tirer des règles d'exemples (AlphaEvolve, FunSearch). Maillon b, 60 % : garder règles + exceptions économise vraiment des données d'entraînement ; bien choisir ses données change la forme de la courbe d'apprentissage, c'est encourageant. Maillon c, 45 % : cela s'étend à la langue courante, pleine d'exceptions et de nuances. Produit : 0,8 × 0,6 × 0,45 = 22 %.

Plutôt que de garder une hypothèse trop large, nous la restreignons aux domaines vérifiables, où nos raisons d'y croire sont réelles : 0,8 × 0,6 = 48 %. Le maillon c ne disparaît pas : il devient une question pour plus tard. Restreindre n'est pas tricher, à condition de le dire : une hypothèse plus étroite affirme moins, elle a donc plus de chances d'être vraie.

Source : Google DeepMind, AlphaEvolve (2025), Sorscher et al., Beyond neural scaling laws (NeurIPS 2022)

VII

H4 · Les exceptions comme ancre : de 70 % à 44 %

Ce que dit H4 : quand chaque génération de modèle apprend de la précédente, garder les données brutes rares empêcherait la dérive.

Maillon a, 90 % : la dérive frappe d'abord les cas rares. C'est établi depuis Shumailov. Maillon b, 75 % : garder des données réelles empêche la dérive. Gerstgrasser montre qu'accumuler plutôt que remplacer l'évite ; mais une étude de 2025 montre qu'une petite part de données artificielles peut suffire à bloquer les progrès. Maillon c, 65 % : garder seulement les cas rares, et non tout, suffit. C'est notre version économe, et personne ne l'a testée.

Calcul : 0,9 × 0,75 × 0,65 = 44 %. La plus forte baisse du carnet. Notre 70 % reposait sur le maillon a, très solide, et supposait les deux autres. Faisons le test inverse : est-il plus probable que non que garder les seules exceptions suffise ? Oui, un peu, tant que personne n'a essayé. C'est exactement ce que dit 44 %.

Source : Shumailov et al., AI models collapse… (Nature, 2024), Gerstgrasser et al., Is Model Collapse Inevitable? (2024)

Établi

Nouveau : l'effondrement fort (2025)

Dohmatob et ses coauteurs montrent, dans un cadre mathématique simplifié puis sur des modèles de langage, que même 1 % de données artificielles dans l'entraînement peut empêcher le modèle de profiter de plus de données : la courbe d'apprentissage cesse de descendre. Et les plus gros modèles peuvent amplifier l'effet. Mélanger ne suffit donc pas toujours : il faut savoir quoi garder.

Source : Dohmatob et al., Strong Model Collapse (ICLR 2025)

VIII

H5 · Un graphe, pas un arbre : de 65 % à 64 %

Ce que dit H5 : le savoir est un réseau, une idée appartient à plusieurs familles ; la mémoire utile serait faite d'arbres qui se croisent.

Maillon a, 85 % : les structures où un passage appartient à plusieurs groupes battent les arbres simples sur les questions qui relient plusieurs faits. GraphRAG, RAPTOR et HippoRAG 2 vont dans ce sens. Maillon b, 75 % : le coût de construction et d'entretien reste raisonnable à grande échelle.

Calcul : 0,85 × 0,75 = 64 %. Presque inchangée : notre chiffre global était déjà bien calibré. Un bon signe pour la méthode, qui ne fait pas baisser tout ce qu'elle touche.

Source : Edge et al., GraphRAG (Microsoft, 2024), Sarthi et al., RAPTOR (ICLR 2024)

IX

H6 · Les gains se multiplient : de 35 % à 42 %

Ce que dit H6 : en empilant experts, cascade, basse précision et meilleur matériel, le coût d'une réponse baisserait de 100 fois sans nouveau modèle géant.

Maillon a, 95 % : chaque levier divise seul le coût par 2 à 4. Maillon b, 55 % : les leviers sont assez indépendants pour que leur produit tienne, à un facteur 3 près. C'est le maillon faible : la loi d'Amdahl dit qu'accélérer une partie n'aide que pour cette partie. Maillon c, 80 % : on atteint 100 en pratique.

Calcul : 0,95 × 0,55 × 0,8 = 42 %. Pourquoi monter b par rapport à notre synthèse ? Parce que le monde réel a fait l'expérience pour nous : à performance égale, les prix ont chuté bien plus vite qu'aucun levier seul ne l'explique. C'est une preuve indirecte que les leviers s'empilent. Mais ces baisses viennent aussi de nouveaux modèles mieux entraînés, ce que H6 exclut : d'où un maillon b à 55 %, pas plus.

Établi

Nouveau : la chute mesurée des prix (2025)

Epoch AI mesure qu'à performance fixée, le prix d'une réponse baisse de 9 à 900 fois par an selon la tâche ; atteindre le niveau de GPT-4 sur des questions de sciences de doctorat est devenu 40 fois moins cher chaque année. Une autre étude, plus prudente, trouve 5 à 10 fois par an pour les modèles de pointe, et note qu'utiliser les modèles de pointe coûte au contraire de plus en plus cher, car ils sont plus gros et raisonnent plus longtemps.

Source : Epoch AI, LLM inference prices have fallen rapidly but unequally across tasks (2025), The Price of Progress: Algorithmic Efficiency and the Falling Cost of AI Inference (2025)

X

H7 · Le juge peut-il faire découvrir ? 43 %, reformulée

Ce que dit désormais H7 : avec un entraînement long et varié, un juge fiable ferait trouver au modèle des solutions qu'il ne trouvait jamais, même en des milliers d'essais.

Maillon a, 95 % : un juge rend le modèle plus fiable. Acquis. Maillon b, 45 % : en prolongeant, il étend ce que le modèle peut trouver. Deux équipes, souvent les mêmes chercheurs, se répondent. L'une montre une extension réelle, surtout en code ; l'autre montre qu'en général, le modèle perd l'accès à plus de solutions qu'il n'en gagne. Fait révélateur : le titre de la seconde étude a pris un point d'interrogation dans sa dernière version.

Calcul : 0,95 × 0,45 = 43 %. Plus bas que l'ancien 50 %, mais pour une affirmation plus forte et plus claire. C'est l'hypothèse qui compte le plus pour la suite du carnet : si elle tombe, un petit modèle ne dépassera jamais seul ce qu'il trouvait déjà par hasard.

Source : Yue et al., Does RL Really Incentivize Reasoning Capacity Beyond the Base Model? (NeurIPS 2025)

Prometteur

Pour : ProRL, l'entraînement prolongé (2025)

Chez NVIDIA, Liu et ses coauteurs entraînent longuement un modèle de 1,5 milliard, en stabilisant l'apprentissage et en variant les tâches. Le modèle résout des problèmes où le modèle de départ échouait quel que soit le nombre d'essais. Mais les auteurs le notent eux-mêmes : en maths, là où le modèle de départ était déjà fort, la réussite en 128 essais baisse souvent.

Source : Liu et al., ProRL: Prolonged Reinforcement Learning Expands Reasoning Boundaries (NeurIPS 2025)

Prometteur

Contre : la laisse invisible (2025)

Wu et ses coauteurs, dont plusieurs auteurs de ProRL, suivent l'entraînement pas à pas. Leur constat sur de nombreux tests : le renforcement améliore le premier essai, mais perd l'accès à plus de bonnes réponses qu'il n'en gagne. Le modèle reste tenu en laisse par son point de départ ; pour la rompre, il faudrait semer des idées dans les zones qu'il n'explore jamais.

Source : Wu et al., The Invisible Leash? Why RLVR May or May Not Escape Its Origin (2025)

XI

H8 · Le petit bien entouré : de 55 % à 46 %

Ce que dit H8 : sur les tâches vérifiables, un modèle de 8 milliards bien entouré égalerait un modèle cent fois plus gros, pour un coût comparable ou moindre.

Maillon a, 90 % : il atteint le même score. Établi en maths : un modèle de 1 milliard avec 512 essais triés dépasse un modèle de 405 milliards. Maillon b, 60 % : à un coût total comparable, en comptant tous les essais et le juge, face à des géants à experts qui n'allument qu'une petite part d'eux-mêmes. Maillon c, 85 % : cela vaut au-delà des maths et du code, sur d'autres tâches vérifiables.

Calcul : 0,9 × 0,6 × 0,85 = 46 %. Le maillon b est le cœur du doute, et notre ancien 55 % l'escamotait. Une donnée nouvelle aide pourtant le petit : ce qu'on fait tourner chez soi rattrape vite les géants.

Source : Liu et al., Can 1B LLM Surpass 405B LLM? (2025)

Établi

Nouveau : la pointe arrive chez soi en moins d'un an (2025)

Epoch AI mesure que les meilleurs modèles ouverts qui tiennent sur une seule carte graphique grand public ont environ 6 à 12 mois de retard sur la pointe, selon le test. Prudence, notent-ils : les petits modèles sont plus souvent optimisés pour les tests, le retard réel est sans doute un peu plus long.

Source : Epoch AI, Frontier AI performance becomes accessible on consumer hardware within a year (2025)

XII

H9 · Le monde comme maître : de 55 % à 54 %

Ce que dit H9 : sur un ordinateur ordinaire, un juge extérieur fait nettement progresser un petit modèle, jusqu'au plafond de ce qu'il trouvait en beaucoup d'essais.

Maillon a, 75 % : le gain est net (au moins 5 points) sur un petit modèle moderne quelconque, pas seulement sur une famille choisie. Maillon b, 90 % : cela tient sur une carte de joueur en une semaine ; ce sont nos calculs de la page précédente. Maillon c, 80 % : la description du plafond est juste ; la laisse invisible la confirme, ProRL la conteste, mais après un entraînement bien plus long qu'une semaine.

Calcul : 0,75 × 0,9 × 0,8 = 54 %. Presque inchangée, mais le doute a changé de place : il est désormais dans le maillon a, à cause de l'étude ci-dessous. Notre expérience prévue utilise Llama, justement la famille où les effets faciles disparaissent. Tant mieux : elle n'en sera que plus probante.

Établi

Nouveau : des récompenses au hasard qui marchent… sur une seule famille (2026)

Shao et ses coauteurs entraînent Qwen2.5-Math-7B par renforcement avec des récompenses tirées au hasard : il gagne 21,4 points au test MATH-500, presque autant que les 29,1 points obtenus avec les vraies réponses. Le renforcement réveille surtout une habitude déjà présente (raisonner en code). Sur Llama 3 ou OLMo 2, ces fausses récompenses ne donnent presque rien. Leçon : tester sur plusieurs familles avant de crier victoire.

Source : Shao et al., Spurious Rewards: Rethinking Training Signals in RLVR (ICML 2026)

XIII

Le tableau d'ensemble

Ce qui baisse : H2 (75 → 64), H4 (70 → 44), H8 (55 → 46), H7 (50 → 43, reformulée), et H9 d'un point. Presque toujours pour la même raison : nous avions chiffré le maillon le plus visible et supposé les autres.

Ce qui monte : H1 (50 → 55) grâce à une étude nouvelle, H6 (35 → 42) grâce à la chute mesurée des prix, H3 (40 → 48) en se restreignant. H5 ne bouge presque pas.

La grande thèse du carnet tient en trois hypothèses : une mémoire externe (H2), rangée en graphe (H5), et un petit modèle qui progresse avec un juge (H9). Si elles étaient indépendantes : 0,64 × 0,64 × 0,54 = 22 %. Elles ne le sont pas tout à fait (une même réalité technique les porte), donc la vraie valeur est plus haute, sans dépasser la plus faible, 54 %. Nous disons environ 30 % : moins d'une chance sur deux que tout le programme tienne. C'est pour cela qu'il faut trancher, maillon par maillon.

Fig. O — Où se loge le doute

confiance aujourd'hui (produit des maillons)confiance d'avantmaillons a, b, c

Schéma illustratif : il montre l'idée, pas des mesures.

Chaque ligne est une hypothèse. Les cercles sont ses maillons, chacun chiffré en supposant les précédents vrais ; la barre est leur produit, c'est-à-dire la nouvelle confiance ; le trait rouge, l'ancienne. Une hypothèse est aussi fragile que son maillon le plus faible, et un peu plus : la barre est toujours à gauche du cercle le plus à gauche.
XIV

Trois expériences pour trancher

Quelle expérience ferait bouger le plus nos chiffres ? Pour chacune, nous écrivons ses résultats possibles, leur probabilité et la confiance qui en découlerait. Une règle de cohérence s'applique : la moyenne des confiances après l'expérience doit égaler la confiance avant. Sinon, nous saurions déjà dans quel sens elle va tomber, et il faudrait changer notre chiffre tout de suite. Nous avons vérifié cette règle pour les trois.

On mesure ensuite le déplacement attendu : la somme, pondérée par les probabilités, des écarts de confiance. Plus il est grand, plus l'expérience nous apprend.

Spéculatif

E1 · Deux familles, vrai juge contre juge au hasard · environ 20 €

L'expérience de la page précédente, faite sur Llama et Qwen, avec de vraies récompenses et des récompenses au hasard : quatre semaines d'une carte de joueur. Trois issues : Llama progresse nettement avec le vrai juge seulement, plafond intact (55 %) → H9 66 %, H7 37 % ; seul Qwen progresse (25 %) → H9 25 %, H7 38 % ; Llama progresse et sa réussite en 64 essais bondit (20 %) → H9 60 %, H7 65 %. Moyennes : H9 54,6 %, H7 42,9 %, conformes. Déplacement attendu : 24 points.

Spéculatif

E2 · Étiquettes hiérarchiques contre étiquette plate · environ 16 000 h de GPU

Entraîner des modèles de 1 et 8 milliards sans étiquette, avec l'adresse d'origine, et avec des niveaux et dépendances. Trois issues : la hiérarchie bat l'étiquette plate et tient à 8 milliards (50 %) → H1 75 % ; seule l'étiquette plate aide et son gain fond (30 %) → H1 40 % ; plus rien à 8 milliards (20 %) → H1 25 %. Moyenne 54,5 %, conforme. Déplacement attendu : environ 20 points. Coût : 6 opérations par paramètre et par mot, sur 20 mots par paramètre, trois fois, à 400 000 milliards d'opérations utiles par seconde et par puce (une hypothèse) : environ 16 000 heures de GPU de centre de calcul. Une affaire de laboratoire.

Spéculatif

E3 · Cinq générations, garder tout, les rares ou rien · environ 50 h de GPU

De petits modèles (125 millions de paramètres) apprennent chacun du précédent, cinq fois de suite, en gardant toutes les données réelles, seulement les 5 % les plus rares, ou rien. Trois issues : les 5 % rares font aussi bien que tout (40 %) → H4 75 % ; ils aident à moitié (45 %) → H4 25 % ; même tout garder ne suffit pas (15 %) → H4 20 %. Moyenne 44,3 %, conforme. Déplacement attendu : environ 25 points, pour une cinquantaine d'heures de GPU louées (notre estimation, génération des textes comprise).

XV

Ce que nous ferons de ces chiffres

L'ordre des expériences découle du calcul : E1 et E3 apprennent au moins autant que E2, pour des centaines à des milliers de fois moins cher. E1 tient sur un ordinateur ordinaire ; E3, sur quelques heures de calcul louées. Ce sont elles que nous recommandons de faire en premier.

Nos règles de révision, pour ne pas tricher plus tard. Une hypothèse ne change de chiffre que si un maillon change, et nous dirons lequel. Une hypothèse dont un maillon tombe sous 20 % sera reformulée ou retirée, pas maintenue par habitude. Et chaque nouvelle hypothèse arrivera déjà coupée en maillons.

Le gain de cette page n'est pas un chiffre de plus. C'est de savoir, pour chaque hypothèse, quelle phrase précise il faudrait démontrer ou réfuter. Une hypothèse qu'on sait comment tuer est une hypothèse utile.

Haut de page