Un modèle de 7,4 milliards de paramètres, entraîné de zéro par deux institutions académiques de Pékin, bat un mastodonte trente fois plus gros sur la recherche web multi-étapes. Et il se proclame « entièrement ouvert ». Sauf qu'il y a un os : les données, elles, sont sous clé.
Le chiffre est là, dans le rapport technique : 63,09 % sur WebWalkerQA, un benchmark de recherche web agentique. En face, Qwen3-235B-A22B plafonne à 59,60 %. Kimi-K2, le poids lourd de Moonshot, fait 63,00 %. Résumé : un petit 7B dense, de la taille d'un modèle qu'on fait tourner sur une carte de gamer, tient tête à des machines louées par grappes entières de GPU.
ZGCM-1 sort de la Zhongguancun Academy et du Zhongguancun Institute of Artificial Intelligence, deux institutions nées en 2024 à Pékin. Au générique, deux noms qui pèsent : Tie-Yan Liu, ex-Microsoft Research Asia devenu président de l'académie, et Bin Shao, directeur de l'institut. Pas des amateurs. Le projet est piloté par Jiyan He.
Le pari tient en une phrase : un petit modèle ne peut pas mémoriser tout le web. Alors plutôt que gonfler la mémoire, on lui file des outils. Recherche web, lecture de pages, terminal, Ghidra pour fouiller les binaires. Le raisonnement reste dans la tête ; le savoir, lui, se va chercher dehors.
Deux institutions nées d'hier, une vitesse non conventionnelle
Pour situer le projet, un peu de contexte. La Beijing Zhongguancun Academy a lancé sa construction le 7 juin 2024, et ouvert ses portes le 13 septembre de la même année. Deux ans plus tard, elle revendique plus de 600 doctorants recrutés en deux promotions, dont 60 % issus de disciplines qui n'ont rien à voir avec l'IA, selon le portail scientifique officiel de Pékin.
L'institut qui la prolonge, le Zhongguancun Institute of Artificial Intelligence, revendique un modèle « production-recherche-vulgarisation-investissement ». Traduction : on publie, on incube des boîtes, on forme, et on attire du capital. Le tout sous la houlette de Tie-Yan Liu, un vétéran de Microsoft Research Asia. Le genre de CV qui n'arrive pas par hasard à la tête d'une institution financée par la puissance publique.
L'organisation GitHub zgcagi, elle, a été créée le 21 juillet 2026. Elle n'héberge qu'un seul dépôt : ZGCM-1, ouvert le 7 septembre, quatre jours avant la soumission arXiv. Aucune release, aucun tag, aucune lignée antérieure. Le projet sort de nulle part, ou presque. C'est un premier jet, pas une saga.
Un budget d'académie, pas de frontier lab
Ce qui frappe ensuite, c'est l'économie du truc. 4,19 trillions de tokens de pré-entraînement. Une fenêtre de 256K tokens. Et un chiffre que les gros labos ne publient jamais : environ 4,2x d'accélération du temps-pour-perte par rapport à un baseline BF16/AdamW.
Trois leviers. Le FP8 hybride pour comprimer le calcul, en gardant les opérations sensibles en pleine précision. L'optimiseur Muon à la place d'AdamW pour les matrices. Et TWEO, un régularisateur qui écrase les valeurs aberrantes qui font exploser le FP8. Résultat revendiqué : ~585 TFLOP/s par GPU, soit environ 60 % de MFU sur H100.
L'équipe n'a pas publié le coût total. La brigade a donc sorti sa calculette : 6 x 7,39 milliards de paramètres x 4,19 trillions de tokens, ça donne dans les 1,9e23 FLOPs. Soit environ 88 000 heures-H100 au rendement annoncé. Une paille, à côté des millions d'heures que brûlent les labos américains. C'est tout l'argument du papier : on peut faire de la recherche de haut niveau sans hypothéquer la planète.
Anatomie d'un raisonneur taillé pour l'agentique
L'architecture n'a rien d'exotique. Un Transformer décodeur seul, GQA, RMSNorm, SwiGLU. Le choix qui compte, c'est l'attention : 27 couches à fenêtre glissante de 128 tokens, et 5 couches d'attention globale, en ratio 5:1.
Pourquoi ce ratio ? Les expériences d'architecture, menées sur 10 milliards de tokens avec 8 H100, donnent la réponse. La fenêtre glissante 5:1 tourne à 9 566 tokens/s par GPU, avec une perte finale de 1,93, identique à l'attention complète. La MLA de DeepSeek, elle, tombe à 7 645 tokens/s sans gagner en perte. Donc : mêmes performances, plus de débit, et un cache KV réduit de 6,4x. Pour un modèle qu'on veut déployer en local, c'est pas du luxe.
Le mid-training, 600 milliards de tokens, est la partie maligne. Le contexte s'étend par paliers, 16K puis 64K puis 256K. Et surtout, les traces d'interaction, recherche web et commandes terminal, sont reformulées en transitions d'état-action de processus de décision de Markov. Traduction : le modèle n'apprend pas seulement le résultat final, il apprend chaque décision intermédiaire. C'est ce qui lui permet, en usage, d'enchaîner jusqu'à 64 étapes de recherche et de lecture sans se perdre en route.
Des maths de concours, de la culture en carton
Sur les maths, c'est net. MATH-500 à 97,13 %. AIME 2026 à 75,00 %, devant DeepSeek-R1-0528-Qwen3-8B (69,17 %) et MiniCPM4.1-8B (71,67 %). HMMT 2025 à 70,42 %. Un raisonneur spécialisé, donc. Sur les 14 benchmarks de raisonnement du rapport, l'équipe revendique le meilleur rang moyen parmi sept modèles de 7 à 8 milliards de paramètres.
Mais il faut être honnête, et l'équipe l'est plus que la moyenne. Sur AIME 2024 et 2025, ZGCM-1 est derrière. MMLU à 73,88 %, contre 85,40 % pour Qwen3-8B. GPQA-Diamond à 47,87 %. Et IFEval à 75,42 %, loin des 87,40 % de Qwen3-8B. Le suivi d'instruction strict, c'est son point faible, et le rapport l'écrit noir sur blanc : une supervision de raisonnement lourde, ça rend verbeux et ça dégrade l'obéissance.
Sur ARC-AGI-1 (3,50 %) et miniF2F (2,87 %), les scores sont au niveau de ce que produit un 7B. Pas de miracle. Sept milliards de paramètres, ça reste sept milliards de paramètres.
Un tableau pour fixer les idées :
Épreuve | ZGCM-1 (7,4B) | Qwen3-235B-A22B | Kimi-K2 | DeepSeek-R1-8B |
WebWalkerQA | 63,09 | 59,60 | 63,00 | 10,00 |
BrowseComp | 19,43 | 2,30 | 14,10 | 2,00 |
GAIA (texte) | 42,52 | 45,60 | 57,30 | 31,10 |
AIME 2026 | 75,00 | n.p. | n.p. | 69,17 |
La partie qui fait jaser : une R&D pilotée par des agents
C'est le chapitre 6 qui a retourné les commentaires sur Hugging Face. L'équipe décrit un cycle de développement où des « essaims d'agents » gèrent le cluster, nettoient les données et font l'évaluation diagnostique. Les chercheurs fournissent les comptes rendus de réunion et les décisions de design ; un harnais les transforme en tâches ; les agents exécutent.
Et puis, détail rare, ils publient leur propre auto-évaluation : 9 contributeurs ont noté 11 catégories de tâches sur une grille d'autonomie à 5 niveaux. Le niveau L4, c'est « l'IA exécute de façon autonome dans un cadre fixé par l'humain ». Le L5, c'est « l'IA fixe aussi les objectifs ». Verdict interne : expérimentation, monitoring et déploiement sont bien automatisés. La conception d'architecture et d'algorithmes d'apprentissage, elle, reste humaine. Et le rapport précise que le L5 est une référence, pas une capacité démontrée.
Certains commentateurs ont crié à « l'auto-amélioration récursive ». Calmons-nous. Ce qu'on a là, c'est un labo qui documente son propre degré d'automatisation, avec une grille ordinale dont les moyennes n'ont, de leur propre aveu, pas grand sens. C'est plus honnête que la plupart des communiqués. Mais c'est un témoignage interne, pas une mesure.
« Entièrement ouvert » : faut pas pousser mémé
Le titre du papier et le README martèlent l'ouverture du cycle complet. Poids de chaque étape, checkpoints intermédiaires, code d'entraînement, recettes de données, logs Weights & Biases. Sur le papier, c'est le grand jeu. Et c'est un vrai point fort, il faut le reconnaître : dans un secteur où même les modèles « ouverts » gardent souvent leurs recettes sous le coude, publier six checkpoints et les logs de training, ça se fait rare.
Sauf qu'on gratte, et ça se fissure. Le dépôt GitHub est bien sous licence MIT. Mais il affiche 5 commits, zéro release, zéro tag. Le modèle principal totalise 67 téléchargements sur Hugging Face. Et le jeu de données, lui, est en accès filtré (gated: manual) avec une licence « other » : pour y accéder, il faut demander la permission.
Le mot « entièrement ouvert » vaut donc pour les poids et le code. Pas pour les données, au sens juridique strict. C'est l'écart entre le titre du papier et l'état des dépôts. Et c'est exactement le genre de nuance qui se perd dans le bruit des agrégateurs.
Verdict
Franchement, c'est une bonne nouvelle pour la recherche publique. ZGCM-1 démontre qu'on peut, avec un budget d'académie et des choix d'ingénierie malins, tenir la comparaison avec des modèles trente fois plus gros sur les tâches agentiques qui comptent. Le tableau WebWalkerQA où un 7B devance un 235B, c'est un argument massue contre la religion du « toujours plus de paramètres ».
Mais il ne faut pas se raconter d'histoires. La traction est quasi nulle : 118 étoiles, 67 téléchargements. L'ouverture affichée s'arrête à la porte des données. Et les évaluations sont toutes produites par l'équipe elle-même, sans réplication indépendante trouvée.
Reste une leçon qui dépasse ce modèle précis : la taille n'est pas la seule variable. Un petit modèle bien outillé et bien entraîné peut moucher un gros. C'est une idée que l'industrie, qui a fait de l'échelle un dogme, aurait tort d'ignorer.
Sources
- arXiv — ZGCM-1 technical report (v1, 11/09/2026)
- arXiv — version HTML complète
- GitHub — zgcagi/ZGCM-1
- Hugging Face — zgcagi/ZGCM-1-7B
- Hugging Face — dataset ZGCM-1-Data
- Hugging Face — papers 2609.13356
- Portail scientifique de Pékin — 600+ doctorants
- Portail scientifique de Pékin — création de l'académie
✦ Idée d'illustration : un échiquier minimaliste où un petit pion blanc lumineux fait face à une rangée de tours noires massives. Le pion tient une loupe et un terminal ouvert à ses pieds. Style néobrutaliste, noir et blanc, une seule touche de rouge. En filigrane, un réseau de neurones schématique. La légende implicite : la taille n'est pas tout.
