Le modèle à poids ouvert Kimi K3 de Moonshot AI a été lu presque entièrement à travers son nombre de paramètres depuis son lancement le 16 juillet. Avec 2,8 billions de paramètres, il s’agit du plus grand modèle à poids ouvert publié à ce jour. Les tailles de modèles sont généralement regroupées par tranches approximatives et 2,8 billions de tours dans ce que l’industrie appelle la classe 3T. Un niveau auquel aucun modèle ouvertement disponible n’était entré auparavant.
La conclusion naturelle est que Moonshot a réussi à contourner les restrictions informatiques américaines. Le propre blog technique de l’entreprise suggère quelque chose de plus spécifique : K3 n’évite pas la contrainte mais la déplace, échangeant le calcul contre de la mémoire à presque toutes les couches de la conception.
Ce métier mérite d’être compris, car le calcul et la mémoire ne sont pas des contraintes interchangeables et ne sont pas également disponibles pour un laboratoire chinois.
Pourquoi le modèle à poids ouvert Kimi K3 est un problème de mémoire
Deux éléments différents déterminent le coût d’exécution d’un grand modèle. La première concerne la quantité de calculs effectuée par la machine pour produire chaque mot. L’autre est la quantité de partie du modèle qui doit être tenue prête et instantanément accessible pendant tout le temps où il fonctionne. Le premier est le calcul. La seconde est la mémoire. Les contrôles à l’exportation de puces ont d’abord mis la Chine sous pression, et la conception de Moonshot se lit comme une tentative soutenue d’en dépenser moins.
Le mouvement principal est une technique appelée mélange d’experts. Plutôt que d’exécuter l’intégralité du modèle pour chaque mot, K3 se divise en 896 sections spécialisées et n’en fait appel qu’à 16 à la fois, soit environ 1,8 % du total. Le calcul par mot chute fortement. La facture de mémoire ne bouge pas du tout, car les 2,8 billions de paramètres doivent encore être chargés et prêts au cas où ils seraient les prochains appelés.
Moonshot s’est donc attaqué directement à ce projet de loi. Il a entraîné K3 à travailler avec quatre bits de précision par paramètre au lieu des seize habituels, une méthode connue sous le nom d’entraînement sensible à la quantification, que la société a appliquée dès la phase de réglage fin et affirme avoir choisi « pour une large compatibilité matérielle », une expression qui mérite une pause, car elle se lit comme une protection contre le fonctionnement sur du silicium qui n’est pas celui de Nvidia. Les économies sont substantielles. Une analyse indépendante de la version place le modèle à environ 1,4 To dans ce format, contre les 5,6 To dont il aurait besoin en pleine précision.
Le deuxième changement, Kimi Delta Attention, vise un coût mémoire différent. Lorsqu’un modèle travaille sur un document très long, il accumule une mémoire courante de tout ce qu’il a déjà lu. À la limite annoncée par K3 d’un million de jetons, soit quelques milliers de pages, ce magasin, et non le modèle lui-même, devient la plus grande chose en mémoire.
Moonshot est inhabituellement direct sur l’enjeu commercial ici. Il a contribué au code de mise en cache du projet de service open source vLLM et affirme que cette combinaison lui permet de proposer un prix K3 compétitif malgré la taille du modèle. Moonshot recommande d’exécuter K3 sur 64 accélérateurs ou plus, connectés suffisamment étroitement pour se comporter comme un seul pool.
C’est la même approche derrière les systèmes CloudMatrix de Huawei, et elle indique quelle est la véritable solution de contournement. La mémoire peut être collectée sur un grand nombre de puces individuellement banales. Les calculs de niveau formation ne peuvent pas être assemblés de la même manière.
Que cette mise en commun se produise sur le silicium chinois est une question à laquelle le blog ne répond pas. Les tests au niveau des puces de Moonshot ont été exécutés sur Nvidia H200S et sur ce qu’il décrit uniquement comme un « GPGPU d’un fournisseur alternatif », qu’il refuse de nommer. D’autres résultats sont comparés à une Nvidia L20, la carte réduite vendue en Chine selon les règles d’exportation.
Le blog ne précise pas où se trouve le matériel H200, et la Chambre des représentants des États-Unis a adopté en janvier un projet de loi visant à combler le vide juridique de la location de cloud offshore qui permettait aux entreprises chinoises d’accéder à distance aux accélérateurs restreints. La raison pour laquelle tout cela est important est que la mémoire, et non la puissance de traitement, est le domaine où l’industrie chinoise des puces est la plus en retard.
Lors des négociations commerciales d’août 2025, Pékin a demandé un allègement des restrictions de mémoire à large bande passante plutôt que des outils de lithographie ou de l’accès à TSMC, un bon signe de ce que les responsables considèrent comme réellement contraignant. La production nationale de cette mémoire est projetée à environ deux millions de piles cette année, soit suffisamment pour environ 250 000 à 300 000 puces Huawei Ascend de classe 910C, tandis que le SMIC a une capacité de tranches de plus d’un million.
Ce que les entreprises peuvent réellement déployer
Pour les entreprises de cette région, la question pratique n’est pas de savoir si K3 arrive en tête d’un classement. Il s’agit de savoir si un modèle ouvert de cette taille est déployable. Les entreprises asiatiques optent pour des pondérations ouvertes pour trois raisons : le prix, la souveraineté des données et la couverture en langues régionales – et les banques et les assureurs de toute l’Asie du Sud-Est testent spécifiquement des modèles ouverts auto-hébergés afin que les enregistrements ne quittent jamais leurs propres systèmes.
Les poids arriveront le 27 juillet et toute organisation pouvant se permettre le matériel sera libre de télécharger, modifier et exécuter K3 dans ses propres murs. La question est de savoir combien le peuvent. Moonshot recommande de servir le modèle sur 64 accélérateurs ou plus connectés ensemble comme un seul pool, et les poids à eux seuls atteignent environ 1,4 To dans le format dans lequel il est livré, sur la base d’une analyse indépendante, avant que la mémoire ne soit nécessaire pour traiter un long document.
Il s’agit d’un engagement de centre de données et non d’une salle de serveurs. Pour la plupart des entreprises, le résultat pratique est de louer une capacité dédiée plutôt que de la posséder. Cela conserve toujours les données dans le pays et sous contrat, ce que demandent la plupart des régulateurs régionaux. Ce qu’il n’apporte pas, c’est l’indépendance vis-à-vis des fournisseurs d’infrastructures qui ont d’abord incité bon nombre de ces acheteurs à ouvrir des pondérations.
Le logiciel n’est pas prêt non plus. Les deux principaux changements architecturaux de K3 sont suffisamment nouveaux pour que les outils open source standard pour l’exécution de modèles ne les prennent pas encore en charge, et Moonshot affirme travailler avec des partenaires d’inférence et des responsables open source pour aligner les détails techniques avant la publication. Les équipes planifiant un déploiement auto-hébergé doivent traiter la date de lancement et la date d’utilisation comme des choses différentes.
Le prix a également changé. K3 coûte 3 $ par million de jetons d’entrée, passant à 0,30 $ lorsque le modèle a récemment vu cette entrée, et à 15 $ par million de jetons de sortie. C’est bien en dessous des 50 $ de sortie de Fable 5, mais bien au-dessus du GLM-5.2 de z.ai à 4,40 $ et du DeepSeek V4 à 0,87 $. K3 ne fait plus partie du niveau budgétaire occupé par ses prédécesseurs.
Il se lance également avec un effort de raisonnement maximal comme seul paramètre, avec des modes inférieurs à suivre, de sorte que les longues chaînes de raisonnement et les étapes réessayées s’additionnent rapidement. Les entreprises doivent budgétiser le coût d’une tâche terminée, et non le prix catalogue.
Ce qui est revendiqué et ce qui est vérifié
Arena a placé K3 au premier rang dans son évaluation Frontend Code avec 1 679 points, devant Fable 5, lors des tests à l’aveugle des développeurs, comme le rapporte Le matériel de Tom. Ce résultat est réel. C’est également une référence dans un domaine.
Moonshot lui-même est plus sobre que ses gros titres. La société déclare que les performances globales de K3 sont toujours à la traîne de Claude Fable 5 et GPT 5.6 Sol, et énumère trois limitations : la qualité de la génération peut devenir très instable si un harnais ne parvient pas à transmettre le contenu de la pensée historique, le modèle peut prendre des décisions inattendues au nom d’un utilisateur lorsque l’intention est ambiguë, et il montre un écart notable en matière d’expérience utilisateur par rapport à Fable 5 et GPT 5.6 Sol.
Ses propres notes de bas de page révèlent également que Fable 5 a effectué des replis sur 35 % des tâches de l’évaluation SWE Marathon de Moonshot, ce qui peut avoir affecté le score mesuré de ce modèle. Tout le reste reste une réclamation de première partie. Aucun numéro K3 publié ne peut être vérifié de manière indépendante tant que les poids ne sont pas publics.
Les analystes de Bank of America dirigés par Alex Liu ont déclaré dans une note que K3 montre qu’une pré-formation à grande échelle combinée à un travail architectural peut encore apporter des gains considérables pour les modèles chinois phares malgré les contraintes de calcul, ce qui est la version sobre de l’argument, et plus proche de ce que soutient le blog.
La direction du voyage n’est pas contestée. Les modèles à poids ouvert ont traité 29 % de tous les jetons acheminés via la passerelle de production de Vercel en juin, contre environ un neuvième du volume en avril, tout en représentant moins de 4 % des dépenses. Le 27 juillet, nous découvrons quelle quantité de K3 appartient à cette colonne.
