TL;DR (Réponse directe)
Moonshot AI a dévoilé Kimi K3 Max, un modèle ouvert de 2,8 billions de paramètres avec trois innovations majeures : Kimi Delta Attention et Attention Residuals qui offrent environ 2,5× plus d'efficacité de passage à l'échelle, un mode de réflexion maximale toujours actif entraîné pour des tâches autonomes de plusieurs heures, et une multimodalité native avec « vision in the loop » qui permet au modèle d'itérer entre le code et des captures d'écran de ses propres résultats. C'est le premier modèle ouvert de la classe 3T à rivaliser sérieusement avec les modèles propriétaires de pointe.
Avant-propos : Cet article n'est pas un article typique sur Kimi K3 Max. Il a été rédigé avec Kimi K3 Max, en s'appuyant sur un article précédent du 16 juillet 2026 consacré aux mécanismes internes de Claude, juste avant que les serveurs gratuits de Kimi ne soient saturés. Il comprend également des visuels explicatifs conçus pour vous aider à tirer le meilleur parti de ce nouveau LLM extraordinaire.
Je travaille dans la science des données depuis près de 20 ans, et j'ai remarqué quelque chose de crucial sur le marché du travail actuel : ceux qui maîtrisent véritablement le langage des machines sont ceux qui se distinguent systématiquement.
Il existe de nombreuses façons d'apprendre à utiliser les LLM, mais nous sommes tous limités par nos propres biais cognitifs et notre compréhension. Il est souvent difficile de savoir si notre modèle mental est précis, ou s'il restera valide à mesure que la technologie évolue. Malheureusement, il n'y a pas de formule magique. Beaucoup de personnes n'ayant qu'une compréhension superficielle de l'IA peuvent atteindre un succès remarquable, tandis que d'autres ayant une compréhension bien plus approfondie peuvent recevoir beaucoup moins de reconnaissance.
Néanmoins, compter uniquement sur le hasard n'est pas une stratégie. Tout comme les mathématiques fournissent des méthodes optimales pour résoudre des problèmes complexes, développer une compréhension rigoureuse des LLM vous donne un avantage systématique. Dans un monde où le succès peut parfois sembler aléatoire ou injuste, améliorer votre compréhension du fonctionnement de ces modèles augmente considérablement vos chances de prendre de meilleures décisions, de vous adapter plus rapidement et de créer plus de valeur.
C'est précisément pourquoi des experts comme Andrej Karpathy, Ilya Sutskever et Noam Shazeer sont si respectés. Leur réputation ne vient pas seulement de leur capacité à communiquer des idées complexes, mais aussi de leur compréhension profonde, précise et durable des LLM. Suivre leur approche — rechercher les premiers principes, remettre en question les hypothèses et affiner continuellement ses modèles mentaux — est l'une des voies les plus fiables vers le succès à long terme à l'ère de l'IA.
Qu'est-ce que la nouvelle architecture de Kimi K3 Max et pourquoi change-t-elle la donne ?
Pendant des années, travailler avec des modèles open source suivait un schéma familier : attendre environ six mois après une sortie propriétaire, télécharger ce que la communauté avait rattrapé, et accepter le compromis. Même les meilleurs modèles ouverts accusaient un retard suffisamment important pour faire la différence sur les problèmes difficiles.
Kimi K3 suggère un virage significatif loin de ce paradigme. Plutôt que de simplement entraîner un modèle plus grand, Moonshot AI a introduit des mécanismes qui changent la façon dont l'information circule à travers un million de tokens, combien de temps un agent peut maintenir un travail autonome cohérent, et comment un modèle perçoit les résultats de ses propres actions. Le résultat est un système de 2,8 billions de paramètres avec une fenêtre de contexte d'un million de tokens, une compréhension native des images et des vidéos, et un mode de raisonnement toujours actif — le premier modèle ouvert à atteindre la classe 3T, dont les poids seront publiés d'ici le 27 juillet 2026.
Une note sur le nom : au lancement, Kimi K3 fonctionne par défaut avec un effort de réflexion maximal, les modes à effort faible et élevé arrivant dans des mises à jour ultérieures. Les classements le listent donc comme « Kimi K3 (max) », ou simplement « K3 Max ».
Trois avancées se démarquent :
- Kimi Delta Attention (KDA) et Attention Residuals (AttnRes), qui reconçoivent la façon dont l'information circule à travers la longueur de séquence et la profondeur du modèle.
- Max Thinking et l'agence à long horizon, un mode de raisonnement toujours actif entraîné pour des sessions autonomes de plusieurs heures à plusieurs jours.
- Vision in the Loop, une multimodalité native qui ferme la boucle entre l'écriture de code et la visualisation de ce que ce code produit réellement.
Individuellement, chacune est impressionnante. Combinées, elles changent fondamentalement ce que les utilisateurs expérimentés peuvent construire avec un modèle ouvert.
Kimi Delta Attention et Attention Residuals : une efficacité qui achète de l'intelligence
Un défi persistant dans le passage à l'échelle des modèles de langage a été le coût de l'attention elle-même. L'attention standard devient coûteuse à mesure que les séquences s'allongent, et avec un contexte d'un million de tokens, les architectures naïves ne décodent tout simplement pas assez vite pour être utiles. Un second défi, plus discret, réside dans la profondeur du modèle : les connexions résiduelles classiques accumulent uniformément la sortie de chaque couche, de sorte que le signal et le bruit s'accumulent ensemble à travers des dizaines de couches.
Kimi K3 attaque les deux problèmes directement. Kimi Delta Attention est un mécanisme d'attention linéaire hybride conçu pour déplacer l'information efficacement sur de très longues séquences. Selon Moonshot AI, il permet un décodage jusqu'à 6,3× plus rapide dans des contextes d'un million de tokens — la différence entre un modèle à long contexte théoriquement impressionnant et un modèle pratiquement utilisable. Attention Residuals prend l'axe complémentaire : au lieu d'ajouter uniformément la sortie de chaque couche dans le flux résiduel, AttnRes agit comme un remplacement direct des connexions résiduelles qui récupère sélectivement les représentations à travers la profondeur. Moonshot rapporte environ 25% d'efficacité d'entraînement supplémentaire pour moins de 2% de calcul additionnel.
Autour de ces deux mécanismes se trouve un corps Mixture-of-Experts fortement épars. Le framework Stable LatentMoE n'active efficacement que 16 des 896 experts par token, faisant du routage et de l'optimisation des problèmes d'ingénierie de premier ordre. La série de techniques de support de Moonshot se lit comme un article de systèmes en miniature : Quantile Balancing dérive l'allocation des experts directement des quantiles du score du routeur, Per-Head Muon optimise les têtes d'attention indépendamment, et une Sigmoid Tanh Unit (SiTU) plus Gated MLA resserrent le contrôle des activations et la sélectivité de l'attention. Combinés à des recettes d'entraînement et de données révisées, ces changements structurels produisent environ 2,5× d'amélioration de l'efficacité de passage à l'échelle par rapport à Kimi K2 — le modèle convertit le calcul en intelligence plus efficacement, plutôt que d'en consommer davantage.
Décodage plus rapide
Avantages :
Décodage plus rapide aux longueurs de contexte extrêmes. Environ 2,5× plus d'intelligence par unité de calcul que la génération précédente. Entraînement significativement moins cher avec une surcharge négligeable. Large compatibilité matérielle grâce à l'entraînement quantization-aware. Une économie de service qui rend les sessions d'agents à un million de tokens abordables en pratique, pas seulement en démonstration.
Max Thinking et l'agent à long horizon : des tours de chat aux sessions de plusieurs jours
L'innovation la plus conséquente est peut-être philosophique. La plupart des modèles traitent le raisonnement comme quelque chose qui se produit dans l'intervalle entre le message d'un utilisateur et la réponse du modèle. Kimi K3 Max traite le raisonnement comme l'état par défaut : le mode réflexion est toujours activé, le cadran d'effort est au maximum, et le modèle a été spécifiquement entraîné sur des tâches longues et difficiles avec une supervision humaine minimale.
La preuve la plus claire se trouve dans les études de cas publiées par Moonshot, avec des sessions d'autonomie mesurées en heures et en jours :
- Optimisation de noyau GPU (15 heures, non-stop). Ayant reçu une implémentation Triton de production d'AttnRes, K3 a conçu un nouvel algorithme de noyau en deux phases, fusionné les noyaux tout en préservant la numératie, et réduit le temps forward+backward de 283,6 ms à 114,4 ms.
- Un compilateur from scratch. K3 a développé MiniTriton, un compilateur GPU compact semblable à Triton avec son propre IR au niveau des tuiles sur MLIR, des passes d'optimisation, et un pipeline de génération de code PTX.
- Conception de puce (48 heures, autonome). En utilisant des outils EDA open source sur la bibliothèque Nangate 45nm, K3 a construit, optimisé et vérifié une puce pour un nano-modèle basé sur sa propre architecture.
- Recherche computationnelle (environ 2 heures). Pour reproduire les relations universelles I-Love-Q en astrophysique, K3 a examiné et validé 20+ articles, implémenté le pipeline numérique complet, évalué 300+ équations d'état, et généré 3 000+ lignes de Python.
Il y a aussi un pari stratégique intégré. Là où une grande partie de l'industrie a répondu aux problèmes d'agents difficiles par l'orchestration multi-agents et la compression agressive du contexte, Moonshot associe un agent unique à une fenêtre d'un million de tokens et une recherche puissante. Sur BrowseComp, un benchmark de recherche d'information à long horizon, K3 obtient un score state-of-the-art de 91,2.
« L'accent mis par K3 sur l'entraînement aux tâches longues et difficiles le rend excessivement proactif — il peut prendre des décisions inattendues au nom de l'utilisateur lorsque l'intention est ambiguë. »
— Avertissement de Moonshot AI, 2026
Vision in the Loop : un œil natif sur son propre travail
La plupart des pipelines multimodaux fonctionnent comme un modèle de texte avec un accessoire de vision ajouté. Kimi K3 traite le texte, les images et les vidéos de manière native dans le même modèle, et la conséquence pratique n'est pas seulement une meilleure annotation d'images, mais une boucle de rétroaction fermée entre l'action et la perception.
Moonshot appelle cela la « vision in the loop » : le modèle écrit du code, capture une capture d'écran en direct du résultat, la compare à l'intention, et affine — voyant et corrigeant son propre travail en temps réel. La démonstration phare est un jeu 3D procédural en monde ouvert construit avec Three.js, WebGPU et GPU compute.
MathVision
Performances clés :
K3 a obtenu 94,3 sur MathVision et 91,1 sur OmniDocBench. #1 sur le Frontend Code Arena avec 1 679 points. A monté et édité sa propre bande-annonce à partir de 56 clips sources — un travail qui prend typiquement 1 à 2 jours à un éditeur expérimenté.
Une meilleure collaboration nécessite de meilleurs flux de travail
Ces améliorations architecturales changent également la façon dont les humains devraient travailler avec Kimi K3 Max. Les utilisateurs expérimentés découvrent que le succès dépend moins de l'écriture du prompt parfait et plus de la conception de la session : objectifs, contexte, limites, rétroaction, vérification.
Au lieu de demander à K3 Max de produire immédiatement un résultat, un processus plus efficace ressemble souvent à ceci :
- Définir l'objectif — et les limites.
- Charger le contexte complet (la fenêtre peut le supporter).
- Planifier avant d'exécuter.
- Exécuter avec la vision in the loop.
- Vérifier indépendamment.
- Conserver la session.
Cela ressemble à de l'ingénierie professionnelle parce que c'est de l'ingénierie professionnelle. L'IA devient un contributeur infatigable au sein d'un processus structuré — qui peut contenir l'ensemble du problème dans son contexte et voir ses propres résultats — plutôt qu'une boîte noire dont on attend une production parfaite du premier coup.
Meilleures pratiques pour tirer parti des nouvelles capacités de K3 Max
1. Utiliser la fenêtre de contexte complète au lieu du découpage
La fenêtre d'un million de tokens de K3 Max et la mise en cache automatique des préfixes changent l'économie du contexte. Au lieu de construire un pipeline RAG qui récupère des fragments, collez l'intégralité du dépôt, le cahier des charges complet, et les logs pertinents — et laissez le modèle raisonner sur l'ensemble.
Exemple de prompt :
« Voici l'intégralité de notre monorepo (services, bibliothèques partagées, configurations CI) plus le texte complet de notre spécification API v4.2 — environ 600K tokens au total. Ne résumez pas encore. D'abord :
- Construisez une carte des dépendances des services qui touchent au domaine de facturation
- Vérifiez chaque endpoint de la spécification par rapport à son implémentation réelle, en listant les écarts
- Identifiez chaque endroit où un changement cassant dans la spécification se propagerait
- Produisez un plan de migration ordonné par rayon d'impact, du plus petit au plus grand
Produisez d'abord le plan complet, puis proposez les trois premiers changements de code concrets. Je validerai le plan avant que vous ne touchiez au code. »
2. Mettre la vision in the loop
K3 Max peut voir ce qu'il construit. Donnez-lui des captures d'écran, des maquettes ou des enregistrements, et exigez explicitement qu'il regarde ses propres résultats et itère jusqu'à ce que le résultat visuel corresponde.
Exemple de prompt :
« Ci-joint un export Figma de notre nouveau tableau de bord (target.png). Construisez-le en tant que page React + Tailwind responsive. Travaillez dans cette boucle :
- Implémentez votre meilleure première version.
- Rendez-la et prenez une capture d'écran.
- Comparez la capture d'écran avec target.png région par région — disposition, espacement, typographie, couleur.
- Listez chaque écart visible, corrigez-le, et re-rendez.
- Répétez jusqu'à ce qu'il n'y ait plus d'écart, puis faites un dernier passage en largeur mobile.
Montrez-moi la capture d'écran finale à côté de la cible, plus un court journal des modifications de chaque itération. »
3. Adapter le niveau du modèle à la tâche
La gamme Moonshot est explicitement hiérarchisée : K3 comme vaisseau amiral, K2.7 Code pour le codage spécialisé, K2.6 comme option généraliste, et une variante K2.7 Code HighSpeed. Acheminez les tâches routinières vers les niveaux inférieurs ; réservez K3 Max pour le travail où la profondeur de raisonnement paie pour elle-même.
| Niveau | Modèle | Entrée / Sortie (par MTok) | Idéal pour |
|---|---|---|---|
| Phare | Kimi K3 (max) | $3,00 / $15,00 ($0,30 cache-hit) | Agents long horizon, architecture, recherche |
| Codage | Kimi K2.7 Code | $0,95 / $4,00 | Implémentation courante, modifications, tests |
| Vitesse | K2.7 Code HighSpeed | $0,95 / $4,00 | Itération rapide, tâches à contexte court |
| Général | Kimi K2.6 | $0,95 / $4,00 | Chat, vision, tâches d'agent général |
Exemple de prompt (logique de routage) :
« Vous êtes un routeur de modèles pour notre équipe de développement. Classez chaque tâche entrante et assignez un niveau :
- Niveau 1 (K2.6 / K2.7 Code) : modifications d'un seul fichier, tests unitaires, refactoring avec spécifications claires, résumé, classification.
- Niveau 2 (K3 Max) : changements multi-services, exigences ambiguës, optimisation des performances, tout ce qui dépasse environ 3 fichiers ou nécessite un jugement architectural, toute tâche où une mauvaise décision coûte plus d'une heure de temps humain.
Sortie pour chaque tâche : le niveau, une justification d'une ligne, et pour le Niveau 2, les limites dans lesquelles l'agent doit rester. »
4. Contraindre l'initiative de l'agent
K3 Max est délibérément entraîné pour être proactif sur les problèmes difficiles — ce qui signifie qu'il prendra volontiers des décisions que vous n'avez pas demandées. Si votre application nécessite que l'agent opère dans des limites bien définies, dites-le explicitement dans le prompt système.
Exemple de prompt (garde-fous pour une session autonome) :
« Vous fonctionnez de manière autonome sur le service 'payments-retry'. Règles strictes — elles remplacent votre propre jugement :
- Modifiez uniquement les fichiers sous /services/payments-retry et /shared/queue. Ne touchez jamais /services/billing-core.
- Pas de nouvelles dépendances tierces sans demander.
- Pas de migrations de schéma, pas de force-push, pas de modifications du CI.
- Si un test échoue pour une raison non liée à votre changement, arrêtez-vous et signalez-le au lieu de le corriger.
- Toutes les 30 minutes de travail, écrivez un résumé de point de contrôle (ce qui a changé, pourquoi, statut des tests) dans STATUS.md.
Optimisez la logique de backoff des tentatives pour réduire les incidents de double facturation. Quand vous hésitez entre « sûr » et « ingénieux », choisissez sûr et notez l'option ingénieuse dans STATUS.md. »
5. Préserver l'historique de réflexion et vérifier avant de faire confiance
K3 a été entraîné en mode d'historique de réflexion préservé : votre harnais doit repasser le contenu de réflexion antérieur à chaque tour. Ne basculez jamais la session d'un autre modèle vers K3 en cours de route. Une vérification indépendante n'est pas optionnelle : des analyses montrent que le taux de hallucination de K3 a également augmenté — le modèle est plus souvent correct et plus souvent confiant dans l'erreur en même temps.
Exemple de prompt (boucle de vérification en session unique) :
« Effectuez cette tâche en trois étapes :
Étape 1 (Résolution) : Écrivez le script de migration de données pour déplacer les préférences utilisateur du blob JSON v1 vers les tables normalisées v2.
Étape 2 (Révision adversarial) : Critiquez maintenant votre propre script en tant que relecteur sceptique qui ne l'a jamais vu. Identifiez au moins 4 modes de défaillance concrets.
Étape 3 (Preuve) : Corrigez chaque problème soulevé, puis générez une suite de vérification : 10 cas de test couvrant le chemin normal, les cas limites et les modes de défaillance de l'Étape 2.
Terminez par un résumé des différences : ce que l'Étape 1 a mal fait et comment l'Étape 3 le corrige. »
Bonus : Prompt de flux de travail combiné long horizon (Kimi Code / Goal Mode)
Pour une session autonome nocturne qui combine plusieurs pratiques à la fois :
« Exécutez ceci comme une tâche long horizon avec des points de contrôle. Objectif : réduire la latence p95 de notre endpoint de recherche de 850 ms à moins de 300 ms.
- Phase exploratoire : Cartographiez le chemin complet de la requête (API → cache → planificateur de requêtes → stockage) en utilisant le dépôt et les logs de traçage de 24 heures ci-joints. Utilisez la fenêtre de contexte complète ; n'échantillonnez pas.
- Phase d'hypothèse : Produisez une liste classée des goulots d'étranglement, chacun avec la preuve des tracés qui l'implique.
- Phase d'exécution : Corrigez les goulots d'étranglement dans l'ordre classé. Après chaque correction, exécutez la suite de benchmarks et enregistrez le p95 avant/après dans STATUS.md.
- Phase visuelle : Pour tout changement touchant l'interface des résultats, faites des captures d'écran avant/après et vérifiez que l'interface est identique au pixel près.
- Limites : Pas de changements de dépendances, pas de changements de contrat d'API, pas de modifications en dehors de /services/search.
Continuez jusqu'à ce que l'objectif soit atteint ou que la liste des goulots soit épuisée, puis produisez un rapport final. »
Un changement plus large dans la frontière open source
Pris ensemble, Delta Attention, Max Thinking et Vision in the Loop pointent vers une tendance plus large : la frontière des modèles ouverts rattrape celle des modèles propriétaires. Sur GDPval-AA v2 — tâches du monde réel dans 44 professions et 9 industries — Kimi K3 obtient 1 668 Elo, troisième derrière Claude Fable 5 (1 760) et GPT-5.6 Sol (1 748), et devant Claude Opus 4.8 (1 600).
L'honnêteté compte autant que les chiffres. Moonshot reconnaît elle-même un écart notable d'expérience utilisateur par rapport à Fable 5 et GPT-5.6 Sol ; la configuration de lancement ne supporte que l'effort de raisonnement maximal, ce qui rend les requêtes simples lentes ; et le taux d'hallucination élevé signifie que les boucles de vérification sont une exigence, pas un luxe. C'est un modèle de classe frontière avec des réserves de classe frontière — qui se trouve être ouvert.
« L'open source n'est plus en retard de six mois sur les modèles propriétaires occidentaux. Relisez cette phrase et réfléchissez à ce qu'elle signifie. »
— Commentateur IA largement suivi, cité par VentureBeat, 2026
L'expertise future en IA dépendra peut-être moins du prompt engineering et plus de l'ingénierie des sessions : définir des objectifs, charger un contexte complet, limiter l'initiative d'un agent, fermer la boucle de rétroaction visuelle, et vérifier indépendamment. Dans ce monde, les professionnels les plus productifs ne se contenteront pas de poser de meilleures questions. Ils concevront de meilleures sessions autonomes — et de plus en plus, ils les concevront sur des modèles ouverts.
Sources
- Moonshot AI, « Kimi K3 Tech Blog: Open Frontier Intelligence » (July 2026) — kimi.com/blog/kimi-k3
- VentureBeat, « China's Moonshot AI releases Kimi K3, the largest open-source model ever, rivaling top U.S. systems » (July 17, 2026) — VentureBeat
- The Decoder, « Kimi's open model K3 nears GPT-5.6 Sol and Fable 5 while signaling the end of super cheap Chinese AI » (July 17, 2026) — The Decoder
- Trending Topics, « Kimi K3 Is the China Shocker That Lifts Open-Weight Models to Frontier Level » (July 2026) — Trending Topics
- Kimi API Platform Documentation — platform.kimi.com/docs/models
- OpenRouter, « Kimi K3 API Pricing & Providers » — openrouter.ai/moonshotai/kimi-k3
- Artificial Analysis — artificialanalysis.ai
- Hacker News, « Kimi K3 is now live » (July 2026) — news.ycombinator.com
- Moonshot AI on GitHub — github.com/moonshotai
- Kimi.ai (@Kimi_Moonshot) on X — x.com/Kimi_Moonshot