Kimi K3: cos'è e come funziona il modello open da 2,8 trilioni di parametri
I laboratori AI di frontiera americani tremano!
Moonshot AI ha presentato Kimi K3, il nuovo flagship model della famiglia Kimi. Il modello riunisce 2,8 trilioni di parametri, un'architettura Mixture-of-Experts, native vision e una context window da 1 milione di token.
Kimi K3 è già disponibile su Kimi.com, Kimi Work, Kimi Code e attraverso le API ufficiali. I full model weights, però, saranno rilasciati entro il 27 luglio 2026. Fino ad allora sarà possibile utilizzare il modello come servizio, ma non scaricarlo e deployarlo autonomamente.
Un modello da 2,8 trilioni di parametri
La dimensione dichiarata rende Kimi K3 il primo modello open nella classe dei 3 trilioni di parametri, secondo Moonshot AI.
Il dato comprende tutti i parametri del modello. Non coincide con quelli utilizzati durante ogni singola inferenza.
Kimi K3 utilizza infatti un'architettura Mixture-of-Experts (MoE) estremamente sparsa. Il modello contiene 896 experts, ma ne attiva effettivamente 16 per ogni token attraverso il framework Stable LatentMoE.
Questa configurazione riduce il costo computazionale rispetto a un modello dense delle stesse dimensioni. Non vuol dire però che Kimi K3 sia eseguibile su un laptop: per il deployment, Moonshot raccomanda configurazioni supernode con almeno 64 accelerators.
Secondo Moonshot, questa architettura e le nuove tecniche di training migliorano di circa 2,5 volte la scaling efficiency rispetto a Kimi K2. È una stima interna all'azienda, che dovrà essere verificata attraverso il technical report e benchmark indipendenti.
Kimi Delta Attention e Attention Residuals
Kimi K3 introduce due componenti architetturali principali: Kimi Delta Attention (KDA) e Attention Residuals (AttnRes).
KDA è una forma ibrida di linear attention pensata per rendere più efficiente la gestione di sequenze molto lunghe. La self-attention tradizionale deve confrontare molte coppie di token, facendo crescere memoria e costo insieme alla context window.
Un approccio linear attention cerca invece di comprimere parte dello storico in uno stato più compatto. KDA non sostituisce completamente la self-attention, ma combina strategie diverse per mantenere le capacità di rappresentazione e ridurre l'overhead sui contesti lunghi.
Attention Residuals agisce invece sul flusso delle rappresentazioni tra i diversi layer. Invece di accumulare sempre le informazioni dei layer precedenti, il modello può recuperare selettivamente rappresentazioni utili da profondità diverse.
Queste tecniche puntano a rendere più fluido il passaggio di informazioni in un modello molto profondo e con una context window da 1M token. I dettagli matematici completi saranno pubblicati insieme al technical report.
1 milione di token e native vision
Una context window da 1 milione di token permette a Kimi K3 di lavorare con repository software molto estesi, documenti lunghi, grandi raccolte di dati e sessioni agentic prolungate. Una context window così ampia, da sola, non garantisce però che il modello utilizzi ogni informazione in modo uniforme: la qualità può dipendere dalla posizione del contenuto, dalla struttura del prompt e dal meccanismo di retrieval interno.
Kimi K3 ha anche native vision e può ricevere immagini e video. L'API può analizzare screenshot, documenti visivi e sequenze video, rendendo il modello adatto a task che combinano computer vision, coding e visual reasoning.
È importante conoscere un limite dell'API: le immagini non possono essere passate tramite normali public URL. Bisogna usare dati codificati in base64 oppure file caricati sulla piattaforma, identificati da un riferimento ms://.
Coding e task agentic
Il caso d'uso su cui Moonshot punta maggiormente è il long-horizon coding. L'azienda sostiene che Kimi K3 possa portare avanti sessioni di lavoro prolungate, muoversi all'interno di codebase di grandi dimensioni e orchestrare terminal tools con poco intervento umano. È un tipo di utilizzo in cui la capacità di mantenere il contesto conta più della risposta a una singola domanda.
La componente visuale amplia questo scenario. Kimi K3 può usare screenshot e feedback visivi per migliorare interfacce frontend, videogame, workflow CAD e applicazioni interattive.
Tra i case study pubblicati da Moonshot AI ci sono MiniTriton, un compilatore simile a Triton costruito da zero, e un esperimento di chip design realizzato con tool EDA open source.
Un altro esempio riguarda la riproduzione delle universal relations I-Love-Q in computational astrophysics. Secondo l'azienda, Kimi K3 avrebbe analizzato oltre 20 paper, valutato più di 300 equations of state e prodotto oltre 3.000 righe di Python.
Sono risultati interessanti, ma vanno letti per quello che sono: case study prodotti dal team che sviluppa il modello. Non equivalgono ancora a una valutazione indipendente.
Benchmark: competitivo, ma non sempre al primo posto
I benchmark pubblicati da Moonshot AI mostrano risultati molto competitivi nei coding benchmark e nei task agentic. Kimi K3 non è primo in ogni prova, ma in diversi casi si avvicina o supera modelli proprietari di dimensioni comparabili.
| Benchmark | Kimi K3 | Confronto riportato |
|---|---|---|
| DeepSWE | 67,3 | Più basso di GPT-5.6 Sol e Fable 5 |
| Terminal-Bench 2.1 | 88,3 | Secondo, a breve distanza da GPT-5.6 Sol (88,8) |
| Program Bench | 77,8 | Primo, davanti a GPT-5.6 Sol (77,6) |
| AutomationBench | 30,8 | Primo, davanti a GPT-5.6 Sol (29,7) |
| BrowseComp | 91,2 | Primo, davanti a GPT-5.6 Sol (90,4) |
| SpreadsheetBench 2 | 34,8 | Appena sopra Fable 5 (34,7) |
I test sono stati eseguiti con reasoning_effort impostato al livello massimo.
Inoltre, ogni modello è stato valutato attraverso un harness specifico: tra quelli utilizzati compaiono KimiCode, Claude Code e Codex.
Moonshot segnala anche la presenza di fallback in alcune valutazioni di Fable 5 e di possibili cyber guard nei risultati di GPT-5.6 Sol. La tabella restituisce quindi il posizionamento dichiarato dall'azienda, ma non una comparazione perfettamente neutrale.
Thinking mode sempre attivo
Kimi K3 lavora sempre in thinking mode. Nell'API attuale si può impostare soltanto il livello massimo:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["MOONSHOT_API_KEY"],
base_url="https://api.moonshot.ai/v1",
)
completion = client.chat.completions.create(
model="kimi-k3",
reasoning_effort="max",
messages=[
{
"role": "user",
"content": "Spiega perché la radice quadrata di 2 è irrazionale."
}
],
)
print(completion.choices[0].message.content)
Il parametro thinking, utilizzato da alcune versioni di Kimi K2, non va usato con Kimi K3. Durante lo streaming, il contenuto di reasoning viene inviato separatamente nel campo reasoning_content, mentre la risposta finale arriva in content.
Nelle conversazioni multi-turn e quando si usano tool calls bisogna conservare l'intero assistant message restituito dal modello, non soltanto il campo content.
Tool use, JSON e caching
Con Kimi K3 si possono usare function calling, tool_choice e structured output con JSON Schema. È supportato anche il dynamic tool loading, che permette di rendere disponibili nuovi tools durante la conversazione inserendo le relative definizioni nei messaggi.
È disponibile anche un meccanismo di context caching automatico. Se il prefisso lungo di una conversazione rimane invariato, le richieste successive possono beneficiare di un cache hit senza dover gestire manualmente cache ID o TTL. È una funzione particolarmente utile per agenti che lavorano più volte sullo stesso repository o sulla stessa knowledge base.
Il limite massimo dichiarato per max_completion_tokens è di 1.048.576 token. Alcuni parametri, tra cui temperature, top_p, n e le penalties, restano invece fissati dal servizio e non possono essere personalizzati liberamente.
Prezzi e disponibilità
Le API di Kimi K3 seguono il formato dell'OpenAI SDK e utilizzano il model ID kimi-k3.
Il listino dichiarato da Moonshot AI è il seguente:
- $0,30 per milione di token di input con cache hit;
- $3,00 per milione di token di input con cache miss;
- $15,00 per milione di token di output.
L'output costa quindi molto più dell'input.
Per applicazioni agentic con risposte lunghe e reasoning esteso, tenere sotto controllo i token generati sarà fondamentale.
I limiti da considerare
Kimi K3 è stato addestrato per affrontare task complessi e di lunga durata, ma questa caratteristica può renderlo eccessivamente proattivo. Se incontra un'ambiguità, il modello potrebbe prendere decisioni non esplicitamente richieste.
Per limitarne l'iniziativa, Moonshot raccomanda di definire vincoli più dettagliati nel system prompt o in file come AGENTS.md. È inoltre sconsigliato cambiare modello nel mezzo di una sessione, perché Kimi K3 è sensibile alla presenza completa del thinking history.
La documentazione segnala infine che il web search integrato è in fase di aggiornamento e, nel breve periodo, non è consigliato per workflow di produzione.
Resta da verificare soprattutto la disponibilità dei weights. Kimi K3 è già accessibile via API e attraverso i prodotti Moonshot, ma il modello open-weight non è ancora stato rilasciato. La riproducibilità, i requisiti hardware e la compatibilità con framework come vLLM potranno essere valutati soltanto dopo la pubblicazione.