Open weight, token efficiency, contesti lunghi, sciami di agenti. Dove sta andando la scala dei modelli, letta a partire dal talk di un ricercatore di Moonshot AI.
Su internet ci sono, a essere generosi, cinquantamila miliardi di token di testo buono. Non molti di più. Il resto è rumore, duplicati, spam, la stessa notizia ricopiata da trecento siti.
Per anni, per costruire un modello linguistico più bravo bastava una ricetta semplice come una legge fisica: dagli più testo da leggere, fallo più grosso, mettici sotto più potenza di calcolo. Funzionava, e il modo per accorgersene ha un nome tecnico e un significato banale. Durante l’addestramento il modello legge una frase, prova a indovinare la parola successiva, e poi gli viene mostrata quella giusta. La distanza tra la sua previsione e la parola vera è l’errore, e quell’errore in gergo si chiama loss, la perdita. Più il modello impara, più la perdita scende. Tutti i grafici che vedrete qui sotto hanno la perdita sull’asse verticale, e puntano tutti nella stessa direzione, verso il basso.
Poi è saltata fuori una cosa scomoda. I token buoni sono un giacimento, e i giacimenti si esauriscono.
Se i dati buoni finiscono, resta una sola strada: cavare più intelligenza dagli stessi token. Si chiama token efficiency, e nei prossimi anni la sentirete nominare parecchio.
Parto da un talk di un ricercatore di Moonshot AI, il laboratorio dietro Kimi, l’assistente in stile ChatGPT molto usato in Cina, perché mette in fila tre modi diversi di spingere un modello oltre il limite dei dati. Mani avanti d’obbligo: quando un laboratorio parla del proprio lavoro sta facendo marketing tecnico, per quanto ben fatto. Nessuno sale su un palco per dire che i suoi grafici sono venuti abbastanza bene.
Cos’è Moonshot AI, e perché conviene saperlo
Moonshot AI è una startup cinese fondata nel 2023 da Yang Zhilin, che viene dalla ricerca sul linguaggio naturale tra Tsinghua e Carnegie Mellon. Nella primavera del 2026 ha raccolto circa due miliardi di dollari a una valutazione intorno ai venti, con dietro Alibaba, Tencent e Meituan (TechCrunch). Kimi è la loro linea di modelli open weight. Tieni a mente quei numeri. Quando un’azienda da venti miliardi racconta quanto è brava non sta mentendo: ti mostra i suoi esperimenti, con le sue metriche, inquadrandoli e infiocchettandoli al meglio. Il mestiere di chi legge queste cose è separare il progresso dalla vetrina.
Open weight non significa open source
Un modello addestrato è due cose. Da un lato l’architettura, cioè lo schema di come i pezzi sono collegati fra loro, che è pubblica e la trovi nei paper. Dall’altro i pesi: miliardi di numeri, uno per ogni collegamento, che dicono quanto quel collegamento conta. I pesi sono tutto ciò che il modello ha imparato leggendo, e sono la stessa cosa che poco fa ho chiamato parametri. Se te li danno da scaricare, il modello lo metti dove vuoi, sul tuo server o sul cloud, e non dipendi più dal servizio di nessuno. [Sì, lo so, per farlo girare servono schiere di GPU. Passami la semplificazione.] Kimi è uno di questi.
Qui però serve la precisazione che il marketing salta volentieri. Open weight non è open source. Ti danno i pesi, spesso con licenza permissiva. Non ti danno i dati di addestramento, non la pipeline, non la ricetta che li ha prodotti. Puoi usarlo e metterci le mani, replicarlo da zero no. La distinzione è tutt’altro che accademica, ne ho scritto qui. Chiamare “open source” questi modelli è impreciso, e spesso interessato.
Che cosa sono i pesi di un LLM
Un modello linguistico è una rete di neuroni collegati. Su ogni collegamento c’è un numero, il peso: dice quanto quell’ingresso conta. I pesi sono ciò che il modello impara durante l’addestramento, e sono tutto ciò che scarichi quando scarichi un modello open weight.
Ogni wᵢ è un peso: moltiplica il suo ingresso xᵢ. Il neurone somma tutto e decide quanto accendersi. Nient’altro. La magia è solo nella scelta dei numeri.
Un layer di pesi è una griglia di numeri. Un LLM ne impila a centinaia: miliardi di pesi.
Data la frase “Il gatto è salito sul …”, la rete stima la parola successiva. Sono i pesi a decidere: rigenerali e guarda la previsione cambiare.
C’è poi un secondo livello, geopolitico. Se regali i pesi dei tuoi modelli, il modello smette di essere un prodotto che si vende e diventa un ingrediente gratuito, come il cemento. Il valore si sposta su quello che ci costruisci sopra: gli strumenti, il cloud, i chip, l’ecosistema di chi lavora con la tua roba. Per la Cina è una mossa sensata, perché sui chip è indietro e i controlli americani sull’export la tengono lì, mentre sul software può ancora giocare alla pari (Stanford HAI, CSIS). L’accessibilità è reale e per certi versi preziosa. Le motivazioni sono meno romantiche di come vengono raccontate.
Con questo in testa: il divario tecnico con i modelli proprietari si è assottigliato parecchio, e colmarlo ha richiesto di ripensare tre cose. L’algoritmo che addestra, il modo in cui il modello guarda il contesto, e perfino cosa intendiamo per “modello”.
Primo: spremere più intelligenza da ogni token
Torniamo al giacimento. Hai i tuoi cinquantamila miliardi di token, e trovi un modo di addestrare che, con quegli stessi token, arriva a metà della perdita di prima. È come se il giacimento, di colpo, fosse il doppio: stessi dati, più intelligenza cavata fuori.
Ecco perché la token efficiency non è solo una faccenda di bolletta energetica, che pure conta, visto che questa storia consuma come le mining farm delle cripto. Quando i dati buoni sono una quantità fissa, l’unica leva rimasta è cavarne di più.
La legge di scaling: con un ottimizzatore più efficiente la curva si sposta a sinistra e raggiunge la stessa perdita con meno token. Rielaborazione originale a scopo illustrativo, ispirata ai grafici del talk.
Quanto vale un token, e quanto costa
Come si conta un token.
Un modello non legge lettere né parole intere, ma token, cioè frammenti di pochi caratteri in cui un programma chiamato tokenizzatore spezza il testo, tenendo insieme i pezzi che ricorrono spesso. In inglese un token vale in media quattro caratteri circa, tre parole ogni quattro token. L’italiano, con parole più lunghe e piene di desinenze, ne consuma di più.
La finestra di contesto è quanti token il modello tiene in testa in una volta, domanda e risposta insieme: oggi si va dai 200 mila token a oltre un milione, cioè dal singolo libro alla piccola biblioteca. E si paga a token, quindi riempire una finestra da un milione per una sola domanda vuol dire pagare quel milione ogni volta. Ecco perché la token efficiency non è filosofia da convegno. È la voce di costo che decide se un prodotto sta in piedi.
Quanto costano i token (dollari per milione, input / output).
| Modello | Input (1M token) | Output (1M token) |
|---|---|---|
| OpenAI GPT-5.5 | 2,50 $ | 15 $ |
| Claude Opus 4.8 | 5 $ | 25 $ |
| Claude Sonnet 5 | 2 $ | 10 $ |
| Google Gemini 3.1 Pro | 2 $ | 12 $ |
Prezzi delle API al 17 luglio 2026, tariffe standard; le modalità batch e il caching costano meno. L’output costa sempre molto più dell’input.
Muon, l’ottimizzatore preso in prestito
C’è una cosa che il talk, per ovvie ragioni, non mette in primo piano: lo strumento non è di Moonshot. Si chiama Muon, e lo ha proposto nel dicembre 2024 Keller Jordan, ricercatore indipendente, in un singolo post sul suo blog (kellerjordan.github.io).
Facciamo un passo indietro. Addestrare vuol dire ritoccare i pesi, uno per uno, miliardi di volte. A ogni passo il modello sbaglia una previsione, e dall’errore si ricava per ciascun peso un numero che dice in che verso e di quanto conviene spostarlo: il gradiente. Chi decide come tradurre quei gradienti in una correzione vera si chiama ottimizzatore, ed è la parte di cui nessuno parla mai, anche se è quella che governa tutto l’addestramento.
Da oltre dieci anni quasi tutte le reti neurali usano Adam, scritto nel 2014 da Diederik Kingma e Jimmy Ba. Il nome sta per Adaptive Moment Estimation: dosa la correzione peso per peso, guardando la media dei gradienti passati e quanto hanno ballato. Un peso che riceve spinte concordi viene mosso di più, uno che riceve spinte contraddittorie viene mosso con prudenza.
Muon prende un’altra strada, e la dichiara nel nome, MomentUm Orthogonalized by Newton-Schulz. Adam guarda i pesi uno per uno, come se ognuno vivesse per conto suo, mentre i pesi di uno strato sono organizzati in una matrice e si influenzano a vicenda. Succede allora che la correzione spinga in più direzioni che si sovrappongono, e una parte del lavoro venga fatta due volte. Muon prende la matrice di correzione e la rende ortogonale, cioè le rimette le direzioni tutte perpendicolari fra loro, così che ogni componente porti informazione sua e nessuna pesti i piedi alle altre. Renderla ortogonale per via esatta costerebbe troppo, e allora si usa un’approssimazione veloce a forza di moltiplicazioni, l’iterazione di Newton-Schulz.
Parti da X0 = M / ‖M‖F e ripeti cinque volte. Solo moltiplicazioni fra matrici.
Una matrice fa due cose: gira e allunga. Ortogonalizzare vuol dire tenere le rotazioni e buttare gli allungamenti. Quel polinomio lascia le direzioni ferme e lavora solo sui fattori di allungamento, spingendoli tutti verso 1. Cinque giri e ci sei. Jordan usa coefficienti che sbagliano del 30% di proposito: nel risultato non si vede, e i giri costano.
Il merito di Moonshot
Il merito di Moonshot, che è un merito ingegneristico vero, non sta nell’aver inventato Muon. Sta nell’averlo fatto reggere su un modello da mille miliardi di parametri. È il passaggio dove muore quasi tutto: un’idea che sui modelli piccoli, quelli su cui si fanno le prove in laboratorio, funziona benissimo, sui modelli grossi diventa instabile o troppo lenta, e nessuno la usa più.
Sono serviti tre accorgimenti, e vale la pena guardarli perché raccontano bene cosa vuol dire “farlo reggere alla scala”.
Il primo riguarda il weight decay, il freno che a ogni passo tira i pesi un po’ verso lo zero e impedisce che crescano senza limite. Quanto stringere quel freno è una manopola che si regola a occhio, e il valore buono per un modello piccolo, su uno da mille miliardi di parametri, era sbagliato: troppo lasco, i pesi scappavano. L’hanno ritarato.
Il secondo è più sottile. Dieci anni di Adam hanno lasciato in eredità un patrimonio di ricette pratiche: quanto imparare in fretta, come scaldare l’addestramento all’inizio, come rallentarlo alla fine. Sono tarate tutte sull’ampiezza dei passi che fa Adam. Muon fa passi di un’ampiezza sua, e usandolo nudo quelle ricette vanno tutte buttate. Hanno aggiunto un fattore di scala che riporta i passi di Muon alla misura di quelli di Adam: cambi ottimizzatore e tieni tutto il resto com’è.
Il terzo è di pura fatica. La matrice da ortogonalizzare, a quelle dimensioni, in una GPU sola non ci sta, e ogni singolo passo di addestramento ne richiede una. Hanno scritto un’implementazione che la spezza fra tante schede e le fa lavorare insieme senza che il tempo di parlarsi si mangi il vantaggio. Il raddoppio di efficienza resta un numero loro, misurato sui loro esperimenti. La conferma arriva quando lo replicano altri, e fuori da Moonshot Muon ci sta già arrivando.
L’imprevisto: i logit che esplodono
Poi, con la scala, i conti hanno cominciato a non tornare [a quelle dimensioni succede quasi sempre]. A impazzire era l’attenzione, il meccanismo con cui il modello decide, parola per parola, a quali altre parole del testo dare peso: è quello che gli permette di capire che in “il gatto che avevo visto ieri dormiva”, a dormire è il gatto e non ieri.
Il conto funziona così. Per ogni parola il modello calcola due vettori. Uno dice cosa quella parola sta cercando nel resto del testo, e si chiama query, l’interrogazione. L’altro dice cosa quella parola offre a chi la cerca, e si chiama key, la chiave. Moltiplichi l’interrogazione di una parola per la chiave di un’altra e ottieni un numero, il logit: quanto la prima deve dare peso alla seconda. Di norma il logit più alto di ogni strato sta intorno a cinquanta. Nel modello da mille miliardi di parametri schizzava oltre mille, e la perdita, invece di scendere, tornava a salire. Con numeri così grandi l’attenzione si incaponisce su una parola sola e ignora tutte le altre, e da lì l’addestramento va in pezzi allucinando.
Va aggiunta una cosa: il modello non calcola l’attenzione una volta sola. Ogni strato la calcola in parallelo su più canali indipendenti, chiamati teste, e ogni testa impara a guardare qualcosa di diverso. Una segue i legami grammaticali, una tiene il filo del discorso, una si concentra sui nomi propri. Fanno lo stesso conto, ognuna per conto proprio. Ad impazzire allucinando non erano tutte le teste, ma solo alcune, un po’ come succede una volta su cinque quando faccio la maionese.
La soluzione ha un nome quasi onomatopeico, QK Clip, e ci dice che interviene sulla Query e sulla Key, le due grandezze da cui il logit nasce. Testa per testa, il meccanismo guarda il logit più alto che si è prodotto; se ha superato la soglia, rimpicciolisce di quel tanto che serve le interrogazioni e le chiavi di quella testa, e lo riporta sotto. Nient’altro. Un freno, un limitatore, come quello che sui vecchi mixer taglia i picchi prima che il segnale distorca.
La cosa notevole è che il freno non frena. Uno si aspetterebbe che mettere le mani sui numeri a metà addestramento faccia imparare più lentamente o peggiori il modello finale ma nei grafici presentati la curva della perdita con QK Clip e quella senza si sovrappongono: stessa velocità, stessa qualità, senza i picchi che mandavano tutto all’aria. Muon che rende efficiente l’addestramento, più QK Clip che lo tiene stabile, fanno MuonClip, ed è con quello che hanno addestrato K2 (report tecnico), Che dire? Bravi davvero.
E poi Adam è del 2014 e che sia ora di un rimpiazzo lo pensano in molti, me compreso.
Secondo: una memoria che sa cosa dimenticare
La seconda dimensione è la lunghezza del contesto, cioè quanto testo il modello riesce a “ricordare” tutto insieme mentre lavora.
C’è un grafico vecchio e istruttivo che mette a confronto due architetture. Da una parte le LSTM (Long Short-Term Memory), le reti neurali ricorrenti che si usavano prima del 2017: leggono una parola alla volta e si portano dietro un riassunto di quello che hanno letto fin lì, come chi ascolta una storia e ne tiene a mente il succo. Dall’altra i transformer, l’architettura di tutti i modelli di frontiera attuali. Niente riassunto: il testo resta tutto a disposizione, e per decidere la parola successiva il modello lo ripercorre da capo, pesando ogni parola letta fino a quel punto in base a quanto gli serve per quella che sta scrivendo..
Il grafico misura quanto il modello sbaglia sulla parola numero mille, sulla duemila, sulla cinquemila. I transformer partono già più bassi, e continuano a scendere man mano che il contesto si allunga: più testo hanno visto, meglio indovinano. Le LSTM dopo un po’ si appiattiscono. Il riassunto che si portano dietro ha una capienza fissa, e quando è pieno, quello che entra scaccia quello che c’era. Dieci anni fa con le LSTM traducevi qualche frase. Non ci scrivevi un agente che legge un’intera base di codice o macina un compito per giorni. E nell’era degli agenti i compiti si allungano.
Più il contesto si allunga, più il transformer migliora; la vecchia rete ricorrente si ferma presto. Rielaborazione originale a scopo illustrativo, ispirata ai grafici del talk.
Kimi Linear e la Kimi Delta Attention
I transformer però hanno un difetto che si paga in bolletta. Se ogni parola guarda tutte le altre, con mille parole fai un milione di confronti, con un milione di parole ne fai mille miliardi: il costo cresce con il quadrato della lunghezza. Ecco perché le finestre grandi costano tanto.
Da qui l’idea dell’attenzione lineare: invece di far guardare ogni parola a tutte le altre, tieni una memoria di dimensione fissa che si aggiorna a ogni parola, e il costo cresce dritto invece che al quadrato. Il che, se ci pensi, è tornare all’idea della LSTM, con tutto il suo problema: memoria fissa, quindi prima o poi qualcosa va buttato.
La proposta di Moonshot si chiama Kimi Linear, e ha un pregio che i grafici da soli non hanno: è descritta in un paper pubblico, sottoponibile a critica (arXiv). Dentro c’è una variante di attenzione lineare, la Kimi Delta Attention, e l’idea, ripulita dalla matematica, è quasi umana.
Nelle attenzioni lineari classiche la memoria sbiadisce tutta insieme, con una sola manopola: la giri da una parte e ti ricordi quasi tutto, compresa la robaccia; la giri dall’altra e dimentichi quasi tutto, comprese le cose che servivano. Vie di mezzo non ce ne sono. Qui la manopola non è più una sola. Quella memoria è fatta di tante caselle, e ognuna ha la sua: alcune tengono per pagine e pagine, il nome del protagonista, di cosa si sta parlando; altre svuotano quasi subito, l’ultima virgola, l’articolo di due parole fa. È la differenza tra un magazziniere che a fine giornata butta via tutto e uno che sa cosa tenere.
Dimenticare in modo selettivo rende il modello più preciso senza appesantirlo. E siccome una memoria che si aggiorna parola per parola sarebbe una catena da sbrogliare in fila, con le GPU ferme ad aspettare, hanno riscritto i conti a blocchi di parole, in modo che le schede lavorino tutte insieme. Senza approssimare: il risultato è identico, cambia solo l’ordine in cui viene calcolato.
Il claim forte, che Kimi Linear batta l’attenzione piena sui contesti corti, sugli input lunghi e sugli output lunghi, resta un risultato misurato da loro. Plausibile, elegante, da verificare. Le attenzioni lineari promettono da anni di mandare in pensione quella piena, e finora hanno quasi sempre pagato dazio da qualche parte: vanno bene sui test e poi perdono il filo proprio quando il contesto conta. Se stavolta il dazio non c’è, lo diranno gli usi veri, non le slide.
Terzo: moltiplicare gli agenti
La terza dimensione cambia l’unità di misura. Finora ho parlato di un modello. E se invece di uno ne mettessimo al lavoro cento?
Un agente è un modello a cui hai dato degli strumenti, un obiettivo e il permesso di andare avanti da solo: cerca, legge, scrive un file, controlla se ha funzionato, riprova. Lo sciame, che loro chiamano agent swarm, mette un agente a fare il capo: prende un compito grosso, lo spezza, ne apre dieci come lui, dà a ciascuno un pezzo, aspetta, rimette insieme i risultati e, se non bastano, ricomincia. È lo schema di un’azienda. Qualcuno scompone il lavoro, ruoli diversi lo eseguono, qualcuno riassembla. E siccome i dieci lavorano nello stesso momento invece che in fila, sui compiti grossi il tempo crolla.
Al crescere della complessità il singolo agente in serie esplode, lo sciame in parallelo resta piatto. Rielaborazione originale a scopo illustrativo, ispirata ai grafici del talk.
“Sciame” è una parola seducente, e qui il senso critico serve più che altrove. La parte solida è far lavorare più agenti in parallelo, che funziona e non l’ha inventata nessuno di preciso. La parte su cui vale la pena essere diffidenti è come hanno insegnato all’orchestratore a fare il “capo”.
Lo hanno addestrato a premi, come si fa con questi sistemi: gli fai provare un compito mille volte, gli dai un punteggio, e lui si sposta verso quello che fa punteggio. I premi sono tre. Uno per aprire sotto-agenti, altrimenti il modello ripiega pigramente sul fare tutto da solo, che è la cosa che ha già imparato a fare. Uno per i sotto-compiti che arrivano davvero a un risultato usabile, altrimenti scopre la scorciatoia di aprirne quindici, incassare il primo premio e lasciarli tutti a metà [imparano a imbrogliare come gli umani]. E uno sul risultato finale, che poi è l’unica cosa che interessa.
Design ragionevole. Però i punteggi se li sono dati loro, su compiti scelti da loro. Che uno sciame di cento agenti produca valore, e non solo bollette di token più salate, resta da dimostrare.
Immagini e testo, cresciuti insieme
Tutto questo confluisce in Kimi K2.5, presentato circa un mese prima del talk. Il punto sta nel metodo.
Di solito un modello che vede le immagini si fa in due tempi: prima lo addestri a leggere, per mesi, poi gli attacchi sopra un pezzo che guarda le figure e glielo fai digerire. La vista arriva come un innesto su un cervello già formato. Loro invece hanno dato testo e immagini insieme dal primo giorno, cosa che si chiama early fusion. Sostengono che le due cose si tirino a vicenda, che vedere una foto di un cane aiuti a capire la parola cane e viceversa, al punto che alla fine non è servita la fase di rifinitura sulle immagini che di solito è obbligatoria. E mostrano una curva di addestramento lunga e liscia, senza picchi. Se regge, è un bel risultato.
Il ritmo però è la miglior cura contro l’entusiasmo. K2.5 è già vecchio: a metà 2026 esistono versioni successive e modelli più grandi, dello stesso laboratorio e dei concorrenti. Quelle curve bellissime durano quanto un primato che verrà battuto il mese dopo. Servono a dire “ci siamo anche noi”, non a vincere una gara che non ha traguardo.
L’ultima idea è vecchia di dieci anni
L’ultima proposta il ricercatore la dà per anticipazione, roba non ancora pubblicata, e va a toccare il pezzo di architettura più intoccabile che ci sia. Si chiama Attention Residual.
Una rete profonda è fatta di strati impilati: l’informazione entra in basso, sale, e ogni strato lavora sul risultato di quello sotto. L’addestramento va nel verso opposto. L’errore si misura in cima, sull’ultima previsione, e da lì la correzione scende, strato per strato, distribuendo a ciascuno i gradienti di cui parlavo prima, cioè quanto e in che verso spostare ogni peso.
Prima del 2015 quella discesa era il problema. A ogni strato attraversato la correzione veniva rimaneggiata e si assottigliava, e dopo venti strati in fondo non arrivava quasi più niente: gli strati bassi restavano fermi, e impilarne tanti non serviva a nulla. Kaiming He e colleghi hanno risolto con una mossa quasi banale, la connessione residua: ogni strato, oltre a fare il suo lavoro, lascia passare intatto quello che ha ricevuto e ci somma sopra la sua modifica. Una somma, scendendo, si attraversa senza perdite: la correzione trova una strada che la porta fino in fondo integra. Da lì in poi le reti hanno potuto avere cento strati invece di venti, e quella connessione sta ancora dentro ogni modello che usi oggi.
Ilya Sutskever, che di questa roba ha scritto le fondamenta prima di uscire da OpenAI per fondare la sua Safe Superintelligence, l’ha messa così. Una LSTM tiene uno stato e lo aggiorna passando da una parola alla successiva, cioè nel tempo. La connessione residua tiene uno stato e lo aggiorna passando da uno strato al successivo, cioè in profondità. Stessa struttura, asse diverso: la connessione residua è una LSTM girata di novanta gradi.
E qui viene il bello. Nel tempo la LSTM l’abbiamo mandata in pensione nel 2017, proprio perché l’attenzione fa di meglio: invece di portarsi dietro un riassunto guarda tutto quanto. In profondità, invece, stiamo ancora usando una LSTM. Da dieci anni, dentro ogni modello, senza essercene accorti. Perché non provare l’attenzione anche lì?
Applicando l’attenzione alla profondità della rete, la perdita di validazione scende a parità di dati: un 24% di token efficiency in più, nei loro esperimenti. Rielaborazione originale a scopo illustrativo, ispirata ai grafici del talk.
Detto e fatto: ogni strato, invece di prendere solo il risultato di quello appena sotto, guarda con l’attenzione tutti gli strati che vengono prima e sceglie da quali attingere. Tenerli tutti a disposizione costerebbe troppa memoria, e allora gli strati vengono raggruppati a blocchi.
Il risultato che riportano è un 24% di token efficiency in più: a parità di dati letti, il modello sbaglia di meno. Anche questo, come tutto il resto, è un numero misurato in casa. L’idea però è buona a prescindere dal numero, perché non è uscita da una manopola girata a caso: è uscita da un’osservazione su come sono fatte le reti. Le idee così restano anche quando i numeri si sgonfiano.
Perché adesso, e non dieci anni fa
Il filo che tiene insieme Muon, Kimi Linear e Attention Residual conta più dei tre risultati presi uno per uno, ed è anche la parte meno di parte. Sono tutte revisioni di idee datate: l’ottimizzatore di Kingma e Ba, la LSTM, la connessione residua di He. Roba su cui, fino a ieri, praticamente non si metteva più mano.
Dieci anni fa la ricerca funzionava diversamente. Pubblicavi un’idea, la difendevi a parole e con qualche esperimento su un modello piccolo, e lì finiva: provarla sul serio costava troppo e le GPU non ce le aveva nessuno. Oggi un laboratorio addestra lo stesso modello a cinque dimensioni diverse, guarda come si comporta la curva quando cresce, e sa dire se l’idea regge o se è una fortuna del caso specifico. Poi la passa su interi panieri di prove standard e vede se ha rotto qualcos’altro. Le opinioni contano meno perché si può misurare, e quando puoi misurare puoi permetterti di toccare le fondamenta. Questo, più della singola trovata, è quello che è cambiato. E non è il vantaggio di un laboratorio solo: è il clima in cui lavorano tutti.
Chi paga la torta
Una cosa buona però c’è, ed è che i pesi li puoi scaricare. Chi non ha un data center, con Kimi ci lavora lo stesso.
Il resto lo prenderei con le pinze. “Open” copre i pesi, e finisce lì. L’ottimizzatore che regge tutto l’ha scritto un ricercatore indipendente in un post sul blog, gratis, e ci hanno costruito sopra un modello da mille miliardi di parametri di cui non sapremo mai come è stato fatto. Nessuno ha rubato niente, per carità. Però l’apertura va in una direzione sola.
Insomma i numeri, le curve lisce, il raddoppio di efficienza, il 24%, li ha misurati Moonshot, sui propri esperimenti, e finché non li rifà qualcun altro sono solo una bella promessa.
Resta il conto. Addestrare un modello da mille miliardi di parametri costa centinaia di milioni, e chi poi lo regala non lo fa per generosità. Il modus operandi per rientrare è ormai noto: regali il modello, la gente ci costruisce sopra i propri prodotti, e quando è il momento di far girare quella roba in produzione la fa girare sul tuo cloud, con i tuoi strumenti. Il modello è l’esca. Per Moonshot funzionerà? Non lo so. Ma quando qualcuno ti regala una torta, la domanda su chi l’ha pagata resta.
Open weight o open source? La torta e la ricetta
Due parole che sembrano sinonimi e non lo sono. La metafora più semplice: un modello open weight è una torta già pronta; un modello open source è la ricetta completa.
- La puoi servire: usare il modello dove vuoi
- La puoi decorare: fine-tuning sui tuoi dati
- La puoi regalare: ridistribuire, secondo licenza
- Non conosci gli ingredienti: i dati di addestramento
- Non hai la ricetta: codice e procedura completi
- Non la rifai identica da zero
- Hai gli ingredienti: i dati di addestramento
- Hai dosi e procedimento: codice e pipeline
- La rifai da zero e la modifichi alla radice
- La verifichi: cosa c’è dentro, quali bias
- La ridistribuisci davvero libera
- Non dipendi da chi te l’ha data
| Cosa vuoi fare | Open weight | Open source |
|---|---|---|
| Usarlo e integrarlo nel tuo prodotto | sì | sì |
| Adattarlo (fine-tuning) | sì | sì |
| Ridistribuirlo | dipende dalla licenza | sì |
| Vedere i dati di addestramento | no | sì |
| Riprodurlo da zero | no | sì |
| Auditarlo a fondo (bias, sicurezza) | no | sì |
Attenzione: “open source” viene usato spesso a sproposito per modelli che, in realtà, sono soltanto open weight.
Fonti
- Talk pubblico di un ricercatore di Moonshot AI (team Kimi) su token efficiency, Kimi Linear, agent swarm, Kimi K2.5 e Attention Residual.
- Report tecnico di Kimi K2 e paper Kimi Linear.
- Il post originale sull’ottimizzatore Muon di Keller Jordan.
- Finanziamento e valutazione di Moonshot AI (TechCrunch).
- L’ecosistema open weight cinese secondo Stanford HAI e CSIS.
- Sulla differenza di fondo, open weight non è open source.
- Prezzi dei token al 17 luglio 2026 dalle pagine ufficiali di OpenAI, Anthropic e Google Gemini.




