Cercare, non calcolare: come Engram sta riscrivendo l'architettura delle AI
Immaginate di chiedere a un modello linguistico avanzatissimo di completare la frase "Stati Uniti d'". Non serve un genio per capire che la risposta è "America", eppure dietro le quinte succede qualcosa di paradossale: il modello attiva miliardi di parametri, fa girare decine di layer di calcolo, consuma energia elettrica vera, per arrivare a un risultato che chiunque abbia letto un giornale conosce a memoria. È come chiedere a un professore di matematica di imparare da zero il teorema di Pitagora ogni volta che gli serve, invece di applicarlo come lo ricorda dalle scuole medie. Il paradosso dell'intelligenza artificiale moderna è tutto qui: eccellente nel 'ragionare' su problemi nuovi, sorprendentemente inefficiente nel recuperare fatti che ha già visto migliaia di volte durante l'addestramento.
Negli ultimi anni l'industria ha risposto a questo problema con i modelli Mixture-of-Experts, i cosiddetti MoE, che permettono di aumentare la capacità di un modello attivando solo una parte dei suoi parametri per ogni token, un po' come avere in azienda cento consulenti specializzati ma convocarne solo tre o quattro per ogni riunione. È un'ottima soluzione per gestire la potenza di calcolo, ma non risolve il problema di fondo: anche un modello MoE, quando deve completare "Stati Uniti d'", continua a 'pensare' la risposta invece di 'ricordarla'. Ed è esattamente qui che si inserisce la proposta di DeepSeek, pubblicata a gennaio 2026 e aggiornata a luglio dello stesso anno da un team guidato da Xin Cheng insieme a colleghi di DeepSeek-AI e della Peking University: un nuovo asse di specializzazione, la memoria condizionale, che affianca il calcolo condizionale dei MoE invece di sostituirlo.
Engram, la memoria che non si calcola ma si cerca
Il modulo si chiama Engram, un nome che richiama volutamente la traccia biologica della memoria teorizzata dai neuroscienziati un secolo fa, l'idea cioè che un ricordo lasci un'impronta fisica rintracciabile nel cervello. Nel paper, gli autori lo descrivono come un modulo che modernizza le classiche tecniche N-gram trasformandole in un sistema di ricerca a tempo costante, quello che in informatica si chiama O(1): il tempo per recuperare un'informazione resta lo stesso indipendentemente da quanto è grande la tabella in cui si cerca.
Come funziona in pratica, senza scomodare formule? Il modello guarda il token attuale e una manciata di quelli immediatamente precedenti, li combina attraverso una funzione di hashing che genera un indice univoco, e usa quell'indice per pescare direttamente da un'enorme tabella precompilata durante l'addestramento. Non sta più risolvendo un'equazione, sta consultando un indice analogico, un po' come quando in una vecchia biblioteca non si scorrono tutti gli scaffali ma si va dritti allo schedario che indica lo scaffale giusto. La differenza rispetto a un dizionario cartaceo è che qui l'"indice" non lo consulta un bibliotecario paziente, ma un algoritmo che lo fa in un tempo prevedibile e costantemente basso, qualunque sia la mole di dati archiviati.
I numeri parlano chiaro. Confrontando un modello Engram-27B con un modello MoE puro a parità di parametri e di calcolo (quello che i ricercatori chiamano un confronto iso-parametro e iso-FLOPs), Engram ottiene un miglioramento di 3.4 punti su MMLU, 5.0 punti su BBH e 3.0 punti su HumanEval, oltre a guadagni su CMMLU, MATH, GSM8K e DROP. Il dato più interessante, secondo il paper, non è nemmeno il recupero di conoscenza in sé, quanto il fatto che i miglioramenti più marcati si osservano nel ragionamento generale e nei compiti di codice e matematica: liberare la rete dal peso di dover ricostruire fatti statici sembra lasciarle più "spazio mentale" per ragionare su problemi complessi, un po' come uno studente che non deve calcolare ogni volta una moltiplicazione semplice ma attinge alle tabelline memorizzate e può finalmente concentrarsi sui problemi di geometria.
La legge a U: quanta memoria, quanto calcolo
La scoperta più sottile del paper, però, riguarda un problema che a prima vista sembra puramente contabile: dato un budget fisso di parametri, quanti destinarli a Engram e quanti al MoE tradizionale? I ricercatori hanno formulato quello che chiamano il problema della Sparsity Allocation, testando diverse combinazioni su modelli da pochi miliardi fino ai 27 miliardi di parametri.
Il risultato è una curva a forma di U. Usare solo MoE, senza alcuna memoria dedicata, produce prestazioni sotto la media. Ma anche l'estremo opposto, un modello quasi interamente basato su lookup di memoria e povero di capacità di calcolo, funziona peggio. Il punto ottimale si trova nel mezzo, e secondo gli esperimenti descritti nel repository ufficiale del progetto si aggira intorno al 20-25% dei parametri sparsi dedicati a Engram, con il restante 75-80% destinato al MoE. Ciò che rende questa scoperta particolarmente utile è la sua stabilità: il rapporto ottimale resta pressoché identico sia che si stia addestrando un modello da 5 miliardi di parametri sia uno da 27 miliardi, offrendo agli ingegneri una vera e propria ricetta di design piuttosto che un'intuizione da verificare caso per caso.
Non è un dettaglio da addetti ai lavori: è una bussola. E c'è chi l'ha già seguita alla lettera.
Qwen3.8-Flash-Next: quando la teoria diventa un modello scaricabile
A distinguere questa storia da tante altre proposte accademiche rimaste sulla carta è il fatto che, a distanza di pochi mesi, qualcuno l'ha effettivamente costruita su scala industriale. Il 26 agosto 2026 il team Qwen di Alibaba ha rilasciato Qwen3.8-Flash-Next, presentato ufficialmente come anteprima sperimentale dell'architettura che sarà alla base di Qwen4, tanto che nei file di configurazione del modello l'architettura è etichettata internamente come "qwen4_exp".
I numeri sono da capogiro anche solo a leggerli: un modello MoE multimodale da 125 miliardi di parametri totali, di cui solo 6 miliardi attivati per ogni token, con una finestra di contesto nativa di 262.144 token estendibile fino a un milione. La parte più sorprendente, però, è quella che qui ci interessa di più: accanto ai 125 miliardi di parametri principali, Qwen ha aggiunto un'ulteriore tabella di embedding N-gram da 51 miliardi di parametri, applicando quasi alla lettera la ricetta della legge a U descritta da DeepSeek. Una precisazione terminologica: Engram è il nome che DeepSeek ha dato al proprio modulo nel paper originale, mentre Qwen, pur ispirandosi a quell'idea, chiama la propria implementazione semplicemente "N-gram Embedding". Per questo nel resto dell'articolo "Engram" indica il modulo descritto da DeepSeek, "N-gram" la tabella integrata in Qwen3.8-Flash-Next. Al totale si somma anche un piccolo modulo da 4 miliardi di parametri dedicato alla decodifica speculativa, la tecnica che permette al modello di "indovinare" più token in anticipo per accelerare la generazione, un tassello meno appariscente dei 51 miliardi della tabella N-gram ma che nella pratica pesa parecchio sulle prestazioni finali.
E se una GPU consumer potesse far girare un modello che, su carta, richiederebbe un data center? È esattamente quello che promette questa architettura. La tabella N-gram da 51 miliardi di parametri non deve necessariamente vivere sulla GPU: può restare nella RAM di sistema, o persino su un disco NVMe, e venire caricata solo quando serve grazie a un meccanismo di prefetch asincrono. È come avere un magazzino enorme fuori città invece che nel negozio del centro, con un sistema di consegne talmente efficiente da farlo sembrare comunque a portata di mano. Non è teoria: le pull request già integrate in SGLang e le ricette ufficiali di vLLM dimostrano che l'offload su NVMe è già supportato dai framework di inferenza più diffusi, non un esperimento da laboratorio.
Sul fronte della compressione, la community open source si è mossa rapidissimamente: la tabella N-gram, che in formato BF16 occupa circa 95 gigabyte, può essere quantizzata fino a 28.8 gigabyte in formato NVFP4 o 32 gigabyte in INT4, rendendo possibile l'offload anche su sistemi con appena 64 gigabyte di RAM disponibile, come documentato in diversi checkpoint quantizzati pubblicati su Hugging Face. Tradotto in soldoni: quello che sulla carta sembra un modello da centro di calcolo può, con gli adattamenti giusti, girare su un PC potente da appassionato, non su un server da centomila euro.
La velocità della ricerca contro la lentezza del calcolo
Qui entra in gioco il secondo ingrediente dell'architettura, la Qwen Sparse Attention, che affronta un problema complementare: come gestire contesti lunghissimi senza far esplodere i tempi di calcolo. L'idea è raggruppare il contesto in micro-blocchi invece di analizzare ogni singolo token, un approccio che secondo i benchmark ufficiali di Alibaba accelera l'attenzione fino a 7.6 volte in fase di prefill e 4.9 volte in fase di decodifica su contesti da un milione di token, anche se vale la pena segnalare che fonti diverse, come i cookbook di SGLang e le ricette di vLLM, riportano cifre leggermente differenti (fino a 10.2x e 6.6x), a conferma che questi numeri vanno sempre letti come dichiarati dal produttore finché non arrivano misurazioni indipendenti.
L'architettura complessiva alterna, ogni quattro layer, tre passaggi di Gated DeltaNet, una tecnica che comprime la storia del contesto in uno stato di dimensione fissa, con un passaggio di attenzione sparsa per il recupero preciso su tutto il contesto, per un totale di 48 layer organizzati in blocchi da 12. A completare il quadro c'è il Gated Residual, un meccanismo che apre quattro "corsie" parallele nel flusso residuo della rete invece di una sola, riducendo i colli di bottiglia durante l'addestramento un po' come un'autostrada a più corsie evita gli ingorghi rispetto a una strada di campagna a doppio senso.
Il risultato pratico di tutta questa ingegneria? Secondo quanto riportato dal blog tecnico di NVIDIA, su hardware DGX il modello raggiunge throughput superiori ai 16.000 token al secondo per GPU in scenari agentici ad alta concorrenza, mentre le versioni quantizzate rese disponibili dalla community permettono a Qwen3.8-Flash-Next di girare offload su sistemi con una singola GPU consumer, come una RTX 4090 da 24 gigabyte di memoria video, purché affiancata da un centinaio di gigabyte di RAM di sistema per ospitare la tabella N-gram. Non serve un supercomputer per guardare da vicino questa tecnologia, basta un buon PC da gaming e un po' di pazienza nella configurazione.
Perché conviene aspettarsi di più da modelli "più piccoli"
Il confronto che più colpisce, secondo quanto dichiarato dal team Qwen su GitHub, è quello con il predecessore Qwen3.7-Plus, un modello da 397 miliardi di parametri: Qwen3.8-Flash-Next raggiunge prestazioni comparabili o superiori pur essendo stato addestrato con circa un nono della spesa computazionale, con miglioramenti particolarmente marcati proprio nei compiti di programmazione e negli scenari di produttività d'ufficio. È un segnale che merita di essere preso sul serio: per anni l'industria ha inseguito la logica del "più grande è meglio", accumulando parametri come se fossero l'unica leva disponibile per migliorare un modello. Questa storia suggerisce che l'efficienza architetturale può competere, e a volte vincere, contro la pura forza bruta della scala.
Non tutto, però, è oro colato. Vale la pena chiedersi: chi ci guadagna davvero, e chi rischia di perderci? Le aziende che oggi vendono capacità di calcolo su scala, i grandi provider cloud abituati a fatturare in base ai giga-watt consumati dai training run, vedono in architetture come questa una minaccia diretta al proprio modello di business, perché un training nove volte più economico significa anche nove volte meno margine sulle vendite di potenza di calcolo. Al contrario, chi sviluppa applicazioni con budget limitati, dagli sviluppatori indipendenti alle startup che oggi non possono permettersi un cluster di GPU professionali, guadagna un accesso concreto a capacità prima riservate a pochissimi attori. C'è poi un tema meno discusso ma rilevante: le tabelle di memoria di questa dimensione, cinquantuno miliardi di parametri fissati dall'addestramento, sollevano interrogativi sulla loro aggiornabilità. Se un fatto cambia, come si aggiorna la memoria del modello senza ripetere l'intero addestramento? È una domanda aperta che il paper di DeepSeek accenna solo superficialmente, indicando la memoria dinamica aggiornabile in tempo reale come una delle direzioni di ricerca future più promettenti.
Il futuro degli agenti passa da qui
C'è un ultimo pezzo del puzzle che rende questa architettura più di un semplice esercizio accademico: l'ascesa degli agenti AI, sistemi capaci di gestire contesti lunghissimi, richiamare strumenti esterni e portare avanti compiti complessi in autonomia. Per un agente che deve tenere traccia di centinaia di migliaia di token di conversazione, documentazione tecnica e output di strumenti, avere una memoria veloce e a basso costo computazionale non è un lusso, è una necessità strutturale. Non stupisce che Qwen elenchi già il supporto nativo con Claude Code, Codex e altri ambienti di sviluppo agentici tra i punti di forza del rilascio.
Chi ha familiarità con la fantascienza più di nicchia riconoscerà in questa idea un'eco lontana di quanto raccontato in Ghost in the Shell: Stand Alone Complex, dove la memoria non è un blocco monolitico ma un tessuto distribuito che si aggiorna e si consulta senza mai fermare il flusso del pensiero cosciente. E chi invece mastica sviluppo software potrebbe pensare a un pattern molto più terra terra ma altrettanto centrale: la cache. Engram, in fondo, è concettualmente una gigantesca cache di conoscenza linguistica, costruita non per essere invalidata a runtime ma per essere interrogata a costo (quasi) zero.
Che DeepSeek e Qwen abbiano scelto di condividere apertamente sia la ricerca teorica sia i pesi del modello, invece di tenerla chiusa dentro un prodotto proprietario, accelera inevitabilmente l'adozione di queste tecniche da parte di tutta la comunità open source, dai piccoli laboratori universitari fino agli sviluppatori indie che oggi possono scaricare, studiare e modificare direttamente il codice su GitHub. Resta da vedere se questa strada, quella della memoria che non calcola ma cerca, diventerà lo standard per la prossima generazione di modelli o se rimarrà una delle tante intuizioni brillanti destinate a essere superate dalla prossima idea. Per ora, però, la promessa è concreta e verificabile: un'intelligenza artificiale che smette di reinventare la ruota ogni volta che le si chiede "Stati Uniti d'", e finalmente ha spazio per 'pensare' a qualcosa di più interessante.