Si lega a
riducono la cache di chiavi e valori; sono documentate nei rapporti di DeepSeek e Qwen; la via del motore da TurboQuant
Da qui ci si arriva
- Scheda del modello
Il documento che accompagna un modello: dichiara famiglia, taglia, parametri attivi, finestra di contesto, tokenizzatore e licenza - e a volte tace sull'architettura
- Cache di chiavi e valori
La memoria che il motore riempie durante la generazione con le chiavi e i valori già calcolati, per non ricalcolarli: possibile perché il passato è fisso; nell'addestramento non esiste