Si lega a
è il punto di partenza che la miscela di esperti modifica; è la forma del blocco del Transformer dei pezzi precedenti
Da qui ci si arriva
- Quantizzazione
La compressione dei pesi da sedici bit a otto o quattro: il modello occupa meno memoria e arriva più in fretta, a scapito di un po' di precisione