Tema

I concettitecnicaNel grafo

Contesto

Ciò che si consegna al modello a ogni richiesta. È una risorsa finita: si spende con giudizio, non si riempie

Si lega a

è costruito dall'harness; il suo limite determina cosa si riassume e cosa si scarta

Da qui ci si arriva

  1. Recupero

    La ricerca dentro una raccolta di documenti, per mettere nel contesto solo la parte che serve al passo in corso

  2. Contaminazione del contesto

    Un'informazione errata entrata nel contesto continua a influenzare ogni iterazione successiva

  3. Token

    L'unità discreta in cui il tokenizzatore codifica il testo: può essere una parola intera, una sottoparola, un carattere, un byte, punteggiatura o un simbolo speciale; è anche l'unità su cui si misura la spesa a consumo

Dove se ne parla

  1. Architettura di un agente AI: di cosa è fatto, e quando non serve