Dizionario AI › Fondamenti AI

Context caching (cache del contesto)

Context caching

Il context caching è una tecnica che memorizza l'elaborazione di una porzione di testo riutilizzata spesso, così il modello non deve rielaborarla da capo a ogni richiesta. Molte applicazioni inviano sempre lo stesso preambolo lungo: istruzioni di sistema, un manuale, un contesto fisso. Invece di far "leggere" da zero questo blocco ogni volta, il sistema ne conserva la versione già digerita e la riusa. È come un cuoco che prepara in anticipo un brodo base e lo tiene pronto: quando arriva un ordine, non ricomincia da zero ma parte da lì, risparmiando tempo. Solo la parte variabile della richiesta viene elaborata come nuova.

Definizione

Il context caching conta perché riduce sensibilmente costi e latenza nelle applicazioni che riutilizzano grandi contesti fissi. Le stesse istruzioni ripetute in migliaia di chiamate diventano molto più economiche e veloci, rendendo pratici assistenti e agenti che si appoggiano a documenti o prompt di sistema estesi.

Termini correlati

• Context Window
• Token
• Latenza (Latency)
• Inference
• Prompt

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.