Dizionario AI › Fondamenti AI

Caching

Il caching è la tecnica di conservare una copia di dati o risultati già calcolati in una memoria rapida, per riutilizzarli invece di ricalcolarli o riscaricarli. È uno dei principi più universali dell'informatica: quasi ogni sistema, dal processore al browser, contiene almeno una cache. L'idea di fondo è semplice: ciò che è stato richiesto una volta verrà probabilmente richiesto di nuovo.

Definizione

Come funziona

Quando arriva una richiesta, il sistema controlla prima la cache: se il dato è presente (cache hit) lo restituisce subito, se manca (cache miss) lo calcola o lo recupera dalla fonte lenta e ne salva una copia per le richieste future. Poiché la memoria rapida è limitata, politiche di rimpiazzo come LRU (Least Recently Used) decidono quali voci eliminare quando la cache si riempie. Un parametro chiamato TTL (time to live) stabilisce dopo quanto tempo un dato in cache va considerato scaduto.

Applicazioni

Nell'AI moderna il caching è ovunque: le piattaforme LLM offrono il prompt caching per riutilizzare la parte iniziale di prompt lunghi e ridurre costi e latenza, i sistemi RAG mettono in cache gli embedding già calcolati e le applicazioni conversazionali salvano le risposte a domande frequenti. Fuori dall'AI, le cache accelerano CPU, database, API web e reti di distribuzione dei contenuti.

Storia ed etimologia

La parola deriva dal francese cacher, nascondere: una cache è letteralmente un nascondiglio, come quelli dei cacciatori per le provviste. In informatica il termine si affermò nel 1967-68 con l'IBM System/360 Model 85, il primo computer commerciale con memoria cache; secondo la tradizione IBM fu Lyle R. Johnson a proporre il nome al posto del più goffo high-speed buffer. Il concetto era stato anticipato da Maurice Wilkes nel 1965 con la sua proposta di slave memories.

Come si usa in Grace

Nei 520 scenari professionali di Grace incontri casi in cui un'applicazione AI deve tagliare costi e latenza: capire il caching ti aiuta a progettare prompt con prefissi stabili e riutilizzabili. Le 7 dimensioni di valutazione premiano proprio l'efficienza con cui strutturi le istruzioni.

Termini correlati

• Prompt Caching
• Context caching (cache del contesto)
• Memoization
• CDN
• Latenza (Latency)

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.