Dizionario AI › Fondamenti AI

Quantizzazione

Quantization

La quantizzazione è la tecnica che riduce la precisione numerica con cui vengono memorizzati i parametri di un modello, per farlo occupare meno memoria e girare più veloce. I pesi, normalmente salvati con numeri in virgola mobile a 16 o 32 bit, vengono rappresentati con formati più compatti, come interi a 8 o persino 4 bit. È come ridisegnare una fotografia usando una tavolozza di pochi colori invece di milioni: l'immagine resta riconoscibile, ma occupa molto meno spazio. Analogamente il modello quantizzato mantiene gran parte delle sue capacità, pur perdendo un po' di finezza numerica. Le tecniche moderne minimizzano questa perdita scegliendo con cura come mappare i valori originali.

Definizione

La quantizzazione è ciò che permette di eseguire modelli potenti su hardware modesto, come laptop o smartphone, invece che solo su server con GPU costose. È un ingrediente chiave per rendere l'AI accessibile, economica e più sostenibile dal punto di vista energetico.

Termini correlati

• Distillazione
• Inference
• Parametri (Parameters)
• Latenza (Latency)
• Deep Learning

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.