AI Dictionary › Fondamenti AI
Quantizzazione
Quantization is the technique that reduces the numerical precision used to store a model's parameters, so it takes less memory and runs faster. Weights, normally saved as 16- or 32-bit floating-point numbers, are represented in more compact formats like 8-bit or even 4-bit integers. It's like redrawing a photo using a palette of a few colors instead of millions: the image stays recognizable but takes far less space. Similarly the quantized model keeps most of its abilities while losing a little numerical finesse. Modern methods minimize this loss by carefully choosing how to map original values.
Quantization is what lets powerful models run on modest hardware like laptops or phones, not just servers with costly GPUs. It's a key ingredient for making AI accessible, affordable, and more energy-sustainable.
La quantizzazione è la tecnica che riduce la precisione numerica con cui vengono memorizzati i parametri di un modello, per farlo occupare meno memoria e girare più veloce. I pesi, normalmente salvati con numeri in virgola mobile a 16 o 32 bit, vengono rappresentati con formati più compatti, come interi a 8 o persino 4 bit. È come ridisegnare una fotografia usando una tavolozza di pochi colori invece di milioni: l'immagine resta riconoscibile, ma occupa molto meno spazio. Analogamente il modello quantizzato mantiene gran parte delle sue capacità, pur perdendo un po' di finezza numerica. Le tecniche moderne minimizzano questa perdita scegliendo con cura come mappare i valori originali.
La quantizzazione è ciò che permette di eseguire modelli potenti su hardware modesto, come laptop o smartphone, invece che solo su server con GPU costose. È un ingrediente chiave per rendere l'AI accessibile, economica e più sostenibile dal punto di vista energetico.
From our network
Magellano GPS — Fleet Tracking Made Simple
Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.
Visit magellanogps.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.