Dizionario AI › Modelli AI

Normalizzazione per batch

Batch Normalization

La normalizzazione per batch è una tecnica che riscala i valori prodotti da uno strato di una rete neurale calcolando media e varianza su tutti gli esempi presenti in uno stesso batch di addestramento, anziché sui valori di un singolo esempio. Lo scopo è ridurre le variazioni indesiderate nella distribuzione dei valori che attraversano la rete, rendendo l'addestramento più stabile e spesso più veloce.

Definizione

Come funziona

Durante l'addestramento, per ogni mini-batch di esempi processati insieme, lo strato calcola la media e la varianza dei valori in uscita e li normalizza di conseguenza, per poi applicare due parametri appresi che permettono alla rete di riscalare e traslare nuovamente i valori se risulta vantaggioso. Durante l'inferenza, quando gli esempi vengono spesso elaborati uno alla volta, si usano statistiche medie accumulate durante l'addestramento anziché quelle del batch corrente.

Applicazioni

È stata per anni una componente standard delle reti neurali convoluzionali usate nella visione artificiale, contribuendo a rendere addestrabili reti molto più profonde rispetto al passato. È meno adatta a modelli che elaborano sequenze di lunghezza variabile o batch di dimensione ridotta, contesti in cui tecniche come la normalizzazione dei livelli risultano generalmente più efficaci.

Storia ed etimologia

Il nome descrive esattamente il meccanismo: la normalizzazione viene calcolata sul "batch", cioè sul gruppo di esempi elaborati insieme in un singolo passo di addestramento, un'idea che ha avuto un impatto significativo sulla velocità e stabilità dell'addestramento delle reti profonde a partire dalla metà degli anni 2010.

Termini correlati

• Normalizzazione dei livelli
• Dropout
• Rete neurale profonda
• Batch Processing
• Rete neurale convoluzionale (CNN)

Altri termini in Modelli AI

• ChatGPT
• Gemini
• Copilot
• Mistral
• Llama
• Claude
• GPT (Generative Pre-trained Transformer)
• DeepSeek

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.