Dizionario AI › Fondamenti AI
Gradient Descent
La discesa del gradiente è il metodo di ottimizzazione con cui una rete neurale trova i valori dei parametri che minimizzano l'errore. Immagina di essere su una montagna nella nebbia e voler raggiungere il fondovalle: senza vedere lontano, tasti il terreno e fai un passo nella direzione di massima pendenza in discesa. Il gradiente è proprio quella direzione, calcolata dalla backpropagation, e la funzione di perdita è l'altitudine da minimizzare. Ripetendo piccoli passi, il modello scende progressivamente verso una configurazione di parametri con errore basso. La lunghezza del passo, chiamata tasso di apprendimento, decide la velocità: troppo grande e si rischia di saltare oltre il minimo, troppo piccola e la discesa è lentissima.
Varianti come la discesa stocastica o Adam rendono il processo più veloce e stabile su enormi dataset. Capirla aiuta a intuire perché l'addestramento richiede molte iterazioni e perché scelte come il tasso di apprendimento influenzano tanto il risultato finale.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.