AI Dictionary › Fondamenti AI

Backpropagation

Definition

Backpropagation is the algorithm that lets a neural network learn by correcting its own parameters. After the network makes a prediction, the loss function measures how far it is from the correct answer. Backpropagation then calculates, layer by layer in reverse, how much each weight contributed to the error. It's like an assembly line that, upon finding a defect in the final product, walks back through each station to locate the fix. Mathematically it uses the chain rule of calculus to propagate error derivatives from output back to input, yielding the gradients that show how to improve each parameter.

Without backpropagation, modern training would be unthinkable: it makes updating millions or billions of parameters efficient. Whenever a model is trained or fine-tuned, backpropagation and gradient descent turn errors into concrete learning.

Definizione (italiano)

La backpropagation (retropropagazione dell'errore) è l'algoritmo che permette a una rete neurale di imparare correggendo i propri parametri. Dopo che la rete produce una previsione, si misura quanto questa si discosti dalla risposta corretta tramite la funzione di perdita. La backpropagation calcola poi, all'indietro strato dopo strato, quanto ciascun peso abbia contribuito all'errore. È come una catena di montaggio che, trovato un difetto nel prodotto finale, risale ogni stazione per capire dove correggere. Matematicamente sfrutta la regola della catena del calcolo differenziale per propagare le derivate dell'errore dall'output verso l'input, ottenendo i gradienti che indicano la direzione di miglioramento di ogni parametro.

Senza backpropagation l'addestramento moderno sarebbe impensabile: è il meccanismo che rende efficiente aggiornare milioni o miliardi di parametri. Ogni volta che un modello viene addestrato o messo a punto, è la backpropagation, insieme alla discesa del gradiente, a trasformare gli errori in apprendimento concreto.

Related terms

More in Fondamenti AI

From our network

INDACO TMS — Transport Management for European Logistics

Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.

Visit indacotms.com →

From the Agora Intelligence blog

More on agora-intelligence.com →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.