AI Dictionary › Fondamenti AI

Linear regression

Regressione lineare

Linear regression is a statistical method that estimates the relationship between a numeric target and one or more explanatory variables, assuming this relationship can be approximated by a straight line (or a hyperplane, when there is more than one variable). It is likely the first model anyone meets when studying machine learning: simple to interpret, fast to train, and often surprisingly effective as a starting point.

Definition

What it is

Linear regression is a statistical method that estimates the relationship between a numeric target and one or more explanatory variables, assuming this relationship can be approximated by a straight line (or a hyperplane, when there is more than one variable). It is likely the first model anyone meets when studying machine learning: simple to interpret, fast to train, and often surprisingly effective as a starting point.

How it works

The model looks for coefficients that, multiplied by each input variable and summed, produce predictions as close as possible to the observed values. Closeness is typically measured with mean squared error, and the optimal coefficients are found by minimizing this error over the whole dataset, often via the least squares method or gradient descent. The result is a readable equation: each coefficient tells you how much the prediction changes as a single feature varies.

Applications

In modern AI, linear regression remains a go-to tool for predicting continuous values, a house price from its size, product demand from historical sales, delivery time from distance and traffic, and it serves as a baseline against which more complex models are compared. Its transparency makes it valuable in contexts where the decision must be explained, not just produced, such as consumer credit or insurance.

History & etymology

The term regression has a curious origin unrelated to the word's everyday meaning: it was introduced by the British scientist Francis Galton in the nineteenth century, studying children's height relative to their parents'. Galton observed that children of very tall parents tended to be less extreme, closer to the average, a phenomenon he called regression toward the mean. The name stuck to the statistical technique even as its use expanded far beyond that original study.

Definizione (italiano)

La regressione lineare è un metodo statistico che stima la relazione tra una variabile numerica da prevedere e una o più variabili esplicative, assumendo che questa relazione sia approssimabile con una linea retta (o un iperpiano, quando le variabili sono più di una). È probabilmente il primo modello che chiunque incontra studiando machine learning: semplice da interpretare, veloce da addestrare, spesso sorprendentemente efficace come punto di partenza.

Il modello cerca i coefficienti che, moltiplicati per ciascuna variabile in ingresso e sommati, producono la previsione più vicina possibile ai valori osservati. La vicinanza si misura tipicamente con l'errore quadratico medio, e i coefficienti ottimali si trovano minimizzando questo errore su tutto il dataset, spesso con il metodo dei minimi quadrati o con la discesa del gradiente. Il risultato è un'equazione leggibile: ogni coefficiente dice quanto la previsione cambia al variare di una singola caratteristica.

Nell'AI moderna la regressione lineare resta uno strumento di riferimento per prevedere valori continui, il prezzo di una casa dalla metratura, la domanda di un prodotto dalle vendite storiche, il tempo di consegna da distanza e traffico, e funge da baseline con cui confrontare modelli più complessi. La sua trasparenza la rende preziosa in contesti dove serve spiegare la decisione, non solo produrla, come nel credito al consumo o nelle assicurazioni.

Il termine regressione ha un'origine curiosa e non legata al significato comune della parola: fu introdotto dallo scienziato britannico Francis Galton nell'Ottocento, studiando l'altezza dei figli rispetto a quella dei genitori. Galton osservò che i figli di genitori molto alti tendevano a essere meno estremi, più vicini alla media, un fenomeno che chiamò regressione verso la media. Il nome è rimasto attaccato alla tecnica statistica anche quando il suo uso si è esteso ben oltre lo studio originale.

Related terms

More in Fondamenti AI

Put it into practice

From our network

HSE Genius — AI for Safety Data Sheets

Extract SDS data, H phrases and ECHA compliance checks in seconds, powered by AI.

Visit hsegenius.com →

From the Agora Intelligence blog

More on agora-intelligence.com →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.