Dizionario AI › Fondamenti AI

Ensemble learning

L'ensemble learning è la strategia di combinare le previsioni di più modelli di machine learning per ottenere un risultato complessivo più accurato e stabile di quello che qualunque singolo modello otterrebbe da solo. Si basa su un'intuizione semplice quanto potente: modelli diversi commettono spesso errori diversi, e combinandoli in modo opportuno gli errori di ciascuno tendono a compensarsi.

Definizione

Come funziona

Esistono diverse strategie per costruire un ensemble. Il bagging addestra molti modelli identici su campioni casuali diversi degli stessi dati e ne media i risultati, come fa il random forest con i suoi alberi decisionali. Il boosting addestra i modelli in sequenza, ciascuno concentrato a correggere gli errori dei precedenti, come nel gradient boosting. Lo stacking combina modelli anche molto diversi tra loro, per esempio un albero decisionale, una regressione logistica e una rete neurale, usando un ulteriore modello che impara come pesare al meglio le previsioni di ciascuno. In tutti i casi, la diversità tra i modelli combinati è ciò che rende l'ensemble efficace: modelli tutti uguali che sbagliano allo stesso modo non aggiungono valore votando insieme.

Applicazioni

Gli ensemble dominano le competizioni di data science su dati tabellari e sono ampiamente usati in produzione ovunque servano previsioni affidabili: scoring del credito, previsione della domanda, rilevamento di frodi, sistemi di raccomandazione. Il prezzo da pagare è una minore interpretabilità rispetto a un singolo modello semplice e un costo computazionale più alto sia in addestramento sia in produzione, poiché ogni previsione richiede di consultare più modelli invece di uno solo.

Storia ed etimologia

L'idea di combinare più stime o giudizi per ottenere un risultato migliore di ciascuno preso singolarmente è antica, radicata nella teoria delle decisioni collettive e nella statistica classica. Nel machine learning l'ensemble learning si sviluppa come disciplina sistematica a partire dagli anni '90, con lavori fondativi sul bagging di Leo Breiman nel 1996 e sul boosting di Robert Schapire e Yoav Freund a metà del decennio, che dimostrarono formalmente come combinare modelli deboli potesse produrre previsioni molto più forti.

Termini correlati

Altri termini in Fondamenti AI

Mettilo alla prova

Dalla nostra rete

Magellano GPS: Fleet Tracking Made Simple

Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.

Vai su magellanogps.com →

Dal blog di Agora Intelligence

Altro su agora-intelligence.com →

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.