Dizionario AI › Fondamenti AI
L'ensemble learning è la strategia di combinare le previsioni di più modelli di machine learning per ottenere un risultato complessivo più accurato e stabile di quello che qualunque singolo modello otterrebbe da solo. Si basa su un'intuizione semplice quanto potente: modelli diversi commettono spesso errori diversi, e combinandoli in modo opportuno gli errori di ciascuno tendono a compensarsi.
Esistono diverse strategie per costruire un ensemble. Il bagging addestra molti modelli identici su campioni casuali diversi degli stessi dati e ne media i risultati, come fa il random forest con i suoi alberi decisionali. Il boosting addestra i modelli in sequenza, ciascuno concentrato a correggere gli errori dei precedenti, come nel gradient boosting. Lo stacking combina modelli anche molto diversi tra loro, per esempio un albero decisionale, una regressione logistica e una rete neurale, usando un ulteriore modello che impara come pesare al meglio le previsioni di ciascuno. In tutti i casi, la diversità tra i modelli combinati è ciò che rende l'ensemble efficace: modelli tutti uguali che sbagliano allo stesso modo non aggiungono valore votando insieme.
Gli ensemble dominano le competizioni di data science su dati tabellari e sono ampiamente usati in produzione ovunque servano previsioni affidabili: scoring del credito, previsione della domanda, rilevamento di frodi, sistemi di raccomandazione. Il prezzo da pagare è una minore interpretabilità rispetto a un singolo modello semplice e un costo computazionale più alto sia in addestramento sia in produzione, poiché ogni previsione richiede di consultare più modelli invece di uno solo.
L'idea di combinare più stime o giudizi per ottenere un risultato migliore di ciascuno preso singolarmente è antica, radicata nella teoria delle decisioni collettive e nella statistica classica. Nel machine learning l'ensemble learning si sviluppa come disciplina sistematica a partire dagli anni '90, con lavori fondativi sul bagging di Leo Breiman nel 1996 e sul boosting di Robert Schapire e Yoav Freund a metà del decennio, che dimostrarono formalmente come combinare modelli deboli potesse produrre previsioni molto più forti.
Dalla nostra rete
Magellano GPS: Fleet Tracking Made Simple
Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.
Vai su magellanogps.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.