Dizionario AI › Fondamenti AI
Feature importance
La feature importance è una misura che quantifica quanto ciascuna variabile in ingresso contribuisce alle previsioni di un modello di machine learning, permettendo di capire quali caratteristiche pesano davvero sulla decisione e quali sono pressoché ininfluenti. È uno degli strumenti principali per aprire, almeno parzialmente, la scatola nera di un modello e capire cosa sta effettivamente guidando i suoi risultati.
Esistono metodi diversi per calcolarla, con gradi diversi di rigore. Nei modelli ad albero, come random forest e gradient boosting, l'importanza si stima naturalmente osservando quanto ciascuna caratteristica contribuisce, in media su tutti gli alberi, a ridurre l'errore quando viene usata per uno split. Un metodo più generale, applicabile a qualsiasi modello, è la permutation importance, che mescola casualmente i valori di una caratteristica alla volta e misura di quanto peggiorano le prestazioni: se mescolare una variabile danneggia molto il modello, quella variabile era importante. Tecniche più recenti come i valori SHAP, basati sulla teoria dei giochi, permettono di attribuire a ogni caratteristica un contributo preciso e coerente per ogni singola previsione, non solo in media sull'intero dataset.
È uno strumento prezioso sia in fase di sviluppo, per capire se il modello si sta basando su segnali sensati o su artefatti indesiderati nei dati, sia in produzione, per spiegare le decisioni a chi le riceve: perché una richiesta di prestito è stata respinta, quali fattori hanno più peso in una diagnosi assistita, quali segnali hanno fatto scattare un allarme antifrode. In molti settori regolamentati, come quello finanziario e assicurativo, fornire questo tipo di spiegazione non è solo una buona pratica ma spesso un obbligo normativo.
Il concetto di attribuire un peso relativo alle variabili di un modello statistico è antico quanto la regressione stessa, ma la feature importance come strumento sistematico di interpretazione dei modelli si sviluppa con la diffusione di algoritmi complessi come random forest, a partire dai primi anni 2000 e si arricchisce ulteriormente con la crescita del campo della explainability, o XAI, a partire dalla seconda metà degli anni 2010, quando la necessità di spiegare modelli sempre più opachi diventa centrale sia per motivi tecnici sia per obblighi normativi crescenti.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.