Dizionario AI › Fondamenti AI

Feature selection

La feature selection è il processo di scegliere, tra tutte le variabili disponibili in un dataset, il sottoinsieme più utile a un modello di machine learning, scartando quelle ridondanti, irrilevanti o addirittura dannose per le prestazioni. Non tutte le caratteristiche a disposizione aiutano un modello: alcune aggiungono solo rumore, altre duplicano informazioni già presenti altrove, altre ancora rallentano l'addestramento senza benefici reali.

Definizione

Come funziona

Esistono tre approcci principali. I metodi filtro valutano ogni caratteristica singolarmente con misure statistiche, come la correlazione con la variabile da prevedere, prima ancora di addestrare un modello. I metodi wrapper provano diversi sottoinsiemi di caratteristiche addestrando il modello più volte e tenendo quello che funziona meglio, un approccio più accurato ma computazionalmente costoso. I metodi embedded integrano la selezione direttamente nel processo di addestramento, come fanno alcuni modelli lineari con regolarizzazione, che azzerano automaticamente il peso delle caratteristiche meno utili.

Applicazioni

È particolarmente importante quando i dati hanno centinaia o migliaia di variabili, come nella genomica, nell'elaborazione del testo o nei sistemi con molti sensori: ridurre il numero di caratteristiche velocizza l'addestramento, riduce il rischio di overfitting e rende il modello più semplice da interpretare e da mantenere in produzione. È un passo che spesso precede o accompagna il feature engineering vero e proprio.

Storia ed etimologia

Il concetto ha radici nella statistica multivariata di metà Novecento, quando i ricercatori iniziarono a occuparsi sistematicamente di quali variabili includere in un modello di regressione per evitare ridondanze. Con la crescita del machine learning e di dataset via via più ampi, dagli anni '90 in poi la feature selection si è affermata come sottodisciplina autonoma, con conferenze e pubblicazioni dedicate esclusivamente a confrontare metodi per scegliere le variabili più informative.

Termini correlati

• Feature engineering
• Regolarizzazione
• Overfitting
• Dataset
• Feature importance (Importanza delle caratteristiche)

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.