Dizionario AI › Fondamenti AI

Mitigazione del Bias

Bias Mitigation

La mitigazione del bias è l'insieme di tecniche usate per ridurre gli effetti distorsivi che un sistema AI eredita dai dati di addestramento, dalla progettazione del modello o dal modo in cui viene valutato. Mentre il bias descrive il problema, un sistema che sistematicamente favorisce o svantaggia certi gruppi o categorie, la mitigazione descrive l'azione correttiva, che può intervenire in diverse fasi del ciclo di vita del modello.

Definizione

Come funziona

Le tecniche si dividono in tre famiglie principali: interventi sui dati prima dell'addestramento, come il ribilanciamento dei campioni sottorappresentati o la rimozione di correlazioni spurie; interventi durante l'addestramento, come funzioni di perdita che penalizzano esplicitamente le disparità tra gruppi; e interventi dopo l'addestramento, come la calibrazione delle soglie di decisione per gruppo o il post-processing dell'output. Nessuna tecnica elimina completamente il bias: si tratta sempre di un compromesso tra accuratezza complessiva ed equità tra sottogruppi.

Applicazioni

Nell'AI moderna la mitigazione del bias è centrale in ambiti ad alto impatto sulle persone, come selezione del personale, concessione di credito, giustizia predittiva e diagnosi medica, dove un sistema distorto può tradursi in discriminazione concreta e conseguenze legali. Molte aziende includono audit periodici di equità nel proprio processo di validazione dei modelli prima del rilascio.

Storia ed etimologia

Il tema affonda le radici nella statistica e nelle scienze sociali applicate all'apprendimento automatico fin dagli anni 2010, ma è diventato un campo di ricerca autonomo e ben finanziato con la diffusione su larga scala di sistemi decisionali automatizzati nella seconda metà del decennio.

Termini correlati

• Bias (nei sistemi AI)
• Explainability (XAI)
• AI Responsabile
• Dati di addestramento (Training Data)
• Classificatore di Contenuti Dannosi

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.