AI Dictionary › Fondamenti AI
Mitigazione del Bias
Bias mitigation is the set of techniques used to reduce the distorting effects an AI system inherits from its training data, model design, or the way it is evaluated. While bias describes the problem — a system that systematically favors or disadvantages certain groups or categories — mitigation describes the corrective action, which can be applied at different stages of the model's lifecycle.
Bias mitigation is the set of techniques used to reduce the distorting effects an AI system inherits from its training data, model design, or the way it is evaluated. While bias describes the problem — a system that systematically favors or disadvantages certain groups or categories — mitigation describes the corrective action, which can be applied at different stages of the model's lifecycle.
Techniques fall into three main families: interventions on data before training, such as rebalancing underrepresented samples or removing spurious correlations; interventions during training, such as loss functions that explicitly penalize disparities between groups; and interventions after training, such as calibrating decision thresholds per group or post-processing the output. No technique fully eliminates bias: it is always a trade-off between overall accuracy and fairness across subgroups.
In modern AI, bias mitigation is central in areas with high impact on people, such as hiring, credit approval, predictive justice, and medical diagnosis, where a skewed system can translate into concrete discrimination and legal consequences. Many companies include periodic fairness audits in their model validation process before release.
The topic is rooted in statistics and social science applied to machine learning since the 2010s, but it became an independent and well-funded research field as automated decision-making systems spread widely in the second half of that decade.
La mitigazione del bias è l'insieme di tecniche usate per ridurre gli effetti distorsivi che un sistema AI eredita dai dati di addestramento, dalla progettazione del modello o dal modo in cui viene valutato. Mentre il bias descrive il problema — un sistema che sistematicamente favorisce o svantaggia certi gruppi o categorie — la mitigazione descrive l'azione correttiva, che può intervenire in diverse fasi del ciclo di vita del modello.
Le tecniche si dividono in tre famiglie principali: interventi sui dati prima dell'addestramento, come il ribilanciamento dei campioni sottorappresentati o la rimozione di correlazioni spurie; interventi durante l'addestramento, come funzioni di perdita che penalizzano esplicitamente le disparità tra gruppi; e interventi dopo l'addestramento, come la calibrazione delle soglie di decisione per gruppo o il post-processing dell'output. Nessuna tecnica elimina completamente il bias: si tratta sempre di un compromesso tra accuratezza complessiva ed equità tra sottogruppi.
Nell'AI moderna la mitigazione del bias è centrale in ambiti ad alto impatto sulle persone, come selezione del personale, concessione di credito, giustizia predittiva e diagnosi medica, dove un sistema distorto può tradursi in discriminazione concreta e conseguenze legali. Molte aziende includono audit periodici di equità nel proprio processo di validazione dei modelli prima del rilascio.
Il tema affonda le radici nella statistica e nelle scienze sociali applicate all'apprendimento automatico fin dagli anni 2010, ma è diventato un campo di ricerca autonomo e ben finanziato con la diffusione su larga scala di sistemi decisionali automatizzati nella seconda metà del decennio.
From our network
AGORÀ Intelligence — Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.