Dizionario AI › Fondamenti AI

Bias (nei sistemi AI)

AI Bias

Il bias nei sistemi di intelligenza artificiale è la tendenza sistematica di un modello a produrre risultati distorti o discriminatori verso determinati gruppi, temi o prospettive. Il bias non nasce da "cattive intenzioni" del modello: viene assorbito dai dati di addestramento, che riflettono i pregiudizi presenti nei testi umani, e dalle scelte di progettazione.

Definizione

Esempi concreti: un sistema di screening CV che penalizza i nomi femminili perché addestrato su storici di assunzioni sbilanciati; un generatore di immagini che associa certe professioni a un solo genere; un modello linguistico che tratta diversamente richieste identiche formulate in lingue diverse.

Per l'uso professionale, specialmente in HR, credito, sanità e giustizia, il bias è un rischio legale oltre che etico: l'AI Act europeo classifica questi usi come "alto rischio" proprio per questo. Mitigazione: dataset curati, test di equità, supervisione umana sulle decisioni che contano.

Termini correlati

• Dati di addestramento (Training Data)
• EU AI Act
• Allucinazione (AI Hallucination)
• Explainability (XAI)
• Machine Learning

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.