Dizionario AI › Fondamenti AI

Explainability (XAI)

L'explainability (spiegabilità, spesso XAI, eXplainable AI) è la capacità di un sistema di intelligenza artificiale di rendere comprensibili le ragioni delle proprie decisioni. I modelli di deep learning sono per natura "scatole nere": miliardi di parametri numerici producono l'output, ma nessuno può indicare il singolo "perché" come si farebbe con una regola scritta.

Definizione

Il tema è tecnico e insieme normativo: quando l'AI decide su credito, assunzioni, sanità o giustizia, l'impossibilità di spiegare diventa inaccettabile. Il GDPR dà agli interessati il diritto a informazioni significative sulla logica delle decisioni automatizzate, e l'AI Act impone requisiti di trasparenza proporzionati al rischio.

Gli approcci pratici: tecniche post-hoc che stimano quali fattori hanno pesato sulla decisione (SHAP, LIME), modelli intrinsecamente interpretabili dove la posta in gioco lo richiede, e, con gli LLM, il chain of thought, che rende visibile il percorso di ragionamento anche se non è una spiegazione meccanicistica completa.

Termini correlati

• Bias (nei sistemi AI)
• EU AI Act
• GDPR
• Deep Learning
• Chain of Thought

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.