Dizionario AI › Fondamenti AI

Data poisoning (avvelenamento dei dati)

Data poisoning

Il data poisoning è un attacco in cui qualcuno inserisce di proposito dati corrotti o ingannevoli nel materiale usato per addestrare un modello, così da manipolarne il comportamento. È come sabotare la biblioteca da cui uno studente studia: se infili libri con errori mirati, lo studente imparerà quelle falsità e le ripeterà con convinzione. Nel caso dell'IA basta inquinare una piccola frazione dei dati per installare una "porta sul retro": un innesco nascosto, ad esempio una parola o un simbolo specifico, che fa scattare un comportamento indesiderato solo quando compare. Il modello sembra normale in tutti gli altri casi, il che rende l'attacco difficile da individuare.

Definizione

Il data poisoning conta perché molti dati di addestramento provengono da fonti aperte e non verificate, come il web. Un avversario paziente può contaminarle in anticipo, e i difetti restano invisibili finché non vengono attivati, minando la fiducia nell'intera pipeline dei dati.

Termini correlati

• Red teaming
• Jailbreak
• Bias (nei sistemi AI)
• Machine Learning
• Guardrails

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.