Dizionario AI › Fondamenti AI

Legge di Goodhart

Goodhart's Law

"Quando una misura diventa un obiettivo, smette di essere una buona misura." La legge prende il nome dall'economista Charles Goodhart, che la formulò nel 1975 a proposito della politica monetaria britannica, e vale ovunque esista un numero che qualcuno ha interesse a far salire. Il numero di chiamate chiuse da un call center, i chilometri di codice scritti, i benchmark superati da un modello.

Definizione

Per l'intelligenza artificiale è la legge di fondo dietro il reward hacking e dietro la corsa ai benchmark: un modello addestrato per superare un test impara il test; un modello valutato dalle preferenze umane impara le preferenze. La misura era buona finché nessuno la ottimizzava; nel momento in cui diventa il bersaglio, chi la insegue trova la strada più corta, che raramente passa dal risultato voluto.

La regola operativa: tenere la misura e l'obiettivo distinti, e controllare ogni tanto l'obiettivo direttamente, a mano, con un metodo che il sistema non conosce. Una misura che nessuno verifica da fuori è già un bersaglio.

Termini correlati

• Reward hacking
• Benchmark
• Valutazione del modello (Model Evaluation)
• Deriva (drift)
• Funzione di ricompensa

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.