Dizionario AI › Fondamenti AI
Out-of-Distribution
Out-of-distribution indica un input che si discosta significativamente dai dati su cui un modello AI è stato addestrato, per contenuto, formato o contesto. Su questi input le prestazioni di un modello sono generalmente meno affidabili, perché il sistema si trova ad affrontare pattern mai visti durante l'addestramento. Riconoscere questi casi è importante tanto quanto misurare l'accuratezza sui dati abituali.
Per valutare il comportamento fuori distribuzione si creano appositi set di test con input volutamente diversi da quelli tipici, come domini nuovi, lingue meno rappresentate o formati insoliti. Si misura poi come cambiano accuratezza e affidabilità del modello rispetto ai dati in distribuzione, spesso osservando anche se il modello segnala la propria incertezza invece di rispondere con eccessiva sicurezza. Un buon comportamento fuori distribuzione include la capacità di riconoscere i propri limiti.
È un tema centrale per applicazioni dove gli input reali possono variare molto rispetto ai dati di addestramento, come l'analisi di documenti settoriali specifici o l'uso in nuovi mercati e lingue. Serve anche a decidere quando un sistema dovrebbe rifiutarsi di rispondere o richiedere l'intervento umano.
Il concetto nasce nella statistica e nell'apprendimento automatico classico, dove la distinzione tra dati in distribuzione e fuori distribuzione è usata da tempo per valutare la capacità di generalizzazione dei modelli predittivi.
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.