Dizionario AI › Fondamenti AI
Robustness Testing
Il test di robustezza verifica quanto un modello AI mantenga prestazioni affidabili quando l'input cambia in modo inatteso, ad esempio con errori di battitura, formulazioni insolite o piccole variazioni rispetto ai dati di addestramento. Un modello robusto continua a fornire risposte sensate anche in condizioni non ideali, mentre uno fragile può cambiare drasticamente comportamento davanti a piccole perturbazioni. È un aspetto della valutazione distinto dalla semplice accuratezza su casi standard.
Per eseguirlo si generano varianti dell'input originale, come sinonimi, riformulazioni o rumore artificiale, e si osserva se la risposta del modello resta coerente e corretta. Si confrontano poi le prestazioni sull'input originale con quelle sulle varianti, per quantificare quanto il modello sia sensibile ai cambiamenti. Cali significativi di prestazione segnalano aree da migliorare.
È usato per validare modelli prima del rilascio in produzione, specialmente in contesti dove gli input reali sono imprevedibili, come assistenti conversazionali o sistemi di supporto decisionale. Aiuta anche a individuare vulnerabilità sfruttabili da input malevoli progettati apposta per ingannare il modello.
È un concetto ereditato dall'ingegneria del software e dai sistemi di controllo, dove la robustezza indica da tempo la capacità di un sistema di funzionare correttamente anche in condizioni impreviste o avverse.
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.