Dizionario AI › Regolamentazione
AI audit
L'AI audit è il processo di verifica sistematica di un sistema di intelligenza artificiale per accertare che rispetti requisiti tecnici, legali o etici dichiarati: dalla conformità normativa, alla qualità dei dati, all'assenza di bias discriminatori, fino all'accuratezza delle prestazioni dichiarate. Può essere condotto internamente da un team dedicato dell'organizzazione o esternamente da un soggetto terzo indipendente.
Un audit tipico prevede l'esame della documentazione tecnica del sistema, l'analisi dei dati di addestramento e dei processi di validazione, test sulle prestazioni del modello anche su sottogruppi specifici della popolazione, verifica dei meccanismi di sorveglianza umana e controllo della coerenza tra quanto dichiarato dal fornitore e il comportamento effettivo del sistema. L'esito viene tipicamente formalizzato in un report che può alimentare la documentazione di conformità richiesta dalla normativa.
Per le aziende che sviluppano o adottano sistemi AI ad alto rischio, sottoporsi ad audit regolari è spesso parte integrante degli obblighi di gestione del rischio previsti dall'EU AI Act e da framework come il NIST AI RMF. È anche una pratica sempre più richiesta contrattualmente da clienti enterprise prima di integrare un fornitore di AI nella propria catena di fornitura.
La pratica dell'audit algoritmico nasce dall'estensione all'AI delle metodologie di internal audit e financial audit già consolidate in ambito aziendale, adattate a partire dalla metà degli anni 2010 per rispondere a casi documentati di discriminazione algoritmica e alla crescente richiesta di verificabilità indipendente dei sistemi automatizzati.
Dalla nostra rete
Magellano GPS: Fleet Tracking Made Simple
Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.
Vai su magellanogps.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.