Dizionario AI › Regolamentazione
Systemic risk (AI)
Il rischio sistemico in ambito AI indica la possibilità che un modello o sistema di intelligenza artificiale, per la sua scala, diffusione o capacità, produca effetti negativi estesi che vanno oltre il singolo utilizzo o il singolo utente, arrivando a impattare la società, l'economia o la sicurezza pubblica su larga scala. È un concetto distinto dal rischio legato a una singola applicazione AI, perché riguarda l'impatto aggregato di un modello usato da milioni di persone o integrato in infrastrutture critiche.
Nell'EU AI Act, il rischio sistemico è associato in particolare ai modelli per finalità generali più potenti, identificati sulla base di soglie di capacità computazionale utilizzate in fase di addestramento o di altri indicatori di capacità avanzate. Per questi modelli sono previsti obblighi aggiuntivi rispetto agli altri modelli GPAI: valutazioni approfondite dei rischi, test di sicurezza specifici (compresi quelli condotti da terze parti indipendenti), monitoraggio degli incidenti gravi e misure di cybersicurezza rafforzate.
Per i fornitori di modelli di frontiera, il rischio sistemico comporta processi di governance interna più strutturati, spesso ispirati a pratiche di sicurezza già in uso in altri settori ad alta criticità, come l'aviazione o l'energia nucleare, adattate alla natura specifica dei modelli di AI generativa.
Il concetto è entrato nel dibattito regolatorio a partire dal 2023, quando la crescente potenza dei modelli linguistici più avanzati ha spinto legislatori e ricercatori di sicurezza a distinguere tra rischi ordinari, gestibili con gli strumenti tradizionali di gestione del rischio, e rischi di scala tale da richiedere una sorveglianza specifica a livello di singolo modello.
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.