Dizionario AI › Fondamenti AI
Dual-Use Risk
Il rischio duplice uso descrive la caratteristica di molte capacità AI di poter servire tanto scopi legittimi e benefici quanto scopi dannosi, spesso con la stessa identica funzionalità tecnica. Un modello capace di scrivere codice utile a uno sviluppatore è anche capace, in linea di principio, di scrivere codice malevolo; un sistema che spiega la biologia molecolare per scopi educativi condivide le stesse basi di conoscenza che, in mani sbagliate, potrebbero assistere nella creazione di sostanze pericolose.
A differenza di un difetto di sicurezza puntuale, il rischio duplice uso non è qualcosa che si può "correggere" del tutto senza rinunciare anche all'uso legittimo della stessa capacità: la sfida tecnica è calibrare l'accesso, il contesto e i controlli in modo da abilitare il primo scopo riducendo la probabilità del secondo, invece di eliminare la capacità stessa.
Nell'AI moderna il concetto guida le decisioni sul rilascio di modelli con capacità avanzate in ambiti sensibili come chimica, biologia, cybersecurity e persuasione su larga scala. I laboratori che sviluppano modelli di frontiera pubblicano spesso politiche specifiche di valutazione del rischio duplice uso prima di rendere pubblica una nuova capacità, e alcune release vengono ritardate o limitate proprio per questo motivo.
Il termine "duplice uso" nasce ben prima dell'AI moderna, nel controllo delle esportazioni di tecnologie con applicazioni sia civili sia militari; è stato ripreso e adattato dalla comunità di sicurezza AI a partire dalla seconda metà degli anni 2010 per descrivere un problema strutturalmente simile nel campo dei modelli generativi.
Dalla nostra rete
Magellano GPS: Fleet Tracking Made Simple
Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.
Vai su magellanogps.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.