AI Dictionary › Fondamenti AI
Rischio Duplice Uso
Dual-use risk describes the characteristic of many AI capabilities to serve both legitimate, beneficial purposes and harmful ones, often with the exact same technical functionality. A model able to write code useful to a developer is also, in principle, able to write malicious code; a system that explains molecular biology for educational purposes shares the same knowledge base that, in the wrong hands, could assist in creating dangerous substances.
Dual-use risk describes the characteristic of many AI capabilities to serve both legitimate, beneficial purposes and harmful ones, often with the exact same technical functionality. A model able to write code useful to a developer is also, in principle, able to write malicious code; a system that explains molecular biology for educational purposes shares the same knowledge base that, in the wrong hands, could assist in creating dangerous substances.
Unlike a specific security flaw, dual-use risk is not something that can be fully "fixed" without also giving up the legitimate use of the same capability: the technical challenge is calibrating access, context, and controls to enable the first purpose while reducing the likelihood of the second, rather than eliminating the capability itself.
In modern AI the concept guides decisions about releasing models with advanced capabilities in sensitive areas such as chemistry, biology, cybersecurity, and large-scale persuasion. Labs developing frontier models often publish specific dual-use risk assessment policies before making a new capability public, and some releases are delayed or restricted precisely for this reason.
The term "dual-use" predates modern AI by far, originating in export controls for technologies with both civilian and military applications; it was picked up and adapted by the AI safety community starting in the second half of the 2010s to describe a structurally similar problem in the field of generative models.
Il rischio duplice uso descrive la caratteristica di molte capacità AI di poter servire tanto scopi legittimi e benefici quanto scopi dannosi, spesso con la stessa identica funzionalità tecnica. Un modello capace di scrivere codice utile a uno sviluppatore è anche capace, in linea di principio, di scrivere codice malevolo; un sistema che spiega la biologia molecolare per scopi educativi condivide le stesse basi di conoscenza che, in mani sbagliate, potrebbero assistere nella creazione di sostanze pericolose.
A differenza di un difetto di sicurezza puntuale, il rischio duplice uso non è qualcosa che si può "correggere" del tutto senza rinunciare anche all'uso legittimo della stessa capacità: la sfida tecnica è calibrare l'accesso, il contesto e i controlli in modo da abilitare il primo scopo riducendo la probabilità del secondo, invece di eliminare la capacità stessa.
Nell'AI moderna il concetto guida le decisioni sul rilascio di modelli con capacità avanzate in ambiti sensibili come chimica, biologia, cybersecurity e persuasione su larga scala. I laboratori che sviluppano modelli di frontiera pubblicano spesso politiche specifiche di valutazione del rischio duplice uso prima di rendere pubblica una nuova capacità, e alcune release vengono ritardate o limitate proprio per questo motivo.
Il termine "duplice uso" nasce ben prima dell'AI moderna, nel controllo delle esportazioni di tecnologie con applicazioni sia civili sia militari; è stato ripreso e adattato dalla comunità di sicurezza AI a partire dalla seconda metà degli anni 2010 per descrivere un problema strutturalmente simile nel campo dei modelli generativi.
From our network
Kaimaki Web — Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Visit kaimakiweb.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.