Dizionario AI › Fondamenti AI
AI Kill Switch
Il kill switch AI è un meccanismo di interruzione rapida e affidabile con cui un operatore umano può fermare l'esecuzione di un sistema AI, in particolare di un agente autonomo che sta compiendo azioni nel mondo reale, quando il suo comportamento risulta pericoloso, imprevisto o fuori controllo. Concettualmente è l'ultima linea di difesa quando tutti gli altri controlli preventivi non hanno funzionato.
A livello tecnico un kill switch efficace deve essere indipendente dal sistema che intende fermare: se il meccanismo di arresto dipende dallo stesso processo che dovrebbe interrompere, un malfunzionamento grave potrebbe comprometterlo insieme al resto. Per questo le implementazioni robuste separano il canale di controllo dal sistema operativo dell'agente, ad esempio tramite un processo di supervisione esterno con privilegi propri, capace di revocare token di accesso, terminare processi o tagliare la connettività di rete indipendentemente da cosa stia facendo l'agente in quel momento.
È un tema centrale nella progettazione di agenti AI con accesso a strumenti reali, esecuzione di codice, transazioni finanziarie, controllo di dispositivi fisici, dove un comportamento anomalo non corretto in tempo può tradursi in un danno concreto anziché in una semplice risposta testuale sbagliata. Molte piattaforme di orchestrazione multi-agente includono oggi controlli di arresto di emergenza come requisito di progettazione fin dall'inizio.
Il termine "kill switch" ha origine nell'ingegneria industriale e nei sistemi meccanici, dove indica un interruttore fisico di emergenza per fermare un macchinario; è stato ripreso nel dibattito sulla sicurezza dell'AI, in particolare in relazione agli agenti autonomi, a partire dalla metà degli anni 2010.
Dalla nostra rete
Kaimaki Web: Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Vai su kaimakiweb.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.