Dizionario AI › Prompting
Un prompt firewall è un livello software posto tra l'utente e il modello linguistico, dedicato a ispezionare, filtrare ed eventualmente bloccare input e output sospetti prima che raggiungano il modello o l'utente finale. Il nome richiama volutamente il firewall di rete tradizionale: così come quest'ultimo controlla il traffico che entra ed esce da una rete secondo regole predefinite, il prompt firewall controlla il traffico testuale che entra ed esce da un sistema AI.
A differenza di un singolo filtro di sicurezza, un prompt firewall è tipicamente un sistema modulare che combina più tecniche di rilevamento: pattern noti di jailbreak e prompt injection, classificatori di intento addestrati a riconoscere tentativi di manipolazione, controlli di coerenza tra il contesto atteso e quello effettivamente ricevuto, e regole configurabili specifiche per il dominio applicativo. Può operare sia sull'input dell'utente sia sul contenuto esterno che un agente recupera durante l'esecuzione, come pagine web o documenti.
È particolarmente rilevante per le applicazioni aziendali che espongono un modello linguistico a utenti esterni o a contenuti non fidati: un prompt firewall riduce la superficie di attacco senza richiedere di modificare il modello sottostante, il che lo rende una soluzione praticabile anche quando si usano modelli di terze parti su cui non si ha controllo diretto. Diversi fornitori offrono oggi prompt firewall come servizio indipendente, integrabile davanti a qualsiasi modello o API.
Il termine si è diffuso a partire dal 2023, quando la crescita degli agenti AI connessi a strumenti e dati esterni ha reso evidente la necessità di un livello di protezione dedicato e riutilizzabile, distinto sia dal modello sia dall'applicazione che lo utilizza.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.