Dizionario AI › Prompting

Guardrails

I guardrails ("barriere di sicurezza") sono i controlli tecnici che delimitano il comportamento di un sistema AI: filtri sull'input (bloccare richieste inappropriate o tentativi di injection prima che arrivino al modello), vincoli sull'output (verificare che la risposta rispetti policy, formato e temi consentiti) e regole di comportamento (argomenti vietati, obbligo di escalation a un umano nei casi delicati).

Definizione

Sono lo strato applicativo sopra le protezioni native del modello: un chatbot bancario non deve dare consigli di investimento, un assistente HR non deve commentare i singoli dipendenti, e non basta sperare che il modello lo capisca da solo, va imposto con controlli espliciti.

Gli strumenti dedicati (da librerie open source come Guardrails AI e NeMo Guardrails ai servizi dei cloud provider) permettono di definire queste regole in modo dichiarativo e verificabile. Nei sistemi AI aziendali seri, i guardrails sono parte del progetto fin dall'inizio, sono il privacy by design applicato al comportamento del modello.

Termini correlati

• Prompt Injection
• Jailbreak
• System Prompt
• Moderazione dei contenuti (AI)
• EU AI Act

Altri termini in Prompting

• Prompt
• Prompting
• Role Assignment
• Zero-shot
• Few-shot
• Chain of Thought
• Prompt Engineering
• Output Format

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.