Dizionario AI › Fondamenti AI

Addestramento al Rifiuto

Refusal Training

L'addestramento al rifiuto è la fase del processo di allineamento in cui un modello linguistico viene esplicitamente insegnato a riconoscere richieste dannose, pericolose o contrarie alle policy d'uso e a rispondere con un rifiuto anziché tentare di soddisfarle. È una delle componenti più visibili del comportamento di sicurezza di un modello: quando un chatbot risponde "non posso aiutarti con questo", quel comportamento è tipicamente il risultato diretto di questo tipo di addestramento.

Definizione

Come funziona

Tecnicamente si realizza tramite apprendimento supervisionato su coppie di richieste dannose e risposte di rifiuto appropriate, spesso combinato con reinforcement learning from human feedback in cui i valutatori premiano rifiuti ben calibrati e penalizzano sia il rifiuto eccessivo di richieste innocue sia la compliance con richieste effettivamente pericolose. Trovare questo equilibrio è tecnicamente difficile: un modello che rifiuta troppo diventa poco utile, mentre uno che rifiuta troppo poco espone a rischi concreti.

Applicazioni

È oggetto continuo di test da parte dei team di red teaming, che cercano formulazioni capaci di aggirare il rifiuto tramite giochi di ruolo, scenari ipotetici o richieste frammentate in passaggi apparentemente innocui. I laboratori AI aggiornano periodicamente l'addestramento al rifiuto man mano che emergono nuove tecniche di elusione, in un processo iterativo che non si conclude mai definitivamente.

Storia ed etimologia

Il concetto è emerso con la diffusione dei grandi modelli linguistici conversazionali a partire dal 2022, quando è diventato evidente che un modello capace di generare testo su qualsiasi argomento richiedeva un addestramento specifico e separato per imparare a dire no in modo appropriato.

Termini correlati

• Allineamento
• Jailbreak
• Red teaming
• RLHF (Reinforcement Learning from Human Feedback)
• Prompt Avversariale

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.