Dizionario AI › Fondamenti AI

Safety Tuning

Il safety tuning è la fase di raffinamento successiva al pre-addestramento in cui un modello linguistico viene ulteriormente addestrato specificamente per migliorare il suo comportamento in materia di sicurezza: ridurre contenuti dannosi, calibrare i rifiuti, rendere le risposte più coerenti con le policy d'uso e i valori dichiarati dall'organizzazione che lo sviluppa. È concettualmente un caso specifico di fine-tuning, ma con un obiettivo esplicitamente orientato alla sicurezza anziché alle prestazioni generali.

Definizione

Come funziona

Tecnicamente combina diverse tecniche: apprendimento supervisionato su esempi curati di comportamento sicuro, reinforcement learning from human feedback per premiare le risposte preferite dai valutatori umani e in alcuni approcci più recenti tecniche come la constitutional AI, in cui il modello stesso critica e rivede le proprie risposte in base a un insieme di principi scritti. Il safety tuning avviene tipicamente dopo il pre-addestramento su larga scala, quando il modello ha già acquisito conoscenza generale del linguaggio e del mondo, e serve a plasmarne il comportamento senza dover rifare da zero l'addestramento più costoso.

Applicazioni

È il processo dietro la differenza di comportamento tra un modello di base, spesso capace di generare qualsiasi tipo di contenuto senza filtri, e la versione rilasciata al pubblico, che integra rifiuti calibrati e uno stile di risposta più prevedibile. Ogni nuova versione di un modello commerciale passa tipicamente per uno o più cicli di safety tuning prima del rilascio, spesso ripetuti quando emergono nuovi rischi o tecniche di elusione.

Storia ed etimologia

Il termine si è diffuso insieme alla pratica del fine-tuning su larga scala per l'allineamento, consolidandosi come categoria distinta a partire dalla seconda metà degli anni 2010, quando i laboratori di ricerca hanno iniziato a documentare esplicitamente le fasi post-training dedicate alla sicurezza nei loro report tecnici.

Termini correlati

• Fine-tuning
• Allineamento
• RLHF (Reinforcement Learning from Human Feedback)
• Constitutional AI
• Addestramento al Rifiuto

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.