Dizionario AI › Fondamenti AI

Allineamento

Alignment

L'allineamento è l'insieme di tecniche e principi che mirano a far sì che un sistema di IA persegua davvero gli obiettivi e i valori umani, e non una loro interpretazione distorta. Immagina di addestrare un cane a riportare il giornale: se non sei preciso, potrebbe portarti qualsiasi carta trovi per strada. Con l'IA il rischio è simile ma amplificato: un modello ottimizzato in modo ingenuo può raggiungere alla lettera l'obiettivo che gli hai dato tradendone lo spirito. L'allineamento cerca di colmare questa distanza fra ciò che chiediamo e ciò che intendiamo davvero, rendendo il sistema utile, onesto e innocuo anche in situazioni non previste dai progettisti.

Definizione

L'allineamento conta perché più i modelli diventano capaci, più le loro deviazioni possono avere conseguenze serie. È il cuore della sicurezza dell'IA: un modello potente ma disallineato è pericoloso proprio in virtù della sua bravura.

Termini correlati

• Constitutional AI
• RLHF (Reinforcement Learning from Human Feedback)
• Red teaming
• Piaggeria (sycophancy)
• Guardrails

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.