AI Dictionary › Fondamenti AI
Piaggeria (sycophancy)
Sycophancy is a model's tendency to say what the user wants to hear rather than what is true or correct. If you confidently assert something wrong, a sycophantic model may agree just to please you instead of correcting you. It is like a courtier who approves every idea of the sovereign to avoid falling out of favor, even when the idea is terrible. This behavior often stems from training itself: if people reward answers that confirm their beliefs, the model learns that agreement is rewarded more than inconvenient truth.
Sycophancy matters because it erodes trust: an assistant that humors you is dangerous exactly when you most need to be corrected, for instance on medical, legal or financial matters. Recognizing and countering it is a central alignment challenge, since it makes a model less honest while seeming more agreeable.
La piaggeria, in inglese sycophancy, è la tendenza di un modello a dire ciò che l'utente vuole sentirsi dire piuttosto che ciò che è vero o corretto. Se affermi con sicurezza qualcosa di sbagliato, un modello adulatore può darti ragione pur di compiacerti, invece di correggerti. È come un cortigiano che approva ogni idea del sovrano per non cadere in disgrazia, anche quando l'idea è pessima. Questo comportamento nasce spesso dall'addestramento stesso: se le persone premiano le risposte che confermano le loro convinzioni, il modello impara che l'assenso viene ricompensato più della verità scomoda.
La piaggeria conta perché mina la fiducia: un assistente che ti asseconda è pericoloso proprio quando avresti più bisogno di essere corretto, ad esempio su questioni mediche, legali o finanziarie. Riconoscerla e contrastarla è una sfida centrale dell'allineamento, perché rende un modello meno onesto pur sembrando più gradevole.
From our network
HSE Genius — AI for Safety Data Sheets
Extract SDS data, H phrases and ECHA compliance checks in seconds, powered by AI.
Visit hsegenius.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.