Scuola AI › Come funziona · Lezione 8 di 130
L'AI può inventare fatti con grande sicurezza. Si chiamano allucinazioni.
A volte l'AI risponde con informazioni inventate, dette con un tono sicurissimo: date sbagliate, libri mai scritti, personaggi mai esistiti. Gli esperti le chiamano "allucinazioni". Succede perché l'AI completa le frasi nel modo più probabile: se la risposta vera è rara e una risposta falsa "suona meglio", può scegliere quella falsa.
È come un compagno che vuole rispondere a tutti i costi, anche quando avrebbe dovuto dire "questa cosa la ignoro". La regola d'oro è: le informazioni importanti si verificano sempre da un'altra fonte, un libro, un sito affidabile, un adulto esperto. L'AI è un ottimo punto di partenza e un pessimo punto di arrivo.
Test del detective: chiedete all'AI la biografia di una persona inventata ("Chi era Gianfranco Meravigli, esploratore?"). Se risponde con dettagli, avete visto un'allucinazione dal vivo.
Se una risposta dell'AI riguarda salute, soldi o sicurezza, va sempre controllata con un adulto prima di usarla.
← Lezione 7: Il trucco: prevedere la prossima parola · Lezione 9: Il prompt: le parole che usi contano →
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.