Scuola AI › Le grandi domande · Lezione 116 di 130

🎭 L'AI può sbagliare di proposito?

L'AI non ha intenzioni: i suoi errori sono meccanici, non dispetti o bugie volute.

Quando un amico ti dice una bugia «di proposito», sa che è falsa e sceglie di dirla per un suo motivo. L'AI non funziona così: non sa nemmeno cosa sia vero, perché non «crede» a niente. A volte inventa fatti che sembrano seri ma sono falsi, e gli esperti chiamano questi scivoloni «allucinazioni». Non è una bugia cattiva: è come una calcolatrice rotta che dà il numero sbagliato senza volerlo. Manca l'intenzione, e senza intenzione non c'è né dispetto né inganno voluto. È solo un meccanismo che a volte sbaglia bersaglio.

Questo però non ci mette al sicuro: un errore senza cattiveria può comunque farci del male se ci fidiamo ciecamente. Se l'AI ti dà una data storica sbagliata con grande sicurezza e tu la scrivi nel compito, il voto basso è reale anche se nessuno voleva ingannarti. Ecco perché controllare sempre le fonti importanti è un'abitudine da campioni. E attenzione all'altro rischio: qualcuno potrebbe programmare un'AI apposta per ingannare le persone. In quel caso l'intenzione cattiva è dell'umano, non della macchina. La macchina è lo strumento; la responsabilità resta sempre nostra.

🎒 Prova in classe (o a casa)

Chiedi all'AI un fatto che conosci bene e verifica se sbaglia; se succede, prova a spiegare perché è un errore meccanico e non una bugia.

Can AI make mistakes on purpose? (English)

AI has no intentions: its mistakes are mechanical, not spiteful or deliberate lies.

Grace's free AI School teaches kids, parents and teachers what AI is, how it works and how to use it safely — 130 lessons, starting from zero.

← Lezione 115: L'AI può avere fantasia? · Lezione 117: Chi decide cosa impara l'AI →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.