Scuola AI › Le grandi domande · Lezione 116 di 130

🎭 L'AI può sbagliare di proposito?

L'AI non ha intenzioni: i suoi errori sono meccanici, non dispetti o bugie volute.

Quando un amico ti dice una bugia «di proposito», sa che è falsa e sceglie di dirla per un suo motivo. L'AI non funziona così: non sa nemmeno cosa sia vero, perché non «crede» a niente. A volte inventa fatti che sembrano seri ma sono falsi, e gli esperti chiamano questi scivoloni «allucinazioni». Non è una bugia cattiva: è come una calcolatrice rotta che dà il numero sbagliato senza volerlo. Manca l'intenzione, e senza intenzione non c'è né dispetto né inganno voluto. È solo un meccanismo che a volte sbaglia bersaglio.

Questo però non ci mette al sicuro: un errore senza cattiveria può comunque farci del male se ci fidiamo ciecamente. Se l'AI ti dà una data storica sbagliata con grande sicurezza e tu la scrivi nel compito, il voto basso è reale anche se nessuno voleva ingannarti. Ecco perché controllare sempre le fonti importanti è un'abitudine da campioni. E attenzione all'altro rischio: qualcuno potrebbe programmare un'AI apposta per ingannare le persone. In quel caso l'intenzione cattiva è dell'umano, non della macchina. La macchina è lo strumento; la responsabilità resta sempre nostra.

🎒 Prova in classe (o a casa)

Chiedi all'AI un fatto che conosci bene e verifica se sbaglia; se succede, prova a spiegare perché è un errore meccanico e non una bugia.

← Lezione 115: L'AI può avere fantasia? · Lezione 117: Chi decide cosa impara l'AI →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified, the AI coach that trains and certifies your prompt engineering, by Agora Intelligence.