Scuola AI › Le grandi domande · Lezione 116 di 130

🎭 L'AI può sbagliare di proposito?

L'AI non ha intenzioni: i suoi errori sono meccanici, non dispetti o bugie volute.

Quando un amico ti dice una bugia «di proposito», sa che è falsa e sceglie di dirla per un suo motivo. L'AI non funziona così: non sa nemmeno cosa sia vero, perché non «crede» a niente. A volte inventa fatti che sembrano seri ma sono falsi, e gli esperti chiamano questi scivoloni «allucinazioni». Non è una bugia cattiva: è come una calcolatrice rotta che dà il numero sbagliato senza volerlo. Manca l'intenzione e senza intenzione non c'è né dispetto né inganno voluto. È solo un meccanismo che a volte sbaglia bersaglio.

Questo però non ci mette al sicuro: un errore senza cattiveria può comunque farci del male se ci fidiamo ciecamente. Se l'AI ti dà una data storica sbagliata con grande sicurezza e tu la scrivi nel compito, il voto basso è reale anche se nessuno voleva ingannarti. Ecco perché controllare sempre le fonti importanti è un'abitudine da campioni. E attenzione all'altro rischio: qualcuno potrebbe programmare un'AI apposta per ingannare le persone. In quel caso l'intenzione cattiva è dell'umano, non della macchina. La macchina è lo strumento; la responsabilità resta sempre nostra.

🎒 Prova in classe (o a casa)

Chiedi all'AI un fatto che conosci bene e verifica se sbaglia; se succede, prova a spiegare perché è un errore meccanico e non una bugia.

← Lezione 115: L'AI può avere fantasia? · Lezione 117: Chi decide cosa impara l'AI →

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.