Scuola AI › I pericoli · Lezione 22 di 130

⚖️ I bias: quando l'AI è ingiusta

Se i dati sono sbilanciati, l'AI impara pregiudizi. E li ripete con sicurezza.

Ricordi che l'AI impara dai dati? Ecco il problema: se i dati contengono ingiustizie, l'AI le impara come fossero normali. Se ha visto quasi solo foto di scienziati maschi, disegnerà scienziati maschi. Se certi quartieri o certe persone compaiono nei dati sempre in modo negativo, l'AI li tratterà peggio. Questo difetto si chiama bias, cioè pregiudizio.

È un problema serio perché l'AI viene usata anche per decisioni importanti sui grandi: chi assumere, a chi prestare soldi. Per questo servono dati più equilibrati, controlli continui e persone che vigilano. Anche tu puoi fare la tua parte: quando una risposta ti sembra ingiusta verso qualcuno, dillo. Le macchine ripetono; le persone possono correggere.

🎒 Prova in classe (o a casa)

Esperimento: chiedete a un'AI di descrivere "un genio", "una persona forte", "un campione". Che aspetto hanno? Che nomi? Contate insieme: le risposte rappresentano tutti i tipi di persone che conoscete?

← Lezione 21: Truffe e messaggi strani: riconoscerli · Lezione 23: Schermi e chatbot: il tempo che scappa →

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.