Scuola AI › I pericoli · Lezione 22 di 130
Se i dati sono sbilanciati, l'AI impara pregiudizi. E li ripete con sicurezza.
Ricordi che l'AI impara dai dati? Ecco il problema: se i dati contengono ingiustizie, l'AI le impara come fossero normali. Se ha visto quasi solo foto di scienziati maschi, disegnerà scienziati maschi. Se certi quartieri o certe persone compaiono nei dati sempre in modo negativo, l'AI li tratterà peggio. Questo difetto si chiama bias, cioè pregiudizio.
È un problema serio perché l'AI viene usata anche per decisioni importanti sui grandi: chi assumere, a chi prestare soldi. Per questo servono dati più equilibrati, controlli continui e persone che vigilano. Anche tu puoi fare la tua parte: quando una risposta ti sembra ingiusta verso qualcuno, dillo. Le macchine ripetono; le persone possono correggere.
Esperimento: chiedete a un'AI di descrivere "un genio", "una persona forte", "un campione". Che aspetto hanno? Che nomi? Contate insieme: le risposte rappresentano tutti i tipi di persone che conoscete?
← Lezione 21: Truffe e messaggi strani: riconoscerli · Lezione 23: Schermi e chatbot: il tempo che scappa →
From our network
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified, the AI coach that trains and certifies your prompt engineering, by Agora Intelligence.