Dizionario AI › Regolamentazione
Social scoring ban
Il divieto di social scoring è una delle proibizioni esplicite dell'EU AI Act rivolta ai sistemi AI utilizzati da autorità pubbliche, o per loro conto, per valutare o classificare le persone sulla base del loro comportamento sociale o di caratteristiche personali o della personalità, con l'effetto di produrre un trattamento pregiudizievole o sfavorevole in contesti diversi da quelli in cui i dati erano stati originariamente raccolti, oppure sproporzionato rispetto alla gravità del comportamento osservato.
Il divieto si concentra su due elementi distintivi: la generalizzazione, cioè l'uso di un punteggio unico calcolato su dati raccolti in contesti diversi per prendere decisioni su aspetti della vita della persona non collegati a quei contesti, e la sproporzionalità, cioè conseguenze eccessive rispetto al comportamento effettivamente tenuto. Non riguarda invece sistemi di valutazione legittimi e circoscritti a un contesto specifico, come i normali sistemi di scoring creditizio regolamentati da altre norme settoriali.
Per le aziende e gli enti pubblici, questo divieto impone di evitare la costruzione di profili comportamentali aggregati e trasversali utilizzati per finalità generiche di classificazione delle persone, distinguendo chiaramente questi utilizzi da sistemi di scoring settoriali e circoscritti, che restano ammessi se conformi alle rispettive normative di settore.
Il tema del social scoring è entrato nel dibattito normativo europeo soprattutto in relazione a sistemi di valutazione sociale su larga scala sperimentati in altre giurisdizioni, che hanno sollevato preoccupazioni diffuse sulla compatibilità di simili pratiche con i principi di dignità della persona e di non discriminazione alla base del diritto europeo.
Dalla nostra rete
HSE Genius: AI for Safety Data Sheets
Extract SDS data, H phrases and ECHA compliance checks in seconds, powered by AI.
Vai su hsegenius.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.