AI Dictionary › Regolamentazione
Divieto di social scoring
The social scoring ban is one of the explicit prohibitions in the EU AI Act directed at AI systems used by public authorities, or on their behalf, to evaluate or classify people based on their social behavior or personal or personality characteristics, resulting in detrimental or unfavorable treatment in contexts different from those in which the data was originally collected, or disproportionate to the severity of the observed behavior.
The social scoring ban is one of the explicit prohibitions in the EU AI Act directed at AI systems used by public authorities, or on their behalf, to evaluate or classify people based on their social behavior or personal or personality characteristics, resulting in detrimental or unfavorable treatment in contexts different from those in which the data was originally collected, or disproportionate to the severity of the observed behavior.
The ban focuses on two distinctive elements: generalization, meaning the use of a single score calculated from data collected in different contexts to make decisions about aspects of a person's life unrelated to those contexts, and disproportionality, meaning consequences excessive relative to the behavior actually exhibited. It does not cover legitimate evaluation systems confined to a specific context, such as ordinary credit scoring systems regulated by other sector-specific rules.
For companies and public bodies, this ban requires avoiding the construction of aggregated, cross-context behavioral profiles used for generic purposes of classifying people, clearly distinguishing these uses from sector-specific, confined scoring systems, which remain permitted if compliant with their respective sectoral regulations.
The topic of social scoring entered the European regulatory debate mainly in relation to large-scale social evaluation systems trialed in other jurisdictions, which raised widespread concern about the compatibility of such practices with the principles of human dignity and non-discrimination underlying European law.
Il divieto di social scoring è una delle proibizioni esplicite dell'EU AI Act rivolta ai sistemi AI utilizzati da autorità pubbliche, o per loro conto, per valutare o classificare le persone sulla base del loro comportamento sociale o di caratteristiche personali o della personalità, con l'effetto di produrre un trattamento pregiudizievole o sfavorevole in contesti diversi da quelli in cui i dati erano stati originariamente raccolti, oppure sproporzionato rispetto alla gravità del comportamento osservato.
Il divieto si concentra su due elementi distintivi: la generalizzazione, cioè l'uso di un punteggio unico calcolato su dati raccolti in contesti diversi per prendere decisioni su aspetti della vita della persona non collegati a quei contesti, e la sproporzionalità, cioè conseguenze eccessive rispetto al comportamento effettivamente tenuto. Non riguarda invece sistemi di valutazione legittimi e circoscritti a un contesto specifico, come i normali sistemi di scoring creditizio regolamentati da altre norme settoriali.
Per le aziende e gli enti pubblici, questo divieto impone di evitare la costruzione di profili comportamentali aggregati e trasversali utilizzati per finalità generiche di classificazione delle persone, distinguendo chiaramente questi utilizzi da sistemi di scoring settoriali e circoscritti, che restano ammessi se conformi alle rispettive normative di settore.
Il tema del social scoring è entrato nel dibattito normativo europeo soprattutto in relazione a sistemi di valutazione sociale su larga scala sperimentati in altre giurisdizioni, che hanno sollevato preoccupazioni diffuse sulla compatibilità di simili pratiche con i principi di dignità della persona e di non discriminazione alla base del diritto europeo.
From our network
INDACO TMS — Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Visit indacotms.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.