AI Dictionary › Regolamentazione
Regole sulla categorizzazione biometrica
Biometric categorization rules govern the use of AI systems that classify people into specific categories — such as presumed ethnicity, political opinions, sexual orientation or religious belief — based on biometric data such as facial features or gait. The EU AI Act treats these systems with particular severity: some applications are banned outright because they are considered an unacceptable risk, while others, where permitted, still fall into the high-risk category with strict obligations.
Biometric categorization rules govern the use of AI systems that classify people into specific categories — such as presumed ethnicity, political opinions, sexual orientation or religious belief — based on biometric data such as facial features or gait. The EU AI Act treats these systems with particular severity: some applications are banned outright because they are considered an unacceptable risk, while others, where permitted, still fall into the high-risk category with strict obligations.
Banned in particular is biometric categorization that deduces or infers sensitive characteristics of people for the sole purpose of inferring such attributes, save for limited exceptions provided by the rule for specific purposes such as labeling or filtering lawfully acquired datasets or law-enforcement activities governed by particular safeguards. Emotion recognition in the workplace or in educational institutions is also subject to a specific ban, except for medical or safety reasons.
For companies developing computer vision or biometric analysis technologies, this set of rules requires careful upfront assessment of the system's purpose: the same facial recognition technology may be lawful for a physical security use case and prohibited if used to infer the sexual orientation or political opinions of the people captured.
The topic emerged in the European debate alongside the commercial spread of facial recognition and facial expression analysis technologies, fueling specific concerns about the risk of algorithmic discrimination and pervasive surveillance, which prompted a distinct and stricter regulatory treatment compared to other categories of AI systems.
Le regole sulla categorizzazione biometrica disciplinano l'uso di sistemi AI che classificano le persone in categorie specifiche — come etnia presunta, opinioni politiche, orientamento sessuale o credo religioso — sulla base di dati biometrici quali il volto o l'andatura. L'EU AI Act tratta questi sistemi con particolare severità: alcune applicazioni sono vietate integralmente perché considerate a rischio inaccettabile, mentre altre, quando ammesse, ricadono comunque nella categoria dei sistemi ad alto rischio con obblighi stringenti.
È vietata, in particolare, la categorizzazione biometrica che deduce o inferisce caratteristiche sensibili delle persone al solo scopo di dedurre tali attributi, salvo limitate eccezioni previste dalla norma per finalità specifiche come l'etichettatura o il filtraggio di dataset legalmente acquisiti o attività di contrasto disciplinate da garanzie particolari. Anche il riconoscimento delle emozioni sul posto di lavoro o negli istituti scolastici è oggetto di un divieto specifico, salvo eccezioni per motivi medici o di sicurezza.
Per le aziende che sviluppano tecnologie di visione artificiale o di analisi biometrica, questo insieme di regole richiede un'attenta valutazione preventiva della finalità del sistema: la stessa tecnologia di riconoscimento facciale può essere lecita per un caso d'uso di sicurezza fisica e vietata se usata per inferire l'orientamento sessuale o le opinioni politiche delle persone riprese.
Il tema è emerso nel dibattito europeo parallelamente alla diffusione commerciale di tecnologie di riconoscimento facciale e di analisi delle espressioni facciali, alimentando preoccupazioni specifiche legate al rischio di discriminazione algoritmica e di sorveglianza pervasiva, che hanno motivato un trattamento normativo distinto e più rigoroso rispetto ad altre categorie di sistemi AI.
From our network
Kaimaki Web — Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Visit kaimakiweb.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.