AI Dictionary › Regolamentazione
Pratiche manipolative vietate
Prohibited manipulative practices are a specific category of AI uses expressly banned by the EU AI Act because they are considered an unacceptable risk: these are systems designed or used to materially distort a person's behavior through subliminal, deceptive or manipulative techniques, in a way that impairs their ability to make informed decisions and causes them significant harm.
Prohibited manipulative practices are a specific category of AI uses expressly banned by the EU AI Act because they are considered an unacceptable risk: these are systems designed or used to materially distort a person's behavior through subliminal, deceptive or manipulative techniques, in a way that impairs their ability to make informed decisions and causes them significant harm.
This category includes, for example, systems that exploit specific vulnerabilities related to age, disability or a particular social or economic situation of a group of people to steer their behavior in a harmful way, as well as techniques operating below the threshold of a person's conscious awareness. These uses are not subject to risk-management obligations to be complied with: they are banned outright, regardless of any mitigation measures adopted by the provider.
For companies developing AI-based products, particularly in advertising, entertainment or gaming, this category requires upfront reflection on where the line falls between legitimate personalization of the user experience and prohibited manipulation: aggressive persuasion techniques based on detailed behavioral profiling can come dangerously close to this limit.
The ban stems from concerns, long discussed in the European debate preceding the AI Act, that AI systems increasingly sophisticated at shaping human behavior could be used for purposes contrary to the person's own interests, crossing the threshold between legitimate influence (typical, for example, of traditional marketing) and the exploitation of individual vulnerabilities.
Le pratiche manipolative vietate sono una categoria specifica di utilizzi dell'intelligenza artificiale espressamente proibiti dall'EU AI Act perché ritenuti a rischio inaccettabile: si tratta di sistemi progettati o utilizzati per distorcere materialmente il comportamento di una persona attraverso tecniche subliminali, ingannevoli o manipolative, in modo da compromettere la sua capacità di prendere decisioni informate e causandole un danno significativo.
Rientrano in questa categoria, ad esempio, sistemi che sfruttano vulnerabilità specifiche legate all'età, alla disabilità o a una particolare situazione sociale o economica di un gruppo di persone per indirizzarne il comportamento in modo dannoso, così come tecniche che agiscono sotto la soglia della consapevolezza cosciente della persona. Questi utilizzi non sono soggetti a obblighi di gestione del rischio da rispettare: sono vietati a monte, indipendentemente da eventuali misure di mitigazione adottate dal fornitore.
Per le aziende che sviluppano prodotti basati su AI, in particolare nei settori pubblicitario, dell'intrattenimento o del gaming, questa categoria impone una riflessione preventiva su dove si colloca il confine tra personalizzazione legittima dell'esperienza utente e manipolazione vietata: tecniche di persuasione aggressiva basate su profilazione comportamentale dettagliata possono avvicinarsi pericolosamente a questo limite.
Il divieto nasce dalla preoccupazione, discussa a lungo nel dibattito europeo che ha preceduto l'AI Act, che sistemi AI sempre più sofisticati nel modellare il comportamento umano potessero essere usati per fini contrari agli interessi della persona stessa, superando la soglia tra influenza legittima (tipica ad esempio del marketing tradizionale) e sfruttamento delle vulnerabilità individuali.
From our network
HSE Genius — AI for Safety Data Sheets
Extract SDS data, H phrases and ECHA compliance checks in seconds, powered by AI.
Visit hsegenius.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.