Dizionario AI › Regolamentazione
Prohibited manipulative practices
Le pratiche manipolative vietate sono una categoria specifica di utilizzi dell'intelligenza artificiale espressamente proibiti dall'EU AI Act perché ritenuti a rischio inaccettabile: si tratta di sistemi progettati o utilizzati per distorcere materialmente il comportamento di una persona attraverso tecniche subliminali, ingannevoli o manipolative, in modo da compromettere la sua capacità di prendere decisioni informate e causandole un danno significativo.
Rientrano in questa categoria, ad esempio, sistemi che sfruttano vulnerabilità specifiche legate all'età, alla disabilità o a una particolare situazione sociale o economica di un gruppo di persone per indirizzarne il comportamento in modo dannoso, così come tecniche che agiscono sotto la soglia della consapevolezza cosciente della persona. Questi utilizzi non sono soggetti a obblighi di gestione del rischio da rispettare: sono vietati a monte, indipendentemente da eventuali misure di mitigazione adottate dal fornitore.
Per le aziende che sviluppano prodotti basati su AI, in particolare nei settori pubblicitario, dell'intrattenimento o del gaming, questa categoria impone una riflessione preventiva su dove si colloca il confine tra personalizzazione legittima dell'esperienza utente e manipolazione vietata: tecniche di persuasione aggressiva basate su profilazione comportamentale dettagliata possono avvicinarsi pericolosamente a questo limite.
Il divieto nasce dalla preoccupazione, discussa a lungo nel dibattito europeo che ha preceduto l'AI Act, che sistemi AI sempre più sofisticati nel modellare il comportamento umano potessero essere usati per fini contrari agli interessi della persona stessa, superando la soglia tra influenza legittima (tipica ad esempio del marketing tradizionale) e sfruttamento delle vulnerabilità individuali.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.