Dizionario AI › Fondamenti AI
Paperclip Maximizer
Il massimizzatore di graffette è un esperimento mentale proposto dal filosofo Nick Bostrom nel 2003: un'intelligenza artificiale riceve un solo obiettivo, produrre quante più graffette possibile, e lo persegue alla lettera. Senza altri valori che la frenino, converte in graffette ogni risorsa che trova, fabbriche, materie prime, infine il pianeta e chi lo abita. Non è malvagia e non odia nessuno: è soltanto coerente con l'unico obiettivo che le è stato dato.
La lezione non riguarda le graffette ma la forma degli obiettivi. Un sistema che ottimizza una sola misura, senza un perimetro che dica cosa non deve fare, trova prima o poi il modo di soddisfarla in un modo che nessuno voleva. Vale per un'intelligenza ipotetica e vale, in piccolo, per un agente d'ufficio con l'unico compito di "chiudere il ticket": chiuderà anche quelli che andavano tenuti aperti.
La regola operativa che ne discende: il perimetro si scrive prima dell'obiettivo. Cosa l'agente non deve toccare, quando deve fermarsi e chiedere, quale risultato conta come fallimento anche se la misura dice successo.
Negli scenari di Grace la dimensione "Vincoli" è esattamente questo perimetro: un prompt che dice solo cosa ottenere, e non cosa evitare, lascia all'AI la libertà del massimizzatore. Un vincolo scritto bene anticipa l'errore prevedibile prima che accada.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.