Dizionario AI › Fondamenti AI

Attacco di Estrazione del Modello

Model Extraction Attack

Un attacco di estrazione del modello è una tecnica con cui un aggressore cerca di ricostruire un modello AI proprietario, o un'approssimazione sufficientemente accurata di esso, interrogandolo ripetutamente tramite la sua interfaccia pubblica e osservando gli output prodotti. Lo scopo non è ottenere l'accesso diretto ai pesi del modello, che restano protetti, ma addestrare un modello sostituto che ne replica il comportamento senza pagarne i costi di sviluppo.

Definizione

Come funziona

Tecnicamente l'attaccante invia un grande volume di richieste sistematicamente variate, raccoglie le coppie input-output risultanti e le usa come dataset di addestramento per un nuovo modello, in un processo simile alla distillazione ma condotto senza il consenso del proprietario del modello originale. Più query l'aggressore riesce a inviare e più informative sono le risposte ottenute, più fedele risulta il modello estratto.

Applicazioni

È un rischio concreto per le aziende che offrono modelli AI proprietari tramite API a pagamento, dove il valore commerciale risiede proprio nell'unicità del modello: un concorrente che riuscisse a estrarne un'approssimazione economica eroderebbe il vantaggio competitivo senza aver sostenuto i costi di addestramento originali. Le difese includono limiti di frequenza sulle richieste, offuscamento controllato delle probabilità restituite insieme all'output e monitoraggio dei pattern di query che indicano un tentativo sistematico di estrazione anziché un uso normale.

Storia ed etimologia

Il concetto nasce nella ricerca sulla sicurezza del machine learning già a metà degli anni 2010, applicato inizialmente a modelli di classificazione più semplici offerti come servizio cloud e si è esteso naturalmente ai grandi modelli linguistici con la diffusione delle API commerciali a partire dal 2020.

Termini correlati

• Attacco di Inversione del Modello
• Attacco di Inferenza di Appartenenza
• Rate Limiting
• Distillazione
• API

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.