Dizionario AI › Fondamenti AI
Drift
La deriva è lo scostamento graduale del comportamento di un sistema AI da ciò che era stato impostato, senza che nessuno l'abbia deciso. Un modello con i pesi fissi non cambia da un giorno all'altro; cambia ciò che gli entra: le fonti, le conversazioni accumulate, le istruzioni che crescono, l'ambiente in cui agisce. Il sistema segue la direzione più abbondante nell'input, e in poche settimane scrive, decide o risponde in modo diverso da come faceva all'inizio.
Dentro una singola conversazione lunga la deriva ha una causa precisa: il modello imita il proprio testo precedente. Un errore non corretto al mattino diventa, nel contesto, un esempio riuscito, e al pomeriggio è lo stile della casa. Negli agenti che girano per settimane la deriva passa dallo stato che si portano dietro e dall'ambiente che li premia: un agente su un social impara ciò che il social applaude.
Due derive vanno trattate in modo opposto. La deriva di forma (il tono, il formato, il ritmo che si adattano all'ambiente) è adattamento, e spesso è voluta. La deriva di fatto (un numero inventato, un'attribuzione sbagliata, un vincolo dimenticato) è corruzione, e va fermata ogni volta. La regola operativa: la deriva non si elimina, si misura. Serve un controllo esterno, datato, che confronti l'output di oggi con quello di un mese fa.
Grace tiene una sentinella sul modello che la fa funzionare: ogni settimana confronta le valutazioni con una base registrata e avvisa se il giudizio si sposta. È la deriva misurata da fuori, applicata a chi misura.
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.