Dizionario AI › Fondamenti AI
Context Compaction
La compattazione del contesto è l'operazione con cui un sistema AI, quando la conversazione si avvicina al limite della finestra di contesto, riassume ciò che è successo finora e sostituisce il testo integrale con il riassunto. L'agente continua a lavorare con una memoria più corta ma ancora coerente, invece di fermarsi o di dimenticare tutto. È ormai una funzione standard degli assistenti che lavorano per ore sullo stesso compito.
Ha due effetti opposti sulla deriva. Taglia il filo con cui il modello imita il proprio testo precedente, e quindi interrompe le abitudini accumulate in una sessione lunga. Ma taglia anche le correzioni ricevute: un'istruzione data all'inizio e non riportata nel riassunto scompare, e il modello torna al comportamento di partenza senza saperlo. Ciò che sopravvive alla compattazione dipende da chi scrive il riassunto, cioè dal modello stesso.
La regola operativa: le istruzioni che devono sopravvivere non si lasciano nella conversazione, si mettono dove la compattazione non arriva: nel prompt di sistema, in un file riletto a ogni passo, in una nota esterna.
Dalla nostra rete
AGORÀ Intelligence: Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Vai su agora-intelligence.com →Dal blog di Agora Intelligence
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.