Dizionario AI › Fondamenti AI
Il top-p, o nucleus sampling, è una tecnica di campionamento che limita le scelte del modello al gruppo più piccolo di token la cui probabilità cumulata raggiunge una soglia p, ad esempio 0,9. Immagina una fila di candidati ordinati dal più al meno probabile: continui a chiamarli finché la somma delle loro probabilità copre il 90% del totale, poi scarti tutti gli altri e peschi solo dentro questo "nucleo". Il numero di candidati non è fisso: se il modello è molto sicuro, il nucleo è piccolo; se è incerto, si allarga. È come invitare a una riunione solo le persone che insieme rappresentano il 90% delle competenze, ignorando i marginali.
Il top-p conta perché taglia via le code improbabili che generano assurdità, mantenendo però flessibilità. È spesso preferito al top-k perché si adatta automaticamente alla fiducia del modello passo per passo.
Dalla nostra rete
Kaimaki Web: Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Vai su kaimakiweb.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.