Dizionario AI › Fondamenti AI
Il top-k è una tecnica di campionamento che restringe le opzioni del modello ai k token più probabili, scartando tutti gli altri prima di pescare. Se k vale 40, il modello considera solo le 40 parole candidate con la probabilità più alta e ignora il resto del vocabolario, per quanto vasto. È come un buttafuori che lascia entrare in un locale solo i primi 40 in lista e chiude la porta agli altri, indipendentemente da quanto siano vicini. A differenza del top-p, il numero di candidati è fisso: sempre 40, sia che il modello sia sicurissimo sia che sia molto incerto. Questo lo rende semplice ma rigido.
Il top-k conta perché è un modo diretto per evitare che il modello scelga parole assurde a bassissima probabilità. Il limite è la rigidità: quando poche opzioni dominano, 40 candidati sono troppi; quando molte sono valide, sono troppo pochi.
Dalla nostra rete
HSE Genius: AI for Safety Data Sheets
Extract SDS data, H phrases and ECHA compliance checks in seconds, powered by AI.
Vai su hsegenius.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.