Dizionario AI › Fondamenti AI
Sampling
Il campionamento è il modo in cui un modello linguistico sceglie la parola successiva tra le tante possibili. A ogni passo il modello non produce una sola risposta certa, ma una distribuzione di probabilità su tutti i token candidati: "gatto" 40%, "cane" 25%, "cavallo" 10% e così via. Il campionamento è l'atto di pescare da questo sacchetto pesato. È come lanciare dei dadi truccati in cui le facce più probabili escono più spesso, ma non sempre. Alzando o abbassando la casualità si ottengono testi più creativi e imprevedibili oppure più prudenti e ripetitivi. Le tecniche come top-p, top-k e temperatura sono tutte varianti di come si effettua questo prelievo.
Il campionamento conta perché determina il carattere di un output: due chiamate identiche possono dare risposte diverse. Regolarlo bene è la differenza tra un assistente noioso e uno vivace, o tra affidabilità e allucinazioni.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.