Dizionario AI › Fondamenti AI
Hyperparameter
Un iperparametro è un valore di configurazione di un modello o del suo processo di addestramento che viene scelto prima di iniziare l'addestramento e che non viene modificato automaticamente dall'algoritmo di apprendimento, a differenza dei parametri veri e propri, come i pesi, che vengono aggiornati progressivamente sui dati. Esempi tipici sono il numero di strati, la dimensione degli strati nascosti, il tasso di apprendimento, la dimensione del batch e il numero di epoche.
La scelta degli iperparametri influenza in modo diretto sia la qualità finale del modello sia il costo computazionale dell'addestramento: valori troppo aggressivi possono rendere l'addestramento instabile, valori troppo conservativi possono rendere l'apprendimento lentissimo o insufficiente. Trovare la combinazione migliore richiede spesso di addestrare più volte varianti dello stesso modello confrontando i risultati, un processo chiamato ricerca degli iperparametri.
È una pratica presente in ogni fase dello sviluppo di modelli di intelligenza artificiale, dai piccoli classificatori ai grandi modelli linguistici, dove decisioni come il tasso di apprendimento iniziale o la strategia di riduzione progressiva possono determinare se un addestramento da milioni di dollari converge correttamente o fallisce.
Il prefisso "iper" indica che questi valori si collocano a un livello superiore rispetto ai parametri del modello stesso: mentre i parametri vengono appresi dai dati, gli iperparametri governano il modo in cui quell'apprendimento avviene e per questo vengono decisi a priori da chi progetta o addestra il modello.
Dalla nostra rete
INDACO TMS: Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Vai su indacotms.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.