AI Dictionary › Fondamenti AI
Iperparametro
A hyperparameter is a configuration value of a model or its training process that is chosen before training begins and is not automatically modified by the learning algorithm, unlike actual parameters, such as weights, which are progressively updated on the data. Typical examples include the number of layers, the size of hidden layers, the learning rate, the batch size and the number of epochs.
A hyperparameter is a configuration value of a model or its training process that is chosen before training begins and is not automatically modified by the learning algorithm, unlike actual parameters, such as weights, which are progressively updated on the data. Typical examples include the number of layers, the size of hidden layers, the learning rate, the batch size and the number of epochs.
The choice of hyperparameters directly affects both the final quality of the model and the computational cost of training: values that are too aggressive can make training unstable, values that are too conservative can make learning extremely slow or insufficient. Finding the best combination often requires training multiple variants of the same model and comparing results, a process called hyperparameter search.
It is a practice present at every stage of developing artificial intelligence models, from small classifiers to large language models, where decisions such as the initial learning rate or the schedule for reducing it can determine whether a multimillion-dollar training run converges correctly or fails.
The prefix "hyper" indicates that these values sit at a level above the model's own parameters: while parameters are learned from data, hyperparameters govern how that learning happens, which is why they are decided in advance by whoever designs or trains the model.
Un iperparametro è un valore di configurazione di un modello o del suo processo di addestramento che viene scelto prima di iniziare l'addestramento e che non viene modificato automaticamente dall'algoritmo di apprendimento, a differenza dei parametri veri e propri, come i pesi, che vengono aggiornati progressivamente sui dati. Esempi tipici sono il numero di strati, la dimensione degli strati nascosti, il tasso di apprendimento, la dimensione del batch e il numero di epoche.
La scelta degli iperparametri influenza in modo diretto sia la qualità finale del modello sia il costo computazionale dell'addestramento: valori troppo aggressivi possono rendere l'addestramento instabile, valori troppo conservativi possono rendere l'apprendimento lentissimo o insufficiente. Trovare la combinazione migliore richiede spesso di addestrare più volte varianti dello stesso modello confrontando i risultati, un processo chiamato ricerca degli iperparametri.
È una pratica presente in ogni fase dello sviluppo di modelli di intelligenza artificiale, dai piccoli classificatori ai grandi modelli linguistici, dove decisioni come il tasso di apprendimento iniziale o la strategia di riduzione progressiva possono determinare se un addestramento da milioni di dollari converge correttamente o fallisce.
Il prefisso "iper" indica che questi valori si collocano a un livello superiore rispetto ai parametri del modello stesso: mentre i parametri vengono appresi dai dati, gli iperparametri governano il modo in cui quell'apprendimento avviene, e per questo vengono decisi a priori da chi progetta o addestra il modello.
From our network
INDACO TMS — Transport Management for European Logistics
Shipment tracking, multi-carrier EDI and automated invoicing in one cloud platform. Invoices generated in under 10 seconds.
Visit indacotms.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.