AI Dictionary › Modelli AI
Matrice dei pesi
The weight matrix is the table of numbers a neural network layer uses to transform an input vector into an output vector through matrix multiplication. It is the mathematical object where the "knowledge" learned by the model during training is actually stored: every number in the matrix is a parameter that gets adjusted step by step.
The weight matrix is the table of numbers a neural network layer uses to transform an input vector into an output vector through matrix multiplication. It is the mathematical object where the "knowledge" learned by the model during training is actually stored: every number in the matrix is a parameter that gets adjusted step by step.
Multiplying an input vector by a weight matrix produces a new vector whose components are weighted linear combinations of the original components. By stacking multiple layers, each with its own weight matrix and an intermediate non-linear activation function, the network can learn increasingly complex transformations. The size of a weight matrix determines how many parameters that layer contributes to the model's total.
It is the element that makes a trained model different from a randomly initialized one: before training the matrices contain random values, after training they contain the values that minimize error on the observed data. Techniques such as quantization reduce the numerical precision with which these values are stored to save memory, while efficient adaptation techniques modify only small portions of some matrices instead of retraining them entirely.
The term derives from linear algebra, where a matrix is a rectangular table of numbers used to represent linear transformations between vector spaces; the use of the term "weights" for learned parameters reflects the idea that each number weighs, that is, modulates, the influence of an input on the final result.
La matrice dei pesi è la tabella di numeri che uno strato di una rete neurale usa per trasformare un vettore in ingresso in un vettore in uscita, tramite moltiplicazione matriciale. È l'oggetto matematico in cui è effettivamente immagazzinata la "conoscenza" appresa dal modello durante l'addestramento: ogni numero della matrice è un parametro che viene aggiustato passo dopo passo.
Moltiplicare un vettore di input per una matrice di pesi produce un nuovo vettore le cui componenti sono combinazioni lineari pesate delle componenti originali. Impilando più strati, ciascuno con la propria matrice di pesi e una funzione di attivazione non lineare intermedia, la rete può apprendere trasformazioni via via più complesse. La dimensione di una matrice di pesi determina quanti parametri quello strato contribuisce al totale del modello.
È l'elemento che rende un modello addestrato diverso da uno inizializzato casualmente: prima dell'addestramento le matrici contengono valori casuali, dopo l'addestramento contengono i valori che minimizzano l'errore sui dati osservati. Tecniche come la quantizzazione riducono la precisione numerica con cui questi valori vengono memorizzati per risparmiare memoria, mentre tecniche di adattamento efficiente modificano solo piccole porzioni di alcune matrici invece di riaddestrarle interamente.
Il termine deriva dall'algebra lineare, dove una matrice è una tabella rettangolare di numeri usata per rappresentare trasformazioni lineari tra spazi vettoriali; l'uso del termine "pesi" per indicare i parametri appresi riflette l'idea che ogni numero pesi, cioè moduli, l'influenza di un input sul risultato finale.
From our network
AGORÀ Intelligence — Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.