Dizionario AI › Modelli AI
Weight Matrix
La matrice dei pesi è la tabella di numeri che uno strato di una rete neurale usa per trasformare un vettore in ingresso in un vettore in uscita, tramite moltiplicazione matriciale. È l'oggetto matematico in cui è effettivamente immagazzinata la "conoscenza" appresa dal modello durante l'addestramento: ogni numero della matrice è un parametro che viene aggiustato passo dopo passo.
Moltiplicare un vettore di input per una matrice di pesi produce un nuovo vettore le cui componenti sono combinazioni lineari pesate delle componenti originali. Impilando più strati, ciascuno con la propria matrice di pesi e una funzione di attivazione non lineare intermedia, la rete può apprendere trasformazioni via via più complesse. La dimensione di una matrice di pesi determina quanti parametri quello strato contribuisce al totale del modello.
È l'elemento che rende un modello addestrato diverso da uno inizializzato casualmente: prima dell'addestramento le matrici contengono valori casuali, dopo l'addestramento contengono i valori che minimizzano l'errore sui dati osservati. Tecniche come la quantizzazione riducono la precisione numerica con cui questi valori vengono memorizzati per risparmiare memoria, mentre tecniche di adattamento efficiente modificano solo piccole porzioni di alcune matrici invece di riaddestrarle interamente.
Il termine deriva dall'algebra lineare, dove una matrice è una tabella rettangolare di numeri usata per rappresentare trasformazioni lineari tra spazi vettoriali; l'uso del termine "pesi" per indicare i parametri appresi riflette l'idea che ogni numero pesi, cioè moduli, l'influenza di un input sul risultato finale.
Dalla nostra rete
Kaimaki Web: Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Vai su kaimakiweb.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.