AI Dictionary › Modelli AI
The GRU is a type of recurrent unit for sequence processing that regulates the flow of information across time steps through gating mechanisms, meaning gates that decide how much past information to keep and how much new information to incorporate. It was proposed as a simpler alternative to LSTM units, retaining much of their ability to handle long-range dependencies in sequences.
The GRU is a type of recurrent unit for sequence processing that regulates the flow of information across time steps through gating mechanisms, meaning gates that decide how much past information to keep and how much new information to incorporate. It was proposed as a simpler alternative to LSTM units, retaining much of their ability to handle long-range dependencies in sequences.
Unlike the LSTM, which uses three distinct gates and a memory state separate from the hidden state, the GRU uses two gates, called the update gate and the reset gate, and a single state that serves as both memory and output at each time step. The update gate decides how much of the previous state to keep, while the reset gate decides how much of the past information to ignore when computing the new candidate content. This leaner structure reduces the number of parameters compared to the LSTM, for the same hidden state size.
It was widely used in natural language processing and time series analysis tasks before the spread of architectures based exclusively on attention, and it remains a relevant choice in contexts with limited computational resources or where the inherently sequential nature of the problem makes recurrent networks a natural fit.
The name refers directly to the "gates" that regulate the flow of information within the recurrent unit, and it was proposed in the first half of the 2010s as part of research into recurrent architectures for machine translation and other sequential tasks.
La GRU è un tipo di unità ricorrente per l'elaborazione di sequenze che regola il flusso di informazione attraverso i passi temporali tramite meccanismi di gate, cioè porte che decidono quanta informazione passata mantenere e quanta nuova informazione incorporare. È stata proposta come alternativa più semplice alle unità LSTM, mantenendo gran parte della loro capacità di gestire dipendenze a lungo raggio nelle sequenze.
A differenza della LSTM, che utilizza tre gate distinti e uno stato di memoria separato dallo stato nascosto, la GRU utilizza due gate, chiamati gate di aggiornamento e gate di reset, e un unico stato che funge sia da memoria sia da output a ogni passo temporale. Il gate di aggiornamento decide quanto dello stato precedente mantenere, mentre il gate di reset decide quanto delle informazioni passate ignorare nel calcolare il nuovo contenuto candidato. Questa struttura più snella riduce il numero di parametri rispetto alla LSTM, a parità di dimensione dello stato nascosto.
È stata ampiamente utilizzata in compiti di elaborazione del linguaggio naturale e di analisi di serie temporali prima della diffusione delle architetture basate esclusivamente su attenzione, e rimane una scelta rilevante in contesti con risorse computazionali limitate o dove la natura intrinsecamente sequenziale del problema rende le reti ricorrenti una soluzione naturale.
Il nome fa riferimento diretto ai "gate" che regolano il flusso di informazione all'interno dell'unità ricorrente, ed è stata proposta nella prima metà degli anni 2010 nell'ambito della ricerca su architetture ricorrenti per la traduzione automatica e altri compiti sequenziali.
From our network
AGORÀ Intelligence — Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.