AI Dictionary › Fondamenti AI

Encoder-Decoder

Definition

The encoder-decoder architecture is a two-part scheme designed to transform one sequence into another, such as translating a sentence between languages. The encoder reads the entire input and compresses it into a dense internal representation, a numerical summary; the decoder starts from that representation and generates the output piece by piece. It's like an interpreter who first listens to and deeply understands a whole speech, forming a mental idea, then restates it in the target language. This separation lets input and output have different lengths and structures.

The scheme underpins machine translation, summarization, and speech synthesis, and inspired architectures like the transformer. Distinguishing it from decoder-only models, used by many generative chatbots, clarifies why some systems excel at transforming given text while others are optimized to freely generate new content.

Definizione (italiano)

L'architettura encoder-decoder è uno schema in due parti pensato per trasformare una sequenza in un'altra, come tradurre una frase da una lingua all'altra. L'encoder legge l'intero input e lo comprime in una rappresentazione interna densa di significato, una sorta di riassunto numerico; il decoder parte da quella rappresentazione e genera l'output un pezzo alla volta. È come un interprete che prima ascolta e comprende a fondo un intero discorso, formandosene un'idea mentale, e solo dopo lo riformula nella lingua di destinazione. Questa separazione permette che input e output abbiano lunghezze e strutture diverse.

Lo schema è alla base di traduzione automatica, riassunto e sintesi vocale, e ha ispirato architetture come il transformer. Distinguerlo dai modelli solo-decoder, usati da molti chatbot generativi, aiuta a capire perché alcuni sistemi eccellono nel trasformare testi dati mentre altri sono ottimizzati per generare liberamente contenuti nuovi.

Related terms

• Transformer
• Attention Mechanism
• Positional Encoding
• Diffusion Model
• Autoencoder

More in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• AI Hallucination
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.