AI Dictionary › Fondamenti AI
A timeout is the maximum time a system waits for a response before giving up and declaring the operation failed. It is a fundamental defense: without timeouts, a request to a stuck service would hang forever, holding resources and spreading paralysis in a chain. A clean error after five seconds beats an infinite wait.
A timeout is the maximum time a system waits for a response before giving up and declaring the operation failed. It is a fundamental defense: without timeouts, a request to a stuck service would hang forever, holding resources and spreading paralysis in a chain. A clean error after five seconds beats an infinite wait.
Technically, the caller sets a limit: if the response arrives within it, everything proceeds; otherwise an exception fires and the caller decides how to react, retry, degrade, report. Timeouts stack in layers: connection timeout (how long to establish the link), read timeout (how long to wait for data) and an overall deadline. Choosing values is an art: too short causes false failures, too long defeats the protection.
In AI, timeouts demand special care: LLM generations can legitimately take tens of seconds, and agents orchestrating multiple calls must balance patience and responsiveness, often combining timeouts with streaming to show progress. Beyond AI, every network protocol, from TCP up, lives on carefully tuned timeouts.
The term comes from sports: a time-out is the pause in play called to regroup, an expression documented in American sporting English since the nineteenth century. Network engineering adopted it naturally: the earliest transmission protocols of the 1970s, including Cerf and Kahn's TCP, already used retransmission timers to decide when a packet should be considered lost.
Un timeout è il tempo massimo che un sistema attende una risposta prima di rinunciare e dichiarare l'operazione fallita. È una difesa fondamentale: senza timeout, una richiesta verso un servizio bloccato resterebbe appesa per sempre, trattenendo risorse e propagando la paralisi a catena. Meglio un errore netto dopo cinque secondi che un'attesa infinita.
Tecnicamente, chi effettua una chiamata imposta un limite: se la risposta arriva entro il termine tutto procede, altrimenti scatta un'eccezione e il chiamante decide come reagire, ritentare, degradare, segnalare. I timeout si stratificano: quello di connessione (quanto aspetto per stabilire il collegamento), quello di lettura (quanto aspetto i dati) e quello complessivo. Sceglierne i valori è un'arte: troppo corti generano falsi fallimenti, troppo lunghi vanificano la protezione.
Nell'AI i timeout richiedono attenzione speciale: le generazioni LLM possono legittimamente durare decine di secondi, e gli agenti che orchestrano più chiamate devono bilanciare pazienza e reattività, spesso combinando timeout con streaming per mostrare progresso. Fuori dall'AI, ogni protocollo di rete, da TCP in su, vive di timeout accuratamente calibrati.
Il termine viene dallo sport: il time-out è la sospensione del gioco chiamata per riorganizzarsi, espressione documentata nell'inglese americano fin dall'Ottocento sportivo. L'ingegneria delle reti lo adottò con naturalezza: già i primi protocolli di trasmissione degli anni '70, incluso il TCP di Cerf e Kahn, usavano timer di ritrasmissione per decidere quando un pacchetto era da considerarsi perso.
From our network
AGORÀ Intelligence — Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.