Dizionario AI › Fondamenti AI

Load Balancer

Un load balancer è un componente che distribuisce il traffico in arrivo su più server, in modo che nessuno sia sovraccarico mentre altri restano inattivi. Agisce come un vigile all'incrocio: riceve tutte le richieste e le smista verso la destinazione più adatta. È ciò che permette a un servizio di scalare orizzontalmente aggiungendo macchine invece di potenziarne una sola.

Definizione

Come funziona

Il bilanciatore riceve ogni richiesta e sceglie il server di destinazione secondo un algoritmo: round-robin (a turno), least connections (al server meno carico) o pesi proporzionali alla capacità. Nel frattempo esegue health check periodici: se un server smette di rispondere, viene escluso dalla rotazione finché torna sano. I bilanciatori possono operare a livello di rete (L4) o comprendere il protocollo applicativo (L7), instradando ad esempio in base all'URL.

Applicazioni

Nell'AI i load balancer distribuiscono le richieste di inferenza su flotte di GPU, e i gateway LLM applicano lo stesso principio smistando le chiamate tra provider e modelli diversi in base a costo, latenza e quota disponibile. Fuori dall'AI reggono ogni grande sito web, dalle piattaforme di e-commerce ai servizi di streaming.

Storia ed etimologia

Il termine nasce dall'analogia con il bilanciamento dei carichi fisici. I bilanciatori dedicati emersero con la crescita del web commerciale a metà anni '90: il Cisco LocalDirector (1996) e i primi prodotti di F5 Networks, fondata nel 1996, sono tra i capostipiti della categoria. Con il cloud il load balancing è diventato un servizio gestito, offerto con un click da tutti i grandi provider.

Come si usa in Grace

Le leghe settimanali di Grace distribuiscono la competizione tra utenti di livello simile, un principio di bilanciamento che ritrovi identico nell'infrastruttura AI. Gli scenari professionali su architetture AI ti preparano a dialogare con i team tecnici usando il vocabolario giusto.

Termini correlati

• Round-robin
• Failover
• Cluster
• API Gateway
• Uptime e SLA

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.