AI Dictionary › Fondamenti AI

Cluster

A cluster is a group of connected computers working together as if they were a single system. Each machine is a node; a network joins them and coordination software distributes the work. It is the practical answer to a physical limit: when one machine, however powerful, is no longer enough, you put many together.

Definition

What it is

A cluster is a group of connected computers working together as if they were a single system. Each machine is a node; a network joins them and coordination software distributes the work. It is the practical answer to a physical limit: when one machine, however powerful, is no longer enough, you put many together.

How it works

Nodes communicate over high-speed networks and share the load according to the cluster type: in compute clusters each node processes a slice of the problem, in high-availability clusters nodes watch each other ready to take over, in storage clusters data is replicated across machines. A scheduler assigns tasks and manages overall resources.

Applications

In AI, clusters are the model factory: training large LLMs happens on clusters of thousands of interconnected GPUs, where the model is split and parallelized across nodes. Large-scale inference and distributed vector databases run on clusters too. Beyond AI, clusters power scientific supercomputers, search engines and banking systems.

History & etymology

The English word cluster, a bunch or group, comes from Old English clyster. Multi-machine systems appeared as early as the 1960s and 70s, but a symbolic milestone is 1994, when Thomas Sterling and Donald Becker at NASA built Beowulf, a cluster of ordinary PCs wired together that proved high-performance computing could be achieved with cheap hardware: an idea that paved the way for modern data centers.

Definizione (italiano)

Un cluster è un gruppo di computer collegati che lavorano insieme come se fossero un unico sistema. Ogni macchina è un nodo; la rete li unisce e un software di coordinamento distribuisce il lavoro. È la risposta pratica a un limite fisico: quando una singola macchina, per quanto potente, non basta più, se ne mettono insieme tante.

I nodi comunicano attraverso reti ad alta velocità e condividono il carico secondo il tipo di cluster: nei cluster di calcolo ogni nodo elabora una porzione del problema, in quelli di alta disponibilità i nodi si sorvegliano a vicenda pronti a subentrare, in quelli di storage i dati sono replicati su più macchine. Uno scheduler assegna i compiti e gestisce le risorse complessive.

Nell'AI i cluster sono la fabbrica dei modelli: l'addestramento dei grandi LLM avviene su cluster di migliaia di GPU interconnesse, dove il modello viene spezzato e parallelizzato tra i nodi. Anche l'inferenza su larga scala e i database vettoriali distribuiti girano su cluster. Fuori dall'AI, i cluster reggono supercomputer scientifici, motori di ricerca e sistemi bancari.

La parola inglese cluster, grappolo o gruppo, viene dall'antico inglese clyster. In informatica i sistemi multi-macchina emergono già negli anni '60-70, ma un momento simbolico è il 1994, quando Thomas Sterling e Donald Becker alla NASA costruirono Beowulf, un cluster di PC comuni collegati in rete che dimostrò come il calcolo ad alte prestazioni fosse ottenibile con hardware economico: un'idea che ha aperto la strada ai data center moderni.

Related terms

More in Fondamenti AI

Put it into practice

From our network

Kaimaki Web — Websites That Win Customers

Custom websites, web apps and digital marketing for growing businesses.

Visit kaimakiweb.com →

From the Agora Intelligence blog

More on agora-intelligence.com →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.