AI Dictionary › Fondamenti AI
A cluster is a group of connected computers working together as if they were a single system. Each machine is a node; a network joins them and coordination software distributes the work. It is the practical answer to a physical limit: when one machine, however powerful, is no longer enough, you put many together.
A cluster is a group of connected computers working together as if they were a single system. Each machine is a node; a network joins them and coordination software distributes the work. It is the practical answer to a physical limit: when one machine, however powerful, is no longer enough, you put many together.
Nodes communicate over high-speed networks and share the load according to the cluster type: in compute clusters each node processes a slice of the problem, in high-availability clusters nodes watch each other ready to take over, in storage clusters data is replicated across machines. A scheduler assigns tasks and manages overall resources.
In AI, clusters are the model factory: training large LLMs happens on clusters of thousands of interconnected GPUs, where the model is split and parallelized across nodes. Large-scale inference and distributed vector databases run on clusters too. Beyond AI, clusters power scientific supercomputers, search engines and banking systems.
The English word cluster, a bunch or group, comes from Old English clyster. Multi-machine systems appeared as early as the 1960s and 70s, but a symbolic milestone is 1994, when Thomas Sterling and Donald Becker at NASA built Beowulf, a cluster of ordinary PCs wired together that proved high-performance computing could be achieved with cheap hardware: an idea that paved the way for modern data centers.
Un cluster è un gruppo di computer collegati che lavorano insieme come se fossero un unico sistema. Ogni macchina è un nodo; la rete li unisce e un software di coordinamento distribuisce il lavoro. È la risposta pratica a un limite fisico: quando una singola macchina, per quanto potente, non basta più, se ne mettono insieme tante.
I nodi comunicano attraverso reti ad alta velocità e condividono il carico secondo il tipo di cluster: nei cluster di calcolo ogni nodo elabora una porzione del problema, in quelli di alta disponibilità i nodi si sorvegliano a vicenda pronti a subentrare, in quelli di storage i dati sono replicati su più macchine. Uno scheduler assegna i compiti e gestisce le risorse complessive.
Nell'AI i cluster sono la fabbrica dei modelli: l'addestramento dei grandi LLM avviene su cluster di migliaia di GPU interconnesse, dove il modello viene spezzato e parallelizzato tra i nodi. Anche l'inferenza su larga scala e i database vettoriali distribuiti girano su cluster. Fuori dall'AI, i cluster reggono supercomputer scientifici, motori di ricerca e sistemi bancari.
La parola inglese cluster, grappolo o gruppo, viene dall'antico inglese clyster. In informatica i sistemi multi-macchina emergono già negli anni '60-70, ma un momento simbolico è il 1994, quando Thomas Sterling e Donald Becker alla NASA costruirono Beowulf, un cluster di PC comuni collegati in rete che dimostrò come il calcolo ad alte prestazioni fosse ottenibile con hardware economico: un'idea che ha aperto la strada ai data center moderni.
From our network
Kaimaki Web — Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Visit kaimakiweb.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.