AI Dictionary › Fondamenti AI

Kubernetes

Kubernetes (K8s for short) is the open source platform that orchestrates containers at scale: it decides where to run them, restarts them when they crash, multiplies them when traffic grows and updates them with zero downtime. If the container is the standardized box, Kubernetes is the automated port managing thousands of them at once.

Definition

What it is

Kubernetes (K8s for short) is the open source platform that orchestrates containers at scale: it decides where to run them, restarts them when they crash, multiplies them when traffic grows and updates them with zero downtime. If the container is the standardized box, Kubernetes is the automated port managing thousands of them at once.

How it works

Its operation is declarative: the operator describes the desired state, say I want 5 replicas of this service, and Kubernetes continuously works to make reality match the declaration. A control plane observes the cluster, schedules pods (the smallest units of execution) onto available nodes and reacts to failures and spikes. This continuous reconciliation loop is its most powerful idea.

Applications

In AI, Kubernetes is the backbone of infrastructure: GPU clusters for training and inference are managed almost everywhere with K8s, projects like Kubeflow and Ray build machine learning pipelines on top of it, and model serving platforms use it to autoscale. Beyond AI, it runs a large share of the cloud services we use daily.

History & etymology

The name comes from the Greek kybernetes, helmsman, the same root as cybernetics and governance. Google unveiled it in June 2014, distilling into open source the experience of its internal Borg system, and donated it to the newly created Cloud Native Computing Foundation in 2015. The K8s abbreviation counts the 8 letters between the K and the s. The seven-spoked ship's wheel logo nods to the project's original codename, Seven of Nine.

Definizione (italiano)

Kubernetes (abbreviato K8s) è la piattaforma open source che orchestra i container su larga scala: decide dove eseguirli, li riavvia se cadono, li moltiplica quando il traffico cresce e li aggiorna senza interruzioni. Se il container è la scatola standardizzata, Kubernetes è il porto automatizzato che ne gestisce migliaia contemporaneamente.

Il suo funzionamento è dichiarativo: l'operatore descrive lo stato desiderato, ad esempio voglio 5 repliche di questo servizio, e Kubernetes lavora costantemente per far coincidere la realtà con la dichiarazione. Un control plane osserva il cluster, pianifica i pod (le unità minime di esecuzione) sui nodi disponibili e reagisce a guasti e picchi. Questo ciclo di riconciliazione continua è la sua idea più potente.

Nell'AI Kubernetes è la spina dorsale dell'infrastruttura: i cluster GPU per training e inferenza sono gestiti quasi ovunque con K8s, progetti come Kubeflow e Ray vi costruiscono sopra pipeline di machine learning e le piattaforme di serving dei modelli lo usano per scalare automaticamente. Fuori dall'AI fa girare gran parte dei servizi cloud che usiamo ogni giorno.

Il nome viene dal greco kybernetes, timoniere, la stessa radice di cibernetica e governo. Google lo presentò nel giugno 2014, distillando in open source l'esperienza del suo sistema interno Borg, e nel 2015 lo donò alla neonata Cloud Native Computing Foundation. L'abbreviazione K8s conta le 8 lettere tra la K e la s. Il logo a timone con 7 raggi omaggia il nome in codice originale del progetto, Seven of Nine.

Related terms

More in Fondamenti AI

Put it into practice

From our network

Magellano GPS — Fleet Tracking Made Simple

Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.

Visit magellanogps.com →

From the Agora Intelligence blog

More on agora-intelligence.com →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.