GPU and TPU

GPU e TPU

Definition

GPUs and TPUs are the hardware engines that make modern AI possible. The GPU (Graphics Processing Unit) was born for video games, but its ability to do thousands of simple calculations in parallel turned out perfect for neural networks. The TPU (Tensor Processing Unit) is a chip designed from scratch by Google specifically for AI. Picture the difference between an ordinary processor and these accelerators as that between a lone cook making a thousand dishes one by one and a brigade of a thousand cooks working together: for repetitive parallel tasks, the brigade wins decisively. Both excel at matrix multiplications, the core of model computation.

GPUs and TPUs matter because without them training or running a large model would take years instead of weeks. Their availability and cost decide who can afford to build AI.

Definizione (italiano)

GPU e TPU sono i motori hardware che rendono possibile l'intelligenza artificiale moderna. La GPU (Graphics Processing Unit) nasce per i videogiochi, ma la sua capacità di fare migliaia di calcoli semplici in parallelo si è rivelata perfetta per le reti neurali. La TPU (Tensor Processing Unit) è un chip progettato da zero da Google proprio per l'IA. Immagina la differenza tra un normale processore e questi acceleratori come quella tra un cuoco solitario che prepara mille piatti uno alla volta e una brigata di mille cuochi che lavorano insieme: per compiti ripetitivi e paralleli, la brigata vince nettamente. Entrambi eccellono nelle moltiplicazioni tra matrici, il cuore del calcolo dei modelli.

GPU e TPU contano perché senza di loro addestrare o far girare un grande modello richiederebbe anni invece di settimane. La loro disponibilità e il loro costo determinano chi può permettersi di costruire l'IA.

Related terms

More in Fondamenti AI

From our network

Kaimaki Web — Websites That Win Customers

Custom websites, web apps and digital marketing for growing businesses.

Visit kaimakiweb.com →

From the Agora Intelligence blog