Dizionario AI › Fondamenti AI

Batch Processing

Il batch processing è l'elaborazione dei dati in lotti: le richieste o i record vengono accumulati e processati tutti insieme in un momento prestabilito, invece che uno alla volta appena arrivano. È l'opposto complementare dello streaming: dove il tempo reale privilegia la reattività, il batch privilegia l'efficienza e il costo.

Definizione

Come funziona

Un job batch legge un grande insieme di dati, lo elabora dall'inizio alla fine e scrive i risultati, tipicamente in orari di basso carico come la notte. L'assenza di interattività permette di ottimizzare tutto: parallelizzare su molte macchine, saturare le risorse, riprendere da checkpoint in caso di errore. Framework come Apache Spark hanno reso il batch distribuito accessibile su dataset di petabyte.

Applicazioni

Nell'AI il batch è ovunque: l'addestramento stesso procede per batch di esempi, la generazione di embedding per milioni di documenti gira come job notturno e i provider LLM offrono batch API scontate (spesso del 50%) per elaborazioni tolleranti al ritardo, come classificare archivi o generare riassunti in massa. Fuori dall'AI, buste paga, fatturazione e riconciliazioni bancarie sono batch da sempre.

Storia ed etimologia

È la modalità più antica dell'informatica: negli anni '50 e '60 i programmi si consegnavano su mazzi di schede perforate e l'operatore li eseguiva in lotti (batch, dall'inglese infornata, legato a bake, cuocere) sul mainframe, restituendo i tabulati ore dopo. I sistemi operativi nacquero proprio per automatizzare questa coda di lavori: il General Motors-North American Monitor per l'IBM 704, del 1956, è considerato tra i primi.

Come si usa in Grace

Nel problem solving di Grace impari a decidere quando conviene elaborare subito e quando accumulare e processare in blocco: la stessa scelta batch-streaming che affrontano gli architetti AI. Gli scenari su costi e ottimizzazione ti allenano a specificare all'AI la modalità giusta per ogni carico.

Termini correlati

• Streaming
• Coda (Queue)
• Cron Job
• Data Pipeline
• Compute (potenza di calcolo)

Altri termini in Fondamenti AI

• LLM (Large Language Model)
• Token
• Context Window
• Temperature
• Allucinazione (AI Hallucination)
• Fine-tuning
• RAG (Retrieval Augmented Generation)
• Embedding

Mettilo alla prova

• Scenario reale: applica questo concetto con un verdetto AI immediato.
• Palestra quotidiana: brevi esercizi per allenare i concetti del dizionario.
• Gioco Playoff: sfida altri giocatori, a eliminazione diretta.

📱 Scarica l'app Android (beta) iOS in arrivo

Dì quello che intendi. Ottieni quello che ti serve.

Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.