AI Dictionary › Fondamenti AI
Naive Bayes is a family of classification algorithms based on Bayes' theorem, which computes the probability that an observation belongs to a given class by combining the baseline probability of that class with how typical, for that class, the observed features are. It is called naive because it assumes, for simplicity, that all features are independent of one another given the class value, an assumption that is almost always false in reality but works surprisingly well in practice.
Naive Bayes is a family of classification algorithms based on Bayes' theorem, which computes the probability that an observation belongs to a given class by combining the baseline probability of that class with how typical, for that class, the observed features are. It is called naive because it assumes, for simplicity, that all features are independent of one another given the class value, an assumption that is almost always false in reality but works surprisingly well in practice.
The algorithm estimates, from the training data, how likely each class is overall and how likely it is to observe each individual feature within each class. To classify a new example, it multiplies these probabilities together for every possible class and picks the one with the highest overall value. Thanks to the independence assumption, the computation stays very simple even with a huge number of features, which makes it extremely fast to train and to use.
It has historically been one of the most widely used algorithms for text classification: spam filters, sentiment analysis, automatic categorization of documents and articles, recommendation systems based on textual content. It remains a very practical choice when a fast, lightweight and reasonably accurate model is needed, especially with high-dimensional text data where every word becomes a feature.
The name combines naive, referring to the simplifying independence assumption, and Bayes, in honor of the Reverend Thomas Bayes, an eighteenth-century British mathematician whose theorem on conditional probability underlies the calculation. Applying Bayes' theorem to automatic text classification, particularly spam filtering, spread widely starting in the 1990s, when it became one of the first statistical methods used at scale to distinguish unwanted email from legitimate messages.
Naive Bayes è una famiglia di algoritmi di classificazione basati sul teorema di Bayes, che calcola la probabilità che un'osservazione appartenga a una certa classe combinando la probabilità di partenza di quella classe con quanto sono tipiche, per quella classe, le caratteristiche osservate. Si chiama ingenuo perché assume, per semplicità, che tutte le caratteristiche siano indipendenti tra loro dato il valore della classe, un'ipotesi quasi sempre falsa nella realtà ma che funziona sorprendentemente bene in pratica.
L'algoritmo stima, dai dati di addestramento, quanto è probabile ciascuna classe in generale e quanto è probabile osservare ogni singola caratteristica all'interno di ciascuna classe. Per classificare un nuovo esempio, moltiplica tra loro queste probabilità per ogni classe possibile e sceglie quella con il valore complessivo più alto. Grazie all'assunzione di indipendenza, il calcolo resta semplicissimo anche con moltissime caratteristiche, il che lo rende estremamente veloce da addestrare e da usare.
È storicamente uno degli algoritmi più usati per la classificazione del testo: filtri antispam, analisi del sentiment, categorizzazione automatica di documenti e articoli, sistemi di raccomandazione basati su contenuti testuali. Resta una scelta molto pratica quando serve un modello rapido, leggero e ragionevolmente accurato, specialmente con dati testuali ad alta dimensionalità dove ogni parola diventa una caratteristica.
Il nome unisce naive, ingenuo, riferito all'assunzione semplificatrice di indipendenza, e Bayes, in onore del reverendo Thomas Bayes, matematico britannico del Settecento il cui teorema sulla probabilità condizionata è alla base del calcolo. L'applicazione del teorema di Bayes alla classificazione automatica dei testi, in particolare al filtraggio dello spam, si diffonde ampiamente a partire dagli anni '90, quando diventa uno dei primi metodi statistici usati su larga scala per distinguere email indesiderate da quelle legittime.
From our network
AGORÀ Intelligence — Enterprise AI Governance Platform
Govern AI at scale: policies, adoption and measurable results on your data. Built for boards and C-suite.
Visit agora-intelligence.com →From the Agora Intelligence blog
📱 Download the Android app (beta) iOS coming soon
Say what you mean. Get what you need.
Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.