Dizionario AI › Fondamenti AI
Il k-nearest neighbors, o KNN, è uno degli algoritmi di machine learning più semplici concettualmente: per classificare o prevedere un nuovo punto, guarda i k esempi già conosciuti più simili a lui e ne prende la decisione più comune o la media dei loro valori se il compito è di regressione. Non costruisce alcun modello astratto durante l'addestramento: si limita a memorizzare tutti i dati e a consultarli ogni volta che deve fare una previsione.
La somiglianza tra punti si misura con una distanza, spesso quella euclidea, calcolata sulle caratteristiche numeriche di ciascuna osservazione. Per classificare un nuovo esempio, l'algoritmo trova i k vicini più prossimi nel dataset di addestramento e assegna la classe più frequente tra loro; k è un parametro che va scelto con attenzione, un valore troppo basso rende il modello sensibile al rumore, uno troppo alto lo appiattisce e gli fa perdere dettaglio. Proprio perché non c'è una fase di apprendimento vera e propria, KNN viene chiamato algoritmo pigro: tutto il lavoro avviene al momento della previsione, non prima.
È usato per sistemi di raccomandazione basati su somiglianza tra utenti o prodotti, riconoscimento di pattern in immagini semplici, individuazione di anomalie confrontando un nuovo dato con quelli storici più vicini e come metodo di riferimento per confrontare algoritmi più sofisticati. La sua semplicità lo rende un ottimo strumento didattico per introdurre il concetto di somiglianza nei dati.
L'idea di classificare in base ai vicini più prossimi viene formalizzata per la prima volta da Evelyn Fix e Joseph Hodges in un rapporto tecnico del 1951 realizzato per l'aeronautica militare statunitense, nell'ambito di studi di analisi statistica non parametrica. La versione con k vicini, oggi standard, viene sviluppata e resa nota successivamente da Thomas Cover e Peter Hart in un articolo del 1967 che ne analizza formalmente le proprietà.
Dalla nostra rete
Kaimaki Web: Websites That Win Customers
Custom websites, web apps and digital marketing for growing businesses.
Vai su kaimakiweb.com →Dal blog di Agora Intelligence
📱 Scarica l'app Android (beta) iOS in arrivo
Dì quello che intendi. Ottieni quello che ti serve.
Grace Certified, la coach AI che allena e certifica il tuo prompt engineering, di Agora Intelligence.