human
Veuillez expliquer ce qu'est "l'algorithme du plus proche voisin K"
gpt
En statistique, l'algorithme des k-plus proches voisins (k-NN) est une méthode d'apprentissage supervisé non paramétrique développée pour la première fois par Evelyn Fix et Joseph Hodges en 1951, puis étendue par Thomas Cover. Il est utilisé pour la classification et la régression. Dans les deux cas, l'entrée consiste en les k exemples d'apprentissage les plus proches dans un ensemble de données. La sortie dépend de l'utilisation de k-NN pour la classification ou la régression :
k-NN est un type de classification où la fonction n'est approchée que localement et tous les calculs sont différés jusqu'à l'évaluation de la fonction. Étant donné que cet algorithme repose sur la distance pour la classification, si les caractéristiques représentent différentes unités physiques ou se présentent à des échelles très différentes, la normalisation des données d'apprentissage peut améliorer considérablement leur précision.
Tant pour la classification que pour la régression, une technique utile peut consister à attribuer des poids aux contributions des voisins, de sorte que les voisins les plus proches contribuent davantage à la moyenne que les plus éloignés. Par exemple, un schéma de pondération courant consiste à donner à chaque voisin un poids de 1/d, où d est la distance au voisin.
Les voisins sont extraits d'un ensemble d'objets dont la classe (pour la classification k-NN) ou la valeur de la propriété de l'objet (pour la régression k-NN) est connue. Cela peut être considéré comme l'ensemble de formation pour l'algorithme, bien qu'aucune étape de formation explicite ne soit requise.
Une particularité de l'algorithme k-NN est qu'il est sensible à la structure locale des données.