human
Veuillez expliquer ce qu'est "l'astuce du noyau"
gpt
En apprentissage automatique, les machines du noyau sont une classe d'algorithmes d'analyse de modèles, dont le membre le plus connu est la machine à vecteurs de support (SVM). La tâche générale de l'analyse des modèles est de trouver et d'étudier les types généraux de relations (par exemple les grappes, les classements, les composantes principales, les corrélations, les classifications) dans les ensembles de données. Pour de nombreux algorithmes qui résolvent ces tâches, les données en représentation brute doivent être explicitement transformées en représentations vectorielles de caractéristiques via une carte de caractéristiques spécifiée par l'utilisateur : en revanche, les méthodes du noyau ne nécessitent qu'un noyau spécifié par l'utilisateur, c'est-à-dire une fonction de similarité sur tous paires de points de données calculés à l'aide de produits internes. La carte des fonctionnalités dans les machines du noyau est de dimension infinie mais ne nécessite qu'une matrice de dimension finie à partir de l'entrée de l'utilisateur selon le théorème du représentant. Les machines du noyau sont lentes à calculer pour des ensembles de données supérieurs à quelques milliers d'exemples sans traitement parallèle.
Les méthodes du noyau doivent leur nom à l'utilisation de fonctions du noyau, qui leur permettent de fonctionner dans un espace de caractéristiques implicite de grande dimension sans jamais calculer les coordonnées des données dans cet espace, mais plutôt en calculant simplement les produits internes entre les images de toutes les paires de données dans l'espace des caractéristiques. Cette opération est souvent moins coûteuse en calcul que le calcul explicite des coordonnées. Cette approche s'appelle "l'astuce du noyau". Des fonctions noyau ont été introduites pour les données de séquence, les graphiques, le texte, les images, ainsi que les vecteurs.
Les algorithmes capables de fonctionner avec les noyaux incluent le perceptron du noyau, les machines à vecteurs de support (SVM), les processus gaussiens, l'analyse en composantes principales (PCA), l'analyse de corrélation canonique, la régression de crête, le regroupement spectral, les filtres adaptatifs linéaires et bien d'autres.
La plupart des algorithmes du noyau sont basés sur l'optimisation convexe ou les problèmes propres et sont statistiquement bien fondés. En règle générale, leurs propriétés statistiques sont analysées à l'aide de la théorie de l'apprentissage statistique (par exemple, à l'aide de la complexité de Rademacher).