human
Veuillez expliquer ce qu'est "Test Set"
gpt
Dans l'apprentissage automatique, une tâche courante est l'étude et la construction d'algorithmes qui peuvent apprendre et faire des prédictions sur les données.Ces algorithmes fonctionnent en faisant des prédictions ou des décisions basées sur les données, en créant un modèle mathématique à partir de données d'entrée.Ces données d'entrée utilisées pour construire le modèle sont généralement divisées en plusieurs ensembles de données.En particulier, trois ensembles de données sont couramment utilisés à différentes étapes de la création du modèle: formation, validation et ensembles de tests.
Le modèle est initialement adapté à un ensemble de données d'entraînement, qui est un ensemble d'exemples utilisés pour s'adapter aux paramètres (par exemple, les poids des connexions entre les neurones dans les réseaux de neurones artificiels) du modèle.Le modèle (par exemple un classificateur de Bayes naïf) est formé sur l'ensemble de données de formation en utilisant une méthode d'apprentissage supervisée, par exemple en utilisant des méthodes d'optimisation telles que la descente de gradient ou la descente de gradient stochastique.En pratique, l'ensemble de données de formation se compose souvent de paires d'un vecteur d'entrée (ou scalaire) et du vecteur de sortie (ou scalaire) correspondant, où la clé de réponse est généralement indiquée comme la cible (ou l'étiquette).Le modèle actuel est exécuté avec l'ensemble de données d'entraînement et produit un résultat, qui est ensuite comparé à la cible, pour chaque vecteur d'entrée dans l'ensemble de données de formation.Sur la base du résultat de la comparaison et de l'algorithme d'apprentissage spécifique utilisé, les paramètres du modèle sont ajustés.L'ajustement du modèle peut inclure à la fois la sélection des variables et l'estimation des paramètres.
Successivement, le modèle ajusté est utilisé pour prédire les réponses des observations dans un deuxième ensemble de données appelé ensemble de données de validation.L'ensemble de données de validation fournit une évaluation impartiale d'un modèle ajusté sur l'ensemble de données d'entraînement tout en réglant les hyperparamètres du modèle (par exemple, le nombre d'unités cachées - les gisements et les largeurs de couche - dans un réseau neuronal).Les ensembles de données de validation peuvent être utilisés pour la régularisation par arrêt précoce (arrêt de la formation lorsque l'erreur sur l'ensemble de données de validation augmente, car il s'agit d'un signe de sur-ajustement à l'ensemble de données de formation).
Cette procédure simple est compliquée dans la pratique par le fait que l'erreur de l'ensemble de données de validation peut fluctuer pendant la formation, produisant plusieurs minima locaux.Cette complication a conduit à la création de nombreuses règles ad-hoc pour décider quand une sur-ajustement a vraiment commencé.
Enfin, l'ensemble de données de test est un ensemble de données utilisé pour fournir une évaluation impartiale d'un modèle final ajusté sur l'ensemble de données d'entraînement.Si les données de l'ensemble de données de test n'ont jamais été utilisées dans la formation (par exemple dans la validation croisée), l'ensemble de données de test est également appelé ensemble de données de conservation.Le terme "ensemble de validation" est parfois utilisé à la place du "jeu de test" dans une littérature (par exemple, si l'ensemble de données d'origine a été partitionné en deux sous-ensembles, l'ensemble de tests peut être appelé l'ensemble de validation).
Décider des tailles et des stratégies pour la division des ensembles de données dans les ensembles de formation, de test et de validation dépend très du problème et des données disponibles.