human
Veuillez expliquer ce qu'est "l'apprentissage automatique contradictoire"
gpt
L'apprentissage automatique contradictoire est l'étude des attaques contre les algorithmes d'apprentissage automatique et des défenses contre de telles attaques.Une enquête récente expose le fait que les praticiens signalent un besoin urgent de mieux protéger les systèmes d'apprentissage automatique dans les applications industrielles.
Pour comprendre, notez que la plupart des techniques d'apprentissage automatique sont principalement conçues pour fonctionner sur des ensembles de problèmes spécifiques, en supposant que les données de formation et de test sont générées à partir de la même distribution statistique (IID).Cependant, cette hypothèse est souvent violée dangereusement dans des applications pratiques à haut débit, où les utilisateurs peuvent fournir intentionnellement des données fabriquées qui violent l'hypothèse statistique.
Certains des modèles de menace les plus courants dans l'apprentissage automatique contradictoire comprennent les attaques d'évasion, les attaques d'empoisonnement des données, les attaques byzantines et l'extraction du modèle.