En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Forklar hvordan motstandseksempler kan redusere ytelsen til en maskinlæringsmodell. [/INST] Motstandseksempler er inndata til en maskinlæringsmodell som er designet for å redusere modellens ytelse. Disse eksemplene genereres vanligvis ved å legge til små forstyrrelser i testinndata som er "usynlige" for mennesker, men som får modellen til å klassifisere feil eller produsere feil utdata. Dette skyldes at modellen ikke er trent på disse eksemplene og derfor ikke kan identifisere dem som feil. Som et resultat kan motstandseksempler brukes til å bevisst forringe ytelsen til modellen.