En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Gi ett eksempel på en etisk problemstilling ved bruk av store datamengder. [/INST] En etisk problemstilling ved bruk av store datamengder er potensialet for diskriminering. Modeller bygget på store datamengder er basert på antagelsen om at mønstre i tidligere data kan brukes til å forutsi fremtidige utfall. Hvis disse modellene er basert på data som er skjev eller diskriminerende, vil de føre til beslutninger som i seg selv er skjeve eller diskriminerende. Dette kan manifestere seg i form av ulik tilgang til tjenester, som kreditt eller arbeidsmuligheter, basert på rase, religion, kjønn eller andre demografiske faktorer. Etikk i store datamengder må sikre at data og algoritmer ikke brukes til å diskriminere mot noen bestemt gruppe.