En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Forklar hvordan algoritmer kan være skjeve. [/INST] Algoritmer kan være skjeve hvis de er trent og testet på datasett som ikke representerer den fulle mangfoldigheten i befolkningen eller som inneholder innebygde skjevheter og antagelser. I tillegg kan algoritmer bli skjeve hvis de er trent på datasett som inneholder irrelevante eller skadelige variabler som bidrar til unøyaktige eller urettferdige resultater. For eksempel kan en algoritme som er trent på historiske data som inneholder kjønns-, rase- eller aldersskjevheter, opprettholde disse skjevhetene i sine prediksjoner. Skjevheten kan deretter bli videreført i alle beslutningene algoritmen tar basert på sine prediksjoner.