En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Forklar hvorfor det kan være farlig for et AI-system å operere uavhengig? [/INST] Det er flere risikoer forbundet med at et AI-system opererer uavhengig. For det første mangler ofte AI-systemer de regulatoriske, etiske og sikkerhetsmessige standardene som kreves for å beskytte borgere. I tillegg er AI-systemer utsatt for feil og skjevheter, som kan føre til uventede resultater. Videre kan utilsiktede konsekvenser ofte oppstå fra AI-systemer som mangler sunn fornuft og moral for å ta gode beslutninger. Til slutt er det en risiko for at AI-systemer blir for mektige og fører til en 'dommedag'-type scenario, som kan true menneskeheten alvorlig.