En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Identifiser to teknikker for å observere en nevral nettverks interne struktur. [/INST] To teknikker for å observere en nevral nettverks interne struktur er Visualisering og Attribusjon. Visualiseringsteknikker innebærer å lage diagrammer over den interne tilstanden til et nevral nettverk, mens attribusjonsteknikker innebærer å spore dataflyten gjennom nettverket og bestemme hvilke nevroner som har mest innflytelse på en gitt utgang.