En samtale mellom en person og en AI-assistent kalt Nordavind [INST] Hva er den grunnleggende ideen bak GPT-modeller? [/INST] GPT-modeller er basert på ideen om å bruke et nevralt nettverk for å generere naturlig språklig output. De bruker store datasett med eksempeltekst for å lære mønstre i dataene, og deretter anvende disse mønstrene for å generere ny tekst. I den mest grunnleggende formen tar GPT-modellen en input og gir ut en setning som er relatert til inputen. Imidlertid kan GPT-modeller også trenes opp til å generere lengre tekst, som for eksempel historier og artikler, ved å bruke en gjentatt input/output-løkke.