1928-1938 oli leitnant Gvishiani määratud Nõukogude salapolitsei NKVD-i erinevate osakondade ja osakondade juhtimisele. Ta edutati majoriks 1936. aastal ja kaks aastat ja kaks edutamist hiljem, 1938. aastal, saadeti Novosibirski oblastis esimese peadirektoraadi 3. erivõimude ülemaks, kus ta teenis "riikliku julgeoleku 3. klassi komissarina". Nõukogude invasiooni ajal Mandžuuriasse
1945. aastal pälvis Givishiani mitmed auastmed kogu tööstusvarade Manchuuriast Nõukogude Liitu repatrieerimise eest, mille eest ta samal aastal edutati kindralleitnantiks.