Né à Vienne, Krips est devenu élève d'Eusebius Mandyczewski et de Felix Weingartner.
De 1921 à 1924, il est assistant de Weingartners au Volksoper de Vienne où il travaille comme répétiteur et maître de chœur.