Am 21. Oktober 1941 wurde Gräfe zum Amt IV des RSHA abgeordnet, um schon mit Befehl Heinrich Müllers vom 4. März 1942 wieder zum Amt VI C, das in der Berkaer Straße 32 untergebracht war, zurückzukehren.