Rozehnal alustas oma karjääri SK Sigma Olomoucis, kus tema esinemised teenisid talle koha Tšehhi Vabariigi U-21 meeskonnas. 2003. aastal sõlmis ta lepingu Belgia klubiga Club Brugge. 2004. aastal mängis Rozehnal Tšehhi Vabariigi eest Euroopa meistrivõistlustel.
kus meeskond jõudis poolfinaali, enne kui Kreeka nad välja lõi. Ta võitis Belgia karika oma esimesel hooajal Brugge'iga ja Belgia liiga 2005. aastal. 2005. aasta juunis kirjutas ta alla Paris Saint-Germaini.