Hu sucedió a Jiang en 2002, casi cuando el ex Primer Ministro Junichiro Koizumi llegaba al poder en el Japón, y alentó una “nueva concepción” de la política de China para con el Japón, que entrañaría un alejamiento de los agravios históricos y el fomento de lazos más estrechos, pero, en lugar de aceptar la rama de olivo de China, Koizumi aplicó un programa más nacionalista, incluidas las visitas anuales al templo de Yasukuni, considerado un símbolo del militarismo japonés por los vecinos del Japón. Su intransigente actitud aisló al Japón e irritó a China, a consecuencia de lo cual hubo una explosión de manifestaciones antijaponesas en China en 2005.
胡在2002年接替了江的位置，当时的前日本首相小泉纯一郎也刚刚宣誓就职，胡鼓励在中日关系中引入“全新思维”，这样也许可以远离历史的不满并促进更为健康的双边关系。但小泉不仅没有接过中国递出的橄榄枝，相反却实行了更倾向于民族主义的政治策略，包括每年一度参拜敬国神社，而该神社在日本的邻国看来恰恰象征着日本的军国主义。小泉的强硬路线在让日本陷入孤立的同时激怒了中国，引发了2005年的一系列反日示威。