後來日共喺1926年重建，兼且透過旗下嘅合法政黨「勞動農民黨」出嚟參選，喺1928年嘅眾議院選舉入面，勞農黨贏咗兩席，引起日本好大震動，當時嘅首相田中義一為咗要煮死共產黨，專登修改《治安維持法》，並且喺同年3月15號開始大規模搜捕共產黨員同支持共產主義嘅組織，史稱「三一五事件」，日本嘅共產勢力大幅被削弱，之後日本政府一直全力打擊共產黨，繼續派人滲透，又不斷去拉人封艇，期間更加發生日共高層用私刑打死佢哋懷疑嘅內鬼，到1935年，日共基本上已經冇運作能力。