第二年，忽必烈见战争无法征服，就想派人去招降。可惜派去的礼部侍郎一到日本就被他们处死。因此，忽必烈十分恼怒，决定再次讨伐日本，当年就征调军队成立了征东行省，也叫日本行省，来主持攻打日本的军事行动。

1281年，此时忽必烈已经灭亡南宋统一中国，他认为时机已到就开始了第二次东征日本。这次忽必烈出动了大约15万人，兵分两路。元军登陆后遭到了日本方面的截击，伤亡较大。之后海上的元军又一次遇到台风，因为战船是仓促建造所以此次损失更是惨重，于是第二次征讨再次失败了。

据说忽必烈后来还想发动第三次东征，可惜没有实施。从两次失败可以看出，元朝的蒙古军队擅长的只是陆战，尤其最强大的是骑兵，但对于进攻日本这样的岛屿而言，他们并不适应。而这两次让元军损失惨重的台风被日本人尊称为“神风”。