1900年八国联军入侵中国时，52岁的东乡平八郎任当时日本的常备舰队司令，在1904升任日本联合舰队总司令。在这一年的2月8号他指挥舰队袭击了旅顺港中的俄国舰队，并且快速获得制海权。在与俄国的海战中，俄国的最高海军上将马卡洛夫阵亡。同年6月6号升任日本海军大将，在8月10号的黄海海战中挡住了俄国海军的突围，大败俄海军。

在1905年5月27号，已经57岁的东乡平八郎在对马海峡海战中指挥舰队全歼俄国增援舰队，为日本取得了这次日俄海战的最终胜利。在日俄海中东乡平八郎战绩完美，被称为东方纳尔逊。1905年的12月，因为东乡平八郎战绩优异，被被任命为日本海军将官会议议员和日本军令部部长，称为日本的第四任海军首脑。此后还被封为日本帝国元帅，赐予侯爵。于1934年在东京去世，终年86岁。