等到被人举荐，何武才升为谏大夫，任扬州刺史。他在做刺史时，时常检举犯罪的官吏，即使是俸禄两千石的，他也会上奏来列举他的罪状。在汉朝，俸禄两千石就是郡守也就是太守的级别。此外，何武在上奏弹劾前，一定会先让对方知道，如果对方认罪那他就会给他减轻罪状，顶多免官而已，但是如果对方知道了还不认罪，那何武就绝不姑息，上奏后会对他实行最严厉的刑罚，要么抵罪要么处死。

五年后，何武入朝为官，担任丞相司直，也就是丞相的下属，辅佐他来纠举不法，深得当时丞相的器重。就这段经历而言，何武与他的好友翟方进十分相似。之后他出任清河太守，可惜没几年因为地方受灾而又被免官。之后，何武一路调任，最后成为大司空，又被免官。

王莽担任丞相时，何武遭到他的陷害，被迫自杀而死。