两人经过一番策划后，决定一同在沛县起义。萧何在之后的日子里一直尽心尽力的辅佐刘邦，为其出谋划策。公元前206年，刘邦在萧何与张良等人的谋划下，进入咸阳城。咸阳城本是秦朝的王城，非常的豪华。跟随刘邦一起前来的将士们根本没有见过如此豪华的地方，一时间纷纷深陷其中，他们不顾军规，沿街抢夺金银珠宝。而刘邦初入咸阳城时也被咸阳的繁华所震惊，他与其他将士一样，对咸阳城的繁华迷恋不已，想要长久的留在这里。

而萧何在进入咸阳城后，他不管美女珍品，金银珠宝，一心直奔丞相府和御史府去了。萧何派士兵将两府团团围住，不许任何人靠近。萧何将有关于秦朝的户籍、地形、法律等图书一一收集起来，登记在册。秦朝的丞相府与御史府是统管天下大事的机构，各种关于秦朝的资料都能在这里找到，萧何接管了这里就等于拥有了一个完善的资料库。

刘邦听说这件事后，也非常佩服萧何的深谋远虑。