其祖氏家族在北地是大族，世代都是高官，祖逖年少的时期特别豁达，不拘小节，为人极其讲义气，对朋友更会慷慨，经常救济身边贫困的人，乡党了的人很是敬重祖逖。成年后的祖逖才开始发奋读书，博看群书，后来搬家到阳平郡的时候被举为孝廉，又被举为秀才，但是祖逖都没有去上任。

公元291年，八王之乱爆发后，祖逖深受诸王的青睐，先后担任了司马府的掾属，祭酒、主簿、从事中郎等官职。永嘉五年，洛阳沦陷，祖逖率领乡党百姓南下避难，路途中遇到海盗，祖逖也都应付自如，被同行的人推举为“行主”。

后晋愍帝继位，司马睿封祖逖为奋威将军，豫州刺史，但是拨给祖逖的兵马并不多，祖逖率领不对北伐，祖逖的军队军纪十分严明，得到各地百姓的积极响应，数年间收复不少黄河以南的土地，后来封为镇西将军，朝廷一方面封祖逖的官一方面还担心祖逖的兵力过于强大，所以派了朝廷官员去牵制祖逖。

公关321年，祖逖认为王敦和宠臣刘隗两人之间的矛盾会造成朝廷的内乱，而自己北伐又没人支持，所以忧愤成疾，最终病逝。

历史中关于祖逖的典故有《闻鸡起舞》、《南塘一出》等，后世史学家对祖逖有很高的评价。