688年，狄仁杰出任江南巡抚使，又改任刺史。在这期间，狄仁杰得罪了宰相张光辅，使得张光辅怀恨在心，回朝后向朝廷说狄仁杰的坏话，狄仁杰因此而被贬到复州做刺史。

691年狄仁杰升任地官侍郎，后又升任同凤阁鸾台平章事。前者是正四品上，后者是同三品的官职，这也是狄仁杰初次任职宰相。

后一年，狄仁杰因被小人陷害被诬告谋反，凭借自己的智慧，洗刷冤屈后，被贬为彭泽县令，而县令只是一个正七品的官职。虽然狄仁杰被贬为小官，但是他依然兢兢业业，为百姓做事，百姓们都很拥戴他。

五年后，因契丹作乱，狄仁杰得以被重新启用，成为魏州刺史和幽州都督，都督乃是从三品的官职。

697年，狄仁杰再次被武则天拜为从三品的宰相。700年，狄仁杰升任为正三品的内史。可惜的是，狄仁杰也于同年去世，武则天痛心万分。