颜真卿初入官场，四次担任监察御史。天宝六年(747年)，他出巡陇右、河西地区期间，迅速解决了当地一件久而未决的冤案。此案完结后，正值干旱的五原大地突降大雨，百姓亲切地称其为“御史雨”。

天宝七年(748年)，颜真卿在河东、朔方之地巡察时，了解到有户郑姓人家，三个儿子都是当官的，其母去世近三十年，却仍停棺寺内，谁也不愿操办安葬之事。颜真卿认为这三人品德有亏，就向朝廷弹劾他们。一时间，不孝子的行为令“天下耸动”，朝廷下诏三人即刻免官去职，终身禁止录用。

玄宗朝，左金吾卫将军李延业很受赏识。一次，李延业不仅在府邸私自宴请吐蕃客人，而且还擅自动用车驾仪仗。颜真卿批评他不遵守朝廷规矩。李延业仗着是皇帝的宠臣，在朝堂上大吵大闹。颜真卿一边向皇帝报告，一边据理力争，最后将李氏贬谪出京。从此，朝堂秩序顿时肃然，官员行为更加审慎。

肃宗至德二年(757年)，中书舍人兼吏部侍郎崔漪，醉酒上朝，仪态不整;谏议大夫李何忌，朝堂之上嬉笑无度，有失官仪。颜真卿以“肃正朝廷”为己任，弹劾二人，随即将他们贬官，迅即扭转了因安史之乱而颓靡的朝堂风气。