当初张说为兵部侍郎，张嘉贞是兵部员外郎，位在张说之下。而今三十年河东，四十年河西，张说反倒成为张嘉贞的副手。几次贬官培养了张说对权力的饥渴心理，他深知没有权力就办不成事情。因此对张嘉贞的言行举止都难以忍受。张嘉贞当然不是没有缺点，他为人刚愎自用，还营造自己的势力集团。中书舍人苗延嗣、吕太一、考功员外郎员嘉静、殿中侍御史崔训，都系他一手提拔，四人常在他门下共议朝政，时人称之为“令公四俊”。玄宗最厌恶朝臣结党，张说看在眼里，喜在心里。
　　开元十年，洛阳主簿王钧为张嘉贞修造府第，意在谋求御史之职，不想贪污事发，张嘉贞催促官员立即杖杀王钧，以免连累自己。秘书监姜皎犯罪，杖后流配，死在路上。广州都督裴?先因事下狱，一日上朝，张嘉贞又奏请玄宗杖之。张说立即上奏反对：“自古刑不上大夫，因其接近君主，所以说‘士可杀而不可辱’。我今年秋天巡边，中途听说姜皎受杖而死，姜皎官居二品，也有功劳，如果犯罪，应死即杀，应放即流，不应该在朝堂受辱决杖，且律法八议(八种人可以减免罪行)，勋贵在列，姜皎已死，不必追究。裴?先再不可如此处理了。”其言词情理并茂，说得玄宗连连点头。张嘉贞哑口无言，退朝后埋怨张说：“你说话也太过分了。”张说话中带音：“宰相嘛，时来即为，哪能长居不退?如果大臣都受杖刑，你我怕也不免，我不仅仅是为裴?先，也是为天下士人君子着想。”
　　开元十一年，张嘉?(张嘉贞之弟)贪赃事发。张说故意劝张嘉贞素服(白衣)请罪，但是素服是不准入朝的。因其故，张嘉贞被贬为幽州刺史，张说遂代为中书令。张嘉贞恨恨地说：“中书令幸有二员，何必如此相逼!”一年后他又入为户部尚书，玄宗出于安慰，让他与宰相一起会餐。今非昔比，张嘉贞触景生情，在宴会上大骂张说，众人赶紧劝住。总而言之，借助玄宗的支持，张说在政治斗争中取得了第一次也是惟一的一次胜利，从副职变成了正职。不过他并没有堕落成为一个专事争权夺利的官僚，他毕竟作出了成绩。自开元九年(公元721年)拜相以来，他凭借丰富的阅历和治国经验，在国内推行了几项改革：
　　一是取消职分田。职分田又称职田，按官职品级授给官吏，作为俸禄的一部分，可以向农民出租，从中收取租税。在实际操作中，一些官员往往强行出租，租税极高，农民不堪重负，成为一项弊政。取消职分田以后，由政府直接出租土地，直接收取定额租，再向官吏发放，改善官民关系，调动麦田农民的积极性。
　　二是设立公廨钱。公廨钱又称公廨本钱，由官府经商获利或贷款收利，作为官署办公经费，因为按月取息，又称“月料钱。”
　　三是改革政事堂制度。唐初三省长官并为宰相，并在门下省(在中书、尚书两省之间，诏令奏表在此中转)设立政事堂，三省长官轮番执笔主持，实现相对的宰相集体领导制度，因此门下政事堂是平衡三省的保证。高宗以后，尚书省长官失去宰相资格，中书、门下两省展开斗争。武则天临朝专制时期，中书令裴贤执笔主持宰相会议，将政事堂迁到中书省，确立了中书省的主导地位，但侍中(门下省长官)与中书令一直争斗不休。开元十一年(公元723年)，张说奏改政事堂为中书门下，设立五房(吏房、枢机房、兵房、户房、刑礼房)分主政事，试图缓解矛盾避免纠纷，此后沿袭下来，直至唐末未改。
　　四是精兵简政。张说看到边镇兵多达60万，无所事事，经过深思熟虑，他建议裁军20万，让他们回家务农。玄宗正在努力加强边防力量，对此表示怀疑。张说分析说：“边兵虽多，却受边将欺凌，从事各种劳役，怨气冲天，战斗力并不强，自古兵贵精不在多。我愿以全家一百多口的性命作担保。”玄宗才表示同意。张说的建议非常正确，裁汰老弱，既减轻了国家和百姓负担，又增加了农业劳动力，一举两得。
　　五是改革府兵制度。唐朝沿袭隋朝的府兵制，府兵征自民间，兵农合一，全国设立六百多个军府，分属中央的十六卫。府兵轮番到长安宿卫，又称卫士，也有戍边出征的任务。府兵制也存在着若干弊端：自武周时期以来，卫士身分大大降低，轮番到京城宿卫时往往被将官派往豪门充作奴仆，同时，繁重的徭役与兵役使农民避之惟恐不及；边境长年的战争无休止，卫士或战死或没落或逃亡，又很难补充。于是，开元十年，张说建议招募年轻力壮的人担任卫兵，玄宗正苦于宿卫寡弱，乃于次年召募南衙宿卫兵士12万，号称长从宿卫。开元十二年，又改称?骑，分隶十二卫。至此，府兵停止轮番宿卫已成既存事实，并得到国家法令的承认。张说的改革既顺应了从征兵制向募兵制的转变，又从制度上加速了这一进程。
　　张说的几项改革干脆利落，功在社稷，不愧为一位能干的宰相，不过巡边也罢，改制也罢，张说最大的兴趣是在文治上，这一思想贯穿了他的一生。
刊定礼乐 弘扬文治
　　开元时期，虽然各种问题已有暴露，但整个社会繁华稳定，张说本人通经善文，他身为宰相，提倡文治就显得十分自然。一次贺知章自太常少卿迁礼部侍郎兼集贤学士，源乾曜问张说：“侍郎与学士何者为美?”张说毫不犹豫，对他说：“侍郎虽然名位清显，终为县员(即具体办事人员)，不为贤士仰慕，身为学士，怀先王之道，为缙绅模范，文采精华，始可居任，二者之中，此为最美。”这段话，充分说明了张说的文化价值取向和施政理想，至于他自己，则始终以儒学为中心，以王道为目标，积极刊定礼乐，十分注重教化。那时，朝廷乐章，多出其手。贞观二年(公元628年)，太常少卿祖孝孙制定雅乐，接着，虞世南、魏征等人制作乐章，其后多有改易。开元初，张说奉命删定乐章，杂用卢观旧词。开元十七年(公元730年)，张说已经罢相，玄宗又点名让他为太庙制作乐章16首。
　　张说不仅十分精通礼仪，而且多有变通，以便适时。开元十一年，玄宗祭吴天上帝，朝中人士关于服饰争论不休。张说认为：如沿用古制，应用大裘之冕，若便于时，应用衮冕为美，命官员制造两种冠冕进上，玄宗选用了后者。开元初年，大食使节来朝，立而不拜，唐廷官员自恃大国天朝，很是不满。张说却与众不同，他以为大食风俗特异，慕化而来，不能治罪。张说拜集贤学士，在大厅举行宴会，不肯先饮，他说学士不该以官班为前后，主张大家一起举杯，获得大家的广泛称赞。张说确定的一些礼仪还为后人称说。玄宗太和七年(公元833年)十月十日，玄宗在这一天过生日，他实在厌烦设斋讲道的旧例，宰相路随上奏：“帝王华诞，开设斋会，本非中国传统。开元十七年，张说等人以玄宗生日为千秋节，内外同庆，颇为得体。”玄宗一听，大悦：“于我心有戚戚焉。”于是下诏如法炮制，改十月十日为庆成节。由此可见一斑。饱读经书的张说对历代儒学经典极为看重。开元十四年，王萳上疏要改编《礼记》，削去旧文，编入本朝之事。张说不同意：“《礼记》流传已久，为历代不刊之典，去圣久远，恐难改易。贞观显庆年间所编的《五礼仪注》尚未成功，不如对此删改行用。”玄宗准奏。这才有了《大唐开元礼》的产生，而儒家经典《礼记》则免除了删改之灾。
　　礼乐方面的盛典莫过于封禅。秦汉以后，历代王朝都把封禅作为国家大典，在泰山上筑土为坛祭天，报天之功称“封”；在泰山下的梁父山上辟场祭地，报地之功，称“禅”。唐太宗曾想封禅，为魏征阻止。开元中期，五谷丰稔，边境 一度比较安定，玄宗也踌躇满志，朝臣歌功颂德，请求封禅，中书令张说的态度更是积极，玄宗兴高采烈地答应。张说不仅参与刊定《乐封仪注》，制作祀天乐章14首，而且亲自负责筹划和组织这次封禅。车驾回还，经过金桥时，玄宗还沉浸在巨大的喜悦之中。他回望数十里之间，旌旗鲜明，卫队整齐，对左右说：“张说曾说：‘勒兵三十万，旌旗千里间，陕右上党，至于太原，’真才子也!”
　　提倡文治，除了自身倡导，还必须从用人着手。张说推崇或荐举的要么操守清白，如清俭自守的外戚窦维?，不畏权贵的崔沔，栖住山林的尹元凯等；要么文才出众，如韦述、房盧、徐浩、孙逖、尹知章、裴宽、许景先、张九龄等人。张说最为赏识的是张九龄，张说流放岭南，与他一见如故，两人叙为昭穆，张九龄的拜相与他的大力推荐不无关系。开元十三年，玄宗与诸多学士宴会于集仙殿，改集仙殿为集贤殿，又改丽正书院为集贤院，以张说为集贤院大学士，张说辞去“大”字。以张说为领导的集贤院，集中了当时的一大批文士精英，他们掌管文物典章，修撰国史，草拟诏敕，宣扬文教，美化风俗，努力造就一个文质彬彬的盛世面貌。正是在这个意义上，新唐书本传说：“开元文物彬彬，说(即张说)力居多。”
四面楚歌 罢相致仕
　　文武全才，声誉鹊起，张说站在成功的顶点，有些不能自已，这使玄宗另有想法。官场上的事情从来复杂，张说在不知不觉中犯了许多忌讳，得罪了许多人。张说的性格刚强专横，同僚或属下与他共事，他动辄大骂，让人无地自容，关系十分不睦，招来明怨暗恨。
　　在用人上，张说提拔后进，奖励才学，但也有任人唯亲的一面。玄宗封禅，官员们陪同上山必须具有一定品级，又是一种荣宠。张说引两省录事主书及亲信上山，把他们破格提升到五品。负责草诏的张九龄劝张说：“官职爵位，是天下公器，先让有德，再进劳苦，今逢千载盛典，清流不得皇恩，胥吏滥封官爵，恐怕四方失望，现在改写还来得及。”张说大手一挥：“事情已决，悠悠之言何足为虑?”诏敕一出，内外官员甚为怨恨。
　　做了宰相之后，张说渐渐流露出弄权端倪。他为正相，源乾曜不敢争权，每事推让，很合张说的胃口。崔沔曾因耿直受到张说荐举，拜为中书侍郎(中书省副长官)，有人说侍郎空有其名，只是副署文件。崔沔认为设官分职，应该上下相维，自后每有诏敕及政务，崔沔并不盲从，张说奏上一本，将他贬为魏州刺史，让他少管闲事。张说改革政事堂制度，本身就有加强相权的味道，这都不是玄宗希望出现的结果。
　　排斥吏才和专权倾向使张说非常厌恶宇文融这类人，如果宇文融只是一般的官员倒也罢了，可他时为御史中丞，清查全国田亩与逃税农户，查出80万亩地和80万人口，加以安置，缓解了财政困难，稳定了社会秩序，正受玄宗重用。张说恃权排挤，宇文融上书建议，张说一律反对。宇文融与苏?等人分掌选举，张说屡加裁抑，导致铨选失序，惹得玄宗很不高兴。张九龄提醒张说：“宇文融正受皇上青睐，此人能言善辩，又多权诈，不可不防。”张说傲慢地说：“狗鼠之辈，有何能为?”不屑一顾，又不作防备。他不知道皇帝用人因时而定，变动不居，也忘记了自己对张嘉贞说过的话。
　　张说迷信术士。他到相州，召来术士刘行，问他这里哪些人前程远大?刘行举出李?和郑岩，张说毫不迟疑，将郑岩招为女婿，把外甥女嫁给李?，虽然二人也颇有才干，留名后世，但是张说的这种做法却被人传为笑柄。僧侣泓精于术数，张说托他为自己买一所宅院。另外家里还养术士王庆则、僧侣道岸等人。这种神秘事件最让君主忌恨。
　　最后一点是张说喜欢铺张，有些贪小。姚崇生前与他不睦，怕他报复，临终设下一计，嘱咐家人摆出古玩珍宝，张说前来吊丧，如果盯住珠宝不走，就顺便送给他，求他写碑文，呈给皇帝审阅，迅速镌刻。张说果然上当，在碑文里盛誉姚崇，事后追悔，碑文已经刻好。他又佩服，又懊丧，承认自己不如姚崇。当了宰相，居然利令智昏，让人行贿收贿。
　　张说四面楚歌。开元十四年(公元726年)，宇文融、崔隐甫等人抓住术士和贿赂两件事弹劾张说，王庆则等人被诛，连及10余人，张说后悔已晚。其兄长张光为他割耳请命，高力士为他求情，才得免死，罢相致仕，宇文融等人结党，也被贬官。
　　一年后，张说又先后任尚书右丞、尚书左丞，仍掌集贤院。又加开府仪同三司的最高荣衔。这时，玄宗还常召他下棋游玩，向他咨询国家大政。开元十八年(公元730年)，张说因不得志，郁郁而卒，享年64岁。据说，当时月蚀东壁(东壁是玄武七宿中的壁宿，古人以为壁宿主天下文章和图书)。玄宗为之辍朝，赠官太师，谥曰“文贞”。群臣因为他并非直臣，不同意这个谥号，玄宗力排众议，并为他撰写碑文，给了这位功臣很高的评价。
燕许手笔 名扬海内
　　张说的文才早就为人称颂。他历仕几代君主，朝廷的典章、诏诰多出自他的手笔。玄宗喜好诗文，每每向他请教，他文思精壮，尤长于碑志，先后为姚崇、郭知运、王君?、王仁皎等人写过碑文。他为姚崇作的碑文，时称极笔：“八柱承天，高明之位列；四时成岁，亭毒之功存。”此外，他还受命为上官婉儿的文集写过序，时人把他与苏?并称为“燕许大手笔”。
　　他品评前人和时人的诗文，亦多为公论。张九龄推他为“后来词人之首”，沈德潜也指出：唐初五言古诗自陈子昂以来，诗品始正；张九龄继续，而诗品乃醇。对初唐四杰，崔融评价说：“王勃文章宏放，非常人所及，杨鮍、卢照邻可以企及。”张说以为不然，他以为杨鮍文如悬河，酌之不竭，优于卢照邻而不减于王勃。张说、徐坚同为学士十余年，情意相投，其时诸位学士凋零殆尽。一次，张说列出诸人名单，与徐坚同观。徐坚问道：“诸公当年都称名一时，敢问孰先孰后?”张说滔滔不绝：“李峤、崔融、薛稷、宋之问，皆如良金美玉，无施不可。富嘉谟之文，如孤峰绝岸，壁立万仞，从云郁兴，震雷俱发诚可畏乎!若施于廊庙，则为骇矣。阎朝隐之文，则如丽色靓妆，衣之绮绣，燕歌赵舞，观者忘忧。然类之《风》、《雅》，则为俳矣。”见《大唐新语》卷8，《文章》。徐又问后进文人先后，张说回答：“韩休之文，有如太羹玄酒，虽雅有典则，而薄于滋味。许景先之文，有如丰肌腻体，虽?华可爱，而乏风骨。张九龄之文，有如轻缣素练，虽济时适用，而窘于边幅。王翰之文，有如琼林玉?，虽?华可爱，而多有玷缺。若能箴其所阙，济其所长，亦一时之秀也。”徐坚以为笃论。
　　关于张说自己的诗作，虽说不上当时第一，也颇精妙，总体上风格朴实遒劲。如《邺都引》：
　　君不见魏武草创争禄，群雄睚眦相驰逐。昼携壮士破坚阵，夜接词人赋华屋。都邑缭绕西山阳，桑榆汗漫漳河曲。城郊为虚人代改，但有西园明月在。邺傍高冢多贵臣，蛾眉曼?共灰尘。试上铜台歌舞处，唯有秋风愁杀人。
　　这首诗一直受到好评。沈德潜在《唐诗别裁》中这样评价：“声调渐响，去王杨卢骆体远矣(意即不同于初唐的华靡之音)，‘草创’二字居然史笔，‘昼携壮士’二句叙得简老。”张说在北方军旅中多有此作，至于贬居岳州，诗多凄惋，心情的郁闷与景色的秀丽相结合，语言优美，感情真挚，很有艺术感染力。如《湘州北亭》：
　　人务南亭少，风烟北院多。山花迷径路，池水拂?萝。
　　萍散鱼时跃，林幽鸟任歌，悠然白云意，乘兴抢琴过。
　　张说著述甚丰，他修过国史，编过《三教珠英》、《初学记》。据《新唐书.艺文志》，还撰有《玄宗实录》20卷，《洪崖先生传》一卷等。其中有文集30卷，今存宋刻蜀本，《全唐诗》、《全唐诗续补遗》、《全唐文》、《唐文拾遗》均载有他的诗文。?
张说是一个瑕瑜互见、多有争论的人物。他没有举世称道的高风亮节，还贪财专横，有损声誉。但他为人豪爽，一诺千金；喜欢推举后进，却又排斥异己；看重气节，却又无法面对僚属的耿直。凡此种种，不一而足。
　　司马光称他“尚文”，足以概括张说一生及施政特点。孙逖为他写挽联：“海内文章伯，朝端礼乐英。”虽然过誉，也能反映张说在文士心目中的地位。
　　终唐一代，计宰相369人，三次拜相的有12人，张说是其中之一，前后三秉大政，军功文治，尽得风流。他掌文学之任三十年，广引知名之士辅佐王化；应时改制，颇为得体，虽比不上房、杜、姚、宋等人，亦堪称一代名相。只是子孙不肖，两个儿子均投奔安禄山，死于阵中。