天授元年(公元690年)，武则天改唐为周，登基称帝，以中国历史上第一位女皇帝的身份君临天下。为笼络天下人心，她派使者四处搜罗贤士，四方之士来京应制的有1万多人。武则天驾临洛阳城南门，亲自主持考试，气氛热烈而且庄重。一名24岁的青年聪明博学，脱颖而出，在应对策问中名列天下第一。其对策不仅言辞优美，而且品评时政，一语中的：“昔三监玩常，有司既纠之以猛；今四方咸服，陛下宜计之以宽。”武则天览罢他的策文，深为折服，考虑到近世没有甲科，只好让他屈居第二等，拜为太子校书。又命人将他的策文抄送尚书省，颁示朝臣及外族使节，显示国朝得贤，可喜可贺。
这位一举成名的年轻人就是张说，他满腔热情，才华横溢，一心报效国家。此后历经时局动荡、官场险恶，终以其济世才干，成为大唐一代名相。
初涉仕途 流放岭南
张说，字道济，又字说之，祖籍范阳(今河北涿县)，后迁居洛阳(今河南洛阳市)。据说张说的母亲梦玉燕而有娠，乃生张说，史家附会为“至贵之祥”。张说少年时喜好读书，及至弱冠，满腹才学，颇有文采。24岁时，他进京应试，金榜题名，开始踏上仕途。
张说初涉仕途，春风得意，不久，他发现，现实的政坛不容乐观。武则天自称帝以来，一直为百年之后皇权的归属问题寝食不安，在李氏和武氏之间摇摆不定。李氏根基深厚，深得民心，但在现实的权力安排上，武则天更偏向武氏集团(武三思、武承嗣等人)。故此，朝中忠贞之士不得不受阻于这一格局，行动甚是艰难，更何况新来乍到的张说?武则天知道他血气方刚，又确有才干，但也未予以眷顾，只让他做了个京城的闲职小官。为此，年轻气盛的张说深感郁郁不得志，无法施展自己的宏远抱负。
时光似箭，转眼，张说在右补阙的职位上消耗了宝贵的十来年。他担任拾遗、补阙这类言官，品低位轻，毫无地位。其间，他曾被派到军中担任过文职官员。万岁通天(公元696—697年)年间，契丹李尽忠、孙万荣犯边。大将王孝杰临危受命，就任清边道总管，统兵18万前往征讨。军到峡石谷遇敌，道险敌众，官军不利，出谷以后，后军总管苏宏晖畏敌逃跑，王孝杰缺乏后援，营中溃乱，他坠谷而死，兵士死伤殆尽。年轻的张说时为节度管记，他脱离了京师的沉闷，沐浴战场的洗礼，深为将士为国捐躯的悲壮而感奋。他飞驰上奏，陈述王孝杰败亡之状：“王孝杰忠勇无畏，竭诚为国，深入敌境，以少御众，只为后援不到，所以致败。”武则天听完，立即追赠王孝杰为夏官(兵部)尚书，封耿国公，拜其子为朝散大夫。张说回到京城后，依然故我，还是当他的不痛不痒的右补阙。
公元700年，武则天离京去三阳宫避暑。到了秋天还不肯还朝。于是，一片忠心的张说上疏劝谏武则天应早早还朝。一纸上书，音讯皆无，张说从这件事上深深体会到人微言轻。这时，武三思之流又把他当作装点门面、粉饰太平的文人。一日，武承训迎娶太子李显之女安乐公主，宴席之上，武三思命令宰相苏味道、李峤、词人沈?期、宋之问和张说以《花烛行》为题作赋，张说虽不像宋之问等人那样趋炎附势，也不得不违心地写出诗篇来。
长安初年，武则天让男宠张易之、张昌宗兄弟负责编撰大型类书《三教珠英》，张氏兄弟广引文学之士，朝夕置酒高会，历年不曾下笔。还是张说与徐坚二人刻意坚持以《文思博要》为本，加上姓氏、宗族二部，体例既定，众人才依制动手，1300卷的大书很快修成，不知是因为张说的文才能力再次引起了武则天的注意，还是因为他支持完成了张氏兄弟挂名的编撰任务，张说终于得到提升，从起居舍人升到凤阁舍人。武则天时，凤阁舍人即中书舍人，有草诏之权。一路扶摇却又戛然而止。张说当上凤阁舍人，意味着他进入权力中心。这次迁官，激发了他的扶摇之志。他正要青云直上，却被别人折断了翅膀。
事情由魏元忠而起。他既是御史大夫，又是太子府的属官，在武则天的男宠权倾朝野之时，魏元忠却铁骨铮铮，他上奏武则天说，自己深受皇恩，却使小人得在君侧，实在是罪过匪浅，武则天览表不悦，张氏兄弟则诬陷他意欲谋反，扶立太子登基。太子李显、相王李旦被召来与魏元忠对簿公堂，反复未决，张昌宗又拉上张说，让他作伪证。张说起先假意应允，武则天宣他上殿，他有些害怕，宋瞡用名节道义激励他直言不讳，“万代瞻仰，在此一举，”张说为宋瞡的一身正气所感染，毅然上殿仗义执言，因此招来杀身大祸，满朝宰相噤若寒蝉，只有朱敬则上疏申辩，说魏张二人素称忠正，所罪无名，若令受罪，岂不令天下失望?武则天才免去二人死罪，张说被流放钦州(今广西钦州北)，时年37岁。
仕途上曙光初照，忽然间阴云四起。——这是张说仕途的真实写照。他离开京城，千里迢迢奔赴岭南，壮年流放，眼前已不见黄河，几十里之外海水汹涌澎湃，这使他愁肠百结，顿生无限感慨。自古流放岭南者，常常不得生还。长时间里，张说忧郁苦闷，几近悲观失望。他在《岭南送使二首》中悲壮地写道：
狱中生白发，岭外罢红颜。古来相送处，见得几人还。
万里投荒裔，来时不见亲。一朝成白首，看取报家人。
然而，就在他以同样的心情写完《钦州守岁》之后，千里之外的长安发生了一起政变：中宗李显登上皇位!李显有感于张说当年澄清事实的勇气，召他还京。张说欣喜万分，写下《喜度岭》、《赦归在道中作》等，抒发平生抱负，感激皇恩浩荡。他在《赦归在道中作》中激情地写道：
陈焦心息尽，死竟不欺生。何幸光华旦，流人归上京。愁将网共解，服与代俱明。复是三阶正，还逢四海平。谁能定礼乐，为国著功成?
张说还京，累迁至工部侍郎。景云元年丧母去职，依礼当服丧三年，中宗授他黄门侍郎(即门下侍郎)，张说辞官不拜。当时风气败坏，丧亲去职的官员都以起复为荣。张说守孝三年，大受时人嘉许。因此，张说服丧期满后被拜为兵部侍郎，加弘文馆学士。张说一面发挥自己儒雅文才的特点，一面渐渐熟悉军事部门的事务，包括掌握军事制度、边疆形势等等。
中宗不是张说心目中的明君，他昏庸软弱，韦后与武氏余党联合统治，使上层混乱不堪。韦后想效法武则天，一圆女皇梦，遂毒死中宗，改立少主李重茂。接着，一波未平，一波又起。不久，李旦之子李隆基发动政变，韦氏集团土崩瓦解，睿宗李旦得以再次登基。
二度拜相 昙花一现
睿宗即位，张说又迁中书侍郎，兼雍州长史。当时，中宗一脉不甘心皇权旁落，决心孤注一掷。景云元年(公元710年)秋，中宗之子、谯王李重福在洛阳起事，顷刻之间全军覆没。洛阳留守抓住李重福的余党几百人拷问罪状，始终问不出个所以然。睿宗派张说前去审查。张说举重若轻，敏锐明断，一个晚上就问出主谋张灵均、郑?等人，并将他们斩首示众。其余无辜之人一律释放。睿宗对他的办事能力赞赏不已：“不是你忠正明达，事情哪能解决得如此迅速!”
张说历仕武则天、中宗二朝，都无法一试身手。睿宗亦不足以给他提供这样一个机会，他与中宗同样软弱无能，太子李隆基与姑妈太平公主两派明争暗斗，睿宗形同傀儡。文武百官在潮来潮去的宫廷政变中深感疲惫：必须有一位圣明君主重整山河。
通过接触，张说发现了太子李隆基的雄才大略。他与国子司业褚无量同为太子侍读，潜心辅佐，深得太子敬重。景云二年(公元711年)，张说第一次拜相，依照惯例监修国史。这年二月，太平公主与太子之间的斗争已进入白热化状态，谣言四起，说官中要发生兵变。睿宗惴惴不安，召开御前会议，群臣面面相觑。张说指出：“这是奸人设计，企图摇动东宫，若使太子监国，君臣名分既定，自然灾难不生。睿宗好像找到了救命草，依言而行。延和元年(公元712年)，太子李隆基加冕受禅，是为玄宗。但斗争并未结束，太上皇李旦空虚寂寞，又在太平公主的劝说下夺回处理大政的权力，太平公主又开始新一轮的政治经营。她的最终目标是当上女皇。七名宰相中，半数以上被她拉拢，张说不肯依附，遂罢去相位，被打发去洛阳为官。张说深深洞悉公主的阴谋：废去玄宗，先拥睿宗复位。因此，他遣使献佩刀于玄宗，要他先发制人。玄宗采纳了他的意见，经过紧张的准备之后，一举消灭了姑妈的势力。这一次，太上皇彻底退出了政坛。玄宗改号开元，从此开始了长达几十年的开元之治。
不久，张说作为开元功臣集团的一员，志得意满地再次入京拜相，封爵燕国公，赐实封200户。他以为在明君的领导下可以大有作为，想不到只是取消了泼寒胡戏(唐时从西域康国传来的一种歌舞，康国每年十一月，鼓舞乞寒，以水交泼为乐，张说认为不宜在接见外族使节时演出，有伤国体)，就席不暇暖地离开京城。经过几番政治风云，张说还是过于单纯，败在以“尚通”(司马光语)著称的姚崇手里。
姚、张二人积怨很深，张说曾指使赵彦昭弹劾姚崇，玄宗不听。后来，姚崇被起用为宰相，协助玄宗大刀阔斧地刷新政治。张说看到姚崇受到玄宗如此赏识，想借助岐王李隆范来对抗姚崇。玄宗对于兄弟虽然友爱，却决不许他们参与政治，而按规定，朝臣也绝不能与宗室交结往来，张说情急之中犯了一个常识性的错误，被姚崇抓住了把柄。玄宗此时也正在处心积虑地解决功臣问题，张说自投罗网，被贬为相州刺史(相州治所在今河南安阳)、河北道按察使。
张说只觉得自己有些莫名其妙，来来去去身不由己。相州的公务对他来说非常轻松，父母官的职责也尽到了，只是想起相位，想起事业，想起盛年已过却无所建树，心中不禁感慨万千。他在《相州冬日早衙》中这样写道：
正色临厅事，疑词定笔端。除苛囹圄息，伐枳吏人宽。
河内功犹浅，淮阳疾未安。镜中星发变，顿使世情阑。
又如《相州山池作》：
常怀谢公咏，山水陶嘉月。及此年事衰，徒看众花发。
观鱼乐何在？听鸟情都歇。星汉流不停，蓬莱去难越。
邺中秋麦秀，淇上春云没。日见尘物空，如何静心阙?
宰辅姚崇等人对张说的明辩才略依然放心不下，再三加以排挤。开元三年，49岁的张说又被贬为岳州刺史，历时三年。南方虽经六朝以来的开发，在经济、政治地位上仍远远不如黄河流域。张说从相州来岳州，风物大异，对这里的气候环境很不适应。其间，他分外凄苦，分外伤情。有诗《岳州作》为证：
水国生秋草，离居再及瓜。山川临洞穴，风日望长沙。
物土南州异，关河北信赊。日昏闻怪鸟，地热见修蛇。
远人梦归路，瘦马嘶去家。正有江潭月，徘徊恋九华。
另有《岳州夜坐》：
炎洲苦三伏，永日卧孤城，赖此闲庭夜，萧条夜月明。
独歌还太息，幽感见余声。江近鹤时叫，山深猿屡鸣。
息心观有欲，弃知返无名。五十知天命，吾其达此生。
实际上张说的性格决定了他不可能“息心”，他想念君主，想念长安，梦想再入中枢，有所作为。其间，张说在岳州经常送别诸多北归人士，这使他更加感慨自己的身世和命运的不济。恰好这时苏?拜相，苏?之父苏瑰与张说交情至厚。张说听说后作《五君咏》，其一咏苏瑰，派人在苏瑰的忌日临近之时将此作送给苏?。苏?览诗呜咽，向玄宗申明张说忠骞有功，玄宗才将他调任荆州长史，此后张说又屡居边任，直至入相，至此，他的政治生命才真正开始。
立功疆场 安边抚民
张说曾在兵部长期供职，又曾巡行边疆，既熟谙军国大政，又能清楚地把握现实，一直着力于妥善处理与边境各族的关系，维护边疆安宁。
开元六年，张说结束了几年的贬官生涯，以右羽林将军检校(暂行代理)幽州都督。他一身戎装，入朝觐见，以示赤胆忠心，为国效命，玄宗一见大喜。出居边任的张说觉得事尚可为，表现得慷慨豪迈。他快马奔赴幽州，并在边塞写下了著名的《幽州夜饮》一诗。诗云：
凉风吹夜雨，萧瑟动寒林。正有高堂宴，能忍迟暮心。
军中宜剑舞，塞上重笳音。不作边城将，谁知恩遇深?
开元八年，张说又改授并州(治所在今太原)大都督府长史，兼天兵军节度使，总制一方军政，干了八件相当漂亮的事情。一是安抚铁勒。开元三年，突厥为拔野固所败，部下纷纷投降，被安置在河曲(山西芮城县西风陵渡一带)附近，不久突厥降将阿布思复又叛乱，朔方军受命平定。铁勒族的仆固都督勺磨等人继续勾结突厥扰乱边境，王?设下诱敌之计，将其全部诛灭。但是九姓铁勒其他各部同罗、拔野固等闻讯疑惧不安，气氛很是紧张，处置稍微不善，铁勒一旦起兵，边疆将会重燃战火。天兵军节度使张说带亲骑二十，要深入同罗诸部，副使李宪劝他不要轻蹈险地，说“胡虏”毫无恩义。张说答道：“我肉非黄羊，不畏其食，血非野马，不畏其刺，士当临危效命!”他到了铁勒军部，夜宿他们的军帐，以示毫无猜忌，并召见各部酋长，宣讲朝廷恩德，劝导他们安居乐业，不必顾虑。一席话推心置腹，双方的嫌隙尽行冰释，九姓铁勒才算安定下来。张说的胆识和魄力让玄宗大开眼界，也让大将王?大为叹服。其二是安抚党项。开元九年(公元721年)四月，兰池州康待宾带领边境各族7万人发动叛乱，攻陷六胡州，进逼夏州(今陕西靖边)，朔方大总管王?再次率兵出征，张说奉命参与军政谋划。康待兵为王?擒获，送京师斩首。但是，叛乱并未平息。党项族又与叛乱者合谋，攻银城、连谷，占据府库，张说率步骑万人出合河关，出其不意掩袭敌军，一直追到骆驼堰。这时叛军内讧，党项族反戈一击，叛兵溃败，向西逃入铁建山。张说安抚党项，让他们恢复旧业。讨击使阿史那献说党项族反复无常，应该一起消灭。张说反驳说：“王者的军队应该讨伐叛逆，安抚归化，哪能杀掉降附之人。”根据他的建议，开元十二年(公元724年)，玄宗设置麟州(治所在今陕西神木)，安置党项族。
开元十年，张说以宰相兼领朔方节度大使，负责西北边防。张说亲自巡行边城，操练士兵。丰州九原(今内蒙古五原县)西受降城为水冲坏，张说于城东别置新城。这年八月，康待宾的余党康愿子又在庆州反叛，自称可汗，掠夺牧马，渡过黄河逃出塞外，张说发兵追击，在木盘木抓住康愿子，俘虏3000人。为避免降附的少数民族常在边疆作乱，张说奏请把河曲六州的少数民族5万多人迁到内地的唐、邓、仙、豫等州，严密监视。
姚崇曾提出三四十年不求边功，作为治国方针之一，但这一点玄宗并没有做到。玄宗时吐蕃自恃兵强马壮，上表言辞傲慢，玄宗心中不悦。开元十三年封禅结束时，玄宗又想出兵，张说想制止玄宗的黩武倾向，他在上奏中说：“连年出兵(唐与吐蕃在西域为争夺宗主权展开激烈的拉锯战)，河西征发不息，即使全胜，也于国无补，现在听说他们悔过请和，不如遣使交好，休息边塞。”玄宗不听，要与王君?商议。张说无奈地对源乾曜说：“王君?贪功好利，有勇无谋，他入朝面君，我的建议不会采用。”果然不错，玄宗支持王君?。此后，王在青海西部虽然打败吐蕃，但孤军深入，兵士疲惫，张说料他必败无疑，因此借上贡辒州斗羊之机，规劝玄宗：“如果羊能说话，一定会说：‘斗而不解，必有死者。’和好相处，就在于仁而勿暴，量力而行。”玄宗仍然不从。开元十五年(727年)王君?战败身死，出征吐蕃又成画饼。
东北的奚和契丹因为唐朝边将处理不善，也常常骚扰边境。开元时期，契丹内乱，权臣可突于强悍狡猾，扶立邵固为主。玄宗封禅，邵固前来祝贺，后又派可突于入朝进贡，宰相李元?礼节怠慢，可突于怏怏而去，其时张说已经罢相，他对同僚们说：“两蕃(奚和契丹通称两蕃)必叛。可突于人面兽心，唯利是图，执掌国政 ，深得人心，如不优礼相待，今后肯定不来了。”不出张说所料，开元十八年(公元730年)五月，可突于杀邵固，协迫奚人降于突厥，又与唐朝大动干戈。
统观张说的军事举动，是以安抚为主，讨伐为辅。他不仅能够上马杀敌，立功疆场，而且能够审时度势，高瞻远瞩。他对时势是有深刻的把握能力和洞察能力，常常能够把军事和政治二者结合起来作出通盘考虑。这是他不同于一般武将的过人之处。
东山再起 应时改制
开元九年(721年)张说终于如愿以偿，以兵部侍郎拜相。作为中书令张嘉贞的副手，他试探着让位于宋瞡、陆象先，玄宗优诏不许，表明对他的才干确实发生了兴趣。不过二张都属于精明强干的那种人，谁也不肯谦让，矛盾也就不可避免。