但是，国库一旦充实，张重华就又不甘寂寞了。

353年2月，张重华派张弘、宋修、王擢三位将军带兵向前秦开战。但张重华没想到，龙黎一战，前凉军队被打得丢盔弃甲，一万两千名官兵死在了战场，张弘、宋修被俘，王擢扔掉秦州跑回姑臧，上邽也被前秦占领。这次惨败把张重华气得暴跳如雷，发誓不打败前秦就不活在世上。同年5月，张重华再次派王擢带两万官兵袭击上邽，由于得到了秦州一些郡县的支持，王擢一举夺回了上邽。张重华被这次胜利冲昏了头脑，认为前秦不是他的对手，于是上书东晋穆帝司马聃，请求伐秦，但还没等到东晋答复，张重华就染病在身，于同年11月死去。

张骏、张重华父子统治的30年间，是前凉的鼎盛时期，他们分凉州设置了凉、沙、河三州；设西域长史于海头；在今新疆吐鲁番地区设置了高昌郡。其疆域有今甘肃中西部、新疆东部、宁夏西部广大地区。

张重华死后，张氏宗族内乱不断，凉州大姓也起兵反叛，十几年争权夺利的斗争使前凉国势大衰。

353年10月，张重华病重时，立10岁的儿子张曜灵为太子。消息传出后，张重华同父异母的大哥张祚极为不满。但张祚城府很深，表面上看不出他不满的情绪，而暗地里却与张重华的亲信大臣赵长、尉缉频繁来往并结为兄弟，密谋待张重华死后废掉张曜灵。11月，张重华病死，张曜灵继位。赵长等人假称张重华有遗嘱，把张祚拥立为都督中外诸军事、抚军大将军。

过了几天，赵长等人给张重华的母亲马太后送去一份报告说：“现在政局不稳，曜灵太小，无法收拾局面，请立张祚为凉王。”马太后是张骏的第二个夫人，很受张骏宠爱并为张骏生下张重华。张骏死后，马太后受不了长期守寡的煎熬，于是私通长宁侯张祚。从名分上讲，马太后是张祚的母亲，只不过不是亲生的而已。张祚野心勃勃，想借马太后的势力操纵前凉大权。

12月的一天，张祚来到马太后居住的永寿宫，和马太后温存了一番后，提出让他废掉张曜灵。马太后心里很清楚，要想长久地把持朝政，让张祚掌权对自己更为有利，于是满口答应，当天就废掉了张曜灵，立张祚为凉州牧。次年1月，张祚称凉王，改元和平，并不再沿用晋朝年号，开始采用皇帝礼乐。张祚取得王位之初，对马太后还是言听计从的，但没过多久就一脚踢开了她，还把她的儿媳妇、女儿以及张骏后宫的女子全部奸淫。马氏虽然很生气，但手中无权，对张祚也没有办法。在受到张祚的冷落后，马太后又把大臣张邕拉入怀中。

张祚深知自己的王位来得很不光彩，因此生怕别人对他说三道四，更怕别人对他的王位有非分之想。他刚一即位，便派人去酒泉杀害了谢艾，可惜一代名将谢艾竟成了宫廷斗争的牺牲品。

第二年，即355年，张祚又怕河州刺史张灌兄弟势力太强，便让他的亲信张掖太守索孚到和州取代他们，张灌很想得通，对此抱着无所谓的态度，十分痛快地答应交出兵权并按张祚的要求离开枹罕（今甘肃临夏市）带兵去攻打反对前凉的胡人。

其实，张祚让张灌讨伐胡人是幌子，目的是让张灌离开枹罕。随后，张祚让易揣、张玲二将带一万两千人去袭击张灌。张掖人王鸾听到张祚要袭击张灌的消息，便找到张祚劝他说：“张灌勇猛，善于用兵，你派军队去打他，必定回不来，看来凉国是危险了。”接着又指出张祚淫虐无道的罪行，让他收敛。张祚听着听着，恼羞成怒，喝令卫兵把他拉出去杀掉，王鸾在去刑场的路上大骂张祚：“张祚！你这个淫棍，我死以后，你也活不了多久，不信你走着瞧吧！”

正像王鸾说的那样，张灌听到张祚派兵来袭的消息，立刻杀掉了索孚，并传檄各州郡废掉张祚，拥立张曜灵复位。然后调动兵马迎击易揣、张玲，把他们打得狼狈逃回姑臧。

这年八月，骁骑将军宋混的弟弟宋澄因大哥宋修与张祚有矛盾，料到张祚早晚要对他们下毒手，便联合了一万多人响应张灌。张祚见自己落到了众叛亲离的地步，只好把气发泄在张曜灵身上，他命令扬秋胡把张曜灵活活拉杀，胡乱埋到一个坑里。

不久，宋混大军到了姑臧城下，张祚想把在城内的张灌的弟弟张据和儿子张嵩抓起来杀掉，但还没动手，张据和张嵩就已经把城门打开，宋混大军开进城内。这时的张祚还提着宝剑站在殿上命令士兵迎战，士兵们平时在张祚那里没得到过任何好处，关键时刻谁也不愿意为他卖命，很快张祚就被宋混的士兵杀死。百姓们听说张祚被杀，无不拍手称快。

张祚死后，张灌、宋混、张据拥立张重华六岁的小儿子张玄靓为凉王。说是凉王，年幼的张玄靓除了看到刀光剑影觉得好玩，看到血流成河感到害怕之外，对国家大事什么也不知道。大权落到了讨伐张祚有功的张灌手中，张灌自任都督中外诸军事、尚书令、凉州牧、张掖郡公。

张灌喜欢猜忌他人，而且还爱根据自己的爱憎进行赏赐、惩罚，因此许多人对他极为不满。郎中殷郇劝谏他，张灌勃然大怒，说：“老虎出生三天就知道吃肉，何须别人教它”，差点把殷郇气死。

宋混为人刚直不阿，自然成了张灌的眼中钉。359年9月，张灌想杀死宋混兄弟，废掉张玄靓，自己当凉王。不料走漏消息，反被宋混先下手把他打败，张灌、张据兄弟俩自杀，之后，宋混又杀了张灌的全族。经过这一场内部斗争，已经10岁的张玄靓似乎懂了许多，他给宋混增加了不少头衔，拜宋混为都督中外诸军事、骠骑将军、酒泉郡公，负责管理朝政。宋混让张玄靓去掉凉王称号向晋称臣，张玄靓便称凉州牧。

两年后，宋混病重，张玄靓同祖母马太后亲自到宋混家中探望。张玄靓见宋混病得很重，哭着对宋混说：“将军万一不幸去世，留下我们孤儿寡母怎么办呢？我想让你的儿子林宗代管朝政，不知你意如何”？宋混气喘吁吁地说：“林宗年纪太小，不能胜任。如果你不嫌弃我们宋家的话，可以让我弟弟宋澄代管朝政，他比我有能力。”

宋混死后，张玄靓拜宋澄为领军将军，管理朝政，但好景不长，361年，大司马张邕起兵杀死了宋澄，同时也灭掉了宋氏一族。张玄靓对张邕滥杀大臣极为不满，但苦于手中没有兵权，只好忍气吞声，封张邕为中护军，让他同叔父、时任中领军的张天锡共同辅政，名义上是两人共同辅政，但张邕小人得志，大树私党，实际上是张邕专权。

16岁的张天锡是张重华的小弟，他对张邕独揽大权自然不满，于是就和亲信张肃、赵白驹密谋杀掉张邕，夺回权利。这年11月，张天锡同张邕一起去朝见，走在后面的张肃猛地举起刀向张邕砍去，但没有砍中，赵白驹又上去补了一刀也没砍中，只好和张天锡一起跑到宫中。