朱元璋曾经抓住张士诚的弟弟张士德，想通过留住张士德来招降张士诚，可是张士德却派人偷偷地给张士诚送信，叫他投降元朝。于是张士诚就决定请求向元军投降。江浙行省右丞相达识帖睦迩将此事报告给朝廷，元朝廷封张士诚为太尉，他手下的文武官员都按级别封了官。后来张士德被押送到金陵(南京)，然后他就拒绝进食，最后饿死。
至正二十三年(1363年)九月，张士诚又自立为吴王，尊他的母亲曹氏为王太妃，按照王的身份地位设置属官，在城里另外建造了府第。他让弟弟张士信为浙江行省左丞相，把勾结他袭击杨完者的江浙行省右丞相达识帖睦迩囚禁在嘉兴，而且元朝廷来要粮食他们也不给了。他手下有个参军叫俞思齐，字中孚，泰州人，劝谏张士诚说：“过去我们是‘贼’的身份，当然可以不给大都送粮，现在是元朝的臣子，怎么可以不进贡粮食呢?”张士诚大怒，去推桌案，结果扑倒在地。俞思齐看劝不动他，就装病逃走了。
那时，张士诚占据的地盘，南到绍兴，北超过徐州，到达济宁的金沟，西边占据汝宁府(河南汝南县)、颍州(安徽阜阳)、濠州(安徽凤阳东北)、泗州(江苏盱眙)，东边直到大海，纵横两千余里，带甲的将士数十万。以弟弟张士信和女婿潘元绍为心腹，以左丞徐义、李伯升、吕珍为爪牙，以参军黄敬夫、蔡彦文、叶德新等人为智囊团，以元朝的学士陈基、右丞饶介掌管秘书工作。他还喜欢招揽宾客，所赠送的车马、居室、家具之类很多。那些侨居在杭州和当地贫穷无依靠的人都争着来投靠他。
占据吴地(今江苏南部地区)以后，这一带很多年都没有战事了，因此人口多，经济也很繁盛，张士诚就逐渐变得奢侈、骄纵起来，不想过问政务。他的弟弟张士信、女婿潘元绍更是贪婪敛财，金玉珍宝和古代的书法名画，都是堆满了屋子，天天唱歌跳舞使自己高兴。他手下的将帅们也拖拖拉拉不肯服从命令，每当有战斗，都在那儿装病，索要大量的田宅、封赏高官，然后才肯出兵打仗。刚到军中，就拉来大量的丫环、小妾、乐器，在前线吹拉弹唱，或者就招揽那些能说会道的游谈之士，赌博、踢球，都不把军务放在心上，到打了败仗、失去了地盘，张士诚也一概不去过问。过后不久，还是让他们领兵打仗。
至正二十六年(1366年)九月，朱元璋以徐达为大将军，常遇春为副将军，率二十万精兵，集中主力消灭张士诚。朱元璋之前召开了军事会议：徐达、常遇春等人都觉得应该先进攻平江，但是朱元璋这一次向众人展现了他天才军事家的天赋，他认为平江城城台坚固，如果先攻取平江，其他地区的援兵会过来合围他们;如果先进攻其他地区，张士诚还是会坐视不理。这次呀，朱元璋又是对的。徐达和常遇春没有让他失望，平江附近的城池全部都被攻克了，就只剩下平江一座孤城了。平江号称当年的第一坚城，而昔日的张士诚在这个地方看着陈友谅死去，今日只能看着自己的地盘一点点被蚕食，即便如此，当时的他也只是做了一件事：修城。张士诚的确是一个守城的好帮手，当年的元朝派百万大军进攻他那一个小小的高邮也是依然难以攻破，所以他对于平江防守战很有信心，而且他也知道，如果平江失守，他将无处可去。
平江一共八个门，张士诚把他们都修得很坚固，但是在朱元璋眼里，这是一个必须要打下来的地方，所以朱元璋把自己所有的军队合计二十万全部都带来了这里。这个时候的朱元璋部下问他应该主攻哪个门，大喝道：“几十万大军还要主攻哪个门吗?都给我往死里打。”张士诚依然很顽强，顽强坚守了八个月。
至正二十七年(1367年)七月，张士诚见城中粮余渐尽，他又是厚道好人，干不出杀人为食的恶事，便率绰号“十条龙”的上万亲军冒险突围。出城后，望见城左西吴兵队阵严整，心虚不敢犯，便转至舟门，向常遇春营垒杀来。这下可是遇到了煞星，常遇春有勇有谋，百战良将，挥兵直前，与东吴兵激烈厮杀。同时，他又指挥善舞双刀的猛将王弼从另路绕出，夹击东吴兵，把张士诚万余扈卫精兵皆挤逼于沙盆潭中，杀掉十分之三，溺死十分之七，张士诚本人马惊堕水，几乎被淹死。亲兵冒死把他救起，扛在肩上逃回城中。
过了十来天，缓过劲来，张士诚咬咬牙，又亲自率兵从胥门突出。出于玩命心理，张士诚军勇锐不可当，打得正面拦击的常遇春部招架不住。如此天致良机，本来能突围，站在城头上的张士诚弟弟张士信不知是坏了哪根神经，大呼：“军士打累了，可以歇兵”，马上鸣金收兵。张士诚等人愣怔之余，常遇春缓过神又杀过来，把东吴兵打得大败。形势如此危急，张士信毫不知愁，大张旗鼓在城楼上与亲信左右饮美酒、食佳肴。此时，仆从向他进献一个大水蜜桃，张士信刚张嘴要吃，忽然城下发巨炮，恰恰打中张士信，于是这位爷与蜜桃一起四溅飞迸。兵败弟死，张士诚依旧很顽强，指挥城中兵民抵抗，杀伤不少朱元璋的兵马。
到了九月，徐达展开总攻，百道攻城，东吴军终于不支，平城陷落。张士诚在府邸中闻城溃，对其妻刘氏说：“我兵败且死，你怎么办?”刘氏冷静答道：“君勿忧，妾必不负君。”言毕，她怀抱两个幼子，在齐云楼下积柴薪，与张士诚诸妾登楼，自缢前令人纵火焚楼。张士诚望着齐云楼的大火，也准备上吊自杀。张士诚大将赵世雄忙上前解救，无奈之下弃城投降。朱元璋没有杀降的习惯，照说张士诚完全可以在朱元璋的照顾下舒舒服服地过完余生，可他抵达南京的当晚，就趁人不备，自缢身亡，终年47岁。