《二十一条》一直被认为是中国近代史上的污点之一，但很多将其视为耻辱的人其实并未对其有过深入的了解。这份所谓的不平等条约其实并未能真正付诸实施，而且还因为各种原因最终被废除。那么，废除《二十一条》的理由是什么呢？
第二、从法理角度看，《二十一条》是一个并没有真正生效的条约。《二十一条》未经正常手续签订，它是以逐条签字和换文的形式出现的。日本以《二十一条》“曾经两国政府委任全权代表正式签字，并经两国元首批准”为由，断然拒绝中国废约要求。这个理由是站不住脚的。依国际惯例，在事关国家重大权益的条约签订中，其最终审批权在国家最高权力机构。当时，袁世凯为搞复辟，解散了国会。国会显然不可能对此约进行审批。但国会的缺席恰恰表明，《二十一条》尽管有袁的签字却并不具备法律效力。中国国会在1923年初正式宣告《二十一条》为废约。
第三、废除《二十一条》有它的现实迫切性。中国政府在巴黎和会和华盛顿会议上为废除《二十一条》作了坚决斗争，日本政府在英美施压的情况下，被迫放弃了《二十一条》的部分特权。中国基本收回了山东权益，这对于中国是个巨大鼓舞，更加坚定了废约的决心。而且废约也是一个刻不容缓的问题，因为1923年将有几处列强租借地租期将满，最先到期的是日本手中的旅大租借地。根据1898年《中俄旅大租地条约》，旅大租借地租期为25年，1923年3月27日期满。1905年日俄战争之后，日本成为旅大租借地的租主。日本拟通过《二十一条》将租期延长为99年，不承认1923年归还期限。因此，北京政府如不在1923年3月27日以前，宣告取消《二十一条》，尽快索还旅大租借地，无疑等于承认1915年签署的中日条约继续有效，使中国此前进行的外交努力全部付之东流。为此，国会议员刘彦、张树森在众议院提出了《民国二十一条中日协约无效案》，由众参两院先后一致通过。3月10日北京政府外交总长黄郛照会日本驻华公使，追溯《二十一条》交涉以来的中日关系，认为1915年中日协约及换文，实为中日亲善之最大障碍，现本国国会已决议该案无效，旅大租期又瞬将届满，特重新声明，该约“除已经解决及贵国政府声明放弃各项外，立即全部放弃，并希指定日期，以便协商旅大接收办法，及关于民国四年中日条约及换文作废之各项问题”。3月14日，日本外务部复照北京外交部，对于中国照会表示“意外与遗憾”，并声明对中国的要求“均无何等应酬之必要”。这个复照，引起了中国国会的强烈不满。3月21日，北京众议院再次通过决议，促请政府拒绝接受日本复文。全国各种社会团体举行集会、抗议、游行，要求取消《二十一条》，如期收回旅大，并以经济绝交为抵制日本的手段，形成了全国性的抗议运动。但北京政府却没有采取进一步的外交行动，此次收回旅大不了了之。
第四。美国亮出“不承认主义”。《二十一条》的签订，标志着列强各国在华几十年形成的均势已被打破，日本显示了独占中国的强烈意向，引起了欧美列强的强烈不满。1915年5月13日，美国政府发表声明，称凡属侵犯合众国及其人民权利、中国“政治或领土完整”以及“I-JP开放”政策的条款，美国政府“概不承认”，从而表明对日本侵华的“不承认主义”立场，同时也保留了美国政府将来采取行动的权利。所以从国际法来看《二十一条》并不成立。
需要指出的是，北京政府坚持废除《二十一条》还在于，遭到全国人民坚决反对的《二十一条》未能真正付诸实施。日本一政要也认为：“大隈内阁向中国要求二十一条，惹中国人民全体怨恨，而日本无实在利益。”另外，在废约过程中，Et本并未放松对华侵略。日本内阁总理寺内正毅下台时说：“借与中国之款(指西原之款)三倍于从前之数，实际上扶植日本在中国之权利，何止十倍于二十一条。”