对于解决“北方四岛”问题，《东京宣言》也提出了新的指导原则，即“立足于历史和法律事实，以两国间制定的各种文件及法律和正义为基础加以解决”。同时《东京宣言》通过确认“日苏间的所有条约与其他国际承诺在日俄间继续适用”，从而间接确认了1956年《日苏联合宣言》中苏联所作的交还北方两岛的承诺继续有效。

从1996年起，桥本内阁开始主动推动日俄关系的发展，放弃了执行多年的“政经不可分”和“扩大均衡”的原则，制定了“多层次接触”方针，并呼吁日俄双方加强政治对话，进一步发展日俄关系。此外，时任日本桥本首相还许诺向俄提供15亿美元的银行贷款。

日俄关系的接近推动了领土谈判。在日本“金元外交”的攻势下，1998年，俄方同日本交换了解决领上问题缔结和平条约的初步方案。

日本的方案是，在日俄和平条约中明文规定，在国后、择捉之间最终划定两国边界线，在商定的归还日期以前，日本承认俄拥有施政权，继续维持四岛现状。俄罗斯方案是，在2000年前制定并签署日俄和平条约，在条约中载明继续探讨双方可以接受的解决边界问题的方案，同时继续就缔结在上述岛屿之间划定边界的条约进行谈判。

这两个方案虽然在内容上相去甚远，双方均表示难以接受对方的提议，但这一进展却表明双方关于领土问题的谈判已越过要不要归还四岛的争论，而进入如何归还四岛的阶段。

2000年1月，普京当选为俄罗斯总统。当年9月，普京访问东京时，日本首相森喜朗重申发展日俄关系的重要任务就是立即缔结和平条约，其实是暗示普京，要他归还“北方四岛”。普京承认，俄日关系中存在领土问题，但若要说归还四岛还为时过早。

2001年3月，森喜郎向普京提议，解决“北方四岛”可以分两步走，先交还齿舞、色月两岛。但森喜郎的建议一经宣布，立即招来日本国内的批评和质疑。此后一段时间内，双方逐渐陷入僵局。

2004年9月2日，日本首相小泉纯一郎乘坐海上保安厅的巡视船，从北海道根室市出发，海上视察了“北方四岛”。虽然由于天气原因未能窥清岛上景物，但小泉此行已在俄罗斯朝野引起强烈反响。俄民众普遍认为，日本首相近距离视察南千岛群岛(即“北方四岛”)，是对俄罗斯主权的公然蔑视和挑衅。

当日，俄外交部亦批评说：“这有可能使俄日两国和平条约的谈判复杂化。”2004年11月14日，俄罗斯外长拉夫罗夫提出，俄准备在与日本缔结和平条约后归还“北方四岛”中的两个岛屿。

次日，普京总统在政府会议上表示，俄方可以根据1956年苏联与日本的“联合宣言”，将齿舞群岛和色丹岛归还给日本。11月16日，日本外务大臣町村信孝表示，普京的话是苏联时代的东西，没什么新意，没有必要作出反应。

町村信孝之所以如此说，是因为日方认为俄罗斯在解决“北方四岛”问题上的立场倒退回了苏联时期，日本几十年的外交努力可能化为乌有。

小泉纯一郎在东京向记者发表谈话时称，日本不会接受俄罗斯只归还“北方四岛”中两个岛的领土解决方案。如果不明确“北方四岛”的归属问题，就不会与俄罗斯签署和平条约，日本的这一方针不会改变。

随后，普京明确表示，俄罗斯不准备与日本就结束占领“北方四岛”问题进行谈判。他说：“这四个岛屿在俄罗斯的主权范围内，已为国际法所确定。这是二战的结果，我们不准备将此付诸谈判。”

日俄双方又一次陷入僵局。在小泉执政的六年间，日本对俄采取的是“不接触”政策，日俄关系不但没有进展，与“9·11”后大国关系普遍迅速调整的态势相比，可以说是倒退。

2006年8月3日，俄罗斯政府通过了《2007年至2015年千岛群岛社会经济发展》的联邦专项计划，未来9年内俄政府将拨款179亿卢布(1美元约合27卢布)用于开发千岛群岛(包括南千岛群岛)。

2006年9月26日，安倍晋三当选新任日本首相。12月13日，日本外相麻生太郎在众议院外交关系委员会上提出解决北方领土问题的新方案，即将四岛按照总面积对半分，将齿舞、色丹、国后以及最大的择捉的四分之一划归日本，剩余择捉的四分之三则划归俄罗斯。这个折中方案是迄今最具建设性的对策。但日本官方声称仅为麻生个人想法，不代表政府意见;俄罗斯则不置可否，态度微妙。