在对外关系方面，首先是对付北面的突厥。突厥原来是中亚地区的游牧民族，后来向东迁移，活动在蒙古草原一带。早在北齐和北周时期，变常骚扰内地。在杨坚执政北周时，和突厥和亲，尽力搞好双方关系。但在杨坚建立隋朝之后，突厥却加紧了南下的侵扰，但被隋军打败。

　　为了更好地防御突厥势力的侵扰，杨坚曾经三次修长城，巩固北边的防御线。到后来，突厥分裂成了两部分：东突厥和西突厥。东突厥因为无法和隋朝抗衡，渐渐地采取了和缓政策，直到接受了隋朝的领导。西突厥则逐渐向西发展，对隋朝没有了威胁。

　　北面安定之后，杨坚开始对付南方的割据势力。首先是灭掉了后梁。后梁原来就依附于北周，杨坚开始也进行笼络，等势力壮大后，就邀请后梁的皇帝萧琮到长安，其实是软禁，然后派兵占领了后梁国。