在政治上，隋王朝刚统一中国不久，为了巩固政权和统一的局面，需进一步控制新统一的东南地区。当时江南阶级矛盾和地主阶级内部矛盾始终比较尖锐。公元590年，江南士族沈玄桧、汪华等聚众反隋，或称天子，或称都督。隋文帝调集大军，历时2年才平定江南叛乱。公元600年，李英林起兵于熙州(今安徽安庆市)，第二年，潮州僚民起义。由于南方人民的不断起义，于是隋文帝下诏没收天下兵器，严禁私造。同时更禁止江南人私造大船，凡是3丈以上的船只，一律由国家没收。隋炀帝下令开凿大运河，目的在于使南北运输畅通无阻，加强对南方的统治。
除上述原因外，隋炀帝游玩享乐之心也是开凿大运河的动机之一。隋炀帝过去曾长期担任江都总督，驻扎扬州，醉心于江南的豪华生活。所以由于怀念江都繁华美景，也迫使他想开凿大运河。
隋朝统一中国后，人民得到安定的社会条件从事生产，社会经济逐渐恢复。十几年后国家也积累了大量的物质财富。这也为修造贯穿南北的大运河提供了必要的条件和可能性。
早在隋文帝时期，就开了广通渠和山阳到江都的邗沟。公元584年，隋文帝为了漕运(即河运)的便利，令当时著名的建筑大师宇文恺率水工开广通渠，引渭水从大兴城(今西安市)到潼关，与黄河相接，长300里。广通渠开通后，便利了关内漕运。公元587年，隋文帝又沿着春秋时吴王夫差所开邗沟的旧道，南起江都，北至山阳(今江苏淮安)，沟通江淮。隋文帝利用这条渠道运兵运粮，为用兵江南作准备，第二年，隋即出兵灭掉陈国，统一了中国。但是，大规模开凿修建大运河，还是在隋炀帝上台以后。公元605年，隋炀帝征发大批士兵和民役开始修建，到610年底，大运河工程基本完成，前后费时6年。