元代在地方上设置了行省制度。元代的河北、山西、山东地区由中书省直接管理，称为腹里。其他地域分别设置行中书省，掌管一个地区的军政、民政、财政、司法等诸多事宜的大权。行中书省的长官也称为丞相，等同于中书省派出的官员。因此，行中书省虽然比较与唐宋之时的地方政府机构集权更甚，管理的区域也更大，但是却和宋代一样，只是中央派遣到地方的临时机构，实际上加强了中央政府对于地方的直接管理。
行中书省下有四级机构，分别为路、府、州、县，长官分别为总管、知府、知州、县尹。这些官吏虽然算是地方的正官，但是却不掌握大权。真正的权力掌握在各级达鲁花赤手中。达鲁花赤是蒙古文，原意是掌玺者，引申为掌握权力者，监管官。这些达鲁花赤是地方真正的长官，均有蒙古人担任。各级长官可以有汉人、南人等三等、四等人担任。这是元朝的民族性所决定的特殊制度。
元朝设置了宣政院作为少数民族事务的管理机构，主要管辖吐蕃和畏兀儿地区的民政、财政。实际上，宣政院并非是设置在地方的地方政府，而是中央机构，和中书省、御史台、枢密院是同等级别的。吐蕃（西藏、青海、康定等地）是其直辖的属地，性质和中书省直辖腹里相仿。宣政院是最早的专门管理少数民族事务和少数民族聚集区的政治机构，这是元代的独创，也是我国作为多民族统一国家的表现
元朝中央实际上有些倾覆前朝的宰相分权制衡
中央最高机构为中书省。中书省上承天子，下总百司，领六部，为最高行政机关，行使宰相职权。中书省长官中书令以下，设右、左丞相为实任的宰相。下设平章政事、右左丞、参知政事为副相。中书省下设吏、户、礼、工、刑、兵六部，设尚书、侍郎分理政务。由于尚书省时置时废，门下省不复置，故中书省地位较前代尤为重要。中书令通常由皇太子担任。 中书省除为决策机构外，还负责直接管辖首都大都附近的腹里地区。尚书省，主要负责财政事务，不过时置时废。
御史台，是元朝最高监察机关。秩从一品。大夫二员，从一品；中丞二员，正二品；侍御史二员，从二品；治书侍御史二员，正三品，掌纠察百官善恶、政治得失。 御史台下设有殿中司、察院以及内八道肃政廉访司。其中，殿中司负责掌握京城官员的上朝和请假情况；察院下设二十四名监察御史，负责监察官民；内八道肃政廉访司负责对腹里（今北京、天津、河北、山东、山西一带）、辽东和两淮地区进行分区监察，共有八个。
元朝在地方设立行省制度为中国历史首举
元朝地方最高行政机构，并为一级政区名称。简称行省，或只称省。元置中书省总理全国政务，也称都省；因大元幅员辽阔，除腹里地区直隶于中书省、西藏地区由宣政院管辖外，又于诸路重要都会设立十个行中书省，以分管各地区。在世祖、武宗朝三次短期设立尚书省主管政务期间，行中书省也相应改称行尚书省。元人称其制为：“都省握天下之机，十省分天下之治。”
1260年，遵用汉法，立中书省总领全国政务，始置丞相及平章政事、左丞、右丞、参知政事等宰执官。其后，相继于各大地区建立行中书省。初期，仍沿用前代制度，以中书省宰执官出领各行省，称行某处中书省事。以后此类行省实际上已成为常设的地方行政机构。1286年铨定省、台、院、部官，罢各行省所设丞相，只置平章政事为最高长官，以与都省相区别。后来，部分地大事繁的行省许设丞相。1320年，元仁宗复罢各行省丞相，已置者皆降为平章政事。泰定帝（1324-1328）以后，某些行省又设丞相，视需要及任职者的地位而定。各行省一般置平章政事两员（从一品），右丞、左丞各一员（正二品），参知政事两员（从二品），其品秩与都省官同；左司、右司合为一，置郎中、员外郎、都事，品秩皆低于都省。元末，有些行省还增置“添设”平章、右丞、左丞、参政等官。行省掌管辖境内的钱粮、兵甲、屯种、漕运及其他军国重事，统领路、府、州、县；距离省治远的地方，另设宣慰司统之，作为行省的派出机构。行省下有道、路、府、州、县、基层行政设施。
对待西藏设立宣政院
宣政院，初名总制院。秩从一品，掌管西藏地区佛教事务和军政事务。遇吐蕃有事，则为分院往镇，亦别有印。如大征伐，则会枢府议。其用人则自为选。其为选则军民通摄，僧俗并用。 1264年，立总制院，而领以国师。1288年，因唐制吐蕃来朝见于宣政殿之故，更名宣政院。
宣慰司
宣慰司，掌军民之务，分道以总郡县，行省有政令则布于下，郡县有请则为达于省。有边陲军旅之事，则兼都元帅府，其次则止为元帅府。其在远服，又有招讨、安抚、宣抚等使，品秩员数，各有差等。
宣慰使司
宣慰使司，秩从二品。每司宣慰使三员，从二品；同知一员，从三品；副使一员，正四品；经历一员，从六品；都事一员，从七品；照磨兼架阁管勾一员，正九品。凡六道：山东东西道，益都路置。河东山西道，大同路置。淮东道，扬州置。浙东道，庆元路置。荆湖北道，中兴路置。湖南道。天临路置。
宣慰使司都元帅府，秩从二品，使三员，同知二员，副使二员，经历二员，知事二员，照磨兼架阁管勾一员。