元代行省制度的特点：有利于中央收集、行省的双重性、行省权力大而不专、一署多员与长官节制相结合。行省制的确立，从政治上巩固了国家，使中央在行政体制方面得到保证。这是中国行政制度的一大变革，对后世影响巨大。省作为地方一级行政区的名称，一直沿用。行省制源于魏晋时的行台，当时为中央政权处理军国大事时的临时派出机构。
行省一词，源于金朝。金国因地方上战争的需要，设行尚书省以分任军民之事，非定制。元世祖时，开始设置中书省。中统、至元年间，在各地分置行中书省，作为中书省的派出机构。后逐渐成为固定的地方行政机构，掌管辖内军政要务。
行省制，就是在中央设中书省打理全国政务，枢密院掌管军事，御史台负责监察；在地方设行中书省，行省设丞相一人，掌管全省军政大事。行省下设路、府、州、县。元朝在全国共设10个行省，即岭北行省、辽阳行省、河南江北行省、陕西行省、四川行省、甘肃行省、云南行省、江浙行省、江西行省、湖广行省。而山东、山西、河北和内蒙古等地则称为“腹里”，由中书省直辖。
元代行省是行中书省的简称，其渊源可追溯到魏晋隋唐的行台和金代行尚书省。蒙古国时期，燕京、别失八里、阿母河三断事官及归降的金朝官吏、军阀等，也称为行尚书省或行省。不过，这些都算不上严格意义上的行省。忽必烈建元朝后，正式在朝廷设置中书省总领全国政务，时称"都省"。不久，又沿用前朝旧例，频繁派中书省宰执带相衔临时到某一地区负责行政或征伐事务。