自元代開(kāi)始，中國(guó)出現(xiàn)了一種新的行政區(qū)劃制度，其最高一級(jí)的行政區(qū)劃單位為行省(簡(jiǎn)稱(chēng)為省)，因此稱(chēng)為行省(省)制時(shí)期。此時(shí)期從13世紀(jì)后期至20世紀(jì)初，歷經(jīng)元、明、清三代。

省名起源甚早，魏晉時(shí)期已有尚書(shū)省、中書(shū)省之稱(chēng)，然皆為中樞要署，不直轄地方。隋文帝于開(kāi)皇八年(588年)伐陳，曾置淮南行省于壽春，但不久即廢。金入主中原之初，曾出現(xiàn)過(guò)行省制度，在外地設(shè)立行尚書(shū)省，但為時(shí)短暫。

蒙古人興起之后，仿金實(shí)行行省制度。元世祖一方面將尚書(shū)省并為中書(shū)省，總理朝政;另一方面，在地方設(shè)立若干行中書(shū)省，作為朝廷中書(shū)省在外地的代理機(jī)構(gòu)。它最初是一種臨時(shí)設(shè)置，并只管軍事，后演變?yōu)榧婀苊裾溟L(zhǎng)官也由中央官吏演變?yōu)榈胤焦倮簟Ｆ溟g從伐金到滅宋，歷經(jīng)70余年，平宋以后成了元朝的行政區(qū)劃單位。

蒙古在太宗三年(1231年)即滅金的前三年，始立中書(shū)省，以著名的政治家、地理學(xué)家耶律楚材為中書(shū)令。入主中原后于憲宗初年(1251年)，在燕京等處置設(shè)行尚書(shū)省。

中統(tǒng)初年(1260年)，元世祖忽必烈改置行中書(shū)省，其后屢屢增多，但是一直到元貞年間(1295—1296年)行省的設(shè)置和轄區(qū)還都很不固定，即在忽必烈統(tǒng)一中國(guó)(1279年)后的20年中行省制并未固定下來(lái)，直到13世紀(jì)末、14世紀(jì)初的元成宗時(shí)期才開(kāi)始固定，逐步形成元代省制行政區(qū)劃。

元英宗至治時(shí)(1321—1322年)，全國(guó)劃分為12個(gè)一級(jí)行政區(qū)：1個(gè)中書(shū)省、11個(gè)行中書(shū)省。

中書(shū)省為中央機(jī)構(gòu)中書(shū)省的直轄地區(qū)，又稱(chēng)都省、腹里，包括今北京、天津、山西、河北、山東以及河南和內(nèi)蒙的部分地區(qū)。

十一行中書(shū)省為嶺北、遼陽(yáng)、陜西、河南、江浙、江西、湖廣、云南、四川、甘肅、征東。其中，征東行省即高麗國(guó)，行省負(fù)責(zé)人由高麗王兼，性質(zhì)與內(nèi)地行省不同，所以也有人認(rèn)為只有10個(gè)行中書(shū)省。

元末，又分出許多行省，如中書(shū)省分出山東行省，江浙行省分出福建行省;有些行省區(qū)域過(guò)大，又劃置分省，如福建行省內(nèi)置建寧、汀州、泉州分省。可見(jiàn)，元末行省制也已開(kāi)始混亂。