古代的三省六部制最早起源于隋朝，是由当时的五省六曹制逐渐演变而来的。虽说三省六部制是在隋朝就已经开始了，但是真正将其运用并完善起来是在唐朝，之后一直沿用到清朝末年。虽然每个朝代都有一些小的改变，但三省六部制的基本框架都没改变。
三省六部中三省指的是中书省、门下省、尚书省，六部指的是尚书省的六个下属部门，分别是：吏部、户部、礼部、兵部、刑部、工部，每个部门各自管辖四司，一共有二十四司。
中书省作为古代皇帝直属的中枢官署之名，是封建政权执政中枢部门。早在汉朝就已经开始设立，曹魏时改称中书监，晋朝以后称为中书省，主要还是为了秉承君主意旨以及发布皇帝诏书，是中央政令的最高机构。在隋唐时开始正式成为全国政务中枢，中央最高政府机关。
门下省是魏晋至宋朝期间中央最高政府机构之一，初名侍中寺，只是宫内侍从官的办事机构。直到隋朝才开始正式设立的三省六部制成为与尚书省、中书省的三省之一，门下省这个称呼始自西晋。在门下省中一般设有：侍中二人，官居正三品，负责掌出纳帝命，相礼仪。
尚书省前身为“尚书台”，是由汉代皇帝的秘书机关尚书发展而来。曾是魏晋至宋朝中央政府最高权力机构。直到隋朝才开始正式对三省加以厘定，最终形成了对后世影响极大的三省期间制，此时尚书省CIA正式发展成形。
六部作为中央行政机构中六部的总称，比三省的形成要早很多。据说从西周开始，中央行政机构就设有吏部、户部、礼部、兵部、刑部、工部这六个部门。在秦汉时期被九卿所掌控，直到隋唐时期才将六部划分到尚书省的职权中，就连秦汉九卿的大部分职务也被尚书省掌控。
