公元前202年，在经过一番惨烈地角逐之后，刘邦打败项羽，建立了这个历史上第二个大一统王朝：西汉。
西汉的许多制度都效仿了原来秦朝的制度。其中，在军事制度方面，西汉在继承秦制的基础上，又加以改进和创新。汉军分为两种，分别是驻守在首都的京师兵和驻守各地的地方部队。京师兵里面又分为北军和南军，下面我们就来着重介绍这两支军队。
北军是西汉王朝的主力部队，因驻守在京师未央宫以北而得名。汉武帝太初元年（公元前104年）以前由中尉统率。北军的主要职责是负责京师长安以及周围三辅地区（京兆尹、左冯翊、右扶风）的防卫工作。此外，当汉帝国要对外发动战争时，也会由皇帝指定的将领率北军出征。
到了汉武帝执政时期，为了加强中央集权统治和适应连年抗击匈奴、开拓疆域战争的需要，汉武帝对京师军队进行了一番大的改革。北军中增设了八校尉的官职，即中垒校尉（八校尉之首，掌管北军营垒内的日常军务）、屯骑校尉（掌训练骑兵作战）、步兵校尉（掌上林苑门之屯兵）、越骑校尉（掌由东瓯、闽越、南越三地降汉士卒建成的部队）、长水校尉（掌屯驻在长水及宣曲的降汉匈奴骑兵）、胡骑校尉（掌屯驻在池阳的降汉匈奴骑兵）、射声校尉（掌弓弩部队）、虎贲校尉（掌战车部队）。八校尉直接听命于皇帝，原来统率北军的中尉改名为执金吾，因其军权都被八校尉分割，因此风光不再。此外，为了防备八校尉拥兵自重，皇帝又派出监军使者（又称监军御史）常驻北军营中。凡调动北军的人，必须持有朝廷颁发的符节交监军使者查验。
南军驻守在未央宫、长乐宫之内的城垣下，负责两宫的守卫工作，由卫尉（九卿之一）统率。未央、长乐两宫位于长安城南部，南军由此得名。除了未央、长乐两宫外，建章宫、甘泉宫以及皇室陵园、宗庙的安全工作也都是由南军负责。南军士兵大多从各郡的精英中选拔，士兵被称为卫士。
同北军相比，南军人数要少很多。起初南军有二万余人，后来汉武帝在太初元年进行军事改制的时候，一方面扩编了北军，另一方面又将南军裁撤到只有一万人。不过，南军虽然人数少，但南军卫士的地位和待遇都要高于北军。
除了北军和南军外，西汉长安城内还有一支特殊部队，那就是由郎中令（九卿之一，汉武帝时改为光禄勋）所统率郎官。郎官分为议郎、中郎、侍郎、郎中四等，人数不定，多至千人。郎官的主要职责是负责宫殿、掖门的安全工作，此外也随时充当皇帝的顾问差遣。除议郎外，郎官均须执戟宿卫殿门，轮流当值。和北军、南军所不同的是，郎官都是官员编制，并非普通的士兵。
郎官虽然地位高，但人数较少，因此真正能决定京师以及皇帝本人安危的还是北军和南军。谁掌握这两支军队，谁就掌控着京师，甚至是整个西汉王朝的大局。公元前180年，当时西汉的实际控制人吕后病危。吕后担心自己一旦离世，早就对吕氏家族心怀不满的大臣们很可能发动兵变。于是吕后在弥留之际安排自己的两个侄子赵王吕禄、梁王吕产分别掌管北军和南军，想借此让吕氏家族继续执掌天下。
吕后死去不久，开国元老周勃、陈平等人设计从吕禄手中骗得军权。之后，周勃、陈平立即率领北军以迅雷不及掩耳之势在长安城四处诛杀吕氏家族成员，曾经不可一世的吕氏家族瞬间灰飞烟灭，大汉江山重新回到刘氏皇族的手中。
