在上古时期的周朝，统治者把全国分成许多小国，由他们的子弟和功臣去治理，叫诸侯国。在当时的条件下，这种办法对发展经济、稳定社会是起过作用的。但是后来随着社会的发展，各诸侯国独自为政，不听中央的命令，相互之间又不断打仗争夺，使全国陷入分裂和动乱的状态。这就是历史上的春秋和战国时期。到战国后期，人民都希望把全国统一起来。
公元前221年，秦国国君赢政经过10年征战，消灭了其他6国，建立了秦朝。他就是秦始皇。怎样进行管理呢？有的大臣提出，还应该像周朝那样分封诸侯。一个叫李斯的大臣坚决反对，说应该实行郡县制，由中央统一管理，才不致于造成混乱和分裂。秦始皇支持李斯的意见，说：“过去战争不断，百姓受苦，就是因为全国分裂、各自为政、不尊天子造成的。如果我再分封，不是等于给自己树立敌人吗？想要安宁就难了。”
于是，秦始皇决定把全国分为36个郡，郡下设县，郡县官员由中央任命。他又下令制定统一的法令，使用全国一致的文字、车辆，开通首都到各地的驿道，做到畅行无阻；对长度、重量、容量也做了统一的标准。他还亲自到各地巡视，宣传统一的意义和功德。秦始皇实行中央集权、全国统一的办法，后来被历代统治者所继承。在中华大一统的事业中，秦始皇是有伟大功绩的。
