秦始皇统一天下之前，县大于郡，千里百县，县有四郡，因此秦始皇之前的地方行政制度为"县郡制"。
秦始皇统一天下后，曾出现过应否置郡的争论。
当时不少大臣，特别是李斯的上司王绾，认为原楚国、燕国、齐国等地的领土都远离秦国，主张实行分封，授各地贵族予世袭的诸侯名份，惟身为廷尉的李斯认为分封制是周朝诸侯混战的根源，他大胆地反驳道，周制订的这个政策已经证明是一个政治灾难。
周王室的亲戚一旦取得了他们的土地，立刻互相疏远和进行战争，而天子则无力阻止他们，所以结论是"置诸侯不便"。
他力排众议建议实行郡县制，并得到秦始皇的采纳。