認真說來，「地方上」這個概念，也是要到秦以後才會產生的。因為只有一個幅員遼闊且又實行郡縣制的統一大國，才會有中央和地方，也才會有中央和地方的關係。這種關係，仍然要算漢代最好。錢穆先生就說：「中國歷史上講到地方行政，一向推崇漢朝，所謂兩漢吏治，永為後世稱美」，是為篤論。
漢代地方行政制度之好，在於簡單，只有郡、縣兩級。加上中央，也不過三級。層次少，效率就高，腐敗的可能性也小，這是大家都明白的道理。再說層次少，也親切。縣以上就是郡，郡以上就是中央，用錢穆先生的話說，大家都不覺得這個中央政府高高在上。
層次少的另一個好處，就是官級少，升轉快，官員的政治前途明朗，工作積極性就高。西漢中央政府的「高級幹部」實際上只有兩級，即「三公」和「九卿」。三公就是丞相、太尉和御史大夫，都只有一個人。丞相相當於總理，金印紫綬；太尉相當於三軍總司令或兵馬大元帥，也是金印紫綬；御史大夫相當於副總理兼監察部長，銀印青綬。九卿其實就是九個部長或「部長級幹部」（比如廷尉就是司法部長，大鴻臚就是外交部長，大司農就是財政部長），官俸二千石。地方上也是兩級。最低一級是縣。大縣行政長官叫縣令，官俸六百石至一千石。小縣行政長官叫縣長，官俸三百石至五百石。縣以上是郡，行政長官叫守，景帝時改稱太守，官俸二千石。也就是說，郡守和九卿是平級的。西漢的郡大約一百個，一個郡管一二十個縣。這樣算下來，當時一個郡守，也就相當於現在一個州長。請想一想，一百個州長（郡守）和九個部長（九卿）平級，是什麼概念？自然是州長變部長並不稀奇，部長變州長也不委屈。這就有利於「幹部交流」。再說中央政府的部長雖然只有九個，地方上的州長卻有一百來個。縣長們（大約有一千三百左右）即便當不上部長，當個州長總還有希望。縣長和州長之間又不再有等級。只要加把勁，一步就能跨入「高幹」行列，沒準還能到中央工作，縣長們豈能不努力？實際上漢代官制的最大特點就是「輕中央而重地方」。所以漢代的地方政治是最好的，吏治也是最好的。
不過好景不長，這個制度很快就遭到了破壞。始作俑者不是別人，正是那位雄才大略的漢武帝。漢武帝在元封五年（公元前106年）把天下分為十三個州部，每州派去一位刺史，許多學者便據此認為漢代地方行政區劃是三級：州一級，郡一級，縣一級，州領導郡，郡領導縣。其實這是不對的。因為刺史不是行政官，而是監察官，是中央派到下面去監督地方官的「特派員」。他只能奉詔察問六件事情，不得干預地方行政，還沒有固定治所，俸祿也只有六百石，相當於「縣處級」。你想，哪有縣處級領導地市級的道理？顯然，刺史不是一級地方官員，州也不是一級地方行政區域。所以在漢武帝時代，這事還不算亂套。
但是到漢成帝綏和元年（公元前8年），情況就變了，刺史變成了牧，級別也是二千石。以後反反覆覆，一會兒刺史一會兒牧，州也逐漸成為地方行政實體（比如冀州牧袁紹、荊州牧劉表、兗州牧曹操，便都是擁兵自重割據一方的諸侯）。這樣折騰到隋文帝開皇三年（公元583年），朝廷乾脆廢了郡，直接以州統縣。至於州的行政長官，則有叫刺史的，有叫太守的，還有叫牧的，因為隋唐兩代的州，其實就是漢代的郡。如果是特殊的州（比如首都和陪都），就叫府，其行政長官則叫牧（從二品）或尹（從三品）。這是唐人的發明，宋人也跟著做的。只不過宋代的府比唐代的多。稍微特殊一點，就不叫州，叫府。
可見唐代地方行政區域原本也只有兩級：州府一級，縣一級。但是唐人和漢人一樣，也喜歡從中央往地方派上級官員。漢代只派了刺史，唐代派的就多了，其中最重要的是觀察使和節度使。觀察使和漢的刺史一樣，原本是中央派下來巡視地方的，結果巡迴變成常駐，成為名不正言不順的更高一級行政長官。節度使原本也是特派員，只不過觀察使管監察，節度使管軍事。結果也一樣，也成為名不正言不順的更高一級行政長官。中央監察官變成地方行政官已是不妥，軍區司令員變成地方行政官就更成問題。最後，節度使變成割據一方的「藩鎮」，唐王朝也就滅亡。
唐代觀察使監臨的區域叫「道」，宋代則叫「路」。宋代地方行政區域原本同樣只有兩級：州府一級，縣一級，但開國不久（宋太宗至道三年，即公元997年）就在府州上面加了一級，叫「路」，而且其行政長官居然是四個，南宋時簡稱為帥（安撫使，管軍事）、漕（轉運使，管財政）、憲（按察使，管司法）、倉（常平使，管救濟）。這就荒唐。唐代州縣，只要承奉一個上司（觀察使），宋代則要承奉四個，這地方官豈能好做？何況這四個大員，互不相屬，都直接對皇帝負責，你說這事情可怎麼辦？所以宋的地方行政，簡直一塌糊塗。
元代的荒唐，則是把「省」這個怪物製造出來了。省，原本是中央機關的官署名稱，比如中書省、門下省、尚書省，在唐代是相當於宰相府的。元承宋制，也以中書省為最高行政機關，樞密院為最高軍事機關，御史台為最高監察機關。不同的是，他們還要把這些機關派到地方上去。派到地方上的中書省叫「行中書省」，簡稱「行省」。派到地方上的樞密院叫「行樞密院」，簡稱「行院」。派到地方上的御史台叫「行御史台」，簡稱「行台」。可見所謂「行省」，就是「臨時的、不在首都的，或行動中的中書省」，就像「行宮」是「臨時的、不在首都的皇宮」一樣，怎麼會是地方行政區域名稱呢？
所以，到明洪武九年（公元1375年）朱元璋準備廢掉宰相之前，就先把地方上的「行中書省」廢了，改稱「承宣佈政使司」，其長官則叫「承宣佈政使」，簡稱「布政使」。使是官名，司是衙門，都不是區域名稱。可見現在叫做「省」的這個地方行政區域，其實是沒有正當名稱的。叫省叫司都不通，就像把市、縣叫做局、處於理不合一樣，要叫也該叫「承宣佈政使區」。不過朝廷只設了衙門（承宣佈政使司），沒有頒布區號，世俗的稱呼難以改變，那就湊湊合合叫「省」吧！結果，真正的「省」（中書省）廢掉了（而且也被忘掉了），不是「省」的東西反倒變成了「省」。
省一級的衙門，明代是三個：承宣佈政使司、提刑按察使司、都指揮使司，簡稱藩司、臬司、都司，合稱「三司」。清代減去都指揮使司，變成「二司」。二司的長官布政使和按察使，俗稱藩台、臬台，同為省長。藩台管行政財政，臬台管司法監察。其實按察使稱台還湊合，因為御史稱台。布政使稱台就沒有道理了。然而清代不但藩司和臬司的長官稱台，他們派出去的下屬機構（分司）官員也稱台，叫「道台」。這倒不去管他，糟糕的是明清和漢唐宋元一樣，有了地方政權機構還不夠，還要往下面派機構和官員。漢代是郡縣之上加派刺史，結果變成州；唐代是州縣之上加派觀察使和節度使，結果變成道；宋代是府州之上加派帥、漕、憲、倉，結果變成路；元代則在道和路之上又加派行省、行院、行台，結果變成省。這樣到了明清，法理上的地方行政區域是三級：省一級，府一級，州縣一級。府在唐、宋、元三代，是「特別行政區」，其實是州，但在明清則是省之下、縣之上的一級正式行政區，相當於現在的地級市。州在明清則基本上不再領縣，其行政關係則或直屬於省（少數），或隸屬於府（多數），因此州縣應視為同級。
這樣原本也不錯，問題是明清又往省裡派「特派員」。明代派出的是三個：總督、巡撫、巡按。設置之初，大體上是總督管軍事，巡撫管行政，巡按管監察。清代把巡按職責併入巡撫，只留下總督、巡撫兩個。但明代的總督、巡撫、巡按是臨時性的、非常設的，清代的總督和巡撫卻是常駐常任，這就等於是在省長（布政使、按察使）之上又加「超級省長」（巡撫），諸省之上又加「太上省長」（總督多管二三個省，只管一省的則不設巡撫）。省上有省，官上有官，越搞越複雜。
省長們也不含糊，也往下派「太上皇」，這就是分司分道。分司分道也有兩種：布政使派出的叫分守道，按察使派出的叫分巡道。這是明制，清代的道更複雜。這就在省與府之間又插進來一級。如果總督轄區（大區）算一級，省算一級，道算一級，府算一級，州縣算一級，就有五級了。結果如何呢？即如錢穆先生所言：「變成管官的官多，管民的官少」，而且管民的官（就是縣官和州官）不但少，地位還低，權力還小。州縣上面有知府，知府上面有道台，道台上面有布政使和按察使，布政使和按察使上面有巡撫，巡撫上面有總督，總督上面有中央。州縣被壓在最底層，奉承巴結一大堆上司還來不及，哪有時間精力功夫心思去親民？地方政治也就一塌糊塗。