1928年國民黨實行訓政后，南京國民政府的地方行政體制與以往地方行政體制有所不同，普遍實行了城鄉分立的雙軌制行政體制。這是我國行政史上的一個重大變化。
一、省政府
省政府是地方最高行政單位，由行政院提請國民政府任命7至9人組成省政府委員會。各廳、處同屬省府職能機關，各有其獨立組織和預算，能夠上對省政府，下對縣政府以及各局直接行文，在行政層次上成為獨立于省縣之間的中間層次。這是南京國民政府地方行政體制的一個特點。
二、行政督察專員公署
行政督察專員公署是省政府的派出機關，是適應國民黨部署反共內戰的需要而設立的。督察區的設置，也有行政體制上的原因，單從行政管理角度看，專員制度在溝通省縣之間聯系、整頓吏治、綏靖地方及提高行政效率方面，是起了作用的。
三、市政府
1930年5月新的《市組織法》由國民政府公布。依據該法，市分為中央直轄市(直隸于行政院)和省轄市(直屬于省政府)兩種。
四、縣政府
縣為南京國民政府初級行政區域。南京國民政府建立后，于1927年6月明令各省一律采取縣長制，廢除廣州、武漢國民政府一度采用的委員合議制。1928年9月公布《縣組織法》。該法經1929年和1930年兩次修訂，縣行政體才逐漸統一起來。五、市、縣以下自治組織次縣省區為市以下自治組織，設區民大會、區公所、區民代表大會及監察委員等。
縣以下自治組織為區、鄉(鎮)、閭、鄰。
