连江县唐以前行政区划已无从稽考。唐代为上县(唐代县的等级分为赤、畿、望、紧、上、中、下七等)。设5个乡：宁善、永福、太平、名闻、五贤，计辖20个里。

　　宋代，连江为望县。设7个乡，辖24个里。增加2个乡为：宁善乡分为东、西宁善2个乡，永福乡分为永福和南永福2个乡。

　　元代，东、西宁善2个乡又合并为一，南永福乡改为永福乡，原永福乡分为4个都，全县仍设5个乡，辖21个里、4个都。

　　明清沿袭旧制，只个别调整。至清末，全县仍设5个乡，辖20个里、4个都，里、都之下共设42个图，计有500多个自然村落。

　　民国初沿袭清制。1929年，全县设8个区，辖149个乡（附乡396个）。1935年推行保甲制度，全县设3个区署，辖55个联保（后调整为40个）、487个保、4891个甲。1940年，联保改为乡镇公所，全县设31个乡镇、290个保、2951个甲。1941年4月，连江被日本侵略军占领，因县财政拮据，逐渐撤销区署。乡镇缩编至15个（竿塘、西洋沦陷未编）。1945年9月，抗战胜利后重新编查，增设荻壶、竿塘、西洋3个乡，全县计18个乡镇、177个保、2252个甲。到1949年8月连江解放时，全县设18个乡镇、178个保、2226个甲。

　　新中国成立后，连江始设6个区，基层保甲暂时不动。1950年，开始基层民主建政，至1952年结束，全县设10个区、123个乡镇。1956年，扩大区乡规模，设5个区、69个乡镇；1958年，乡镇数增加到74个。当年9月，除南竿、北竿、东引3个保留乡建制暂寄筱埕、黄岐外，其余71个乡先合并为17个乡镇，然后成立17个人民公社，实行政社合一，取消区、乡建制。公社下辖生产大队115个、生产小队461个。此后，社、队规模频繁调整。至1983年，全县计设18个公社、254个生产大队、3532个生产小队。1984年，撤销人民公社体制，相继建立18个乡镇人民政府，原农村生产大队一律改建为村民委员会，城镇街道改建为居民委员会。此后乡镇村建制基本稳定，略有变动。至2022年底，全县除马祖列岛尚待统一外，共设22个乡镇、269个村（居）民委员会。乡镇分别为：凤城镇、敖江镇、江南镇、东湖镇、浦口镇、东岱镇、晓澳镇、琯头镇、潘渡镇、小沧畲族乡、丹阳镇、蓼沿乡、长龙镇、透堡镇、马鼻镇、官坂镇、坑园镇、下宫镇、筱埕镇、安凯乡、黄岐镇、苔菉镇。