清康熙年間（1662-1722年），屬漢州水村。
清宣統元年（1909年），設連山鎮。
民國二十九年（1940年），鎮改鄉。
民國三十一年（1942年），鄉改鎮。
1950年，鎮改鄉。
1952年，分為連山鎮和連山鄉。
1953年2月，6個村劃歸龍泉鄉。
1958年，合并為連山公社。
1962年，析置連山鎮。
1979年，連山鎮井入連山公社。
1981年，公社改鄉，析置連山鎮。
1984年，連山鄉并入連山鎮。
2006年，雙泉鄉并入。