宋建隆元年（960）為泥山鎮，屬平陽縣。
元元貞元年（1295）屬平陽州。
明洪武二年（1369）平陽廢州為縣，泥山鎮復屬平陽縣。
清乾隆二十五年（1760）為儀山，屬二十五都；宣統元年（1909）改稱宜山。
1912年稱宜山鎮。
1950年5月宜山鎮隸屬宜山區，轄10個村，12個居民區。
1958年9月稱宜山大隊。
1962年1月成立宜山公社。
1964年復設宜山鎮。
1969年復稱宜山公社。
1981年12月恢復宜山鎮，隸屬蒼南縣。
1992年5月鐵龍鄉并入；10月新安鄉芙蓉村劃入，轄1個居民委員會、16個村民委員會。
2000年6月江山鄉后垟增、梁宅2村劃歸宜山鎮屬平陽縣，形成今日之政區。