合山鎮始建于北宋年間（960年—1127年）。
清末，屬陽江縣長樂鄉喬馬都喬馬一圖、平樂鄉北慣都北慣一、二圖。
民國初期，屬第三區。
民國二十六年（1937年），屬第二區。
1953年5月，改為第五區。
1957年2月，撤區并鄉，稱合山鄉。
1958年11月，與北慣鄉合并成立幸福公社；同年12月，改稱合山公社。
1959年10月，分出北慣公社。
1961年5月，改為合山區，轄合山、那龍、田畔、北慣、那石公社。
1963年，撤區分為合山、北慣公社。
1979年3月，分出田畔公社。
1983年11月，改公社為合山區。
1987年2月，改區為合山鎮。
1988年1月至1991年6月，合山鎮屬陽江市陽東區管轄，1991年7月，屬陽東縣管轄。