清咸豐年間（1851-1861）稱五道荒、立集店，清光緒七年（1881），于設(shè)置五常廳的同時(shí)，設(shè)立五常廳山河屯分防站。
民國時(shí)期，稱為五�？h第二區(qū)。
1945年東北光復(fù)后為山河區(qū)、山河縣，民國時(shí)期，集鎮(zhèn)擴(kuò)大，稱為第二區(qū)，偽滿洲國時(shí)，設(shè)立山河屯街公所。
1947年1月成立山河縣，為吉北地區(qū)督察專員公署山河縣治所在地，同年11月撤銷山河縣改為舒蘭縣山河區(qū)。
1948年6月劃歸松花江省五�？h，為第十區(qū)，1953年8月，設(shè)立十區(qū)山河鎮(zhèn)人民政府，1956年從原十區(qū)中又劃分出平安、雙興、愛路、保山4個鄉(xiāng)。
1958年成立山河鎮(zhèn)人民公社，1980撤銷公社制設(shè)立山河鎮(zhèn)，名稱沿用至今。