清代同治十二年（1873），屬禮賢鄉十三都和十四都、青云鄉的十都和六都。
1927年，廢都設河上區，二十四年改為區屬，轄區分屬一、三、五區；1938年，改為鄉公所。
1950年4月成立河上區人民政府，五月撤區成立鄉人民政府，1958年9月，成立河上人民公社，轄河上、三山，東來，1961年成立三山工作片委員會，轄河上、東來、元家、三山、白陂五個公社及羅山墾殖場，1964年9月復稱河上人民公社，轄東來、三山、河上五個公社及羅山墾殖場，1972年三山劃出，1977年東來劃出，1984年6月河上公社改為河上鄉，1985年10月撤鄉改為河上鎮，2001年9月撤東來鄉，并入河上鎮，得名后沿用至今。