民國時期,為金永鄉第6保。
1950年,為金山鄉第3村。
1958年,為金永人民公社第3大隊。
1961年,為金山公社第3大隊。
1966年,為建設人民公社第3大隊。
1972年,為金山公社第3大隊。
1981年,地名普查時為金山大隊。
1984年,人民公社改制為鄉時將該大隊更名為金山村。
2019年,撤銷扶君鄉和金山鄉,將其所屬行政區域劃歸多扶鎮管轄(南府函〔2019〕76號)。
2020年4月,金山村、河玉溝村合并設立金山社區(西府發〔2020〕7號)。