南橫山村歷史悠久，古屬趙，轄樂平，后改昔陽。
明屬樂平懷仁鄉黃巖都，駐黃巖。
清沿明置。
民國初年屬樂平皋落鄉，駐皋落。
1914年，屬昔陽皋落。
1918年，實行區村制，全縣分4個區，屬三區。
1938年5月，屬昔東縣。
1940年，屬一區，駐有子峪，轄23村。
1945年9月，昔東、昔西合并，全縣分14個區，屬昔陽八區。
1946年6月，調整為8個區，屬三區，駐趙壁，轄41村。
1938年昔東縣政府成立后，屬五區。
1945年昔東縣政府成立后，改屬三區，1949年-1952年屬三區管轄，駐地趙壁。
1953年-1955年屬橫山鄉管轄。
1956年-1957年屬白羊峪鄉管轄，駐北石龕。
1958年屬趙壁公社管轄，駐地趙壁。
1959年-1961年屬白羊峪公社管轄，駐北石龕。
1962年-1983年屬白羊峪公社管轄，駐白羊峪。
1984年屬白羊峪鄉管轄，駐白羊峪。
1999年改屬趙壁鄉，稱南橫山村。