民國21年（1932年）與臨洮縣分置，屬康樂縣第一區，1958年9月設立虎關人民公社，簡稱虎關公社，公社下設阿羊溝大隊，11月21日撤銷康樂縣建制，并入和政縣，虎關鄉仍為人民公社，上溝村和嚇溝村仍合稱為阿羊溝大隊，1961年12月15日，國務院批準恢復康樂縣建制。
1983年4月25日至7月31日將人民公社改為鄉人民政府，阿羊溝大隊分為兩個村嚇溝村，上溝村。
1958年以前曾屬于康樂縣，1958年后為虎關公社阿羊溝大隊，1983年以后更名為上溝村，一直沿用至今。