隋開皇十六年（596）于綿上置綿上縣，屬西河郡。
唐屬沁州。
宋太平興國四年（979）割屬大通監，寶元二年（1039）屬威勝畢。
金屬沁州。
元至元十年（1273）并入沁源縣。
1949年至1952年屬沁源縣第四區，1953年至1957年屬沁源縣棉上鄉，1958年至1983年屬沁源縣郭道公社，此期間1972年6月至1973年11月郭道公社改為郭道工礦區，屬郭道工礦區，1984年4月25日，因政社分設將棉上大隊改為棉上村民委員會，屬沁源縣郭道鎮轄至今。