夏、商、周、春秋屬于越，戰國屬吳，秦推行郡縣制在吳越地置會稽郡設烏傷縣（義烏）、諸暨縣屬之。
東漢興平二年（195）分諸暨縣部分設吳寧縣，為東陽建縣之始。
隋開皇九年廢吳寧分入諸暨和烏傷。
唐垂拱二年（686）以義烏之東沖要地和原吳寧故地設東陽縣。
后梁開平四年（910）改名東場縣，至北宋咸平二年（999）復名東陽縣。
歷宋、元、明、清為東陽縣玉山鄉廿七都鄉、廿八都鄉和三十一都鄉。
1932年實行鄉鎮自治，廿七都分設璜溪鄉（栗嶺）、鐄鏗鄉（前山畈）、澄溪鄉（橫路）。
廿八都分設斐湖鄉（斐湖）、安溪鄉（溪頭）、峇溪鄉（胡莊）、讓泉鄉（山宅）、協和鄉（八十秤）。
三十一都分設尖山鎮（尖山）、樓溪鄉（樓下宅）、德新鄉（新宅）。
1935年5月改為鄉鎮保甲制，又合并復稱廿七都、廿八都和三十一都。
1939年7月磐安建縣，廿八都鄉劃入磐安，改稱峇溪鄉。
1944年11月二十七都鄉和三十一都鄉合并建立尖山鄉（尖山）。
1949年5月東陽縣解放，同年12月建立尖山鄉人民政府。
1950年11月尖山鄉分設尖山（尖山）、新樓（新宅）、胡宅（胡宅）、前山（后張）4個小鄉。
1953年7月尖山撤鄉設鎮。
1956年2月，鄉鎮人民政府改稱鄉鎮人民委員會，同時新樓鄉并入尖山鎮。
1958年9月人民公社政社合一，為玉山公社尖山管理區。
1961年9月人民公社改為區，管理區改為公社，為玉山區尖山公社。
1983年8月，撤銷公社，復建尖山鄉。
同年11月磐安復縣劃入磐安。
1985年9月撤鄉建立尖山鎮。
1989年2月升格為縣屬鎮。
2018年，撤銷尖山鎮、萬蒼鄉、胡宅鄉建制,合并設立新的尖山鎮。