榆陽古屬雍州。
商時屬鬼方，西周為獫狁所轄。
春秋時為林胡、白翟地。
戰國初屬魏，置上郡。
秦為上郡。
漢仍置上郡，并設龜茲、鴻門、獨樂三縣。
三國為匈奴所據。
東晉時，初屬后趙，置上郡。
后屬前秦，又屬后秦。
赫連勃勃建大夏國，為大夏國都統萬城隸地。
北魏滅夏，置夏州。
并在原漢龜茲縣設上郡，屬國城。
北周時設銀州，為銀州州治。
后周置稱渾戌。
隋開皇初改德靜鎮。
大業九年（613年）置德靜縣，屬朔方郡。
唐設銀州（治儒林）。
宋代為西夏地，設左廂神勇軍司，監軍司駐地稱彌陀河。
元為延安路管轄，為米脂縣地。
明初為延安府管轄，仍屬米脂縣。
明成化七年（1471年）設榆林衛，成化九年（1473年）榆林衛治所由綏德遷至榆林，設榆林鎮。
清初，仍沿明代舊制。
雍正八年（1730年）榆林衛改設榆林府、榆林縣，府治榆林縣。
民國初（1913年）廢府置榆林道，道治榆林縣。
1933年撤銷道制，1935年設陜西省第一行政督察專員公署，公署駐地榆林縣。
1946年10月榆林縣東南部鎮川、清泉等地和橫山縣響水、武鎮等地解放，建立鎮川縣人民政府（駐地鎮川堡）。
轄鎮川、鹽灣、清泉、魚河、武鎮、響水6個區，42個鄉。
1949年4月鎮川縣改設為榆林縣。
同年6月1日榆林和平解放，設榆林市人民政府。
1950年4月，榆林市并入榆林縣。
同時與橫山、神府縣相互調整區劃，榆林縣武鎮區、響水區劃予橫山縣，橫山縣河北區劃予榆林縣，神府縣開光區、雙建區劃予榆林縣。
1953年末轄榆林市及鎮川、清泉、上鹽灣、魚河、古塔寺、青云山、安崖底、雙山堡、牛家梁、孟家灣、馬合、芹河、巴拉素13個區，87個鄉（街），823個村，12個居民委員會。
1956年3月調整為9個區、1個直屬鄉。
1958年9月撤區并鄉，設23個鄉（鎮）。
同年12月橫山縣并入榆林縣，轄33個人民公社（鄉鎮）、97個生產管理區、469個生產大隊。
1961年9月榆林橫山分縣后，榆林縣轄28個人民公社，3個代政農場，下設388個生產大隊，19個分場。
此后全縣區劃雖經數次調整，但榆林縣轄域再未變動。
1984年7月實行政社分設，恢復了鄉鎮，行政村建置，轄4鎮24鄉，4個街道辦事處，86個居民委員會，480個村民委員會，1633個自然村。
1988年9月撤銷榆林縣設立榆林市（縣級）。
1989年7月撤榆林鎮及其下屬8個辦事處，設榆陽鄉和鼓樓、新明樓、上郡路、青山路4個街道辦事處（鄉級）。
1999年末全市轄10個鎮、18個鄉、4個街道。
2000年6月撤銷榆林市設榆陽區，榆林地區改設為榆林市，榆陽區隸屬榆林市。
2001年12月轄12個鎮、12個鄉、4個街道。
2003年3月增設崇文路、航宇路、駝峰路3個街道辦事處。
2011年10月，撤銷安崖鎮與大河塔鄉合并設立大河塔鎮；撤銷劉千河鄉與青云鄉合并設立青云鎮；撤銷余興莊鄉與古塔鄉合并設立古塔鎮。
2000年7月，縣級榆林市改為榆陽區，沿用至今。