清乾隆二十三年(1758)，在現轄區龍泉街以北到南門，修筑土城。
二十八年，接土城北垣，擴建新城。
欽定此城為迪化。
俗稱漢城。
清道光五年（1825），在迪化城東（今建國路一帶），修筑滿營土城。
清光緒六年（1880），在滿營土城原址，修筑滿城。
光緒十二年（1886）將漢城和滿城合并擴建。
1946年迪化市設5個區，其中一、二、三、四、五區，均在現在的天山區境內。
新中國成立初，迪化市仍轄5個區。
1951年將5個區調整為7個區，其中，一、二、三、四、五區，在現天山區境內，面積約14平方千米。
1957年將一、四、五區合并為成立天山區；二、三、四(部分)區合并為二區（1957年定名多斯魯克區），并將烏魯木齊縣燕兒窩的部分行政區域劃歸二區。
1957年，在天山區設六道灣、東門、西門、南門、西河街街道辦事處，在多斯魯克區設勝利路、團結路、解放路、小東梁、新市場街道辦事處。
1959年，城市人民公社化運動中，勝利路辦事處，改為勝利人民公社；團結路辦事處，改為團結人民公社；解放路辦事處，改為龍泉人民公社；新市場辦事處，改為新華人民公社；小東梁辦事處，改為躍進人民公社；南門辦事處，改為和平人民公社；東門辦事處，改為泉山人民公社；西河街辦事處改為紅山人民公社；西門辦事處，改為民主人民公社；六道灣辦事處，改為六道灣人民公社。
1960年6月14日，天山區與多斯魯克區合并，定名天山區。
團結、勝利人民公社合并，稱多斯魯克人民公社；龍泉、躍進、新華人民公社合并，稱新華人民公社；泉山、和平人民公社合并，稱泉山人民公社；紅山、民主人民公社合并，稱紅山人民公社。
1962年，恢復原10個街道辦事處。
1969年3月，改稱街道革命委員會。
1976年9月8日，解放路、新市場街道革命委員會合并，稱解放南路街道革命委員會。
1977年西門、南門街道革命委員會合并，稱解放北路街道革命委員會。
1977年2月，小東梁街道革命委員會更名為和平路街道革委會。
1979年，恢復街道辦事處名稱。
1982年10月，在勝利路街道辦事處烏拉泊居委會的基礎上，成立燕兒窩街道辦事處。
六道灣街道辦事處，更名為新民路街道辦事處。
1985年7月，從勝利路、團結路、解放南路辦事處劃出河灘、供水站、三橋、四橋、南公園、南渠巷、西河壩前街、西河壩后街居委會，成立新華南路街道辦事處。
1985年8月，從解放北路街道辦事處劃出幸福路、體育館路、影劇院、干休巷、東環路、幸福路四巷、東大梁居委會，成立幸福路街道辦事處。
1985年8月市人民政府決定，將離城區32千米處的烏魯木齊縣烏拉泊工業區劃歸天山區。
8月10日，成立烏拉泊街道辦事處。
1988年10月，新民路街道辦事處劃歸水磨溝區管轄。
1989年4月28日，成立青年路街道辦事處。
1989年8月將紅山路居委會、北山坡居委會移交水磨溝區。
2000年12月，對團結路、勝利路、燕爾窩等街道辦事處行政管轄區進行調整，成立延安路街道辦事處；對東門街道辦事處行政管轄區域進行調整，成立堿泉街街道辦事處。
2001年1月，將大灣鄉劃歸天山區，大灣鄉最大的倉房溝村劃歸沙依巴克區。
原由烏魯木齊市農委管理的烏拉泊牧場移交大灣鄉管理。
2002年8月，烏拉泊辦事處劃歸達坂城區，烏拉泊辦事處所轄5個社區居委會一并劃出。
2006年2月14日，撤銷中共天山區大灣鄉黨委，成立中共天山區紅雁街道黨工委。
2008年全區轄14個街道辦事處，129個社區居委會，1個行政村，1個牧場。
2009年12月28日成立黑甲山片區管理委員會、二道橋片區管理委員會、大灣片區管理委員會、賽馬場片區管理委員會，全區新增11個社區，社區由129個增加為140個。
2011年5月20日調整劃分，天山區社區居委會數由140個增加至147個。
2011年6月14日，在原有新華北路街道辦事處、堿泉街道辦事處、團結路街道辦事處原有轄區范圍基礎上，2012年10月18日，新增31個社區，2013年3月18日，新增9個社區，2013年7月23日，成立南草灘街道辦事處，2013年10月30日，新增3個社區，2014年4月18日，新增5個社區。
截止目前，天山區有16個街道辦事處，195個社區、1個村委會、1個牧場。