千山區可上溯的秦代（公元前221年）。
漢代、三國時期、晉代、隋代，其北部（以楊柳河為界，下同）隸遼東郡襄平縣（今遼陽市），南部屬新昌縣。
唐代，唐高宗天皇大圣大弘孝皇帝總章元年（公元668年），隸安東都護府遼州城（今遼陽市）。
遼代，唐哀帝昭宣光烈孝皇帝天祐三年（公元906年），區境北部屬東京道遼陽府（今遼陽市），南部屬遼陽府海州（今海城市）。
金代，天德三年（1151年），區境北部隸東京道遼陽府，南部屬澄州（今海城市）。
元代（1206年），區境北部屬遼陽路（今遼陽市），南部屬海城巡檢司。
明代，洪武元年（1368年），區境北部屬遼中衛（今遼陽市），南部屬海州衛（今海城市）。
清初，千山區境內由遼陽州、海城縣所轄。
民國初，先由遼陽縣所轄，后由海城縣所轄。
民國二十六年（1937年）12月1日，鞍山實行市制，千山區才劃入鞍山市內。
1960年2月15日，郊區建置。
1983年12月30日，將鞍山市郊區劃為四城區之一，取名舊堡區。
1996年4月19日，改為千山區。