距今7000年前的新石器時期，雅魯河、綽爾河流域已有人類活動。
堯、舜時期，雅魯河、綽爾河流域均在古肅慎國內，其地為濊貊部余部夫余部所居。
春秋時期，扎蘭屯市境域內的雅魯河、綽爾河流域為東胡重要游獵地之一。
東漢末年，雅魯河、綽爾河流域處于鮮卑勢力東界之地。
東晉太元十一年（386年），雅魯河、綽爾河及阿倫河流域為夫余國勢力范圍之內，為勿吉國黑水部。
唐元和時期，雅魯河、綽爾河流域屬南室韋中的和解部和烏羅護部（即北魏烏羅侯）兩部的游獵之地。
五代十國時期，契丹皇族遙輦、迭刺二部長期居住在雅魯河、綽爾河、阿倫河流域，為契丹人活動中心。
遼天慶六年（1116年），遼在泰州（今黑龍江泰來縣塔子城）北設金山縣，后升為靜州。
為雅魯河、綽爾河流域，即今扎蘭屯市境域。
蒙古太祖九年（1214年），鐵木真對幾個立有戰功的弟弟和外戚家族進行分封，鐵木真幼弟帖木真·翰赤斤的封地在大興安嶺東西之地以及嫩江、松花江一帶，扎蘭屯市境域在其封地內。
明永樂六年（1408年），明王朝設立的阮里河（即雅魯河）衛，即設在今大興安嶺東麓雅魯河流域，同時在綽爾河流域設置了朵顏衛。
清順治時期，沙俄軍隊入侵黑龍江以北廣大地區，清王朝忙于平定關內反清叛亂，無力顧及邊疆防務，遂采取消極的內遷政策，將居住在這一邊區的鄂倫春、鄂溫克、達斡爾等族遷至黑龍江南岸居住，其中部分鄂倫春人、鄂溫克人被遷至雅魯河、綽爾河、濟沁河流域的原始森林中游獵，雅魯河、音河流域被編為“雅魯阿巴”，濟沁河流域被編為“濟沁阿巴”，綽爾河流域被編為“托信阿巴”。
清康熙二十二年（1683年），今扎蘭屯市境歸黑龍江將軍管轄。
清康熙三十年（1691年），清王朝在3個“扎蘭”、5個“阿巴”的基礎上，建立布特哈八旗（即打牲八旗），嫩江流域的達斡爾、鄂溫克、鄂倫春人均編入八旗之內。
每旗十幾或二十幾佐不等，每佐設佐領1人，佐下設額兵催領（頭目）4人，正藍旗、鑲紅旗同駐雅魯河，正藍、鑲紅兩旗設扎蘭衙門，并派有“扎蘭章京”坐鎮今扎蘭屯，司掌正藍、鑲紅兩旗的軍事和行政事務，由布特哈總管衙門節制。
清光緒二十年（1894年），清王朝裁撤布特哈總管，改升為布特哈副都統，仍隸屬黑龍江將軍管轄。
同年，扎蘭屯設立官莊，由扎蘭章京總領收容關內人口、屯田等事宜。
清光緒三十二年（1906年），清王朝裁撤布特哈副都統以嫩江為界，分設東、西兩路布特哈，各設總管1人，西路布特哈總管駐宜臥奇，分別掌管本路所轄各旗事宜，雅魯河流域屬西路布特哈。
每旗設佐領1人，扎蘭衙門廢止。
民國五年（1916年）3月1日，民國政府為管理自行流入的墾荒農民和發展招墾事業，黑龍江省在大興安嶺東麓濟沁河流域設置濟沁河稽墾局；同年7月1日，設置扎蘭屯稽墾局，同時設立輔佐稽墾局管理土地開放事務的佐治局。
民國十二年（1923年）3月，民國政府設立東省特別行政區行政長官公署，掌管轄地內鐵路兩側附屬地行政事務。
民國十五年（1926年）2月2日，濟沁河、扎蘭屯兩稽墾局廢止，設立雅魯設治局，局址在今扎蘭屯，由黑龍江省委派設治員進行管理。
民國十八年（1929年）1月5日，民國政府黑龍江省行政公署將雅魯設治局改升為雅魯縣，隸屬黑龍江省管轄，為三等縣。
雅魯縣轄境東至阿倫河西岸與布西縣分界，南與景興縣、扎賚特旗分界，北至內興安嶺與呼倫貝爾的呼倫縣分界。
民國二十一年（1932年）6月27日，偽滿洲國成立后，撤銷雅魯縣建制，將原雅魯縣行政區分設為布特哈左翼旗（駐地今扎蘭屯）、布特哈右翼旗（駐地博克圖）。
民國二十二年（1933年）5月12日，布特哈左翼、右翼兩旗合并為布特哈旗，隸屬于興安東分省，偽旗公署設在今扎蘭屯。
民國三十四年（1945年）8月，日本宣布無條件投降，偽滿洲國布特哈旗公署解體。
民國三十五年（1946年）5月，布特哈旗政府組建后，隸屬于東蒙古人民自治政府納文慕仁盟（省）政府。
民國三十六年（1947年）5月1日，布特哈旗歸內蒙古自治區政府納文慕仁盟領導。
民國三十八年（1949年）4月，改屬呼納盟政府。
1950年1月23日，內蒙古自治區人民政府決定將布特哈旗所轄的博克圖努克圖（雅魯、巴里木即巴林兩嘎查）劃歸喜桂圖旗（今牙克石市）管轄。
1953年4月1日，內蒙古自治區人民政府決定撤銷呼納盟，建立內蒙古自治區東部行政公署，布特哈旗直接隸屬于東部區行署。
1954年4月，東部區行署撤銷，將原呼納盟、興安盟合并為呼倫貝爾盟，布特哈旗隸屬呼倫貝爾盟。
1969年8月1日，布特哈旗隨呼倫貝爾盟劃歸黑龍江省。
1979年7月1日，布特哈旗隨呼倫貝爾盟復歸內蒙古自治區。
1983年10月10日，經國務院批準，撤銷布特哈旗，在原行政區內設立扎蘭屯市（縣級）。
1984年1月1日，正式實行市建制。
2001年10月10日，國務院批準撤銷呼倫貝爾盟，設立地級呼倫貝爾市，扎蘭屯市隸屬呼倫貝爾市。