明永樂四年(1406)設麥蘭河衛，隸屬奴兒干都司。
清代屬寧古塔副都統轄區。
清光緒初年試辦屯田，開辟寧古塔至三岔口等驛道后，墾民漸集，興建屯落。
清光緒二十八年十二月十三日（1903年1月11日），設置穆棱河分防知事廳，隸屬綏芬廳。
清宣統元年四月十五日（1909年6月2日），將穆棱河分防知事所轄地方改設穆棱縣，治所駐上城子（今興源鎮），隸屬吉林省東南路道。
1914年6月改隸依蘭道。
1929年2月，改由吉林省直轄。
1930年4月，縣址遷至八面通鎮。
1934年12月劃歸濱江省。
1937年屬牡丹江省。
1938年10月，縣治遷至穆棱街（今穆棱鎮）。
1939年6月，將細鱗河、太嶺和黑老婆溝、小穆河、龍山等地分別劃歸新設置的綏陽縣和林口縣。
1943年10月屬東滿總省。
1945年5月屬東滿省。
1946年4月屬綏寧省，同年10月屬牡丹江專區。
1947年1月5日，將穆棱縣劃分為南穆棱縣和北穆棱縣。
南穆棱縣駐穆棱街，管轄南區、北區、興源、磨刀石、下城子、馬橋河等地；北穆棱縣駐八面通，管轄八面通、東區、西區、梨樹鎮、穆棱礦等地。
同年6月15日，南穆棱縣改為穆棱縣，北穆棱縣改為穆北縣。
兩縣均隸于牡丹江專區。
同年10月1日，將穆北縣并入穆棱縣，縣址駐八面通，由牡丹江省直轄。
1948年7月劃歸松江省管轄。
1954年8月，改由黑龍江省管轄。
1956年3月屬牡丹江專區。
1957年1月，將梨樹鎮劃歸雞西市。
1983年9月，改由牡丹江市領導。
1995年3月7日撤銷穆棱縣，設穆棱市（縣級），由黑龍江省直轄，牡丹江市代管。
2007年7月，將磨刀石鎮劃歸牡丹江市陽明區。
名稱沿用至今。