清康熙六十一年（1722年），屬在城里。
清宣統元年（1909年），屬護城團，屬中正區。
民國二十三年（1934年），屬虹溪鎮。
民國二十六年（1937年），屬東北鎮，析虹溪置東北、西南2鎮。
民國二十八年（1939年），東北、西南2鎮合并為城廂鎮。
民國三十一年（1942年），屬東北鎮，析城廂鎮置東北、西南2鎮，屬第一指導區。
1950年，屬城關區東北鎮；同年7月，東北鎮改為東北鄉。
1951年，屬第一區（晉新區）。
1955年，東北鄉并入晉新鄉。
1961年，設常靈公社。
1967年，常靈公社更名星火公社。
1981年，星火公社更名常林公社。
1984年，由常林公社改為常林鄉。
1992年9月，常林鄉并入晉城鎮。
1997年7月，晉城鎮析置常林鄉。
2006年8月，木角、群德2鄉并入常林鄉。
2019年10月，撤銷常林鄉和宏橋鄉，兩鄉合并設立常林鎮。