1949年前，屬贛縣沙石區沙石鄉、隅南鄉及桃江區新興鄉部分轄地。
1949年8月14日解放，行政區劃仍沿舊制。
1950年6月設置吉埠、沙石、五爪龍、火燃、龍下、甘霖、新圩、新興等鄉，分屬沙石區、桃江區。
1952年10月劃小鄉后，設有吉埠、壩上、雙圳、沙石、五爪龍、火燃、龍下、甘霖、新圩、坪路、新興等鄉，仍分屬沙石、桃江兩區。
1956年6月撤區并鄉，設有沙石、龍下、新路、新興鄉；1957年2月復設區，沙石、龍下鄉屬沙石區，新興鄉屬桃江區，新路鄉為直屬鄉；1958年9月名為火箭公社沙石管理區；1959年10月設立沙石公社，1960年3月吉埠大隊劃屬贛州市；1961年10月調整社隊規模，分設沙石、龍下、新路3個公社，屬沙石區。
1963年7月撤區，沙石公社改名為沙石中心公社，吉埠大隊從贛州市南外公社劃入；同年冬，沙石、龍下、新路三公社合并，名沙石公社。
1968年沙河公社并入。
1972年10月分出沙河公社。
1978年元月10日劃屬贛州市，仍名沙石公社。
1984年4月29日改鄉制，名沙石鄉。
1987年4月5日撤鄉改鎮，名沙石鎮，得名后沿用至今。