青樹溝村，清朝康熙年間屬萬家村，清同治五年（1866）屬南鄉秦店保。
民國11年（1922）屬一區趙萬鄉秦店保，民國34年（1945）稱趙萬鄉青樹溝保。
1948年為青石溝村，1951年土改時為青石溝鄉，1955年增產農業合作社，屬茶店區管轄。
1958年撤鄉改社為增產大隊，屬東方紅人民公社管轄。
1975年3月，撤區并社，1981年更名為青樹溝大隊，屬青山公社管轄。
1984年6月，縣域行政區劃調整，改名為青樹溝村，屬茶店區青樹鄉管轄。
1987年9月，撤區建鄉，屬青山鄉管轄。
小溝村，清朝康熙年間屬萬家村，清同治五年（1866）屬南鄉秦店保。
民國11年（1922）屬一區趙萬鄉秦店保，民國34年（1945）稱趙萬鄉青樹溝保。
1948年為小溝村，1951年土改時為小溝鄉，1955年稱小溝農業合作社，屬茶店區管轄。
1958年撤鄉改社為小溝大隊，屬東方紅人民公社管轄。
1967年為愛國大隊。
1975年3月，撤區并社，1981年更名為小溝大隊，屬青山公社管轄。
1984年6月，縣域行政區劃調整，改名為小溝村，屬茶店區青樹鄉管轄。
1987年9月，撤區建鄉，屬青山鄉管轄。
2000年1月，始建青山鎮，2002年12月，全縣村組合并，青樹溝村、小溝村合并為青樹溝村，屬青山鎮管轄至今。