該街道解放前屬馬官屯區。
1948年至1953年屬嘉祥縣高海區，1953年至1958年為第五區（駐地牟海），也稱大山頭區。
1958年成立衛星人民公社，同年劃歸濟寧市。
1962年恢復嘉祥縣，建立大山頭人民公社。
1984年農村體制改革中更名為大山頭鎮。
1997年，大山頭鎮更名為臥龍山鎮。
2013年12月，省政府批復同意撤銷臥龍山鎮，以其原行政區域設立臥龍山街道，街道辦事處機關駐原臥龍山鎮政府駐地，并沿用至今。