民國時期，屬濟同鄉。
1950年，屬青杠坡區。
1953年，屬楊家坳鄉、水口鄉。
1958年公社時代，取名青樹坳大隊，屬青杠坡公社管轄。
1961年，撤銷以區為公社的建制，將管理區改為公社。
1963年，青樹坳大隊屬青杠坡區的水口寺公社管轄。
1981年，青樹坳大隊更名為觀音山大隊，屬青杠坡區的水口寺公社管轄。
1984年社改鄉，撤隊設觀音山村屬青杠坡區的水口寺鄉管轄。
1992年2月，貴州省人民政府批準思南縣進行“建鎮并鄉撤區”工作，同年10月，將原楊家坳鄉、大盆水鄉、水口寺鄉合并為楊家坳苗族土家族鄉，轄原三個鄉鎮的共19個行政村，觀音山村屬楊家坳苗族土家族鄉管轄。
2007年4月，縣人民政府下達《關于撤小村并大村整合的批復》，全縣開展撤小村并大村工作，把全縣561個村合并成168個村，楊家坳苗族土家族鄉將原34個村合并為9個村，其中，桅桿壩村、中城村、觀音山村合并為觀音山村。
2010年11月16日，思南縣人民政府批準調整全縣行政區劃，楊家坳苗族土家族鄉調整設置為32個行政村，1個社區，觀音山村屬楊家坳苗族土家族鄉管轄。