清代屬于西鄉十五會,1940年屬于永壽鄉。
小關鄉原屬癿藏人民公社,1958年撤銷鄉建置,1978年從癿藏人民公社分出,成立小關人民公社,并于1983年改人民公社為鄉人民政府。
解放后,成立鋪川人民公社委員會,隸屬臨夏縣管轄,1981年成立積石山縣后,劃分為積石山縣轄區,1983年改鄉,轄代家山、元林、湫池、鋪川、上莊、下莊、張巴7個行政村。