古為西羌地，西漢末王莽置西海郡，治龍夷城（今三角城）。
從南北朝至隋朝先后為羌人鮮卑族吐谷渾(tǔyùhún)所據。
唐、五代時屬吐蕃王國。
宋時為唃廝啰(ɡūsīluō)所占。
元時，歸吐蕃等處宣慰使司都元帥府轄。
明、清后，為蒙古族土默特部、喀爾喀部、厄魯特等部落的游牧地，均系王公、千戶政教合一的部落制。
1937年，設海晏設治局。
1943年，升局為縣。
1950年10月，海晏區行政委員會成立，暫屬湟源縣管轄。
1951年5月，恢復海晏縣建制，為省直屬縣。
1952年9月，改為海晏藏族自治區。
1953年12月，又復為海晏縣，隸屬于海北藏族自治區（1955年5月20日改為海北藏族自治州）。
1955年6月，改為海晏縣人民委員會。
1968年3月，改名為海晏縣革命委員會。
1981年4月，恢復為海晏縣人民政府。