片馬自古以來屬中國領土，“片馬”在景頗語中意為“碼板子的地方”。
唐宋為南詔的西域領地，元屬云龍甸軍民府。
明永樂五年（1047年），屬茶山長官司管轄，清屬永昌府登埂土司轄地。
清光緒二十年（1894年），清政府與英國政府簽定《中英續議滇緬界務條約》中，將片馬地區作為未定界。
清宣統二年（1911年），英國派兵強占片馬（片馬事件）。
1943年5月，日本侵入緬甸后，占領片馬、古浪、崗房三寨包括風雪丫口。
1944年春，駐怒江國民黨十一集團軍第一縱隊謝晉生部奉命配合遠征軍和滇西駐軍反攻緬甸、騰沖、龍陵之敵。
謝部收復片馬后，在片馬設“茶里邊區軍政特派員公署”，對片馬實施管理。
1946年，英軍乘片馬守軍立足不穩，武裝襲擊了謝晉生的“軍政特派員公署”及“片馬區公所”。
第一營營長兼片馬區長吳若龍等軍政官員被殺害，謝部被迫撤出片馬，英軍重新強占片馬。
1948年，緬甸宣布獨立，把中緬北段未定界劃入克欽邦，片馬被緬甸實際占領。
1961年6月4日，根據中緬兩國簽訂《中華人民共和國和緬甸聯邦政府邊界條約》規定，將片馬、古浪、崗房地區歸還中國。
片馬回歸后，設片古崗特區直屬麗江專區轄。
1966年9月，片古崗公社成立。
1984年，片古崗公社改為為片古崗區。
1986年，片古崗更名為片馬區。
1987年，片馬區改設為片馬鄉。
1995年，片馬鄉改設為片馬鎮。