以鎮駐地村舊店命名舊店鎮。舊店村始建于明洪武年間,蔣邦禮,王璞、張樹林由四川遷此共建家園。因地勢洼河水成災,遷河西岸定居,取名新店;數年后河道西移又遷回舊址,故名舊店。
云山鎮地處云山前懷,北有高聳入云的云山山脈。根據平度縣縣志記載,“因天將雨,則云出”而得名“云山”。1994年全市區劃調整,命名云山鎮。