據《成武縣志》和古碑文載是古汶水乃古菏水一支流,南宋紹熙年間(1190—1194),創、黨、呂三氏傍河建村,后成集,故名汶上集,有“先有創黨二家,后有草坡呂家”的傳說。
夏商時期本鎮屬三朡國古都所在地,周初屬古郜國后入宋,漢屬秺侯國,三國屬魏,北宋屬永昌郡,唐時屬戴州,五代至金屬單州成武,元代屬曹州,明代屬兗州府成武縣,清代屬濟寧府曹州成武縣。
1911年屬山東濟寧道成武所轄二十三集之一。
1935年屬成武縣第六區。
抗日戰爭時期,本鎮被日偽占領,屬偽山東省巨野縣管轄。
1942年9月隨著革命形勢的發展,革命根據地不斷擴大,在此建立汶上集區,屬巨野抗日縣政府。
1946年3月屬巨南縣,1949年8月巨南縣撤銷,汶上集區劃歸成武,屬成武縣第六區管轄。
1950年在該集設平原省成武縣汶上集鄉。
1952年平原省撤銷,隨湖西專區改屬山東省。
1953年7月湖西專區撤銷,改屬菏澤專區成武縣第六區,駐地汶上集,轄17個鄉。
1958年菏澤專區撤銷,劃歸濟寧專區。
秋,初撤區并鄉時,劃出秦田莊、馬海、等13個大隊歸玉帝廟。
撤區后,汶上集改為鄉。
1958年秋,成立汶上集(七一)人民公社,轄35個大隊,74個自然村。
1959年恢復菏澤專區,成武縣汶上集鎮隨屬。
1962年初至1978年底,汶上集是成武縣10處公社之一,1979年公社體制變動時,將燕莊、邱海、孫莊、丁樓自然村劃歸寶峰公社。
1981年12月所有公社分別改為鄉或鎮。
1983年經省政府批準設立汶上集鎮,又將本鎮的徐莊、水路店等15個大隊,24個自然村劃歸徐莊鄉。
1988年5月,徐莊鄉撤銷,又并入本鎮,大隊改建成37個行政村。
2001年,經省政府批準寶峰鄉劃歸汶上集鎮,至此汶上集鎮轄63個行政村,113個自然村。