西周時(shí)肥族人散居于此，稱(chēng)“肥子國(guó)”(肥城以此得名)，又有隧國(guó)。
西漢置肥成縣，治今老城，于故隧國(guó)地置蛇丘縣，據(jù)南境，同屬泰山郡，東漢省肥成縣，蛇丘縣改屬濟(jì)北國(guó)。
三國(guó)魏復(fù)置肥城縣，西晉又省。
南朝宋徙濟(jì)北郡治于肥城縣故城，北魏復(fù)置肥城縣，孝昌三年(527)置東濟(jì)北郡，治此。
北齊郡廢、省蛇丘縣，存肥城縣。
后周置肥城郡，隋開(kāi)皇初廢肥城郡，肥城縣屬濟(jì)北郡。
唐武德五年(622)屬東泰州。
貞觀元年(627)東泰州省入兗州，肥城縣省入博城縣、平陰縣。
北宋為兗州奉符縣(唐博縣)、鄆州平陰縣地。
元至元十二年(1275)于平陰縣率鎮(zhèn)寨東北15里肥城舊城復(fù)置肥城縣，屬濟(jì)寧路。
明洪武二年(1369)改屬濟(jì)南府。
清屬泰安府。
1913年屬岱北道(次年改稱(chēng)濟(jì)南道)。
1925年屬泰安道。
1928年道廢直隸于省。
1938年屬?lài)?guó)民黨山東省第一行政督察區(qū)，并為專(zhuān)署駐地。
1939年10月建立肥城縣抗日民主政權(quán)，初屬泰西行政委員會(huì)。
1940年屬魯西行政區(qū)泰西專(zhuān)區(qū)。
1941年7月屬晉冀魯豫第十六(泰西)專(zhuān)區(qū)。
1942年12月屬晉冀魯豫第十六(泰運(yùn))專(zhuān)區(qū)。
1944年6月屬冀魯豫和冀南兩行政區(qū)合并后成立的冀魯豫行政區(qū)第一專(zhuān)區(qū)。
1945年10月原冀魯豫與冀南兩行政區(qū)重新分立，肥城仍屬冀魯豫第一(泰運(yùn))專(zhuān)區(qū)。
1948年7月屬山東省魯中南行政區(qū)第七(泰西)專(zhuān)區(qū)。
1950年5月屬泰安專(zhuān)區(qū)。
1958年12月泰安專(zhuān)區(qū)撤銷(xiāo)，改屬聊城專(zhuān)區(qū)。
1961年7月屬?gòu)?fù)置的泰安專(zhuān)區(qū)(1967年改稱(chēng)泰安地區(qū))。
1985年3月屬泰安市。
1992年8月撤銷(xiāo)肥城縣，設(shè)立肥城市。