Az intézmény 1994-ben kezdte meg működését az óvárosban található, egykor Cseh-Vigyázó, később Mádi-Kovács család birtokában lévő kúriában. Az 1994-ben átadott kőtárral és az 1995-re megvalósult, Paks történetét bemutató állandó kiállítással, valamint számtalan időszaki kiállítással várta látogatóit 2015-ig. Ebben az évben kezdődött meg a szomszédos Szeniczey-kúria felújítása és múzeumi kiállítótérré való átalakítása. 2016-ban nyílt meg az új állandó kiállítás immár a réginél tízszer nagyobb alapterületen.
A Paksi Városi Múzeum részét képezi telephelyként a Paksi Képtár. A művészeti kiállítótér korábbi helyéről az Erzsébet Nagyszállodából 2006-ban a központi épülettől távolabb, az egykori konzervgyár egyik átalakított üzemcsarnokába költözött. A Paksi Városi Múzeumhoz tartozik a Paks melletti Dunakömlőd-Bottyánsáncon, az egykori római katonai segédtábor (antik neve Lussonium) területén 2003-ban létesített romkert is, amelynek fejlesztése folyamatos.