Muzeul își are începutul în hotărârea Consiliului Comunal al Primăriei Bucureștilor, de la sfârșitul lunii iunie 1921, prin care s-a propus înființarea unui muzeu comunal. Lipsa patrimoniului a făcut ca instituția să nu ființeze de sine stătător imediat după luarea hotărârii, primăria organizând, prin Direcția culturală, strângerea colecțiilor și căutarea unui sediu. Activitatea se intensifică după 1926. Donația lui D. A. Rosetti din iulie 1929 a constituit nucleul de bază al secției preistorice. În luna următoare muzeului i-a fost atribuit un spațiu în imobilul din Calea Moșilor 115, unde s-a organizat o expoziție cu materiale arheologice rezultate din săpături. În februarie 1930 muzeul primește Casa Mor...uzi, monument istoric, situată în Calea Victoriei 117, iar în 22 noiembrie 1931 este inaugurată expoziția muzeului. Dr. George Severeanu a fost timp de peste 8 ani director al Muzeului Municipal, sub îndrumarea lui muzeul cunoscând o remarcabilă dezvoltare. S-au înființat secții noi: numismatică, medalistică, documente, istoria breslelor, urbanistică, s-a dezvoltat secțiunea artistică. În iulie 1933 a luat ființă, pe lângă muzeu, Pinacoteca municipiului, adăpostită în casa amiralului Vasile Urseanu, din Bd. Lascăr Catargiu. Muzeul s-a preocupat de înregistrarea pe peliculă a caselor vechi, fiind deținătorul unei valoaroase colecții de fotografii. Patrimoniul muzeal a crescut prin cercetări de teren, donații și achiziții. În martie 1941, după mai multe peregrinări, muzeului i se atribuie casa Cesianu, din Calea Victoriei 151, unde a fost adus întregul patrimoniu. Consecințele războiului au fost resimțite din plin de muzeu, casa Cesianu fiind rechiziționată pentru spital, iar colecțiile împachetate și strânse în câteva camere. Piesele cele mai valoroase ale muzeului au fost evacuate, în 1944, în comuna Rasnic-Dolj, unde au rămas, parte din ele, până în octombrie 1948. După ce în 1948 muzeul va fi mutat temporar în localul Muzeului de Artă Națională din Șoseaua Kiseleff nr. 3, în 10 decembrie 1956 muzeului îi este atribuit Palatul Șuțu, iar pe 23 ianuarie 1959 are loc redeschiderea pentru public a Muzeului de Istorie a orașului București. Palatul Șuțu este monument istoric, datând din 1834, operă a arhitecților Johann Veit și Conrad Schwink, care au ridicat un palat în stil neogotic, cu patru turnulețe poligonale și cupolă, pe ruinele unor construcții mai vechi. Holul central a fost finisat în 1862 de artistul Karl Storck, care a deschis trei arcade, scara monumentală cu două brațe și a montat o uriașă oglindă de Murano pe peretele din față. După moartea primului proprietar, Costache Grigore Șuțu, palatul rămâne în posesia fiului acestuia, Grigore Șuțu (1819 - 1893). Clădirea a avut diferite destinații publice în prima jumătate a acestui secol. A fost restaurată între anii 1957 - 1958, redându-i-se în bună parte înfățișarea inițială. Colecția de arheologie cuprinde piese începând din paleolitic, neolitic, epoca bronzului (culturile Glina III și Tei), geto-dacice de la Fundeni, Snagov, Popești-Novaci, dealul Piscului. Cea mai mare parte a colecției datează din perioada medievală: vase ceramice, podoabe, tezaure monetare etc. Colecția de numismatică, medalistică și sigilografie: tezaure monetare otomane, austriece, rusești, sigilii evocând marile familii boierești Năsturel-Herescu, Lenș, Ghica, Balș, Paladi, medalii, plachete, insigne și decorații. Colecția de fotografii: peste 49.000 de fotografii, clișee pe sticlă, filme, incluzând primele imagini fotografice ale orașului București, executate în 1856 de Angerer, aspecte de la cercetările arheologice, lucrările de sistematizare ale orașului, clădiri, aspecte din viața orașului. Colecția de documente: hrisoave, cele mai vechi datând din 1488 - 1582, fondul Manuc (în limba armeană cu caractere turcești), documente medievale, moderne și contemporane. Colecția de hărți și planuri, cu aproape 1.000 de piese privitoare la istoria orașului București, la Peninsula Balcanică, cursul Dunării, precum și la unele moșii ale boierilor. Colecția de artă plastică este alcătuită din tablouri, desene, pietre funerare, steme. Colecția de stampe, gravuri și litografii conține imagini de localități din țară și de peste hotare, personalități, tipuri sociale, scene de luptă, târguri etc. Colecția de mobilier istoric și obiecte de uz casnic, colecția de arme, uniforme, steaguri, colecția de costume și obiecte textile (piese de îmbrăcăminte, eșantioane de țesături datând din secolele XVI - XIX, podoabe, covoare, perne, perdele, brâie, unele descoperite în cursul săpăturilor arheologice), colecția de obiecte de cult (icoane, tripticuri, cruci din secolele XVII - XIX), precum și o bibliotecă cu peste 45.000 de exemplare, din care aproape în întregime literatură privitoare la București.