Kaupunginpuisto eli Parkki oli raivattu kaupungin pohjoispuolelle pääosin 1840–1850-luvuilla kuvernööri Rehbinderin toimeliaisuuden ansiosta. Parkista tuli ns. englantilaisen maisematyylin puisto mutkittelevine käytävineen, tekoraunioineen ja paviljonkeineen. Puistoon istutettiin myös satoja jaloja lehtipuita, mm. vaahteroita, saarnia, tammia ja poppeleita sekä pensasaitoja, syreenimajoja ja "ulkomaalaisia kukkivia pensaita". Puistosta tuli kaupunkilaisten suosima kävely- ja virkistyspaikka. Siellä järjestettiin 1800-luvun lopulla myös juhannusjuhlia, VPK:n ulkoilmajuhlia ja iltamia ja monenlaisia muita huvitilaisuuksia.