Po wycofaniu się ze służby wojskowej, osiadł w majątku tarzeckim, gdzie zajął się działalnością rolną i społeczną, m.in. w 1922 został komendantem jarocińskiego Towarzystwa Powstańców.
W 1920 małżonka hrabiego, Elżbieta, w podzięce za szczęśliwy powrót Zbigniewa z powstania, postawiła w parku tarzeckim zachowaną do dziś figurkę Matki Boskiej z Lourdes (w czasie wojny ukrywano ją przed Niemcami).
Hrabia Gorzeński wspomagał finansowo studia seminaryjne późniejszego biskupa pomocniczego poznańskiego – Franciszka Jedwabskiego z sąsiedniej Wilkowyi. Przygarnął także wyrzuconą z sąsiedniego majątku rodzinę Zgorzelaków oraz dwójkę sierot z Cykowa. Brał udział w akcjach pomocy ubogim w rejonie jarocińskim. Zainicjował budowę pomnika powstańców wielkopolskich w Jarocinie.
Zbigniew Ostroróg-Gorzeński zmarł 12 czerwca 1926 w Tarcach. Przyczyną śmierci było ropne zapalenie opłucnej. Po uroczystościach pogrzebowych w kościele parafialnym w Wilkowyi, trumnę złożono w kaplicy grobowej Gorzeńskich we Lgowie. Starym zwyczajem szlacheckim nad trumną Gorzeńskiego złamano miecz, tarczę i pieczęć herbową – na znak wygaśnięcia linii męskiej rodu.
Jesienią 1959 szczątki hrabiego (wraz ze wszystkimi trumnami z krypty grobowej) przeniesiono na cmentarz we Lgowie, gdzie spoczywają do dziś.