W 1922 roku podjął studia uzupełniające w dziedzinie teologii na terenie Szwajcarii – otrzymał tam stopień licencjata. Po powrocie do kraju został ordynowany na księdza ewangelicko-reformowanego w Warszawie, objął administrację parafii Żychlin w Wielkopolsce. W trakcie swej posługi w Żychlinie wydawał oraz stał na czele redakcji pisma "Żagiew Chrystusowa".
W 1928 roku objął zarząd nad parafią wileńską Jednoty Litewskiej, dał się wówczas poznać jako ostry krytyk działalności superintendenta Michała Jastrzębskiego oraz praktyk wileńskiego Konsystorza w dziedzinie udzielania rozwodów. W 1930 roku został za karę przeniesiony do Brześcia nad Bugiem, gdzie miał pracować nad rozwojem lokalnego ośrodka kalwińskiego. Pomimo tego krytyki rozwodów nie zaprzestał i w 1932 roku pozbawiono go prawa funkcji pastorskiej. Ostachiewicz nie uznał tej decyzji, wiążąc się z Jednotą Warszawską Kościoła Reformowanego, od 1933 roku sprawował zarząd nad jej wileńską placówką. W latach 1933–1939 odprawiał również nabożeństwa w parafii Ewangelicko-Augsburskiej w Poznaniu dojeżdżając z Wina. Regularnie odprawiał także nabożeństwa w Bydgoszczy, Krakowie, Lwowie i Żychlinie.
W czasie II wojny światowej przebywał w Wilnie, był jednym z nielicznych polskich duchownych protestanckich na obszarze Kresów Północno-Wschodnich.