Obserwowane sposoby sprawowania władzy przez nazistów coraz bardziej zniechęcały Schulenburga do ideologii nazistowskiej. Sposoby pozbywania się przeciwników politycznych oraz wymordowanie wysokich funkcjonariuszy bojówek NSDAP (niem. Sturmabteilung, SA) pod koniec czerwca 1934 roku (noc długich noży), spowodowały, że nabrał ostatecznego dystansu do ówczesnych władz partii. Nie szkodziło mu to w jego zawodowej karierze. W listopadzie 1934 r. został landratem powiatu Fischhausen; w 1937 mianowano go zastępcą prezydenta policji w Berlinie. W 1939 r. został nadprezydentem powtórnie połączonej prowincji we Wrocławiu.
W 1938 r. nawiązał kontakt z wojskowymi kręgami opozycji antyhitlerowskiej. Wspólnie ze swoim przyjacielem i krewnym hrabią Ulrichem Wilhelmem Schwerin von Schwanenfeldem już wówczas angażował się na rzecz przygotowywanego zamachu stanu, do którego zresztą nie doszło. Po wielkim pogromie Żydów z 9 listopada 1938 (noc kryształowa) wziął udział w zainicjowanym przez jego przyjaciela Petera Yorck von Wartenburga kręgu dyskusyjnym. Dyskutowano na jego spotkaniach kwestie konstytucyjne. Później związał się z Kręgiem z Krzyżowej.