W 1861 otrzymał sakrę biskupią jako tytularny arcybiskup . W 1864 papież Pius IX uczynił Ledóchowskiego biskupem koadiutorem przy arcybiskupie metropolicie poznańskim i gnieźnieńskim Leonie Przyłuskim. Pomimo oporu zarówno kapituły poznańskiej jak i gnieźnieńskiej oraz sprzeciwu lokalnych władz pruskich 24 kwietnia 1866, po śmierci poprzednika, objął obie funkcje biskupie.
W pierwszym okresie sprawowania urzędu zyskał sobie życzliwość władz pruskich, zobowiązując się do powstrzymywania Kościoła od popierania ruchów narodowych, zwiększenia udziału Niemców w zarządzie diecezji i wychowaniu kleryków w duchu lojalności wobec państwa pruskiego. Podczas wyborów w 1867 i w okresie kampanii przedwyborczej zakazywał organizowania nabożeństw o charakterze narodowym, a także walczył z działaczami, szczególnie liberalnymi, takimi jak Karol Libelt. Zyskał sobie w tym czasie tak duże zaufanie władz pruskich, że doprowadził do dymisji niesprzyjających mu urzędników władz lokalnych. Równocześnie w społeczeństwie polskim traktowany był niechętnie lub wręcz wrogo.