Sakry biskupiej 12 września 2009 udzielił mu w Rzymie sam papież.
31 sierpnia 2013 papież Franciszek mianował go sekretarzem stanu Stolicy Apostolskiej. Parolin miał objąć stanowisko 15 października, ale ceremonia została przełożona o kilka tygodni, ze względu na operację, której arcybiskup się poddał. Oficjalnie funkcję sekretarza stanu objął 18 listopada. 21 kwietnia 2025, z chwilą śmierci papieża Franciszka, przestał wypełniać urząd sekretarza stanu. Brał udział w konklawe 2025, które wybrało papieża Leona XIV. Następnie, został tymczasowo zatwierdzony na tym stanowisku przez nowo wybranego papieża Leona XIV.
22 lutego 2014 na konsystorzu w bazylice św. Piotra papież Franciszek kreował go kardynałem prezbiterem, otrzymując tytuł Ss. Simone e Giuda Taddeo a Torre Angela. Od lipca 2014 jest członkiem grupy dziewięciu kardynałów doradców, służących radą papieżowi w zarządzaniu Kościołem i w sprawach reformy Kurii Rzymskiej. 28 czerwca 2018 papież Franciszek podniósł go do rangi kardynała biskupa, na równi z pozostałymi kardynałami biskupami diecezji suburbikarnych, pomimo nieprzydzielenia mu żadnej z diecezji podrzymskich.