Kariera Dołączyła do IBM jako inżynier systemów w 1981 roku. Następnie zajmowała stanowiska wiceprezesa i dyrektora wykonawczego ds. sprzedaży, marketingu i strategii w firmie. W 2012 roku została prezesem zarządu, prezesem i dyrektorem generalnym IBM, stając się pierwszą kobietą w historii, która stanęła na czele firmy. Podczas pełnienia funkcji szczególny nacisk kładła na rozwój firmy, kierując ją w stronę chmury hybrydowej, sztucznej inteligencji, technologii blockchain, badań i obliczeń kwantowych oraz rozwiązań opartych na danych. W trakcie jej 9-letniej kadencji IBM przejął 65 firm. Największym przejęciem było wchłonięcie w październiku 2018 roku Red Hat za 34 miliardy dolarów, co umożliwiło mu konkurencję z innymi firmami technologicznymi w dziedzinie przetwarzania w chmurze. W 2018 roku firma została uhonorowana prestiżową nagrodą Catalyst Award za promowanie różnorodności i inicjatyw na rzecz kobiet. Jest także współprzewodniczącą OneTen, zasiada w zarządzie JPMorgan Chase oraz radzie powierniczej Uniwersytetu Northwestern.