W 1969 Stevens został radcą prawnym tzw. Komisji Greenberga, którą powołano do zbadania zarzutów korupcji przeciwko sędziom Sądu Najwyższego Stanu Illinois. Dzięki nieustępliwości, jaką Stevens wykazywał wówczas w dążeniu do wyjaśnienia sprawy, skorumpowani sędziowie zostali zmuszeniu do rezygnacji z piastowanych stanowisk.
Rola, jaką Stevens odegrał w pracach Komisji Greenberga, uczyniła z niego osobę znaną i szanowaną. W konsekwencji zdobytej reputacji, w dniu 20 listopada 1970 prezydent Richard Nixon nominował Stevensa na stanowisko sędziego Federalnego Sądu Apelacyjnego dla Siódmego Okręgu, obejmującego takie stany jak Illinois, Indiana i Wisconsin. Podczas swojej pracy w sądzie apelacyjnym Stevens utrzymał opinię wybitnego prawniczego umysłu.