Mason Ruffner rozpoczął karierę muzyczną od wydania albumu pod tytułem Mason Ruffner w 1985 roku. Grał w tym czasie jako support przed koncertami Jimmy'ego Page'a i zespołu The Firm. Przełomem w jego karierze było wydanie albumu Gypsy Blood w 1987 roku, zawierającego takie przeboje jak: tytułowy Gypsy Blood, Dancin' on Top of the World, czy Distant Thunder. Zdobyty dzięki płycie rozgłos pozwolił na wspólne występy na scenie z takimi muzykami i grupami jak: Crosby, Stills and Nash, U2, Ringo Starr, czy Dave Edmunds. Mason Ruffner brał także udział w projekcie Live at the War Memorial.
Mason Ruffner jest też cenionym muzykiem sesyjnym. Współuczestniczył w nagraniu albumu Oh Mercy Boba Dylana i płyty Daniela Lanoisa, Acadie. Współtworzył także utwór Angel Love dla Carlosa Santany, z którym też wielokrotnie koncertował.
Teledysk do utworu Dancin' on Top of the World z płyty Gypsy Blood został nagrany na dachu nieistniejącej już południowej wieży World Trade Center (WTC 2) w Nowym Jorku.