W czasie budowy Sheldon Gallery był najdroższą budowlą, jaką kiedykolwiek zbudowano w Stanach Zjednoczonych, jej koszt wyniósł 67 dolarów za 1 stopę kwadratowąOkoło 721 USD za 1 m².. Dla nowego muzeum zamówiono dwa dzieła: Pieśń ptaka, którą wyrzeźbił z granitu i marmuru Isamu Noguchi oraz Kąpiący się, zrealizowany w brązie przez Jacques’a Lipchitza. Muzeum (noszące wówczas nazwę Sheldon Memorial Art Gallery) otwarto 16 maja 1963 roku w obecności Johnsona, który z tej okazji wygłosił przemówienie. Ogród rzeźby otwarto w 1970 roku. Była to trzecia tego typu galeria w Stanach Zjednoczonych, po Museum of Modern Art w Nowym Jorku i Franklin D. Murphy Sculpture Garden na terenie kampusu University of California w Los Angeles. W 1972 roku Sheldon Memorial Art Gallery znalazł się wśród pierwszych instytucji, które uzyskały akredytację American Alliance of Museums (Amerykańskiego Stowarzyszenia Muzeów), będącej najwyższym, państwowym uznaniem, przyznawanym muzeom w Stanach Zjednoczonych. W 2008 roku zmieniono dotychczasową nazwę Sheldon Gallery na Sheldon Museum of Art.