Przez pierwszą połowę XX wieku kolekcja ta nie miała stałej siedziby i była eksponowana w wielu miejscach na terenie kampusu uniwersyteckiego. W 1927 roku zbiory Nebraska Art Association znalazły siedzibę w Morrill Hall, jednak jej pomieszczenia wkrótce okazały się za ciasne i zbiory trzeba było eksponować w korytarzach. Do powiększenia kolekcji wydatnie przyczynił się Frank M. Hall z małżonką. Przed swoją śmiercią w 1928 roku przekazali oni swoje obszerne zbiory sztuki oraz znaczną sumę pieniędzy uniwersytetowi w Lincoln. Kolekcja ta weszła w skład zbiorów przyszłego muzeum im. Sheldonów.
Sheldon Museum of Art Budowa stałej siedziby stała się możliwa w latach 50. dzięki darowiźnie Mary Frances Sheldon (1892–1950) i jej brata, Adamsa Bromleya Sheldona (1887–1957). Plany budowy muzeum podjął w 1958 roku ówczesny dyrektor University’s Art Museum, Norman Geske. Budowa Sheldon Gallery rozpoczęła się w 1961 roku. Nebraska Art Association, kierowane wówczas przez Freda Wellsa, współpracowało z Geske w celu zorganizowania konkursu na projekt galerii. Do przedstawienia swych planów zostali zaproszeni architekci: Marcel Breuer, Richard Neutra i Philip Johnson. Ostatecznie wybrano elegancką, współczesną adaptację tradycyjnej formy muzealnej autorstwa Johnsona.