Budynek muzeum Wygląd zewnętrzny Johnson zaprojektował swój budynek w stylu modernistycznym z elementami stylistyki Nowego FormalizmuStyl w architekturze amerykańskiej, który pojawił się w latach 50. i przeżywał swój rozkwit w latach 60. Charakteryzował się zastosowaniem elementów architektury klasycznej w projektowaniu budynków. Jego głównymi przedstawicielami byli: Welton Becket, Philip Johnson, Edward Durell Stone i Minoru Yamasaki.. Nadał mu formę świątyni, z masywną, łukową fasadą, pokrytą trawertynem, odzwierciedlającą klasyczny wpływ dawnych stylów, które zwróciły uwagę projektanta. Jego przyjaciel i historyk architektury, Henry-Russell Hitchcock wśród tych stylów wymienił między innymi wpływy architektury bizantyńskiej lub, przypuszczalnie, islamskiej w pendentywach sufitu w Wielkim Holu, późnogotyckie lub rokokowe detale filarów i wpływy starożytnej architektury greckiej w zewnętrznym wystroju budynku. Jego proporcje i kompozycja nawiązują do projektu klasycznego. Budynek składa się z dziewięciu przęseł po stronie wschodniej i zachodniej oraz z sześciu po stronie północnej i południowej. Podział na przęsła tworzą proste i smukłe pilastry, pomiędzy którymi znajdują się płaskie, pozbawione dekoracji ściany, tworząc razem klarowną i prostą w wyrazie kompozycję.