Przez 200 lat istnienia Biblioteka miała sporo szczęścia do budynków z charakterem. Po powstaniu Uniwersytetu gromadzony na jego potrzeby księgozbiór zdeponowany był w Pałacu Kazimierzowskim. Zbiory przeniesiono w 1894 r. do wybudowanego na potrzeby Biblioteki budynku, zaprojektowanego przez Antoniego Jabłońskiego-Jasieńczyka i Stefana Szyllera w stylu klasycyzmu.
Gmach zajmujący centralne miejsce kampusu przy Krakowskim Przedmieściu, zwany od 2000 r. „starym BUW-em”, zachował od końca XIX w. już tylko swój wygląd zewnętrzny.
Opis, najwierniej oddający stan gmachu po oddaniu go do użytku, znajdujemy w „Architekcie. Miesięczniku poświęconym architekturze, budownictwu i przemysłowi artystycznemu” (Kraków, nr 1, rok 1900):
Budowa rozpoczęta 16 lipca 1891 r. ukończoną została na wiosnę 1894 r. i kosztowała 345327 rubli 85 kop. Podług planu gmach przedstawia czworobok z niewielkiemi występami z frontu i boków, składa się z dwóch głównych części rozdzielonych brandmurem; z tych części przednia przeznaczona na czytelnie i kancelarię, tylna zaś wyłącznie na księgozbiór. Obie części stanowią jedną architektoniczną całość. (…) część przednia ma dwa piętra równej wysokości z piwnicami, murowana z zastosowaniem drewnianej konstrukcyi w sufitach i dachu.
Część tylna od piwnic do dachu podzielona na 7 pięter jednakowej wysokości , murowana z zastosowaniem wyłącznie żelaznej ogniotrwałej konstrukcyi.
Wewnętrzne urządzenie części przedniej następujące: przez sień zamykaną oszklonymi drzwiami, wchodzi się do westybulu z szatniami, po prawej stronie szatni znajduje się pomieszczenie przeznaczone dla rękopisów. U tylnej części westybulu między kolumnami urządzono schody z podestami, z których na lewo prowadzą schody główne na piętra, do czytelni i kancelaryi, na prawo zaś znajdują się schody żelazne służące wyłącznie dla bibliotekarzy, zamykane żelaznymi drzwiami ze strony westybulu. W przedniej części westybulu wchodzi się z lewej strony do celi dziennej szwajcara, w której schody kręcone prowadzą do lokalów piwnicznych służby, to jest woźnych i palacza, dalej przy westybulu urządzone są miejsca ustępowe oddzielone dla mężczyzn z lewej, a dla kobiet z prawej strony.
Wszedłszy po głównych schodach na 1-sze piętro, znajdujemy się w przedsali oświetlonej z góry, odpowiednio urządzonej, która służy dla wszystkich osób przybywających do biblioteki i gdzie pomieszczone być mają stoły z katalogami biblioteki, słownikami, mapami, encyklopediami.
W czasach PRL-u niedostatki ekonomiczne oraz opór władzy komunistycznej wobec apeli o nowe powierzchnie dla duszących się i zagrożonych zbiorów Biblioteki, doprowadziły do serii prowizorycznych rozwiązań, które jak każda prowizorka epoki władzy ludowej, przetrwała dziesięciolecia: przepierzenia i boksy z dykty na kolejne potrzeby – wypożyczalni, katalogów, nowych jednostek Biblioteki. Bardzo złą sławą cieszyły się toalety biblioteczne – niedoinwestowane, jak i reszta budynku, dawały schronienie i okazję do pobieżnych ablucji bezdomnym, a ich ściany zapisane były wnikliwą, acz lapidarną krytyką systemu politycznego.
Szczególnie barwne opisy funkcji i przeróżnych adaptacji przestrzeni starego budynku Biblioteki znaleźć można we wspomnieniowej książce Marka Michalskiego, Ewy Bagieńskiej i Ewy Kobierskiej-Maciuszko Poczęty w BUW. Wspomnienia o Bibliotece Uniwersyteckiej w Warszawie z lat 1977–1999 (Warszawa 2012, ss. 11–22).
Po przeniesieniu Biblioteki na Powiśle i gruntownej przebudowie w latach 2003–2005, przede wszystkim zewnętrze gmachu pozostało takim, jakim dość na owe czasy już konserwatywnie zaprojektowali go Szyller i Jabłoński-Jasieńczyk.
Portal wejściowy dekoruje sześć kolumn oraz figury – po lewej stronie od wejścia Sofoklesa, po prawej Demostenesa. Na szczycie elewacji umieszczono posągi trzech muz – apoteozy Wiedzy i Nauki, u ich stóp zegar z kurantem. Autorem tych rzeźb oraz popiersi wmontowanych w tylną ścianę (Homera, Sokratesa, Katona, Hipokratesa i Ezopa) jest Hipolit Marczewski. Tympanon z Ateną – patronką wiedzy i nauki wykonał Jan Woydyga.
Przebudowę gmachu poprzedziła gwałtowna dyskusja dotycząca przeznaczenia i sposobu modernizacji budynku. Wskazywano na niezwykłe walory zabytkowe zastosowanych w nim rozwiązań, m.in. stalowej konstrukcji, tworzącej przestrzeń magazynową. Jedno, wyjęte z gmachu przęsło tej konstrukcji, pomalowane na kolor amarantowy ustawiono w 2004 r. przed wejściem do nowej siedziby Biblioteki.