Barokní knihovna byla poprvé otevřena roku 1722 pro účely jezuitské univerzity, sídlící v Klementinu. Je zde uloženo přes 20 tisíc svazků převážně cizojazyčné teologické literatury, přicházející do Klementina od začátku 17. století až do nedávných časů. Knihy s nabílenými hřbety a červenými značkami zde stály již za dob jezuitů.
Podoba barokní knihovny zůstala od 18. století nedotčena. Sál je vyzdoben stropními freskami od Jana Hiebla, znázorňujícími alegorické motivy vzdělání, a dále postavy jezuitských světců, patronů univerzity a významných představitelů tohoto řádu. V čele sálu je portrét císaře Josefa II., který knihovnu obohatil o svazky ze zrušených klášterních knihoven. Nepřehlédnutelná je také sbírka geografických a astronomických glóbů ve středu knihovny. Ty jsou převážně prací klementinských jezuitů. Mezi glóby jsou rovněž rozmístěny astronomické hodiny, vytvořené mj. Janem Kleinem.
Roku 1777 byla knihovna vyhlášena Marií Terezií za Veřejnou c. k. Univerzitní knihovnu. V roce 1781 její ředitel Karel Rafael Ungar založil sbírku česky psané literatury nazvanéBiblioteca nationalis, čímž dal základ národní knihovně. Tato sbírka se nyní pod stejným názvem nachází v čele sálu na galerii. Od roku 1782 museli tiskaři také pražské knihovně odevzdávat povinný výtisk.
Knihovna v současnosti obsahuje množství významných a unikátních děl, majících celosvětový význam.
Za zmínku stojí také fakt, že Národní knihovna nedávno poskytla část starých tisků společnosti Google na digitalizaci. Knihy tak budou po dokončení celého procesu přístupné v digitální knihovně na Google Books.
