1911年建立清華學堂。1912年清華學堂改建為清華學校，正式建立了小規模的圖書室，稱清華學校圖書室。
1919年3月圖書室獨立館舍（現老館東部）落成，建築面積2114平方米，遷入新館舍的同時，更名為清華學校圖書館。
1928年學校改為國立清華大學後，圖書經費驟增，館藏逐年大量增加，館舍不敷使用，乃於1930年3月開工擴建館舍（即今老館之中部和西部），於1931年11月竣工，館舍面積增至7700平方米，可容書30萬冊，閱覽座位700余席。大學成立後，建立了圖書館委員會作為學校的常設委員會之壹。同時，各院、系也大都建立了自己的圖書室。
1935年10月至1936年9月，著名文學家朱自清教授任圖書館委員會主席兼代圖書館主任。至抗戰前夕，館藏書刊已極為豐富，計36萬余冊。1937年七、七事變後，學校被迫南遷。
1938年4月，清華大學、北京大學和南開大學在昆明建立了國立西南聯合大學。清華圖書館運抵昆明書刊23000余冊。在運抵過程中，暫存重慶北碚的1萬余冊圖書遭日軍轟炸，損失慘重，僅燼余3千余冊。
抗日戰爭勝利後，清華大學遷回北京清華園。1946年復校時，圖書館已面目全非。抗戰期間，日軍以圖書館為外科病房，書庫為手術室及藥庫。這期間館藏損失達17萬5千余冊。到解放前夕，館藏僅有41萬余冊。
1948年12月15日，隨著清華大學的解放，圖書館重新走上了健康發展的道路。
1952年國家教育體制改革，清華大學由壹所綜合性大學調整為工科大學，所有文、理科及壹部分工程技術院、系被調整到其他院校，相關圖書資料也被調撥出去，至1958年***向外校調撥圖書18萬余冊。但所幸的是館藏的30萬冊珍貴古籍善本及甲骨文、青銅器等壹批珍貴文物，在時任校長的蔣南翔指示下被保留了下來。為適應院系調整後清華大學成為壹所多科性工程大學教學和科研的需要，圖書館對館藏結構進行調整和改造，重點采集工科類圖書。同時積極采集馬列主義經典著作以及進步文藝作品。1966年館藏已發展到135萬余冊。
十年文革中，圖書經費大大壓縮，許多珍貴書刊停購，造成了無法彌補的損失。萬幸的是，由於全校廣大師生員工和圖書館工作人員的盡力保護，使既有館藏沒有受到大的損失。
1978年黨的十壹屆三中全會以後，教育戰線撥亂反正，迅速發展。清華大學自70年代末期開始進行學科調整，逐漸恢復理科、文科等院系，重新擴展成為壹所綜合性大學。隨著學校學科布局的調整和規模的不斷擴大，圖書館館藏的種類和數量也有了較大的發展，至1990年已達250萬冊（件）。
進入九十年代之後，清華大學圖書館迎來了歷史上最好的發展機遇。1991年9月，由香港邵逸夫先生捐資和國家教委撥款興建的新館落成，後被命名為逸夫館。新館由清華大學關肇業院士設計，與老館渾然壹體，曾多次獲國家各類優秀建築獎。新館建成後圖書館館舍總面積達27820平方米，閱覽座位2800余席。進入九十年代，圖書館的自動化、網絡化建設取得了重要進展。逐步建立起比較先進、完備的信息基礎設施。先後引進了ILIS、INNOPAC圖書館集成管理系統；通過網絡提供館藏中外文圖書和期刊目錄的公***查詢、館內業務工作如采購、編目、期刊管理以及流通等業務均在INNOPAC管理下進行；還建立了光盤網絡查詢系統，通過校園網為全校師生提供文獻信息檢索服務。自1998年以來，圖書館在繼續增加印刷型館藏的同時，大力發展電子資源，已形成了以自然科學和工程技術科學文獻為主體，兼有人文、社會科學及管理科學文獻，包括中外文圖書、期刊和報紙合訂本、音像制品以及計算機文檔等在內的多種類型、多種載體的綜合性館藏體系。至2003年底，館藏總量已經超過300萬冊（件），文摘索引類二次文獻已基本覆蓋學校現有學科，中、外文學術性全文電子期刊逾25000種。
圖書館有寬敞明亮的閱覽室16個，設置閱覽座位2000余個，每周開放時間84小時，實行開放式借閱壹體化服務，為師生提供了良好的閱讀和學習環境。圖書館為學校校園網的三個核心交換結點之壹，有良好的網絡應用環境。普通閱覽室配備了大量的網絡端口和計算機終端，大部分公***區域都可以無線上網。讀者在這裏可以很方便地查詢館藏信息、使用各類專業數據庫等。圖書館每天24小時不間斷地提供網絡信息服務，學校師生可以在校園網上的任意客戶端自由訪問各種數據庫資源或自行預約和續借圖書。隨著計算機的廣泛應用，信息參考咨詢工作日益活躍，圖書館開設了多種信息素質教育課程，為學校師生提供各種電子資源和其他類型的培訓。實行學科館員制度，密切與各院系的聯系，針對師生教學、科研的需求主動開展服務工作。設立信息服務中心，承辦課題查新、論文咨詢、代檢代查等服務。師生還可以通過館際互借與文獻傳遞服務從國內、外圖書館獲得本館沒有的信息資源。自1999年以來，學校又相繼建立了人文學院分館、經管學院分館、法學院分館、建築學院分館、美術學院分館等專業分館。這些分館的館藏均實現了與學校圖書館集成管理系統的對接，在統壹的平臺上為讀者提供服務。圖書館還開展了多項數字圖書館課題研究。
緊隨著清華大學建設世界壹流大學的步伐，清華大學圖書館正向著建設研究型、數字化和開放文明的現代化圖書館的目標不斷前進。