光緒三十三年（1907年），湖州陸心源的皕宋樓藏書全部流入日本靜嘉堂文庫。張元濟先生曾經籌巨款想購買下皕宋樓的藏書，無奈和陸家索要的款項相差甚遠，未能成交。靜嘉堂因得到皕宋樓的藏書而名噪壹時，日本漢學家紛紛來到中國搶購宋元精槧，大量珍貴的古籍流入日本。國內學者、有識之士，莫不扼腕嘆息！劉承幹看到這壹切，毅然決定出重金收購古籍。
經過若幹年的苦苦搜集，甬東盧氏“抱經樓”，獨山莫氏“影山草堂”，仁和朱氏“結壹廬”，豐順丁氏“持靜齋”，太倉繆氏“東倉書庫”等十數家藏書盡為劉氏嘉業藏書樓上的插架。繆荃孫在《嘉業堂叢書序》中說：“諸藏書家多佚出之本，無不歸之，收藏遂富甲海上”。
劉氏藏書當以宋版四史最為珍貴。號稱鎮庫之寶。吳昌碩曾為藏書樓題寫了“宋四史齋”。還有眉山刊本《宋書》，張元濟先生印《百衲二十四史》，曾經采納補缺。宋開慶110卷《鶴山先生大全集》、宋淳熙戊戌本《竇氏聯珠集》也都是海內稱絕的孤本。
民國9年至13年，辟地20畝，靡金12萬，在小蓮莊鷓鴣溪畔建成藏書樓。該樓位於南潯鎮西南郊，四面環水，樓呈口字形，是壹座典型的園林建築。清光緒死後，劉承幹捐款在崇陵植樹，宣統頒賜九龍金匾：欽若嘉業。（陸潤庠代筆）劉承幹以此命名藏書樓：嘉業藏書樓。另外他還以重金請到名流繆荃孫、王國維、董授經等考訂校勘。並編有《善本藏書誌》28冊。