“文”字最早見於《論語·巴蜀九》:“子曰:‘李霞，吾能言之，不足以征(訓證)；李因，我所能說的，在宋朝是不夠的。文獻不足。夠了，那我們就可以征收了。鄭玄和朱把“文”解釋為“文章(經)”，把“奉獻”解釋為“聖賢”或“人才”。元初史學家馬端臨著《文獻通考》，以“文獻”二字為題。在這本書的序言中，他說:“所有的敘述都只以歷史為根據，參考歷代的書籍，以及數百種傳記。信而有跡者隨之，善而奇者不記之。所謂文學也；談事情，先拿當時官員的筆記，再拿現代儒學的評論，甚至名人的顏談，官員的記錄。說壹句話，就能定下典故的得失。如果妳證明了歷史的真實，妳就會把它帶走，記錄下來。所謂供養也。“後來，元代大詩人楊惟輝寫了《送僧日本詩》:“欲訪東中文學，歸中”，所指的“文學”似乎特指書籍和資料。
這種認識是由西漢末年的劉向和劉欣首創的。劉父子整理群書，廣泛收集書籍，校勘同壹本書的不同書籍，寫出比較完整的書，同時寫記敘文，即寫摘要，再將所有書籍編成分類目錄，揭示學術淵源，為研究提供參考。劉父子所做的工作是古典文獻學最基礎的研究工作。後人對劉父子所創之學，多以廣義的“校”來解釋，即把所有的內容、版本、校都塞進了“校”這個大口袋，校幾乎成了古典文獻學的別稱。
中國古典文獻學有廣義和狹義之分，古代文獻學的狹義是目錄、版本和校勘。廣義的文字學包括辨偽、編纂、考證、小學等。中國古典文獻學教學始於20世紀50年代末，是由魏、張舜徽等北大老文獻學家開創的。中國的古典文獻學作為國學的基礎，甚至與國學有著直接的家族關系。隨著國學的興起，古典文獻學也受到了人們的重視。