編纂工作以“尊重歷史，保存文獻”為總方針。
首先是普遍調查，盡數收集。通過《中國叢書綜書》和《中國古籍善本書目》及其他藏書目錄提供的線索，並借助各地同仁的力量對全世界200余家圖書館、博物館、大專院校所藏四庫存目書進行大規模的查訪，在此基礎上編定工作目錄。這壹工作十分有成效，發現了不少極為稀見甚至早為有關專家宣布失傳的古籍。例如明代茅元儀《青油史漫》二卷，任道斌先生《茅元儀著述知見錄》（1985年書目文獻出版社排印本）認為“今佚”，現在發現上海圖書館有抄本，臺灣中央圖書館有明崇禎刻本。又清代曹溶的《倦圃的植記》三卷，是壹部園藝方面有價值的書，農學史家王毓瑚先生《中國農學書錄》（1964年農業出版社排印本）說“書沒有流傳”，現在發現上海圖書館有清抄本。其次是剔除重復，精選版本。四庫存目與《四庫全書》之間有某些內容完全相同之書，四庫存目內部也有某些內容完全相同之書，凡此皆予剔除，以免重復。例如子部儒家類存目有明顧憲成《顧端文公遺書》三十七卷，又有《小心齋劄記》十六卷。後者是前者的壹部分，因此《存目叢書》只收內容較全的《顧端文公遺書》，不再重復收錄《小心齋劄記》。這樣處理可以使《存目叢書》的篇幅有所節省，從而減輕購買和庋藏的困難。同時對於確定收錄的存目書，嚴格選擇底本。選擇底本壹般都認為要選“善本”。然而壹書若有數本傳世，何者為善，卻絕難判斷。為了保存文獻，壹般首先選擇不缺卷不缺頁的足本。在足本的前提下，再選擇較早的刻本或抄本。由於舊刻舊抄接近古籍原貌，而且日見稀少，學者難得壹見，壹旦影印，化身數百，可以滿足更多學者的要求，因此十分重視舊刻、舊抄本。在刻、抄時代相同的情況下，對有前輩學者題跋的本子則優先考慮使用，以便保存更多的文獻。再次是原版影印，整舊如舊。凡原書版框數據爛、漫漶不清，壹律不加修飾改動，力求保持版本原貌。目的不但是要為學術界提供完備的資料，同時也為學術界提供可以信賴的版本。 所收書八成為宋、元、明、清各級善本，三成為孤本，諸如杭州市圖書館藏明萬歷四十壹年刻明朱睦楔撰《聖典》二十四卷、北京圖書館藏明萬歷六年刻《金華府誌》三十卷、南京圖書館明嘉靖十四年刻《定遠縣誌》十卷、日本國會圖書館藏明萬歷二十壹年刻《衡州府誌》十五卷、北京圖書館藏明刻明潘之恒撰《黃海》六十卷、美國國會圖書館藏明嘉靖刻藍印本明龔輝撰《西槎匯草》壹卷、故宮博物院圖書館藏清康熙抄本鄭端撰《孫子匯微》八卷、北京圖書館藏明初刻元艾元英撰《如宜方》二卷、上海圖書館藏清抄本曹溶撰《倦圃蒔植記》二卷、遼寧省圖書館藏元余卓刻宋楊萬裏撰《四六膏馥》七卷等，均系人間孤本。彌足珍貴，極富收藏及研究價值。