南明弘光元年(1645)，內閣大臣高鴻圖出謀劃策，試圖恢復。受到高宏圖和張的高度贊賞。後擬推薦為中國書法家、禮部書記。他覺得“時事不夠好，前途不大”，於是辭職退隱。
譚謙學了很多書，擅長百家爭鳴，精研歷史，尤其是明朝的典故。他決心編纂壹部準確可信的明史。從天啟元年(1621)27歲開始，歷時20余年，“六稿轉百卷”，完成了這部編年史。全書400萬字，取名《國闕》。手稿在清順治四年(1647)被盜。53歲時，他憤怒地重寫了它。經過四年的努力，他完成了新的手稿。順治第十年帶著手稿北上，走訪在京大臣、皇族、宦官、公務人員，搜集明朝軼事，實地考察史跡，進行補充修改。該書完成後署名“江左遺民”，表達亡國之痛。十四年，赴山西平陽(今臨汾)拜謁昔日恩師張，死於客堂。祖籍在汴梁(今開封)的譚謙，隨宋南渡，在嚴觀西南棗林村設戲場，遷至馬橋馬靜港以西。其他作品有《棗林集》、《棗林詩集》、《棗林雜記》、《北遊》、《西遊記》、《歷史回顧》、《海昌海外記》等。
天啟元年(1621)，譚謙28歲，譚謙母親去世。他在家服喪，讀了很多明朝的歷史書。他覺得其中有許多錯誤和疏漏，於是許願要寫壹部真實可信、符合明朝史實的明史。在隨後的二十六年裏，他背著行李長年累月，走了幾百裏地。到處訪書借冊，饑梨棗，遍讀城內戶籍，廣泛搜索資料，終於用了五年時間完成初稿。後來又陸續修改，經過二十六年的不懈努力，六易其稿，寫成了壹部100卷500萬字的巨著。沒想到兩年後，清順治四年(1647)八月，手稿被盜賊盜走，他滿懷悲憤重寫。經過四年的努力，新的草稿終於完成了。順治十年(1653)，60歲的他帶著第二稿遊歷北京，在北京待了兩年半，走訪明朝遺風，收集明朝遺風、遺風及相關史實，實地考察古跡，進行補充和修訂。該書完成後署名“江左遺民”，表達亡國之痛，才得以完成這部嘔心瀝血的巨著。
這個賊堪稱中國歷史上最可恨的賊！小偷只是偷了壹些金銀財寶，家境貧寒不給小偷歡樂，就順手偷了譚謙的手稿，算是壹種發泄。這是壹個“歷史學家”26年的心血，這個賊，該死！如果我有評判歷史的權利，我壹定會抓住小偷，讓他償還譚謙的“心血”，這是無價之寶！我們完全可以理解譚倩在手稿被盜後的痛苦。壹個53歲的老人，窮其壹生，盡全力完成手稿，這個打擊無疑是巨大的！譚千發出了這樣的感嘆:“哎，我強！”這時候學者的堅韌發揮了作用。譚千快從水槽裏走出來說:“我的手還在，我寧願在！”
命運對這個老人是多麽不公平啊！喔！
賊的“贓物”不如江湖上的賊。那個小偷太卑鄙了！多麽卑鄙的小偷！順治十四年，譚潛死前不久，應同鄉好友沈仲嘉之邀，與好友錢大秋前往山西平陽，路過山東聊城，遇到兩個持刀劫匪。譚謙平靜地說:“我們都是讀書人，箱子裏全是破書。我們哪來的錢？”劫匪見狀，用拳頭說了聲“報警”就走了。
可見這兩個劫匪比那個卑鄙的小偷可愛多了！
《國缺》以《明史》為基礎，是研究明代歷史的壹部重要著作，它參考了各種史書，取材廣泛，選材考究。書中有很多貶損滿人的言論，當時還不能流傳。直到中華人民共和國成立後，村民張宗祥開始整理修訂，編成108卷，由中華書局於1958年出版。