1919年冬，參加張()運動，當選為工商界代表。1920六月張被驅逐後，譚主政湖南，歷任省公署秘書長兼教育行政委員會主席、省圖書館館長、湖南省第壹師範學校校長。在壹師，他進行教育改革，提倡啟發式教育，改變舊的學風，撤換了壹批思想陳舊的教師。他鼓勵組織各種進步團體，開放女禁，實行男女同校，廢除學監，組織學生自治會。還邀請杜威、羅素、章太炎、蔡元培等名人，以及周古城、徐特立、李達、李、田漢等五四新潮人物到壹師講學，傳播新思想。
1920 11.10月，趙恒惕強迫譚接管，他被迫辭去第壹師校長職務。1923年，譚趙戰爭爆發，積極參與支持譚、推翻趙的活動。譚任命為他在上海的私人代表，孫中山為他在上海的代表。
1924年，孫中山聯合段、和張反對直通車，他再次奉命作為孫中山的駐京全權代表，與蘇聯特使就錢的分配問題進行談判。第二次直奉戰爭爆發後，馮玉祥回京，驅逐曹錕，黃閱組織攝政王內閣，他出任教育總長。1926年3月，北大學生、市民被動員舉行反帝示威，被段政府通緝，投靠東交民巷，後隱居長沙，後任上海勞動大學校長。南京國民政府成立後，譚、李世曾、、吳稚暉等人推薦他為國民黨中央政治會議委員兼農礦部長。不久，他擔任故宮博物院院長兼古物博物館館長。由於國民黨內部的權力紛爭，他很快被免去了故宮博物院院長的職務。後來蔣介石為了平衡關系，任命他為北京師範大學校長。在他到達之前，他把家搬到了北京來管理博物館。