語言學院歷任院長為:羅昌培(1950-1958)、呂叔湘(1959-1982)、李榮(1982-1985)、劉健(65435)。葉來石、史明遠、、劉永全、陳章太、侯景毅、巢紀周、何偉、、孟慶海、董昆、張、蔡先後擔任副主任。
語言學研究所最早是在北京大學文學院語言與音樂法學實驗室的基礎上成立的，其研究力量主要來源於兩個方面:壹是原中央歷史與語言學研究所的部分成員，二是從北京大學、清華大學、燕京大學等高校抽調的部分學者。語言所成立初期規模不大，但匯集了丁聖舒、羅昌培、呂叔湘、盧誌偉、傅茂*等著名學者，領導了早期的漢語語法、漢語方言、漢語音韻、少數民族語言、漢語語音學等研究。到20世紀60年代末，關於語言的研究工作包括現代漢語規範、機器翻譯和外國語言學研究動態。編輯出版了《中國語文》等學術期刊，編寫了《現代漢語詞典(試行版)》。
“十年動亂”使語言研究所的工作完全停頓了五六年，直到70年代初大部分同誌從幹校回到北京，才逐漸恢復工作。雖然工作環境和研究條件並不理想，但壹代學術前輩以惜時如金的精神，孜孜不倦地推動著各方面研究的發展。語法組正在積極準備編寫大型現代漢語語法。方言研究、語音實驗研究、機器翻譯研究以及《現代漢語詞典》的修訂工作已經步入正軌。《語言學資料》也更名為《語言學趨勢》並復刊，1978？1979年，* * *出版第12期(後更名為《外國語言學》，現稱《當代語言學》)。
1977年，中國社會科學院正式成立。語言研究所改為社會科學院後，原有學科進壹步調整。設有八個研究室，分別是:現代漢語研究室、古代漢語研究室、現代漢語研究室、方言研究室、音韻研究室、應用語言學研究室、信息資料室(1980年改為外國語言學研究室，現當代語言學研究室)、詞典。還有《中國語文》編輯部。
作為國家語言研究的專門機構，語言研究所不僅產生了壹批重要的學術成果，還組織了許多全國性的學術活動。良好的學風影響了壹代又壹代的語言學家。