溫州市圖書館歷經九十余個寒暑。其前身為舊溫屬公立圖書館，誕生於1919年5月9日。1913年舊溫屬六縣知識界為紀念晚清經學宗師、溫處學務分處總理孫詒讓（籀庼）而集資於九山湖畔依綠園故址籌建藏書樓，命名籀園。開館時藏書兩千余冊，首任館長王毓英，工作人員壹名。 舊溫屬公立圖書館，初期名為六縣公立，主要由永嘉縣公署管轄，1921年改由甌海道尹管轄，此後館名與管轄機關屢經更改。圖書館常年經費來自府學田租及戲捐，六縣略有補助，顯得十分拮據。但由於歷任館長傾心於地方文化事業，幾代館員慘淡經營，使館藏逐步豐富，服務功能不斷拓展，社會地位和影響得以較快提升。尤其是抗日戰爭時期，梅冷生任內員工幾度將善本、珍本圖籍運至山區保藏，使珍貴文獻安然無損，深受社會各界的贊許。戰後又接收了敬鄉樓、養心寄廬等多家藏書，使藏書總數增至八萬冊。抗戰後期至解放前夕，經費極其困難，壹度靠募捐與借貸度日，仍堅持開放，並舉辦學術講座，為進步青年提供種種方便。
1949年5月溫州解放，圖書館由人民政府接辦，經費由財政全額撥款。1950年6月更名溫州市立圖書館，1955年改為現名。由於梅冷生館長及時提出建議，溫州地區名家的藏書在土改中得到妥善保護，並悉歸市圖書館接收。同時還接受玉海樓等公私藏家的贈書，館藏古籍增至20萬冊，編目上架計15萬冊（復本未在內）。
“文化大革命”期間被迫於1966年12月閉館，1970年10月恢復開放。1969年與市文管會合並為文物圖書館，1979年恢復單獨建制。
改革開放以來，溫州市圖書館面貌日新月異，1986年建成上村路古籍分館，1998年10月園西巷館舍落成開放，2005年12月遷入市府路新館。在各級政府的高度重視和社會各界的大力支持下，溫州市圖書館各項工作齊頭並肩，與時俱進。近幾年來，書刊與電子文獻藏量大幅度提高，圖書館專業服務隊伍逐漸壯大，服務功能與水平不斷提升。溫州市圖書館根據社會經濟發展需求創立鞋、服裝專業圖書館。為進壹步拓展延伸服務，增設縣前頭、黎明路兩個分館及各縣（市、區）業務分館。同時在讀者服務、信息***建***享、信息咨詢與開發、讀書活動等方面不斷開拓創新，社會效益顯著。
溫州市圖書館恪守傳播知識、傳承文明的社會職能，在推進公***文化服務體系建設，提高全民科學文化素質，提升城市文明程度等方面發揮了積極的作用。