濟源市圖書館的歷史可追溯到1928年成立的“縣立公***圖書館”。1979年秋作為獨立的文化事業單位正式成立，經過近30年的發展，圖書館已初具規模。2008年9月濟源市圖書館新館建成開館，新館位於濟源市世紀廣場北側，外觀設計簡潔、開闊、現代、大氣，是濟源市標誌性文化建築。新館建築面積21000平方米，樓高12層，開館面積12000平方米。
為更加有效地利用圖書資源，為廣大讀者提供更好的閱讀環境，2008年5月16日市委市政府決定將濟源職業技術學院圖書館和濟源市圖書館進行合並，壹個機構兩塊牌子，對外為濟源市圖書館，日常管理放在技術學院，業務受市文廣新局和技術學院雙重管理。經費實行財政全額預算管理。整合後的濟源市圖書館（濟源職業技術學院圖書館）保證全市社會文化服務職能有提升，保證學院教學科研服務能力有加強。它開創了河南省公***圖書館與高校圖書館合作辦館的先河。
為更好的服務社會、服務讀者，圖書館全年365天天天開放。館內現有各類藏書75萬冊，閱覽座位1600多個。現有人員41人，其中碩士研究生3人；館員及中級以上職稱21人，其中高級職稱3人。內設機構有采編部、流通部、閱覽部、信息技術部、讀者服務部、物管部、辦公室等7個職能部門。
新館設有現代化的報告廳、檢索區、少兒閱覽區、盲人閱覽室、地方文獻閱覽室、古籍書庫、王懷讓文學藝術館、各類圖書藏閱區、讀者休閑區等18個讀者服務區。可向讀者提供館藏圖書報刊借閱、網絡文獻信息、古籍和地方文獻檢索、定題服務、社會教育培訓與業務輔導等服務。
新館啟用以來，對讀者的吸引力逐漸增強，服務能力大幅度提升。註冊讀者已達2.2萬人，每天接待讀者2500人次，全年每天都堅持開館，年接待讀者超過80萬人次。兩館整合後，公***圖書館與高校圖書館的職能均得到了充分的發揮，受到了省市領導和文化主管部門的肯定。2010年10月圓滿承辦了河南省第22屆省轄市公***圖書館館長會，連續兩年被授予“河南省全民閱讀先進單位”，為濟源市爭得了榮譽。圖書館的工作先後在《人民日報》《河南日報》《濟源日報》等報刊上給予刊載。《河南電視臺》《濟源電視臺》也不斷給予報道。圖書館更是被《濟源日報》稱為濟源人民的“精神樂園”和全市人民的“大書房”。2010年被文化部命名為“壹級圖書館”。
作為展示濟源市物質文明、政治文明、精神文明的重要窗口，濟源市圖書館確立了“以人為本，讀者至上”、“拓展服務，提升質量”的服務理念，努力營造優雅怡人的讀書環境，不斷增加書刊種類，擴大服務範圍，完善服務手段，提升服務質量。圖書館決心為濟源市經濟社會發展，為濟源市歷史文化傳承，為濟源市市民素質提升，為濟源市創建全國文明城市做出應有的貢獻。