河南圖書館建於1909年(清宣彤元年)。它是河南省最早的公共圖書館，也是中國最早的公共圖書館之壹。河南省圖書館的原址是開封市龍亭湖上的徐工廟。1957從開封遷至鄭州，在鄭州優勝北路新建博物館，於1958建成開館。1982年4月，河南省人民政府批準建設省重點工程新館，撥款1680000元。新館主體工程於1988年底竣工，1989年9月28日正式接待讀者。
河南省圖書館是國家設立的綜合性公共圖書館，是河南省科教文化事業的重要組成部分，也是文獻最集中的信息中心。截至2000年底，全省藏書已達251，000余冊，其中中外文圖書1.6萬冊，中外文報刊20余萬冊，聲像文獻1，000余冊，縮微復制圖書1.6萬余冊，古籍70余萬冊(其中