清末兩廣總督張之洞創辦的廣雅書局圖書館大樓，於1912年7月改為廣東圖書館。廣州中山圖書館6月開館1933+10月65438。它是由居住在美國、加拿大、墨西哥和古巴的廣東華僑為紀念孫中山先生而建的..
1955年5月兩庫合並更名。
1986 11新樓10月份部分完工開業，1989年底全面完工。
截止到1990，圖書館擁有中文、西班牙文、日文、俄文等44種語言的圖書337萬冊，其中東南亞國家的語種較為齊全。其中，中文平裝本新舊圖書230多萬種，聯機古籍40萬種(1.500種，列入中國古籍善本的圖書3萬種)，外文圖書65438.7萬種，中外期刊2.6萬種，中外報刊33萬種。博物館還收藏有地圖、照片、拓片、家譜、傳單和聲明、檔案清單等文件，以及縮微膠卷、磁盤、磁帶、唱片、錄像和幻燈片等視聽資料。館藏特色是孫中山文獻、辛亥革命資料、華僑、東南亞、海南島和南海諸島、地方誌和廣東革命。
從1979開始，圖書館與美國、澳大利亞、日本、香港、澳門的圖書館建立了信息交流關系，是聯合國教科文組織出版物的托存圖書館之壹。