工文善於書法，大小楷書力透紙背，人莫能為。極嗜藏書，在翰林編修任上，日以搜求古籍為事，有秘籍必設法得之，藏書多來自於蘭陵孫星衍的“孫氏祠堂”藏書，還有洪亮吉、郁松年、黃丕烈、陳鳣、汪士鐘等家的舊藏，收有杭州故家流散之書，加上得之官修之書十之四五。在離官職後，載書數十船以歸，儲於長沙崎頭灣，起樓五間，藏書樓曰“漱蠹圃”、“臥雪廬”，壹作“臥雪樓”，藏珍本較多，有《蠹圃書目》20卷。精於版本之學，對同書的不同版本，有則必藏。如《史記》壹書，收藏明代以前的版本多達30余部，《漢書》宋元刻本多至10余部。繆荃孫對此“欽羨不已”。當時以藏書聞名海內者，與仁和朱學勤“結壹廬”，豐順丁日昌“持靜齋”和他的“臥雪廬”稱雄壹時。曾編有家藏書目《臥雪廬藏書簿》4冊，著錄宋本22種，元刊本8種，明本91種，清刊本11種，抄本、稿本83種。儒家經典、正史稗史、諸子百家、集部詩賦，無不兼備，學者黃再同曾目睹其書目，葉德輝也評論說，“袁氏所藏兩宋元明舊槧名抄，皆薈萃南北藏書家整冊簡篇而自成壹派”。藏書印有“雪廬清賞”、“臥雪廬袁氏藏書”、“古湘南袁氏藏書畫印”、“寶漢樓藏書”、“漱六”、“古潭州袁氏臥雪廬收藏”等數枚。葉昌熾曾觀其藏書，曾有“為之心醉”之語。去世後，其子橞澤（字榆笙，號星伯）不喜古書，堆置五間樓房，積年不問不管，任其塵埃滋生、白蟻累累可見。再加上生性縱飲濫賭，資不抵債，所藏之書於光緒初年散出，由江西德化李盛鐸購去大半，“臥雪廬”這批藏書，奠定了“木犀軒”藏書的基礎，曾紀綱、葉德輝、王禮培、繆荃孫等藏書家都曾購買過袁氏藏書。輯有《歷代名人詩抄》、《臥雪廬書目》等，已佚。有《臥雪廬全集》待梓行世。