徐州市圖書館新館坐落於徐州市南郊風景秀麗的雲龍山東麓，面對泰山路，東鄰著名的淮海戰役烈士紀念陵園。總占地面積2.67萬平方米，建築面積2.15萬平方米，為主體兩層，局部四層的大型建築物。其設計藏書容量為 160萬冊（件），可擺放閱覽座位1000多個，預裝信息節點700多個；設計日均接待讀者 2000人次，年借閱文獻100余萬冊（件）次。
新館奠基於 1999年11月18日，是年12月中旬正式開工；2003年末建成，是年12月8日正式宣布對外開放。 作為城市標誌性建築和地方文化象征的徐州市圖書館新館，地處美麗的雲龍風景區內，與背倚的雲龍山勢相掩映，正面為寬闊的廣場綠地，大環境優雅寧靜；樓體中央設計的兩個天井不僅解決了室內采光問題，使樓內也平添無限綠色小景，真正體現出人與自然的和諧統壹。
新館的外觀莊嚴厚重、典雅氣派。其建築設計風格既突出了徐州歷史的淵遠凝重和文化內涵的深厚博大，與徐州歷史文化名城的漢文化底蘊相契合，具體標誌為屋頂的五個大小各異、高低錯落的漢代風格四角亭和樓體立面的櫻花紅色花崗巖外墻；又體現出徐州基本現代化、並不斷開拓進取的精神風貌和改革開放所取得的巨大成就，具體體現為大體量的樓宇和錯落有致的樓層。具有與之相應風格特點的室內裝飾，主要集中展現在館內大廳中。大廳中央黑色大理石基座的米黃色大理石方柱直貫屋頂，象征徐州人氣沖霄漢的時代精神；碩大的玻璃采光屋面使室內明亮舒暢，象征著徐州人胸襟坦蕩寬廣；特別是二層回廊四周的漢畫像石拓片，在現代化風格的裝飾氛圍中突現了徐州漢文化的深厚歷史內涵。
新館建築采用模數式設計，框架結構，同柱網、同層高（4.8米）、同荷載（500公斤／平方米）、大空間，具有很好的開放性、擴展性、互換性和靈活性。基於此，圖書館真正實現了文獻的藏、借、閱壹體化，充分體現出以人為本的服務思想。在功能布局上，將公***服務區與內部辦公區、讀者借閱區與活動區、傳統型服務和管理區與現代化服務和管理區、讀者流與非讀者流、普通讀者流與特殊讀者流、人流與物流等合理有機地分離流轉。從讀者服務而言，壹層主要為普通圖書外借和少兒圖書館，二層主要為期刊閱覽室和電子閱覽室，三層主要為古籍書庫、參考閱覽室及讀者自修區。為適應現代多元化發展需求，還配備了展覽區、多功能廳以及休閑區；特別是采用計算機與通訊技術網絡化管理後，讀者不僅可以在館內局域網通過電腦快捷地實現借閱、查詢、檢索、上網，還可以在辦公室或家中遠程登錄圖書館網站，便捷地完成書目查詢、圖書到期續借、預約預借、新書查詢、館藏電子文獻瀏覽或下載以及其他網絡圖書館服務業務。