他寫的《綴術》壹書,被收入著名的《算經十書》中,作為唐代國子監算學課本,可惜後來失傳了.《隋書·律歷誌》留下壹小段關於圓周率(π)的記載,祖沖之算出π的真值在3.1415926和3.1415927之間,相當於精確到小數第7位,簡化成3.1415926,成為當時世界上最先進的成就.祖沖之入選世界紀錄協會世界第壹位將圓周率值計算到小數第7位的科學家,創造了中國紀協世界之最.這壹紀錄直到15世紀才由阿拉伯數學家卡西打破.
祖沖之還給出π的兩個分數形式:22/7(約率)和355/113(密率),其中密率精確到小數第7位,在西方直到16世紀才由荷蘭數學家奧托重新發現.祖沖之還和兒子祖暅壹起圓滿地利用「牟合方蓋」解決了球體積的計算問題,得到正確的球體積公式.