祖冲之在数学上的重要贡献是采用割圆术这一方法,计算出圆周周长与直径的比例,为3.1415926与3.1415927之间,这是世界上第一次提出最精确的圆周率。15世纪时,一位阿拉伯数学家才超过了他,把圆周率推算到了17位有效数字,但已在祖冲之之后1000多年了。在欧洲,直到1573年(距今才445年),才先后由奥托和安托尼兹求出祖冲之所算的数值来。不仅如此,祖冲之还正确地推导出球的体积公式,这是我国最早出现的球体公式。他所引用的原理和17世纪意大利数学家卡瓦列利所引用的公理是一致的。
祖冲之将他的这些研究成果写成一本书,名为《缀术》。此书在唐朝时首先作为太学《算经十书》之一,被列为课本。后来,此书传入朝鲜、日本,也被当做教科书。可惜到北宋时竟失传了。