據《隋書·律曆志》記載,祖沖之以「以直徑一億為一丈,圓周盈數三丈一尺四寸一分五厘九毫二秒七忽,朒數三丈一尺四寸一分五厘九毫二秒六忽,正數在盈朒二限之間。密率,圓徑一百一十三,圓周三百五十五。約率,圓徑七,週二十二。」,以此為直徑求圓周率,求得盈數(即過剩的近似值)為
3.1415927;肭數(即不足的近似值)為3.1415926,圓周率的真值介於盈肭兩數之間。《隋書》沒有具體說明祖沖之是用什麼方法計算出盈肭兩數的。一般認為,祖沖之採用的是劉徽割圓術分割到24576邊形,又用劉徽圓周率不等式得祖沖之著名的圓周率不等式: 3.1415926<pi <3.1415927
。祖沖之的這一結果精確到小數點後第7位,直到一千多年後才由15世紀的阿拉伯數學家阿爾·卡西以17位有效數字打破此記錄。