float和double的精度是由尾數(shù)的位數(shù)來決定的。">

float和double怎么用

回答
愛揚(yáng)教育

2022-06-13

  • 相關(guān)推薦
float:單精度型浮點(diǎn)數(shù)據(jù),double:雙精度型浮點(diǎn)數(shù)據(jù)
float和double的精度是由尾數(shù)的位數(shù)來決定的。

擴(kuò)展資料

  浮點(diǎn)數(shù)在內(nèi)存中是按科學(xué)計(jì)數(shù)法來存儲(chǔ)的,其整數(shù)部分始終是一個(gè)隱含著的“1”,由于它是不變的,故不能對(duì)精度造成影響。

  float:2^23 = 8388608,一共七位,這意味著最多能有7位有效數(shù)字,但絕對(duì)能保證的為6位,也即float的精度為6~7位有效數(shù)字;

  double:2^52 = 4503599627370496,一共16位,同理,double的精度為15~16位。

  因?yàn)閒loat最多能有7位有效數(shù)字, float x = 51539607552,減去1000后,有效數(shù)字不變,double x為11位可以計(jì)算。

云南省| 宝丰县| 瑞丽市| 集贤县| 东至县| 乌苏市| 平利县| 隆子县| 裕民县| 油尖旺区| 漯河市| 天等县| 宽甸| 长武县| 天峨县| 宁蒗| 诸城市| 会泽县| 霍州市| 荔波县| 中宁县| 康平县| 长丰县| 十堰市| 兴安县| 台山市| 久治县| 乌拉特中旗| 栾川县| 屏南县| 樟树市| 昌乐县| 海城市| 温泉县| 定州市| 拜泉县| 额尔古纳市| 阿荣旗| 交口县| 绥中县| 开原市|