float和double怎么用
回答
愛揚(yáng)教育
2022-06-13
- 相關(guān)推薦
float和double的精度是由尾數(shù)的位數(shù)來決定的。
擴(kuò)展資料
浮點(diǎn)數(shù)在內(nèi)存中是按科學(xué)計(jì)數(shù)法來存儲(chǔ)的,其整數(shù)部分始終是一個(gè)隱含著的“1”,由于它是不變的,故不能對(duì)精度造成影響。
float:2^23 = 8388608,一共七位,這意味著最多能有7位有效數(shù)字,但絕對(duì)能保證的為6位,也即float的精度為6~7位有效數(shù)字;
double:2^52 = 4503599627370496,一共16位,同理,double的精度為15~16位。
因?yàn)閒loat最多能有7位有效數(shù)字, float x = 51539607552,減去1000后,有效數(shù)字不變,double x為11位可以計(jì)算。