java精確計算 Java中單精度和雙精度浮點有什么區(qū)別?
Java中單精度和雙精度浮點有什么區(qū)別?單精度有1個符號,8個指數(shù)和23個小數(shù)位。雙精度是1號,11指數(shù),52十進制。單精度十進制在計算機中只有23位(二進制),轉(zhuǎn)換成十進制只能保證6位十進制數(shù)字的精
Java中單精度和雙精度浮點有什么區(qū)別?
單精度有1個符號,8個指數(shù)和23個小數(shù)位。
雙精度是1號,11指數(shù),52十進制。
單精度十進制在計算機中只有23位(二進制),轉(zhuǎn)換成十進制只能保證6位十進制數(shù)字的精度。超過此精度的十進制運算(二進制23,十進制6)將被截取,導致精度損失和計算結(jié)果不準確。
同樣,雙精度,十進制是52(二進制),轉(zhuǎn)換成十進制只能保證15。
java的long計算多少范圍內(nèi)是準確的?
long的最大值為9223372036854775807(2^64-1)。long的最小值是-922337203685475808(-2^64)。最大長:長l=9223372036854775807l最小長:長l=-9223372036854775808l