js number 丟失精度 javascript避免數(shù)字計(jì)算精度誤差的方法詳解?
javascript避免數(shù)字計(jì)算精度誤差的方法詳解?我們需要把計(jì)算機(jī)能識別的數(shù)字乘以10的冪。例如,為了使0.1 0.2等于0.3,我們需要編寫如下代碼:formatnum=function(F,di
javascript避免數(shù)字計(jì)算精度誤差的方法詳解?
我們需要把計(jì)算機(jī)能識別的數(shù)字乘以10的冪。
例如,為了使0.1 0.2等于0.3,我們需要編寫如下代碼:
formatnum=function(F,digit){
var M=數(shù)學(xué).pow(10,數(shù)字)
return parseInt(f*m,10)/m
}
var num1=0.1
var num2=0.2
警報(formatNum(num1 num2,1)==0.3)