第六下載站6down rounddown(7,0)=6,為啥?
rounddown(7,0)=6,為啥?如圖所示,0.65-0.7并不返回-0.05,而是-0.04999999。這是因為計算機在處理十進制計算時產生了不可避免的錯誤。我們只能加一輪來處理。例如=向下
rounddown(7,0)=6,為啥?
如圖所示,0.65-0.7并不返回-0.05,而是-0.04999999。這是因為計算機在處理十進制計算時產生了不可避免的錯誤。我們只能加一輪來處理。例如=向下取整(取整(0.65-0.7,2)*20,0)