div懸浮在iframe 浮點(diǎn)型數(shù)據(jù)的取值范圍如何算的?
浮點(diǎn)型數(shù)據(jù)的取值范圍如何算的?浮點(diǎn)數(shù)據(jù)的取值范圍由變量的索引決定。浮點(diǎn)型變量長(zhǎng)度為4字節(jié),32位二進(jìn)制,取值范圍為1.18e-38~3.40e38,即(2*2-126)~(2*2128)。它包括符號(hào)位
浮點(diǎn)型數(shù)據(jù)的取值范圍如何算的?
浮點(diǎn)數(shù)據(jù)的取值范圍由變量的索引決定。浮點(diǎn)型變量長(zhǎng)度為4字節(jié),32位二進(jìn)制,取值范圍為1.18e-38~3.40e38,即(2*2-126)~(2*2128)。它包括符號(hào)位(1位)、索引位(8位)和尾位(23位)。符號(hào)位0為正,1為負(fù);索引位有8位數(shù)字,可表示0~255或-126~128;由于其取值范圍由索引決定,剩余的23個(gè)尾數(shù)最多可表示223位有效數(shù)字,由log計(jì)算,log10(2*223)=6.92,故其有效數(shù)字為6~7位。浮點(diǎn)數(shù)表示法是用科學(xué)的計(jì)數(shù)方法來(lái)表示實(shí)數(shù)的,在需要精確表示時(shí)使用。例如,平方根的計(jì)算,或超越人類(lèi)經(jīng)驗(yàn)的正弦和余弦等,其結(jié)果的準(zhǔn)確性要求采用浮點(diǎn)型。
在js數(shù)字類(lèi)型中浮點(diǎn)數(shù)的最高精度多少位小數(shù)?
十進(jìn)制由C#中的浮點(diǎn)數(shù)據(jù)表示。浮點(diǎn)數(shù)據(jù)有兩種:?jiǎn)尉雀↑c(diǎn)(float)和雙精度浮點(diǎn)(double)。不同之處在于取值范圍和精度。浮點(diǎn)數(shù)據(jù)的計(jì)算速度遠(yuǎn)低于整數(shù)數(shù)據(jù),因此在精度要求較低的情況下可以采用單精度類(lèi)型,在精度要求較高的情況下可以采用雙精度類(lèi)型。
浮點(diǎn)類(lèi)型為32位寬,雙精度類(lèi)型為64位寬。
浮點(diǎn)數(shù)據(jù)的精度如下:
單精度:7位精度
雙精度:15-16位精度