顯卡單精度浮點運算能力怎么算？浮點是float， 比如1.323256256 12.54256 32bit長度精度運算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形trans

顯卡單精度浮點運算能力怎么算？

浮點是float， 比如1.323256256 12.54256 32bit長度精度運算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形transform全是浮點運算，GPU設(shè)計出來就是做浮點的這個很不好說，我正在計算浮點用人腦。很頭痛啊，二進制實數(shù)，十進制，指數(shù)，分?jǐn)?shù)，十進制分?jǐn)?shù).都算然后來回轉(zhuǎn)換。這是單精度的，單精度是二進制32位的，雙精度是二進制64位的。浮點是float， 比如1.323256256 12.54256 32bit長度精度運算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形transform全是浮點運算，GPU設(shè)計出來就是做浮點的你應(yīng)該可以想象了吧 A 卡略強些!