精品精品-精品精品国-精品精品国产-精品精品国产高-精品精品国产高清-精品精品国产国产-精品精品国产精品等-精品精品国产理论

很正常，浮點(diǎn)數(shù)的有效位數(shù)只有7位。

精度問(wèn)題,很正常好不

      

引用

引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說(shuō)C=125.99999正常？請(qǐng)用計(jì)算器算一下！

您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說(shuō)的浮點(diǎn)數(shù)的區(qū)別。

Good Luck~

跪求松下PLC編程軟件謝謝

浮點(diǎn)數(shù)進(jìn)度問(wèn)題，可以用雙精度浮點(diǎn)數(shù)來(lái)解決問(wèn)題，如果還不能達(dá)到精度，只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù)，只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的，只有整數(shù)乘法沒(méi)有誤差。另外說(shuō)一句，對(duì)于人家的回答，不管是對(duì)錯(cuò)，都要注意自己的態(tài)度！

把22400改成22400.0試試。

哈哈，你們厲害