float精度丟失
在對兩個float類型的數(shù)據(jù)進(jìn)行四則運(yùn)算的時候,可能會導(dǎo)致出現(xiàn)xx.99999999或x.00000001等情況。 例 在上述例子中可以看到,0.55+0.02并不等于0.57,因?yàn)檫@個結(jié)果在內(nèi)存中其實(shí)是0.579999999或0.570000000001所以并不等于0.57。這個問題在底層為C的程序中基本都會出現(xiàn),例如js,python等等Js例子Python例子這種...
2023-03-24
