問題已解決
用round公式保留兩位小數(shù)后為什么求和后8位小數(shù)
溫馨提示:如果以上題目與您遇到的情況不符,可直接提問,隨時問隨時答
速問速答Round公式用于保留指定位數(shù)的小數(shù),它有一個自帶函數(shù)round(x,n),參數(shù)x為待舍入的數(shù),參數(shù)n為保留的小數(shù)位數(shù)。當(dāng)參數(shù)n=2時,round(x,n)可以保留指定精度的小數(shù),但是由于浮點數(shù)的原因,在求和的時候,有時會出現(xiàn)精度不夠的情況,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。
舉個例子,將三個小數(shù)0.123,0.456,0.789舍入到2位小數(shù):
round(0.123,2)的結(jié)果為0.12
round(0.456,2)的結(jié)果為0.46
round(0.789,2)的結(jié)果為0.79
按照精確到2位小數(shù)的要求,三個數(shù)求和后,結(jié)果應(yīng)為1.37;但是,如果對此數(shù)進行浮點數(shù)運算,則會出現(xiàn)精度不夠的情況,從而得到1.370000000000001。
因此,當(dāng)使用round公式保留兩位小數(shù)后求和時,有時會得到8位小數(shù)。
拓展知識:
浮點數(shù)在計算機中是以二進制表示的,而不是以十進制表示,因此在某些情況下,它無法精確表示某些數(shù)字,這就導(dǎo)致了計算精度的損失,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。
2023 01/17 20:08
閱讀 631