問題已解決

用round公式保留兩位小數(shù)后為什么求和后8位小數(shù)

84784971| 提問時間:2023 01/17 19:58
溫馨提示:如果以上題目與您遇到的情況不符,可直接提問,隨時問隨時答
速問速答
青檸
金牌答疑老師
職稱:會計實務(wù)
Round公式用于保留指定位數(shù)的小數(shù),它有一個自帶函數(shù)round(x,n),參數(shù)x為待舍入的數(shù),參數(shù)n為保留的小數(shù)位數(shù)。當(dāng)參數(shù)n=2時,round(x,n)可以保留指定精度的小數(shù),但是由于浮點數(shù)的原因,在求和的時候,有時會出現(xiàn)精度不夠的情況,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。 舉個例子,將三個小數(shù)0.123,0.456,0.789舍入到2位小數(shù): round(0.123,2)的結(jié)果為0.12 round(0.456,2)的結(jié)果為0.46 round(0.789,2)的結(jié)果為0.79 按照精確到2位小數(shù)的要求,三個數(shù)求和后,結(jié)果應(yīng)為1.37;但是,如果對此數(shù)進行浮點數(shù)運算,則會出現(xiàn)精度不夠的情況,從而得到1.370000000000001。 因此,當(dāng)使用round公式保留兩位小數(shù)后求和時,有時會得到8位小數(shù)。 拓展知識: 浮點數(shù)在計算機中是以二進制表示的,而不是以十進制表示,因此在某些情況下,它無法精確表示某些數(shù)字,這就導(dǎo)致了計算精度的損失,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。
2023 01/17 20:08
描述你的問題,直接向老師提問
0/400
      提交問題

      您有一張限時會員卡待領(lǐng)取

      00:10:00

      免費領(lǐng)取
      Hi,您好,我是基于人工智能技術(shù)的智能答疑助手,如果有什么問題可以直接問我呦~