当前位置:财税问题 >
實(shí)務(wù)
问题已解决
用round公式保留兩位小數(shù)后為什么求和后8位小數(shù)



Round公式用于保留指定位數(shù)的小數(shù),它有一個(gè)自帶函數(shù)round(x,n),參數(shù)x為待舍入的數(shù),參數(shù)n為保留的小數(shù)位數(shù)。當(dāng)參數(shù)n=2時(shí),round(x,n)可以保留指定精度的小數(shù),但是由于浮點(diǎn)數(shù)的原因,在求和的時(shí)候,有時(shí)會(huì)出現(xiàn)精度不夠的情況,從而導(dǎo)致求和的結(jié)果超過(guò)了預(yù)期的多余2位小數(shù)。
舉個(gè)例子,將三個(gè)小數(shù)0.123,0.456,0.789舍入到2位小數(shù):
round(0.123,2)的結(jié)果為0.12
round(0.456,2)的結(jié)果為0.46
round(0.789,2)的結(jié)果為0.79
按照精確到2位小數(shù)的要求,三個(gè)數(shù)求和后,結(jié)果應(yīng)為1.37;但是,如果對(duì)此數(shù)進(jìn)行浮點(diǎn)數(shù)運(yùn)算,則會(huì)出現(xiàn)精度不夠的情況,從而得到1.370000000000001。
因此,當(dāng)使用round公式保留兩位小數(shù)后求和時(shí),有時(shí)會(huì)得到8位小數(shù)。
拓展知識(shí):
浮點(diǎn)數(shù)在計(jì)算機(jī)中是以二進(jìn)制表示的,而不是以十進(jìn)制表示,因此在某些情況下,它無(wú)法精確表示某些數(shù)字,這就導(dǎo)致了計(jì)算精度的損失,從而導(dǎo)致求和的結(jié)果超過(guò)了預(yù)期的多余2位小數(shù)。
2023 01/17 20:08
