皮鞋剝離試驗機軟件數(shù)字近似運算法則
東莞市海達(dá)儀器有限公司?。?!
皮鞋剝離試驗機也叫拉力機,拉力機在數(shù)據(jù)處理過程中,常常要對數(shù)據(jù)進(jìn)行近似運算。運算時要遵循一定的規(guī)則:
?、僭诩印p法運算中,準(zhǔn)確度zui差的項就是小數(shù)點后有效數(shù)字位數(shù)zui少的那一項,計算結(jié)果
有效數(shù)字的取舍以該項為準(zhǔn)。
?、谠诔恕⒊ㄟ\算中,所得結(jié)果的有效數(shù)字位數(shù)與參加運算各項中有效數(shù)字位數(shù)zui少者相
同,而與小數(shù)點無關(guān)。
在對參加運算的數(shù)據(jù)取舍時,可多留一位,否則會引起積累誤差。
例1·5進(jìn)行下列運算:(1)13.44+20.382+4.6;《2,四牛興譬寧旦呈。
解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4
(2)603.2lx0.32603x0.32:48.1~48
4.0114.01,