国产精品色情一区二区三区_欧美一区综合_日韩中文字幕一区二区_日韩一区二区三区毛片_一级毛片视频免费_久久精品国产午夜伦班片

有效數字、欠準數字、可靠數字和數據修約在數據處理中的應用

2019/5/16 16:27:37 人評論 次瀏覽 分類:計量檢定  文章地址:http://www.gsipv.com/tech/2491.html

儀表工在校準儀表或測量參數數據時均會與數字接觸,只有明白有效數字、欠準數字、可靠數字、有效數字的運算規則、數據修約的概念和關于“0”的使用原則,才能對測量記過進行合理的處理。本文最這些知識做簡單介紹。

有效數字、欠準數字和可靠數字

在測量結果中能準確讀出的是可靠數字,估讀出來的是欠準數字,將可靠數字和欠準數字合起來,稱為有效數字,如25.3、0.0135都是三位有效數字。其中,25和13分別是可靠數字,而后面的3和5則是欠準數字。在一個數據中,只保留一位欠準數字,其余都應是可靠數字。

關于“0”的使用原則

①只與計量單位有關的數字“0”不計入有效數字。例如,儀表工可以將245mV寫成0.245V,兩種寫法的有效數字都是三位。
②小數點后面的“0”一般不能隨意省略,例如15mA和15.0mA,兩種寫法差距很大,15mA表示電流可能是14mA,也可能是16mA,而15.0mA說明15是可靠的,小數點后的零則是欠準的。

有效數字的運算規則

①常數運算。參加運算的常數如,π、e、根號二等,其有效位數根據需要確定。
②加減法運算。運算時,將小數位數多的進行舍入處理,使其比小數位數少的只多一位小數,然后進行計算。運算結果的小數位數取至各數中小數位數最少的位數。側如,17.6+2.45+0.314,先將0.314化整為0.31,則17.6+2.45+0.31=20.43,最后的取值為20.4。
③乘除法運算。運算時,以有效位數最少的為準,對位數較多的數進行舍入處理,使其比有效位數少的多一位,然后運算,運算結果的位數,取至各數中有效位數最少的數。

數據修約

①測量結果數據悔約的確定
對測量結果數據修約到哪一位,根據微小誤差準則,被修約數據的位數要比被測量允許誤差多一個數量級。例如,被測量允許誤差為1%,則數據修約確定為0.1%。
②修約規則(常規修約)
規則規定,當擬舍去的數字中,最左邊的一位數字小于5時,則舍去。例如,將31.4365修約到只保留一位小數時,其舍去的數字中最左邊的一位是“3”,應舍去,結果為31.4。
當擬舍去的數字中最左邊的數字大于5時,應進位,即在保留的末位數上加1。例如,將36.2631修約到只保留一位小數時,其舍去的數字最左邊的位數是6,則應進位,修約結果為36.3。
◆當擬舍的數字最左一位剛好為“5”時,如果擬保留的末位數是奇數則進一,若是偶數則不進,即偶數法則。例如,對6.4852和2.1358進行修約,取三位有效數字,修約后未6.48和2.14。

有效數字、欠準數字、可靠數字、有效數字的運算規則、數據修約的概念和關于“0”的使用原則儀表工要完全理解和掌握,比如處理儀表檢定結果時,檢定數據所取位數不要過多或過少取得過多,則浪費計算時間,還可能對測量結果產生誤差;取得太少,又不能滿足精確度要求。

共有訪客發表了評論 網友評論

  客戶姓名:
郵箱或QQ:
驗證碼: 看不清楚?