首页技能鉴定其他技能热工计量人员
(简答题)

简述有效数字的修约规则。

正确答案

(1)当拟舍去的尾数大于保留末位数的半个单位时,则进位,末位数加一个单位。
(2)当拟舍去的尾数小于保留末位数的半个单位时,则舍去。
(3)当拟舍去的尾数正好等于保留末位数的半个单位时,如拟保留的末位数是奇数则进位,如果是偶数则舍去。这就是偶数法则。
(4)当拟舍去的尾数超过二位数字时,不得进行多次修约,只能一次修约。
(5)当保留末位数单位不是1,而是5时,按下列规则进行:
①当保留的末位数小于和等于2.5时则舍去,保留末位数为0。
例如:4.12修月约到小数后一位,得4.0。3825修约为三位有效数,得3.83103
②当保留的末位数小于7.5、大于2.5时,则保留末位数为5。
例如:37.26修约到小数后一位,得37.51074修约为三位有效数字,得1.053103
③保留的末位数大于和等于7.5时则进位,保留末位数为0,其左边位数加1。
例如:137.5修约为三位有效数,得14059.95修约到小数后一位,得60.0
(6)当保留的末位数的单位为2的倍数时,按下列规则进行。
①当保留的末位数为偶数,应舍去保留末位数右边的数。
例如:37.43修约到小数点后一位,得37.4
②当保留的末位数为奇数,而其右边有数值时,应进位将奇数加1
例如:37.54修约到小数后一位,得37.6
③当保留的末位数恰好为奇数,其右边无数值时,应将整个数除2后按偶数法则修约,然后再乘2。例如:37.30修约到小数后一位,先除2得18.65,按偶数法则修约为18.6,再乘2得37.2。

答案解析

相似试题

  • (简答题)

    什么是效数字,有效数字的运算规则是什么。

    答案解析

  • (简答题)

    什么是效数字,有效数字的运算规则是什么。

    答案解析

  • (简答题)

    修约间隔为50,对下列数字进行修约:3725;13675;3127;325.1;495.3;1075;3521;625.1;1565。

    答案解析

  • (简答题)

    30.修约间隔为0.2,对下列数字进行修约:117.28;105.31;16.24;35.65;46.70;100.25;32.50;27.35;41.30;17.90。

    答案解析

  • (填空题)

    17821取二位有效数字,应写作();18750取三位有效数字,应写作()。

    答案解析

  • (填空题)

    0.034MPa是()位有效数字,100.0V是()位有效数字。

    答案解析

  • (填空题)

    37.030mV是()位有效数字,0.01mA是()位有效数字。

    答案解析

  • (填空题)

    0.012450取三位有效数字,应写作();0.0011335取四位有效数字,应写作()。

    答案解析

  • (填空题)

    60.25修约到个数位的0.5单位是(),将830修约到百位数的0.2单位是()。

    答案解析

快考试在线搜题