试题详情
- 简答题简述有效数字的修约规则。
-
有效数字的修约规则为:
(1)当拟去的尾数大于保留未位数的半个单位时,则进位,未位数加一个单位。
例如:3.86修约到小数一位,得3.9。
1377修约为三位有效数,得1.38×103
(2)当拟舍去的尾数小于保留未位数的半个单位时,则舍去。
例如:0.0137修约到小数后二位,得0.01
5783.4修约为四位有效数,得5783。
(3)当拟舍去的尾数正好等于保留未位数的半个单位时,如拟保留的未位数是奇数则进位,如果是偶数则舍去。这就是偶数法则。
例如:3.85修约到小数后一位,得3.8。
3175修约到三位有效数,得3.18×10-3
(4)当拟舍去的尾数超过二位数字时,不得进行多次修约,只能一次修约。
例如:3.146修约到小数后一位,应是3.1,而不能先修约3.15,再按偶数法则修约为3.2。
(5)当保留的未位数单位不是1,而是5时,按下列规则进行。
①保留的未位数小于和等于2.5时则舍去,保留未位数为0。
例如:4.12修约到小数后一位,得4.0。
3825修约为三位有效数,得3.80×103
②保留的未位数小于7.5、大于2.5时,则保留未位数为5。
例如:37.26修约到小数后一位,得37.5。
1074修约为三位有效数,得1.05×103
③保留的未位数大于和等于7.5时则进位,保留未位数为0,其左边位数加1。
例如:137.5修约为三位有效数,得140。
59.95修约到小数后一位,得60.0。
(6)当保留的未位数单位为2的倍数时,按下列规则进行。
①当保留的未位数为偶数,应舍去保留未位数右边的数。
例如:37.43修约到小数后一位,得37.4。
②当保留的未位数为奇数,而其右边有数值时,应进位将奇数加1。
例如:37.54修约到小数后一位,得37.6。
③当保留的未位数恰好为奇数,其右边无数值时,应将整个数除2后按偶数法则修约,然后再乘2。
例如:37.30修约到小数后一位,先除2得18.65,按偶数法则修约为18.6,再乘2得37.2。 关注下方微信公众号,在线模考后查看
热门试题
- 调节阀选型时,根据工艺操作参数,应选择合
- 二极管的反向电流随温度的上升而()。
- 应变式压力变送器是如何把压力信号变换成电
- 信号回路接地不应与屏蔽接地只用同一接地网
- 测温元件在管道、设备上安装时,固定方式有
- 调节阀的()的选择主要从工艺生产需要和安
- 转子流量计的流量标尺上的刻度值,对于测量
- 放射性物位计中,常用的放射源有钴-60(
- USB为通用串行总线,是高速总线接口。
- 在I/ASeries系统在()情况发生时
- 电化学气体传感器是怎样工作的?
- 分析液位控制为什么多用比例式调节器?
- 在理想微分控制中,输入信号和输出信号的状
- 10PPm是指一百万份气体总体积中,该气
- 试计算三只并联仪表箱内的总电阻。
- 电磁流量计是用来测量管道气体中具有一定导
- 由于微分作用可以实习超前调节,因此绝大多
- 在比例作用的基础上,加入微分和积分环节的
- 有些人明知道在某些情况下不准带电操作,却
- 新区喷射水泵P211A/212A联动条件