试题详情
简答题运算过程中有效位数的确定？
  • ①加减法运算中，保留有效数字的位数，应从小数点后位数最少的为准，即以绝对误差最大的数为准。
    ②乘除法运算中，保留有效数字的位数，以有效数字最少的为准，即以相对误差最大的数为准。
    ③在运算中各数值计算有效位时，当第一位有效数字大于或等于8时有效位数够计一位。

  • 关注下方微信公众号，在线模考后查看

热门试题