位置:51电子网 » 技术资料 » 新品发布

数字的舍入规则

发布时间:2014/1/29 21:19:17 访问次数:2209

      测量数据的处理就是从测量所得的原始OP07CDR数据中求出被测量的最佳估计值,并计算其精确程度。必要时,还要把测量的数据绘制成曲线或归纳成经验公式,以便得出更加清晰的结论。

      有效数字的舍入规则由于存在着误差,因此,测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:

      有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。

      如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。

      当给出误差有单位时,测量数据的写法应与其一致。

      数字的舍入规则为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。

      数据运算规则几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。

      乘除运算规则两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。

      为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。


      测量数据的处理就是从测量所得的原始OP07CDR数据中求出被测量的最佳估计值,并计算其精确程度。必要时,还要把测量的数据绘制成曲线或归纳成经验公式,以便得出更加清晰的结论。

      有效数字的舍入规则由于存在着误差,因此,测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:

      有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。

      如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。

      当给出误差有单位时,测量数据的写法应与其一致。

      数字的舍入规则为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。

      数据运算规则几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。

      乘除运算规则两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。

      为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。


热门点击

 

推荐技术资料

自制智能型ICL7135
    表头使ff11CL7135作为ADC,ICL7135是... [详细]
版权所有:51dzw.COM
深圳服务热线:13692101218  13751165337
粤ICP备09112631号-6(miitbeian.gov.cn)
公网安备44030402000607
深圳市碧威特网络技术有限公司
付款方式


 复制成功!