数字的舍入规则
发布时间:2014/1/29 21:19:17 访问次数:2209
测量数据的处理就是从测量所得的原始OP07CDR数据中求出被测量的最佳估计值,并计算其精确程度。必要时,还要把测量的数据绘制成曲线或归纳成经验公式,以便得出更加清晰的结论。
有效数字的舍入规则。由于存在着误差,因此,测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。
如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
当给出误差有单位时,测量数据的写法应与其一致。
数字的舍入规则。为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
数据运算规则。几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
乘除运算规则。两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
测量数据的处理就是从测量所得的原始OP07CDR数据中求出被测量的最佳估计值,并计算其精确程度。必要时,还要把测量的数据绘制成曲线或归纳成经验公式,以便得出更加清晰的结论。
有效数字的舍入规则。由于存在着误差,因此,测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。
如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
当给出误差有单位时,测量数据的写法应与其一致。
数字的舍入规则。为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
数据运算规则。几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
乘除运算规则。两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
上一篇:削弱和消除系统误差的主要措施
上一篇:对数运算规则
热门点击
- 三极管工作在截止区需要满足下列条件
- 异步集成计数器74LS90
- 怎样区分是硅管还是锗管
- 变容二极管的特性和作用
- 红外发射管、接收管
- 小型开关电源的电路原理图如何
- 数字的舍入规则
- 稳压二极管的伏安特性如何
- 光电二极管的作用及特性
- 元器件装配到印制电路板之前如何进行引脚成形
推荐技术资料
- 自制智能型ICL7135
- 表头使ff11CL7135作为ADC,ICL7135是... [详细]