位置:51电子网 » 技术资料 » 存 储 器

一般习惯于使结果数据的末位与绝对误差对齐

发布时间:2019/7/28 16:43:21 访问次数:2337

   用一块0.5级电压表的100Ⅴ量程进行测量,指示值为gs。35Ⅴ,试确定有效数字位数。K4B2G1646B-HCF8


   该量程的最大绝对误差

   ΔI/m=±0.5%〃m=±0.5~汤×100=±O.5(Ⅴ)

   可见示值的范围为gzI。gs~gs。85Ⅴ,因为误差为±0.5V,根据“0.5误差原则”,此数据的末位应是整数.所以测量结果应写成两位有效数字。根据舍人规则,示值末尾的0.35<0,5,如果不标注误差,其报告值应为85Ⅴ。

   一般习惯于使结果数据的末位与绝对误差对齐,此例的误差为0.5Ⅴ,因此写成85,4Ⅴ。当给出标注误差的报告值时写为甾。4Ⅴ±0.5Ⅴ,这样就保留了两位欠准数字。

   通过上述分析,测量结果有效数字客观反映了测量数据的准确程度。例如,123Ⅴ末位是个位,表明其绝对误差在±0.5Ⅴ以内;又如,1,⒛Ⅴ的末位是百分位,表明其绝对误差在±0。OO5Ⅴ以内。这两个数均为三位有效数字。

   有效数字的位数与小数点的位置无关,与所采用的单位无关,只由误差的大小决定,这是应当十分明确的。




   用一块0.5级电压表的100Ⅴ量程进行测量,指示值为gs。35Ⅴ,试确定有效数字位数。K4B2G1646B-HCF8


   该量程的最大绝对误差

   ΔI/m=±0.5%〃m=±0.5~汤×100=±O.5(Ⅴ)

   可见示值的范围为gzI。gs~gs。85Ⅴ,因为误差为±0.5V,根据“0.5误差原则”,此数据的末位应是整数.所以测量结果应写成两位有效数字。根据舍人规则,示值末尾的0.35<0,5,如果不标注误差,其报告值应为85Ⅴ。

   一般习惯于使结果数据的末位与绝对误差对齐,此例的误差为0.5Ⅴ,因此写成85,4Ⅴ。当给出标注误差的报告值时写为甾。4Ⅴ±0.5Ⅴ,这样就保留了两位欠准数字。

   通过上述分析,测量结果有效数字客观反映了测量数据的准确程度。例如,123Ⅴ末位是个位,表明其绝对误差在±0.5Ⅴ以内;又如,1,⒛Ⅴ的末位是百分位,表明其绝对误差在±0。OO5Ⅴ以内。这两个数均为三位有效数字。

   有效数字的位数与小数点的位置无关,与所采用的单位无关,只由误差的大小决定,这是应当十分明确的。




相关IC型号
K4B2G1646B-HCF8
暂无最新型号

热门点击

 

推荐技术资料

循线机器人是机器人入门和
    循线机器人是机器人入门和比赛最常用的控制方式,E48S... [详细]
版权所有:51dzw.COM
深圳服务热线:13751165337  13692101218
粤ICP备09112631号-6(miitbeian.gov.cn)
公网安备44030402000607
深圳市碧威特网络技术有限公司
付款方式


 复制成功!