有效数字修约规程

有效数字修约及其运算规程
.目的
为实验室有效数字修约及其运算提供指导,保证有效数字修约及其运算的规范性、科学性和可操作性。
.适用范围
本规程适用于实验室数据计算过程中有效数字修约及其运算。
.职责
实验室所有人员:严格按照有效数字修约及其运算规程填写记录报告。
.盖革计数管相关规定
1.有效数字的基本定义
1.1.有效数字是指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,
这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。
1.2.一个数据的位数不仅表示数量的大小,也反映测量的精确程度。有效数字就是以一种近似的方式表示报告的数字结果的精确性或者不确定性。某种意义上说,它是表示一个已知的数据有多好的最常见的方式。
2.有效位数
2.1.在没有小数位且以若干个零结尾的数值中,有效位数是指从最左一位非0数字向右数,得到的位数减去无效零(即仅为定位用的零)的个数。
例如:35000中若有两个无效0,则为三位有效位数,应写作350×1023.50×104;若有三个无效0,则为两位有效数,应写作35×1033.5×104。当需要在数值的末尾加“0”作定位时,最好采用指数形式表示,否则有效数字的位数含混不清。
2.2.在其他十进位数中,有效数字是指从最左一位非0数字向右数而得到的位数。
例如:3.20.320.0320.0032均为两位有效位数,0.320为三位有效位数,10.00为四位有效位数,12.490为五位有效位数。(数字“0”具有双重意义。若作为普通数字使用,它就是有效数字;若作为定位用,则不是有效数字。)
2.3.非连续型数值(如个数、分数、倍数)是非测量所得,没有欠准数字的,其有效位数可视为无限多位。
例如:分子式“H2SO4中的“2”“4”是个数。常数πe和系数等数值的有效位数可视为是无限多位;含量测定项下理化指标“1 mlXXX滴定液(0.1mol/L……”中的“0.1”为名义浓度,规格项下的“0.3g”“1ml25mg”“0.3”“1”“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
2.4.有效数字的首位数字≥v.i.c8时,其有效位数可以多计一位。(此条USPFDA相关规定中没有提及)如85%115%,都可看成是三位有效位数;99.0%101.0%都可看成是四位有效数字。
2.5.pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26[H+]=5.5×10-12mol/L ,其有效位数只有两位。
3.数值修约及其进舍规则
3.1.数值修约  是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
3.2.修约间隔  是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。
3.3.进舍规则  中国药典相关规则:“465考虑,5后非0则进15后全05前,5前偶舍奇进1”
拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变;
拟舍弃数字的最左一位数字大于5时,则进一,即保留的末位数字加1
拟舍弃数字的最左一位数字等于5时,其后跟有并非全部为0的数字时则进1,其后无数字或数字皆为0时若所保留末位数为奇数则进1,为偶数则舍弃。
4.运算规则 
4.1.北京麋鹿生态实验中心在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的。但均遵循的原则是:报告的数字结果的精确性应与用于产生该结果的最低精确度的测量数值相一致。
4.2.运算加减法:因加减法运算所得和或差的绝对误差比任何一个数值的绝对误差大,所以应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其它数值在运算中保留的数位和决定计算结果的有效位数。简单的说就是计算结果的小数位数应等于组成算式的数字中小数位数最少的一个。
4.3.黄金第一案运算乘除法:因乘除法运算所得积或商的相对误差比任何一个数值的相对误差大,所以应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效数字。简单的说就是计算结果的有效位数应与算式中有效数字位数最少的数字一致。
4.5.在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。
5.特殊规定
5.1.不得连续修约,拟修约数字应在确定修约位数后一次修约获得结果,从而判断结果是否合格,而不得多次按前面规则连续修约。
5.2.计算所得的最后数值或测定读数值均可按修约规则进舍至规定有效位,取此数值与标准中规定的限度数值比较,以判断是否符合规定限度。
5.3.炽灼残渣、干燥失重、杂质检测等项目中,如出现有数据非常小,修约后无有效数字时,记录填写中至少保留1位有效数字。
例如:炽灼残渣项要求≤0.1%,实测数据为0.000062937%
错误做法:结果栏、报告书填写为0.0%
正确做法:结果栏、报告书填写为0.0001%
    如果检测项目有做定量限(LOQ,结果记录为<定量限
5.4.河南机电高等专科学校校园网在相对标准偏差(RSD)中,采用只进不舍的原则,如0.163%0.52%应修约为0.17%0.6%
6.实验室日常检验工作中应注意的相关事项
6.1.由于在进舍规则问题上,中国药典、美国药典(USP)及FDA的要求存在细微的差别,在无特殊的要求时,我们采用中国药典的相关规则。因为该规则对数值的修约更为完善和合理,也是国际上数值修约方面的发展趋势。
在我们实验原始记录填写中,应严格按照数值修约及运算的规定进行。
6.2.避免连续修约的情况。
1:修约7.1486,保留两位有效数字。
        正确的做法:7.1486→7.1
        错误的做法(连续修约):7.1468→7.15→7.2
6.3.原始记录中的最终结果(平行测试中的平均值结果)保留有效位数应与报告中该数值的有效位数一致;平行测试中单个的检验结果可保留多一位有效位数,暂不做修约。
例如:质量标准要求含量要求90.0%110.0%,计算显示结果为:100.6154%100.6927%99.0068%99.0391%,我们填写原始记录时应记作:结果1 100.61% 100.69% 结果2 99.00%   99.03% 结果(平均) 99.8%
6.4.在相对标准偏差(RSD)中,采用只进不舍的原则。
例如:在HPLC系统适用性中,要求标准溶液连续进样6针的峰面积RSD≤2.0%,此时,若操作实际结果RSD2.005%,则应修约为2.1%2.1%>2.0%所以应该判定为不符合相关的要求。另外在填写这类RSD值时也应与规格要求的数值保留相同的有效数字,不能随意增加数值的有效位数。
.相关文件和记录
.
.变更记载
.附录
.

本文发布于:2024-09-22 04:04:45,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/414791.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:数值   修约   数字   结果   运算
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议