误差及数据处理

误差与数据处理
一、名词解释
1)误差:测量结果与被测量真值之差。
2)精密度:在确定的条件下重复测定的数值之间相互接近的程度。用重复性和再现性表示。
重复性(repeatability):同一实验室,分析人员用相同的分析法在短时间内对同一样品重复测定结果之间的相对标准偏差;
再现性(reproducibility):不同实验室的不同分析人员用相同分析对同一被测对象测定结果之间的相对标准偏差。
3)准确度:测量结果与被测真值之间的一致程度。
4)真值:与给定的特定量的定义一致的值。
5)绝对误差:测量结果与被测量(约定)真值之差。
6)绝对差值:两个数值之差的绝对值。
7)相对误差:测量误差除以被测量(约定)真值。
8)算数平均值:数值的总和除以其个数。
叠泉乡村俱乐部
9)加权算数平均值:给每个数值指定一个称为“权”的非负系数,各个数值与相应的乘积之和除以权的总和。
10)标准值:由特定机关或组织以一定的精密度决定并保证的标准物质物理性能或组成的数值。
11)方差、标准差:各测定值和平均值之差的平方和除以自由度(测定数量减1)而得的商叫方差。标准差为方差的正平方根。
12)极差:一个定量特征的观测值中最大值和最小值之差。长江电力电子商务
13)系统误差:在重复性条件下,对同一被测量进行无限多次测量所得结果的平均值与被测量的真值之差。
14)随机误差:测量结果与在重复性条件下,对同一被测量进行无限多次测量所得结果的平均值之差。
15)测量不确定度:表征合理地赋予被测量之值的分散性,与测量结果相联系的参数。
16)变异系数:标准偏差在样本均值中所占的百分数,又称相对标准偏差。即标准偏差与测量结果算术平均值的比值。
17)偏差:一个值减去其参考值。
18)绝对偏差:个别测定值与平均值之差。
19)相对偏差:绝对偏差相对于测量平均值的百分数。
20)平均偏差:各单次测量偏差的绝对值之和与测量次数之比。用d表示。
21)置信界限:真实值落在平均值的一个指定的范围内,这个范围就称为置信界限。
22)置信水平:数据在置信界限内的可靠程度称为置信水平(又称置信度)。
23)测量结果的重复性:在相同测量条件下,对同一被测量进行连续多次测量所得结果之间的一致性。
廿四史
24)测量结果的复现性:在改变了的测量条件下,同一被测量的测量结果之间的一致性。
25)自由度:计算平方和时所具有独立项的个数。
26)相关系数:衡量两个变量线性相关密切程度的量。
27)有效位数:对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零的个数;对其他十进位的数,从非零数字最左一位向右数而得到的位数就是有效位数.
28)回收率:由试样中测出的物质量与试样中的含有量或加入量的比或百分率。
29)回归方程:具有相关的随机变量和固定变量之间关系的方程。
二、有效数字的意义及位数
有效数字是指在分析工作中实际上能测量到的数字。记录数据和计算结果时究竟应该保留几位数字,须根据测定方法和使用仪器的准确程度来决定。在记录数据和计算结果时,所保留的有效数字中,只有最后一位是可疑的数字。
例如:坩埚重18.5734          六位有效数字
      标准溶液体积24.41毫升  四位有效数字
      由于万分之一的分析天平能称准至±0.0001克,滴定管的读数能读准至±0.01毫升,故上述坩埚重应是18.5734±江阴市华西实验学校0.0001克,标准溶液的体积应是24.41±0.01毫升,因此这些数值的最后一位都是可疑的,这一位数字称为“不定数字”。在分析工作中应当使测定的数值,只有最后一位是可疑的。
有效数字的位数,直接与测定的相对误差有关。例如称得某物重为0.5180克,它表示该物实际重量是0.5180±0.0001克,其相对误差为:
      (epo±0.0001/0.5180)×100%=±0.02%
如果少取一位有效数字,则表示该物实际重量是0.518±0.001克,其相对误差为:
                  (±0.001/0.518)×100%=±0.2%
表明测量的准确度后者比前者低10倍。所以在测量准确度的范围内,有效数字位数越多,测量也越准确。但超过测量准确度的范围,过多的位数是毫无意义的。
    必须指出,如果数据中有“0”时,应分析具体情况,然后才能肯定哪些数据中的“0”是有效数字,哪些数据中的“0”不是有效数字。
例如:
    1.0005                          五位有效数字
    0.500031.05% 6.023×102      四位有效数字
    0.05401.86×10-5                三位有效数字
    0.00540.40%                    两位有效数字
    0.50.002%                      一位有效数字
    1.0005克中的三个“0”0.5000克中的后三个“0”,都是有效数字;在0.0054克中的“0”只起定位作用,不是有效数;在0.0540克中,前面的“0”起定位作用,最后一位“0”是有效数字。同样,这些数值的最后一位数字,都是不定数字。
因此,在记录测量数据和计算结果时,应根据所使用的仪器的准确度,必须使所保留的有效数字中,只有最后一位数是不定数字。例如,用感量为百分之一克的台秤称物体的重量,由于仪器本身能准确称到±0.0l克,所以物体的重量如果是10.4克,就应写成10.40克,不能写成10.4克。
    分析化学中还经常遇到pHlgK等对数值,其有效数字的位数仅取决于小数部分数字的位数,因整数部分只说明该数的方次。例如,pH12.68,即[H+]2.1×l0-13mol/L,其有效数字为两位,而不是四位。
对于非测量所得的数字,如倍数、分数、π、e等等,它们没有不确定性,其有效数字可视为无限多位,根据具体情况来确定。
    另外,如果有效数字位数最少的因数的首位数是“8”“9”,则有效数字可认为比这个因数多取一位。
三、数字修约规则
四舍六入五留双
    具体的做法是,当尾数≤4时将其舍去;尾数≥6时就进一位;如果尾数为5而后面的数为0时则看前方:前方为奇数就进位,前方为偶数则舍去;当“5”后面还有不是0的任何数时,都须向前进一位,无论前方是奇还是偶数,“0”则以偶数论。
0.536640.5366    0.583460.5835 10.275010.28    16.405016.40  27.185027.18  18.0650118.07
    必须注意:进行数字修约时只能一次修约到指定的位数,不能数次修约,否则会得出错误的结果。
四、有效数字的运算规则
1、加减法 
    当几个数据相加或相减时、它们的和或差的有效数字的保留,应以小数点后位效最少,
即绝对误差最大的的数据为依据。例如0.012125.641.05782三数相加,若各数最后一位为可疑数字,则25.64中的4已是可疑数字。因此,三数相加后,第二位小数已属可疑,其余两个数据可按规则进行修约、整理到只保留两位小数。
因此,0.0121应写成0.011.05782应写成1.06;三者之和为:
中拍网
                  0.01+25.64+1.0626.71
    在大量数据的运算中。为使误差不迅速积累,对参加运算的所有数据,可以多保留一位可疑数字(多保留的这一位数字叫安全数字”)。如计算5.27270.0753.72.12的总和时,根据上述规则,只应保留一位小数。但在运算中可以多保留一位,故5.2727应写成5.270.075应写成0.082.12应写成2.12。因此其和为:
                    5.27+0.08+3.7+2.1211.17
然后、再根据修约规则把11.17整化成11.2
2、乘除法 
    几个数据相乘除时,积或商的有效数字的保留,应以其中相对误差最大的那个数,即有效数字位数最少的那个数为依据。
例如求0.012125.641.05782三数相乘之积。设此三数的最后一位数字为可疑数字,且最后一位数字都有±1的绝对误差,则它们的相对误差分别为:   
0.0121:±1/121×1000‰=±8‰
25.64 ±1/2564×1000‰=±0.4‰
1.05782:±1/105782×1000‰=±0.009‰
    第一个数是三位有效数字,其相对误差最大,以此数据为依据,确定其他数据的位数,即按规则将各数都保留三位有效数字然后相乘:
0.0121×25.6×1.06 = 0.328
  若是多保留一位可疑数字时,则
    0.0121×25.64×1.058 = 0.3282
    然后再按四舍六入五留双规则,将0.3282,改写成0.328
五、有效数字的运算规则在分析化学实验中的应用

本文发布于:2024-09-22 09:51:43,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/360439.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:测量   结果   数字   数据   位数   数值   平均值   测定
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议