企业化学分析检测数据有效数字表达的探讨论文_王晓霞

企业化学分析检测数据有效数字表达的探讨论文_王晓霞

宁波钢铁有限公司制造管理部 浙江宁波 315800

摘要:化学分析检测数据有效数字的准确表达和运用是企业分析质量控制的重要保证。高效,准确的检测数据的分析和处理直接关系到企业是否能够指导生产与研发。本文就对化学分析中的有效数字的概念,确定以及在实际中的应用表达做简单的探讨.

关键词:化学分析;检测数据;有效数字

前言

在化学分析中,需要读取各种数据如玻璃器皿、分析仪器,并对读取的数据进行处理和计算得到检测结果。这结果表达的不仅是式样中待测组分的含量,还反映了测量的精密度。这就会出现有效数字的问题。在实际工作中发现不少分析者对有效数字的概念,确定及应用不是很清楚。为了取得准确的分析结果,掌握有效数字的正确定位及运算是化学分析中十分必要的。

1 有效数字的概念

一个有效数字只有末位数字是估计数字,其他均为准确数字。我们把通过直读获得的准确数字叫做可靠数字,把通过估读得到的数字叫做存疑数字。在化学分析中把测量结果能够反映测量大小的带有一位存疑数字的全部数字叫做有效数字。

有效数字与测量仪器的准确度有关,例如在分析天平上称取试样0.2000g,这不仅表明试样的质量0.2000g,还表明称量的误差在±0.0002g以内。如将其质量记录成0.20g,则表明该试样是在台称上称量的,其称量误差为0.02g,故记录数据的位数不能任意增加或减少。无论计量仪器如何精密,其最后一位数总是估计出来的。即有效数字不仅表明数量的大小而且反映测量的准确度.

2 有效数字的确定

2.1 有效数字确定的基础

在化学分析中,一个分析结果的有效数字的位数不仅是测量读数的一个误差问题,更主要的是取决于检测方法、仪器的灵敏度、准确度、原始数据的正确记录和计算。在分析中,应根据测量准确度的要求选择适宜的检测设备。在记录时,要考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。对检定合格的计量器具有效数字可以记录到最小分度值,最多保留一位不确定数字。对有效数据的位数不能随意删减。例如台秤称量某物体为6.6g,因为台秤只能准确的称量到0.1g,所以质量可以表示为(6.6±0.1)g,其有效数字是2位。如果放在分析天平上称量,得到的结果是6.6125g由于分析天平准确的称量到0.0001g,所以质量可表示为(6.6125±0.0001)g,它的有效数字是5位。

2.2 有效数字考虑的因素

2.2.1遵循检测方法的规定

一般情况下,检测结果的有效数字应遵循标准检测方法的具体规定。比如合质金化学分析方法《第四部分:铅量的测定 EDTA滴定法》( GB/T15249-2009) 规定以重复性条件下获得两次独立测定结果的算术平均值表示,结果保留四位有效数字。

期刊文章分类查询,尽在期刊图书馆

2.2.2考虑检测方法的最低检测浓度

在《生活饮用水标准检验方法水质分析质量控制》( GB/T5750.3-2006) 中明确规定: 分析结果有效数字所能达到的位数不能超过方法最低检测质量浓度的有效位数所能达到的位数,例如一个方法原则规定结果报告两位有效数字,其最低质量浓度为0.02mg/L,若分析数据计算为0.088mg/L,但此时分析报告为 0.088mg/L就不合理,应报告0.09mg/L。

2.2.3 有效位数取决于不确定度

由于有效数字的最后一位是不确定度所在的位置,因此有效数字在一定程度上反映了测量值的不确定度。根据《实验室质量控制规范食品理化检验》( GB/T 27404-2008) 等规定在以下情况需要对不确定度进行评定,并在检测报告中给出不确定度值。即:检测方法的要求、测量不确定度与检测结果的有效性有关、测试结果处于规定临界值时,测量不确定度对判定结果符合性会产生影响等。如果评定了检测结果的不确定度,那一般不超过两位有效数字,报告的检测数据末位应与不确定度末位取齐。

3 有效数字的修约与运算

3.1 有效数字的修约

数字修约是实验室出具报告时最终的数字结果的呈现。我国《数字修约规则》GB/T8170-2008用“四舍六入五成双”法则。特别说明以下几点

①若被舍的第一位数字为5,而后全部为零时,则是看保留末位数字,末位数是奇数进1,末位数为偶数舍1,例如28.350、28.250、处理成3位有效数字时,为28.4、28.2。

②若被舍的第一位数字为5,而后并非全部为零时,则进1,例28.2501,只取3位有效数字,为28.3。

③若被舍的数包括几位时,不能进行连续修约,而应作一次修约。如2.5454 ,只取2位有效数字,为2.5。

3.2 有效数字的运算

①加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准。

②乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准。

③在化学分析中,遇到倍数和分数关系。其有效位数可视为无限。

4 有效数字在化学分析中的应用

4.1 化学湿法分析

在化学湿法分析的人工操作中一般都是滴定分析,称量分析和比色分析,其中所使用的测量仪器包括分析天平,滴定管,移液管,容量瓶,分光光度计。当使用的容量瓶和移液管和容量瓶都是A级时,通常无需使用校正值,可把定容和分取的量看做常数处理,因此在湿法分析中仪器测量的误差主要来源于分析天平,滴定管,分光光度计。这些测量设备的正确使用是提高检验结果的准确性、获得最大有效数字位数的关键。

4.2 化学仪器分析

现代化的分析仪器普遍应用于化学分析企业当中,原子吸收分析仪,等离子发射光谱仪,碳硫分析仪等仪器会自动报出十几位数字的分析结果,都需要操作人员按照实际测量的精度记录数据,通过正确的修约和计算,报告出正确的有效数字位数,防止无效数字的出现。

5 结语

在化学分析中,试验数据及其表示方式的准确与否,直接关系到企业工作的质量,这就需要检测人员对实验数据有效数字有一个更加全面的认识。严谨、规范的应用在企业的实际生产中,不能忽视检测数据的有效数字的正确表达。

参考文献:

[1]刘世纯主编.实用分析化验工读本.化学工业出版社.1999.6

[2]何克明编.测量误差理论与数据处理2002.10

[3]GB/T8170-2008.数值修约与规则.北京.中国标准出版社

论文作者:王晓霞

论文发表刊物:《建筑学研究前沿》2017年第17期

论文发表时间:2017/11/22

标签:;  ;  ;  ;  ;  ;  ;  ;  

企业化学分析检测数据有效数字表达的探讨论文_王晓霞
下载Doc文档

猜你喜欢