实验研究中,对实验中所获得的数据正确的应用统计学方法分析与处理可以提高研究效率,排除实验中偶然因素的干扰,用较短的时间、较少的人力物力,取得确切恰当的实验结论。
(一) 量反应资料的基本参数
量反应资料的基本参数包括均数(),标准差(SD),标淮误(Sx,SE),例数(n),变异系数(CV),可信限(CL)。 1.均数(,arithmetic mean,样本平均数) 一组测量值的算术平均数,它反映这一组数据的平均水平或集中趋势。 其计算公式为:
2.标准差(SD,stamdard deviation,样本标准差) 标准差是描述该组数据的离散性代表值。它是离均差平方和自由度均数的平方根,即
制定地方大气污染物排放标准的技术方法根式内分子为离均差平方和(L),。根式内值为均方(MS),均方是方和与自由度(n’, df)之比。
在求得均数与标准差后,一般用均数±标准差(±s)联合表示集中趋向与离散程度。样本量足够时,可用()作为双侧95%正常参考值范围。
3.标淮误(Sx,SE,standard error,均数的标准误) 标准误是表示样本均数间变异程度的指标。
4.变异系数(CV) 当两组数据单位不同或两均数相差较大时,不能直接用标准差比较其变异程度的大小,这时可用变异系数作比较。
CV可用小数或百分数表示。是一种相对离散度,即能反映实验数据的离散程度(SD),又能代表集中趋向的正确程度()。CV越小,表示数据的离散性越小,均数代表集中趋向的正确性越好。
5.可信限(CL) 可信限用来衡量实验结果的精密度,即均数的可信程度,从某实验所得部分动物实测值参数推算总体(全部动物)均数范围。
95%可信限 = t(n’)0.05Sx
99%可信限 = t(n’)0.01Sx
前一式表示在0.05的概率水平估计其可信限范围,也可以说100次实验有95次其均数在这个范围)。
对量反应数据,样本例数n及、SD是最基本的,其他指标(CV、SX、可信限)可由此进一步求得。
(二)量反应资料的显著性检验
1.t检验 t检验是用t值作显著性检验的统计方法。用于两组均数、LD50、ED50、回归系数、前后对比或配对对比的差数均数的显著性检验。
(1)两组均数比较的t检验:两组的量反应资料(n值相同或不同)用本法。
n’=n1-n2-2)
式中
为较方便地用计算器计算,可先求出两组平均数、标准差,按下式求,便进一步求出t值。
(2)自身前后比较(个别比较、配对比较):实验结果用给药前后值或配对比较时用本法。
T= (n’=n-1)
式中,位给药前后(或配对)值之差的均数,SX为给药前后数值之差的标准误。根据t值表中所列的t(n’)0.05与t(n’)0.01的值确定p值,t值越大,p值越小,统计学上越有显著意义。
2.方差分析 多组(3组或3组以上)量反应资料间的比较,用方差分析(amalysis of variance)。这是一种很常用的统计方法。
这里用随机分组的方差分析为例说明。样本均数间的差异可能由两种原因造成:抽样误差(个体间差异)的影响和不同处理的作用。如果处理不发生作用(即各样本均数来自同一总体),则组间均方(MS组间,表示组间变异的程度)与组内均方(MS组内,表示组内变异的程度)之比值(F值)接近1。如F值远大于1,超过方差分析用的F值表。中F(n1、n2)0.05的数值,则各种处理作用不同)。下面是方差分析的基本步骤。
(1)求F值,作方差分析:计算各组的、、n、、n为小写,与各组数据有关)及、、N、(、N为大写,与整个数据有关)。根据下表求F值。
变异来原 | 方和L | 自由度 | 均方MS | F值 |
总变异 | | N-1 | | |
组间变异 | | n1=k-1 | L组间/n-1 | MS组间/MS组内 |
组内变异 | L总-L组间 | N2我与名著=N-k | L组内/n2 | |
| | | | |
C=()2/N k为组数
从计算的F值及F(n1\n2)0.05、F(n1、n2)0.01判断p值及显著性。
(2)各组均数两两比较:如方差分析p≤0.05,则进行下列运算,将各组平均数排序(由大至小或由小至大)
求两组比较的q值
式中江苏教育学院附属小学S2为组内均方。从q值表中查出Q(n’、T)0.05及Q(n’、T)0.01的值(n’为组内自由度,T为处理数),判断p值及显著性。
二、质反应资料统计分析
质反应资料又称定性资料,每一观察对象不能得到一个具体的数据,只能从性质上归属于某一类型。基本参数只有二种,即例数(n )与出现率(P)。后者常用小数表示(0.85 = 85%)
质反应资料的显著性检验方法有:
1. 2检验 2读作“卡方”(chi方)。其基本公式为:
f = (R-1)×(C-1)
此公式中A是实验频率。T是理论频数,R为行数, C为列数。
2值越大,统计意义也越大,P值就越小。2 0.05及2 0.01值可根据自由度(f)由表中查到。自由度为1时, 2 0.05=3.84, 2 0.01=6.63。
2.两组阳性率的2检验-----四格表资料的显著性测定 2检验在甲乙两组比较阳性率时,共有二行二列,可排成四格表,此时自由度为(2-1)×(2-1)=1。对四格表来说, 2基本公式误差较大,可用校正公式(四格表专用公式)计算。
(f =1, 2 0.05=3.84, 2 0.01=6.63)
式中a,b,c,d是四格表中的例数(不是阳性率)
例:某次药理试验结果,A、B二组有效和无效例数,试作显著性检验。
| A (用药组) | B(对照组) | 合计 |
+ | 11(a) | 13(b) | 24(a+b) |
- | 14(c) | 4(d) | 18(c+d) |
合计 | 25(a+c) | 17(b+d) | 42N |
| | | |
3.13< 3.84 ,民族音乐学p > 0.05 A、B二组阳性发生率的差别无显著性意义。
三、回归与相关
前面的资料均为单变量资料。如果两个变量X、Y,其间存在密切的数量关系,就是说X与Y有相关关系(简称相关)。如果两个变量中,X为自变量,Y为因变量,则可以根据实验数据计算出从自变量X的值推算的函数关系,出经验公式,此即回归分析。如果相关是直线相关,求算的经验公式是直线方程称为直线回归分析。调度中心
(一)相关系数与直线回归
1.相关系数及其显著性检验 两个变量分不清哪一个是自变量,哪一个是因变量时,通常计算其相关系数测定其显著性以了解其相关的密切程度。直线回归资料的两变量应是密切相关的。
(n’=n-2)
查相关系数表以判断其显著性。
相关系数表
n’ | 0.05 | 0.01 | n’ | 0.05 | 0.01 |
1 | 0. 997 | 1.000 | 16 | 0.486 | 0.590 |
2 | 0.950 | 0.990 | 17 | 0.456 | 0.575 |
3 | 0.878 | 0.959制定班级公约 | 18 | 0.444 | 0.561 |
4 | 0.811 | 0.917 | 19 | 0.433 | 0.549 |
5 | 0.755 | 0.875 | 20 | 0.423 | 0.537 |
6 | 0.707 | 0.834 | 21 | 0.413 | 0.526 |
7 | 0.666 | 0.798 | 22 | 0.404 | 0.515 |
8 | 0.632 | 0.765 | 23 | 0.396 | 0.505 |
9 | 0.602 | 0.735 | 24 | 0.388 | 0.496 |
10 | 0.576 | 0.708 | 25 | 0.381 | 0.487 |
11 | 0.553 | 0.684 | 26 | 0.374 | 0.479 |
12 | 0.532 | 0.661 | 27 | 0.367 | 0.471 |
13 | 0.514 | 0.641 | 28 | 0.361 | 0.463 |
14 | 0.479 | 0.623 | 29 | 0.355 | 0.456 |
15 | 0.482 | 0.606 | 30 | 0.349 | 0.449 |
| | | | | |
2.直线回归 直线回归分析是要估计回归直线两个参数:直线斜率b(回归系数)和截距a(纵截距)。
a=
用有回归功能的计算器可方便地求出r、a、b。如只有一般统计功能的计算器,可先求出、、Sx(x的标准误)、Sy及,也可较方便地求出b和r:
(二)化为直线的回归分析法
药理学中许多资料两个变量间不是直线关系而是曲线关系,这属于曲线回归问题。对于能转化为直线的曲线关系一般化处理后作直线回归分析。如药动学分析、受体动力学分析等。
受体动力学中半效浓度(D50,即解离常数KD、K)可用下法求出:
等式两边取倒数并乘以[A],得
令y=, =[A],则
求出回归参数后,Emax=1/b,K=a/b。