假设检验之卡方检验

假设检验简介

假设检验（Hypothesis Testing），或者叫做显著性检验（Significance Testing）是数理统计学中根据一定假设条件由样本推断总体的一种方法。其基本原理是先对总体的特征作出某种假设，然后通过抽样研究的统计推理，对此假设应该被拒绝还是接受作出推断。既然以假设为前提，那么在进行检验前需要提出相应的假设：

• H0：原假设或零假设（null hypothesis），即需要去验证的假设；一般首先认定原假设是正确的，然后根据显著性水平选择是接受还是拒绝原假设。
• H1：备择假设（alternative hypothesis），一般是原假设的否命题；当原假设被拒绝时，默认接受备择假设。

如原假设是假设总体均值$\mu = 0$，则备择假设为总体均值$\mu \neq 0$，检验的过程就是计算相应的统计量和显著性概率，来验证原假设应该被接受还是拒绝。

卡方检验简介

卡方检验是一种用途很广的计数资料的假设检验方法。它属于非参数检验的范畴，主要是比较两个及两个以上样本率( 构成比）以及两个分类变量的关联性分析。其根本思想就是在于比较理论频数和实际频数的吻合程度或拟合优度问题。

卡方检验是以$\chi^2$分布为基础的一种常用假设检验方法，它的无效假设H0是：观察频数与期望频数没有差别。

该检验的基本思想是：首先假设H0成立，基于此前提计算出$\chi^2$值，它表示观察值与理论值之间的偏离程度。根据$\chi^2$分布及自由度可以确定在H0假设成立的情况下获得当前统计量及更极端情况的概率P。如果P值很小，说明观察值与理论值偏离程度太大，应当拒绝无效假设，表示比较资料之间有显著差异；否则就不能拒绝无效假设，尚不能认为样本所代表的实际情况和理论假设有差别。

$\chi^2$值表示观察值与理论值之问的偏离程度。计算这种偏离程度的基本思路如下。

• 设A代表某个类别的观察频数，E代表基于H0计算出的期望频数，A与E之差称为残差。
• 残差可以表示某一个类别观察值和理论值的偏离程度，但如果将残差简单相加以表示各类别观察频数与期望频数的差别，则有一定的不足之处。因为残差有正有负，相加后会彼此抵消，总和仍然为0，为此可以将残差平方后求和。
• 残差大小是一个相对的概念，相对于期望频数为10时，期望频数为20的残差非常大，但相对于期望频数为1 000时20的残差就很小了。考虑到这一点，人们又将残差平方除以期望频数再求和，以估计观察频数与期望频数的差别。

进行上述操作之后，就得到了常用的$\chi^2$统计量，由于它最初是由英国统计学家Karl Pearson在1900年首次提出的，因此也称之为Pearson $\chi^2$，其计算公式为：

$$\chi^2 = \sum \frac{(A-E)^2}{E}=\sum_{i=1}^{k}\frac{(A_i-E_i)^2}{E_i}=\sum_{i=1}^{k}\frac{(A_i-np_i)^2}{np_i}$$

其中，$A_i$为i水平的观察频数，$E_i$为i水平的期望频数，n为总频数，$p_i$为i水平的期望频率。i水平的期望频数$E_i$等于总频数$n \times i$水平的期望概率$p_i$，k为单元格数。当n比较大时，$\chi^2$统计量近似服从k-1(计算$E_i$时用到的参数个数)个自由度的卡方分布。

由卡方的计算公式可知：

• 观察频数与期望频数完全一致时，$\chi^2$值为0；
• 观察频数与期望频数越接近，两者之间的差异越小，$\chi^2$值越小；
• 观察频数与期望频数差别越大，两者之间的差异越大，$\chi^2$值越大

换言之，大的$\chi^2$值表明观察频数远离期望频数，即表明远离假设。小的$\chi^2$值表明观察频数接近期望频数，接近假设。至于$\chi^2$在每个具体研究中究竟要大到什么程度才能拒绝H0，则要借助于卡方分布求出所对应的P值来确定。

卡方检验实战

四格表法推导过程

四格表法的卡方检验，用于进行两个样本率或两个样本构成比的比较。

我们可以把抛硬币的过程，分成观察组和期望组，观察组就是上面随机过程的结果，期望组是我们根据概率的公式给出来的，把数据填入下面表格。

通过简单的计算，我们得出观察组的正面概率为52%和期望组的正面概率为50%，两者的差别可能是误差导致，也有可能是受到抛硬币的次数影响的。

为了确定真实原因，我们先假设抛硬币是符合大数定理的，是不受抛硬币的次数影响的，即抛硬币的次数和概率无关，我们可以得出正面结果的实际是(52+50) / (52+48+50+50) = 0.51 = 51%。

可推到出：

如果抛硬币次数与正面结果的概率是独立无关的，那么四格表里的理论值和实际值差别应该会很小。

代入公式进行计算：

$$\chi^2 = \frac{(52- 51)^2 }{51} + \frac{(48 – 49)^2}{49} + \frac{(50 – 51)^2}{ 51} + \frac{(50 – 49)^2 }{49} = 0.08003201$$

当以四格表法进行卡方检验时，还有一些限制条件，当两个独立样本比较时，需要分成以下3种情况：

• 所有的理论数T≥5并且总样本量n≥40，用Pearson卡方进行检验.
• 如果理论数T＜5但T≥1,并且n≥40，用连续性校正的卡方进行检验.
• 如果有理论数T＜1或n＜40，则用Fisher’s检验.

根据限制条件，由于样本数据量为200大于40，所以需要对原公式进行修正。

卡方检验的计算公式：$\chi ^2 = \sum \frac{(A-T)^2}{T}$

修正公式为：$\chi ^2 = \sum \frac{(A-T-0.5)^2}{T}$

$$\chi^2 = \frac{(|52-51|-0.5)^2 }{51}+ \frac{(|48 – 49|-0.5)^2}{49} + \frac{(|50 – 51|-0.5)^2}{51} + \frac{(|50 – 49|-0.5)^2}{49} = 0.020008$$

最后，算出卡方统计量为0.020008。

卡方值（理论值与实际值差异大小）的意义是什么呢？为此我们再引入一个概念：

卡方分布的临界值

上一步我们得到了卡方的值，但是如何通过卡方的值来判断喝牛奶和感冒是否真的是独立无关的？也就是说，怎么知道无关性假设是否可靠？

答案是，通过查询卡方分布的临界值表。

表格解读：

• 第一行表示显著性水平$\alpha$
• 第一列表示自由度

这里需要用到一个自由度的概念，自由度等于V = (行数 – 1) * (列数 – 1)，对四格表，自由度V = 1。

对V = 1， 95%概率不相关的卡方分布的临界值（最大）是：3.84。

如果我们计算出的卡方值大于临界值（列因素不影响横行值的范围：0~临界值），我们就排斥原假设（H0，即纵列因素不影响横行的因素的变化），接受备择假设（H1：纵列因素对横行的因素变化有影响）；反之，卡方值小于临界值，即在（纵列与横行互不影响这一假设）理论范围内，无法推翻原假设，即无统计差异。

喝牛奶对感冒发病率检测

我们想知道喝牛奶对感冒发病率有没有影响，以下为数据统计的四格表：

通过简单的统计我们得出喝牛奶组和不喝牛奶组的感冒率为30.94%和25.00%，两者的差别可能是抽样误差导致，也有可能是牛奶对感冒率真的有影响。

为了确定真实原因，我们先假设喝牛奶对感冒发病率是没有影响的，即喝牛奶喝感冒时独立无关的，所以我们可以得出感冒的发病率实际是（43+28）/（43+28+96+84）= 28.29%

所以，理论的四格表应该如下表所示：

如果喝牛奶喝感冒真的是独立无关的，那么四格表里的理论值和实际值差别应该会很小。那如何来描述这种差别呢，我们定义卡方值为：$\chi ^2 = \sum \frac{(A-T)^2}{T}$，其中A为实际值，T为理论值。

根据卡方检验公式我们可以得卡方值为：

$$\chi ^2 = \frac{(43-39.3231)^2}{39.3231} + \frac{(28-31.6848)^2}{31.6848} + \frac{(96-99.6769)^2}{99.6769} + \frac{(84-80.3152)^2}{80.3152} = 1.077$$

对V = 1，喝牛奶和感冒（95%概率）不相关的卡方分布的临界值（最大）是：3.84。即如果卡方大于3.84，则认为喝牛奶和感冒（有95%的概率）相关。

临界值3.84的意义表示：如果卡方值＞3.84，则纵列因素与横行因素不相关的的概念＜0.05（即显著性水平），也即纵列因素与横行因素相关的概念＞0.95。显然1.077<3.84，没有达到卡方分布的临界值，所以喝牛奶和感冒独立不相关的假设没有被推翻。

四格卡方检验的标准做法

我们想知道不吃晚饭对体重下降有没有影响：

1、建立假设检验

• H0：r1＝r2，不吃晚饭对体重下降没有影响，即吃不吃晚饭的体重下降率相等
• H1：r1≠r2，不吃晚饭对体重下降有显著影响，即吃不吃晚饭的体重下降率不相等。$\alpha=0.05$

2、计算理论值

3、计算卡方值

根据公式，计算出卡方值为5.498＞3.84，差异有显著统计学意义，按显著性水平$\alpha=0.05$水准，拒绝H0，可以认为两组的体重下降率有明显差别。

通过实例计算，对卡方的基本公式有如下理解：若各理论数与相应实际数相差越小，卡方值越小；如两者相同，则卡方值必为零。

附录：1-1000自由度的卡方临界值查询表：

参考链接：

• 使用R语言进行卡方检验（chi-square test）
• 用R语言解读统计检验-卡方检验