区间估计

置信区间

设总体 $X$ 的分布为 $f(x,\theta )$, $\theta \in \Theta$, $X_1,...,X_n$ 是来自总体 $X$ 的一个样本, 若对给定的一个常数 $a$ 存在两个统计量 ${\hat{\theta }}_L=\hat{\theta }(X_1,...,X_n)$ 和 ${\hat{\theta }}_U(X_1,...,X_n)$ 对于任意 $\theta \in \Theta$ 满足 $P_{\theta }\{{\hat{\theta }}_L\le \theta \le {\hat{\theta }}_U\}\ge 1-\alpha$, 则称随机区间 $[{\hat{\theta }}_L,{\hat{\theta }}_U]$ 是 $\theta$ 的置信水平为 $1-\alpha$ 的置信区间.

枢轴量

1. 找一个和待估参数 $\theta$ 有关的统计量 $T(X_1,...,X_n)$, 一般选取参数 $\theta$ 的一个优良的点估计.
2. 构造统计量 $T(X_1,...,X_n)$ 和参数 $\theta$ 的一个函数 $G(T,\theta )$, 要求 $G$ 的分布与待估参数 $\theta$ 无关, 忽悠这种性质的函数称为枢轴量.
3. 对给定的置信水平 $1-\alpha$, 选取两个常数 $a,b$, 使得 $P_{\theta }\{a\le G(T,\theta )\le b\}=1-\alpha$.
4. 如果不等式 $a\le G(T,\theta )\le b$ 可以等价变形为 ${\hat{\theta }}_L\le \theta \le {\hat{\theta }}_U$, 即有 $P_{\theta }\{a\le G(T,\theta )\le b\}=P_{\theta }\{{\hat{\theta }}_L\le \theta \le {\hat{\theta }}_U\}=1-\alpha$.

随机区间 $[{\hat{\theta }}_L,\infty )$ 是 $\theta$ 的置信水平为 $1-\alpha$ 的单侧置信区间, 称 ${\hat{\theta }}_L$ 为置信水平为 $1-\alpha$ 的为单侧置信下限.

随机区间 $(-\infty ,{\hat{\theta }}_U]$ 是 $\theta$ 的置信水平为 $1-\alpha$ 的单侧置信区间, 称 ${\hat{\theta }}_U$ 为置信水平为 $1-\alpha$ 的为单侧置信上限.

指向原始笔记的链接

指向原始笔记的链接

正态总体的区间估计

$X_i$ 为来自正态总体 $N(\mu ,{\sigma }_2)$ 的样本, 置信水平 $1-\alpha$.

1. 方差 ${\sigma }^2$ 已知时, 由于 $\overline{X}$ 是 $\mu$ 的 最大似然估计, 且是 无偏估计, 由抽样分布理论得 枢轴量 为 $W=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$, $W$ 是样本和待估参数的函数, 其分布为 $N(0,1)$, 即 $P\{-z_{\alpha /2}<\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}<z_{\alpha /2}\}=1-\alpha$, 因此参数 $\mu$ 的一个置信水平为 $1-\alpha$ 的置信区间为 $(\overline{X}-\frac{\sigma }{\sqrt{n}}{z}_{\alpha /2},\overline{X}+\frac{\sigma }{\sqrt{n}}{z}_{\alpha /2})$, 长度为 $l_n=2\frac{\sigma }{\sqrt{n}}{z}_{\alpha /2}$.
2. 方差 ${\sigma }^2$ 未知时, 用样本标准差 $S$ 代替总体标准差 $\sigma$, 枢轴量 为 $T=\frac{\overline{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$, 因此参数 $\mu$ 的一个置信水平为 $1-\alpha$ 的置信区间为 $(\overline{X}-\frac{S}{\sqrt{n}}{t}_{\alpha /2}(n-1),\overline{X}+\frac{S}{\sqrt{n}}{t}_{\alpha /2}(n-1))$.

指向原始笔记的链接

两个正态总体均值差的置信区间

设 $X_i$ 是来自正态总体 $N({\mu }_1,{\sigma }_1^2)$ 的样本, $Y_i$ 是来自正态总体 $N({\mu }_2,{\sigma }_2^2)$ 的样本.

1. 方差 ${\sigma }_1^2,{\sigma }_2^2$ 已知时, 由于 ${\mu }_1-{\mu }_2$ 点估计为 $\overline{X}-\overline{Y}$, 由抽样分布理论知 $U=\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{{\sigma }_1^2/m+{\sigma }_2^2/n}}\sim N(0,1)$, 取 $U$ 作为 枢轴量, 对于置信水平 $1-\alpha$, 选择分位数 $z_{\alpha /2}$, 可得 $P\{|\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{{\sigma }_1^2/m+{\sigma }_2^2/n}}|<z_{\alpha /2}\}=1-\alpha$, 因此均值差 ${\mu }_1-{\mu }_2$ 的置信水平 $1-\alpha$ 置信区间为 $((\overline{X}-\overline{Y})-z_{\alpha /2}\sqrt{\frac{{\sigma }_1^2}{m}+\sigma {\sigma }_2^{2}n},(\overline{X}-\overline{Y})+z_{\alpha /2}\sqrt{\frac{{\sigma }_1^2}{m}+\frac{{\sigma }_2^2}{n}})$.

2. 方差 ${\sigma }_1^2={\sigma }_2^2={\sigma }^2$, 但是 ${\sigma }^2$ 未知时, 由抽样分布知 $T=\frac{\overline{X}-\overline{Y}-({\mu }_1-{\mu }_2)}{S_{\omega }\sqrt{1/m+1/n}}\sim t(m+n-2)$, 其中 ${\sigma }_{\omega }^2=\frac{(m-1)S_1^2+(n-1)S_2^2}{m+n-2}$, 取 $T$ 为 枢轴量, 取分位数 $t_{\alpha /2}(n+m-2)$ 有 $P\{|T|<t_{\alpha /2}(n+m-2)\}=1-\alpha$, 因此均值差 ${\mu }_1-{\mu }_2$ 的置信水平 $1-\alpha$ 置信区间为 $((\overline{X}-\overline{Y})\pm t_{\alpha /2}(n+m-2)S_{\omega }\sqrt{\frac{1}{m}+\frac{1}{n}})$.

3. 方差 ${\sigma }_1^2,{\sigma }_2^2$ 未知, 但 $m=n$, 令 $Z_i=X_i-Y_i$, 则 $Z_i\sim N({\mu }_1-{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$, 且 $Z_i$ 独立同分布, 则 $\frac{\overline{Z}-({\mu }_1-{\mu }_2)}{S_Z/\sqrt{n}}\sim t(n-1)$, 得 ${\mu }_1-{\mu }_2$ 的置信水平 $1-\alpha$ 置信区间为 $[\overline{X}-\overline{Y}-\frac{S_Z}{\sqrt{n}}{t}_{\alpha /2}(n-1),\overline{X}-\overline{Y}+\frac{S_Z}{\sqrt{n}}{t}_{\alpha /2}(n-1)]$.

4. 均值 ${\mu }_1{\mu }_2$ 均未知, 此时 ${\sigma }_1^2/{\sigma }_2^2$ 常用 点估计 为 $S_1^2/S_2^2$, 且有枢轴量 $F=\frac{S_1^2/S_2^2}{{\sigma }_1^2/{\sigma }_2^2}\sim F(n-1,m-1)$, 根据 F 分布 的性质, 取分位数 $F_{1-\alpha /2}(m-1,n-1),F_{\alpha /2}(m-1,n-1)$, 方差比 ${\sigma }_1^2/{\sigma }_2^2$ 的置信水平 $1-\alpha$ 置信区间为 $[\frac{S_1^2}{S_2^2}\frac{1}{F_{\alpha /2}(m-1,n-1)},\frac{S_1^2}{S_2^2}\frac{1}{F_{1-\alpha /2}(m-1,n-1)}]$

5. 均值 ${\mu }_1{\mu }_2$ 已知, 此时 ${\sigma }_1^2,{\sigma }_2^2$ 的 点估计 分别为 ${\hat{\sigma }}_1^2=\frac{1}{m}{\sum }_{i=1}^m(X_i-{\mu }_1{)}^2,{\hat{\sigma }}_2^2=\frac{1}{n}{\sum }_{i=1}^n(Y_i-{\mu }_2{)}^2$, 可构造 枢轴量 为 $G=\frac{{\hat{\sigma }}_1^2/{\hat{\sigma }}_2^2}{{\sigma }_1^2/{\sigma }_2^2}\sim F(m,n)$, 根据 F 分布 的性质, 取分位数 $F_{1-\alpha /2}(m,n),F_{\alpha /2}(m,n)$, 则 $P\{F_{1-\alpha /2}(m,n)\le \frac{{\hat{\sigma }}_1^2/{\hat{\sigma }}_2^2}{{\sigma }_1^2/{\sigma }_2^2}\le F_{\alpha /2}(m,n)\}=1-\alpha$. 方差比 ${\sigma }_1^2/{\sigma }_2^2$ 的置信水平 $1-\alpha$ 置信区间为 $[\frac{{\hat{\sigma }}_1^2}{{\hat{\sigma }}_2^2}\frac{1}{F_{\alpha /2}(m,n)},\frac{{\hat{\sigma }}_1^2}{{\hat{\sigma }}_2^2}\frac{1}{F_{1-\alpha /2}(m,n)}]$.

指向原始笔记的链接