概统 第七章 参数估计与假设检验

第七章 参数估计与假设检验

参数估计

参数的点估计

估计量、估计值与点估计

设总体 分布形式已知,但含有 未知参数 ; 或者总体的某 数字特征 ( 例如数学期望或方差 ) 存在但 未知,从总体 中抽取样本 ,相应的样本值为 . 借助于样本给出未知参数一个 具体数值 的参数估计问题就是点估计问题. 要解决点估计问题,就是要构造一个适当的统计量 ( 不含任何未知参数的样本函数称为统计量 ) ,用它来估计未知参数 ,用它的观测值 作为未知参数 的近似值. 我们称 估计量估计值.

⪡ 注 ⪢

估计量实际上是个随机变量,而对于不同的样本观测值, 的估计值往往是不同的.

求点估计的两种常用方法

矩估计法

设总体 为连续型随机变量,其概率密度为 ,或总体 为离散型随机变量,其概率分布为 ,其中 待估参数. 设 是来自总体 的简单随机样本. 矩估计法一般按以下步骤进行:

第一步,计算总体的前阶原点矩:

其中 ,一般来说, 的函数,记作 .

** $**,令样本矩 总体矩,即

这是一个包含 个未知参数 个联立方程组 ( 称为矩法方程 ).

第三步,解方程组,得到 的矩估计为

其中 称为 矩估计量 称为 矩估计值.

⪡ 注 ⪢

求未知参数 的矩估计量,必须要求总体矩存在,并且还必须能计算出来 ( 此时问题归结为级数求和 ( 对离散型 ) 或计算定积分 ( 对连续型 ),并通过解矩法方程求得 的矩估计量,因此求矩估计量的关键是,写出矩法方程并求解.

最大似然估计法

设总体 是连续型随机变量,其概率密度 的形式已知, 为待估参数, 可能取值的范围,设 是来自总体 的样本,则 的联合概率密度为 . 设 是相应于样本 的样本值,则 的函数

称为样本的 似然函数.

⪡ 注 ⪢

这里 是已知的样本值,它们都是常数.

若有

则称 最大似然估计值,称 最大似然估计量.

当总体 是离散型时,用分布律 代替上面的概率密度 即可.

求最大似然估计量的一般步骤:

第一步,写出样本的似然函数

第二步,求出使 达到最大值的

  1. 如果 关于 可微,则 可以从方程 中解得. 如果总体 的分布含有 个未知参数 关于 可以由似然方程组 解得,从而得到 的最大似然估计量 .

  2. 如果 关于 不可微,或 似然方程无解,则应利用似然函数的 单调性 找到 极值点.

⪡ 注 ⪢

  1. 求总体分布中未知参数 的最大似然估计量必须知道总体的概率分布或密度. 写出样本的似然函数 ( 或对数似然函数 ),并求其最大值点是解题的关键.
  2. 从似然方程解出来的极值可疑点 ( 可能取到极值的点 ),虽然一般是极值点,但是还应该由解的实际意义决定取舍. 例如解出正负两个极值点,有时因为此参数只能是正数等原因 ( 像方差、均方差及泊松分布的参数 等 ),就必须舍去负的.
最大似然估计的性质

参数的区间估计

// unfinished