点估计给出参数的单个样本函数,区间估计给出具有规定覆盖概率的随机区间。矩估计匹配矩,最大似然选择使已观测样本最可能的参数。
学完这一课,你应该能…
构造矩估计和最大似然估计
判断估计量无偏性、一致性与有效性
根据参数是否已知选择枢轴量并构造置信区间
从目录选择要读的部分,或点“下一节”依次学习。长内容可用“下一屏”继续读。
先建立直觉,再看细节
参数估计用已经看到的样本去推断生成数据的规律。点估计给一个代表数,区间估计再表达抽样误差。最大似然的基本问题是:在允许的参数中,哪一个让当前这批观测结果出现的可能性最大?
先把这些词说清楚
参数与样本结果
参数是总体规律中未知但固定的量,例如硬币正面的概率 p。样本是已观察到的结果;求估计时,先把样本固定,再比较不同参数对这些结果的解释程度。
独立事件的乘法
独立重复试验中,一串指定结果的联合概率等于各次概率相乘。例如先正再反的概率为 p(1−p);有几次正反,就出现相应次数的因子。
本课的核心概念
估计量与估计值
估计量是样本的函数,例如正面次数除以总次数;抽样前它会随样本变化。把一次样本代入后得到的具体数叫估计值。估计值不是总体参数已经被精确测定的证明。
似然与最大似然
似然 L(p) 把观察结果固定,视作参数 p 的函数。最大似然估计在合法参数范围内寻找 L 的最大点;它不表示参数本身具有概率分布。
置信区间的覆盖含义
95% 置信区间指:按同一方法反复抽样并构造区间,长期约 95% 的区间覆盖固定真参数。具体样本给出的区间已经固定,不能把频率学派结论直接改写为“参数随机落入这个区间的概率为 95%”。
从四次结果估计正面概率
独立投掷一枚正面概率为 p 的硬币,0≤p≤1,观察到正、正、反、正。求 p 的最大似然估计。
固定已观测结果,写出似然
这串指定顺序中有三次正面、一次反面,独立性给出 L(p)=p3(1−p)。若只记录总次数,会多一个与 p 无关的组合系数,但不改变最大点。
在内部用对数简化乘积
对 0<p<1,对数似然为 ℓ(p)=3lnp+ln(1−p)。对数严格递增,所以它与 L(p) 在内部有相同的最大点,求导更容易。
求出并确认内部最大点
ℓ′(p)=3/p−1/(1−p),令其为零得 3(1−p)=p,即 p=3/4。又 ℓ′′(p)=−3/p2−1/(1−p)2<0,说明内部严格凹,该点是内部最大点。
补查端点后给出估计
L(0)=L(1)=0,而 L(3/4)>0,因此端点不能更大。最终最大似然估计值为 p^=3/4,等于本次样本正面比例。
p^=3/4=0.75。
算完怎样检查
L(3/4)=27/256,大于 L(1/2)=1/16=16/256。这个比较支持最大值结论,但完整证明还依赖导数和端点检查;四次观测也不意味着真实 p 必然等于 0.75。
新手最容易卡住的地方
- 把样本比例当成真实参数已被确定。
样本比例是估计值,换一批样本会波动。若要表达不确定性,还要研究估计量分布或构造有适用条件的置信区间。
- 解出导数为零就结束,忽略参数端点。
最大值可能在边界。例如全为正面时,最大似然估计是 p=1,内部未必存在驻点;应在完整合法范围中比较。
换个条件,你会做吗?
若四次结果全是正面,最大似然估计是多少?
想好后,展开答案与解释
似然为 L(p)=p4,在 [0,1] 上单调增加,最大值在边界 p=1。这只是这批数据的最大似然估计,并不证明以后永远不会出现反面。
01直觉与对象
置信度描述重复抽样时区间覆盖真参数的比例,不是参数在某个已算区间内的后验概率。似然把样本固定、参数当作变量。
02解题主线
矩估计写总体矩等于样本矩并解参数;MLE 先写支持集和联合似然,取对数求驻点,同时检查参数边界。区间估计先找分布不含未知参数的枢轴量,再按分位点不等式反解。
03公式、条件与边界
矩估计:
mk′=n−1∑Xik=Eθ(Xk)适用条件:选取足够数量可识别参数的矩方程。
边界检查:方程可能有多个根,需限制参数空间。
最大似然:
L(θ)=i=1∏nf(Xi;θ)适用条件:样本独立且模型给定。
边界检查:参数相关支持集不能在取对数时丢失。
正态均值区间(总体标准差未知):
Xˉ±t1−α/2(n−1)S/n适用条件:正态总体、独立样本。
边界检查:小样本不能把 t 分位点直接替成 z。
04易错边界
似然函数不是参数的概率密度;MLE 可能出现在边界而非导数为零处;双侧置信区间尾概率分配需与分位点约定一致。
05本章掌握标准
- 构造矩估计和最大似然估计
- 判断估计量无偏性、一致性与有效性
- 根据参数是否已知选择枢轴量并构造置信区间
06660 原题:从条件到完整解法
660-479:先判断解题入口
对称均匀分布的一阶矩不含未知参数,不能用样本均值直接解参数。转用二阶原点矩,并分清矩估计、无偏样本方差和最大似然估计所用的信息。
- 设 X1,X2,⋯,Xn 是来自区间 [−a,a] 上均匀分布的总体 X 的简单随机样本,则参数 a 的矩估计量为 。
逐步推导与自检
以下解析依据原题独立推导。
总体的一阶原点矩为 E(X)=0,不含参数 a,因此利用二阶原点矩进行估计。
由均匀分布的密度可得
E(X2)=2a1∫−aax2dx=3a2.令总体二阶原点矩等于样本二阶原点矩,即
3a2=n1i=1∑nXi2.由于 a>0,取非负平方根,得到参数 a 的矩估计量
a=n3i=1∑nXi2.07660 同章训练与原件核对
先独立作答,再检查解析中的条件使用、关键推导和边界情况。本章 8 道题的题面与解析完整。
合上讲义,检验理解
先独立口述或在草稿纸上推导,再标记本次能做到的目标。
本次自测 0 / 3 项 · 离开本课后重置
来源与相邻课程
讲义来源与依据
- original:math1-lesson-notes-v1
- curriculum:kaoyan-math1
- math/【A4版】2026考研660习题册数一线代概率做题本.pdf
复习工作台