首页 > 试题广场 >

一个有偏的硬币,抛了100次,出现1次人头,99次字。请用最

[问答题]
一个有偏的硬币,抛了100次,出现1次人头,99次字。请用最大似然估计(ML)和最小均方误差(LSE)估计出现人头的概率

LSE的话,应该是 arg min [ (1-theta)**2 + 99*(0-theta)**2]
得theta = 1/100
MLE的话不用算,频率就是MLE的结果,即1/100。 算的话也很容易
发表于 2019-08-13 15:28:38 回复(0)
#include <iostream>
#include <algorithm>
using namespace std;

double MaxLikelihood(const int &x)
{
double p;//人头概率
double L,ML,F;//似然、概率函数
L=p^x*(1-p)^(100-x);
ML=(1-p)^(99-x)*p^(x-1)*(x*(1-p)-p);
return p=x/(x+1);
}

int main()
{
double p;//人头概率
int x=1;//结果
p=MaxLikelihood(&x);//最大似然估计
cout<<p<<endl;
return 0;
}

发表于 2019-06-15 10:11:38 回复(0)
发表于 2019-04-09 16:39:09 回复(0)
 
发表于 2019-02-24 20:47:09 回复(0)
LSE
设使用LSE估计,出现人头的概率为θθ, 则出现字的概率为1−θ1−θ。 
已知观测量为:(观测到的)出现人头的概率为11001100, (观测到的)出现字的概率为9910099100,则由最小二乘估计: 
Q(θ)=argminθ∑1001(θ−θ^)2 =argminθ(1100−θ)2+[99100−(1−θ)]2∗99Q(θ)=argminθ∑1100(θ−θ^)2 =argminθ(1100−θ)2+[99100−(1−θ)]2∗99 
令∂Q(θ)∂θ=0∂Q(θ)∂θ=0,解得θ=1100θ=1100;

ML
设使用ML估计,所以x服从伯努利分布,x∼B(朝上,θ)x∼B(朝上,θ), 
则概率密度函数为: 
P(x|θ)={θ,1−θ,if x 人头朝上if x 字朝上
P(x|θ)={θ,if x 人头朝上1−θ,if x 字朝上

则连续100次试验的似然函数为: 
P(x1,x2,..x100|θ)=C1100θ1∗(1−θ)99=100∗θ1∗(1−θ)99P(x1,x2,..x100|θ)=C1001θ1∗(1−θ)99=100∗θ1∗(1−θ)99 
最大化似然函数,则θθ至少为驻点,对似然函数取对数并求偏导: 
lnP(x1,x2,..x100|θ)=ln100+lnθ+99ln(1−θ)ln⁡P(x1,x2,..x100|θ)=ln⁡100+ln⁡θ+99ln⁡(1−θ) 
对θθ求偏导为0,得到: 
∂lnP(x1,x2,..x100|θ)∂θ=1θ−991−θ=0∂ln⁡P(x1,x2,..x100|θ)∂θ=1θ−991−θ=0, 解得θ=1100.θ=1100.
两者虽然得到的估计值是一样的,但是原理完全不同,要对他们的推导过程非常清楚。
--------------------- 
作者:江湖小妞 
来源:CSDN 
原文:https://blog.csdn.net/u010161630/article/details/52012756 
版权声明:本文为博主原创文章,转载请附上博文链接!
发表于 2019-02-18 13:47:11 回复(0)
好题
发表于 2018-12-10 10:43:27 回复(0)
ML>LSE
发表于 2018-11-28 07:58:07 回复(0)