似然函数是个什么函数,它的意义是什么?它与概率相比,有什么不同吗?
1
似然函数
似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。
给定输出 x 时,关于参数 θ 的似然函数 L(θ|x),在数值上它等于给定参数 θ 后变量 X 的概率:
这个是非常重要的!
举个例子,我们抛掷一枚硬币,这枚硬币不是理论上的一半一半的出现概率,而是动了手脚的,出现正面的概率是0.2,现在我们预测一下抛掷10次,出现正面的次数是多少,如果用 X 表示出现正面的次数,那么
P(X) = 0.2
E(X) = 0.2 * 10 = 2 次
现在我们抛掷10枚这个硬币,结果显示,有2次出现正面,现在预测下这枚硬币出现正面的概率到底有多大呢?这就是一个似然问题,求解模型本身的一些属性。求解它需要假定误差分布满足高斯分布,然后求出似然函数,因为既然已经发生了,就直接求概率发生的最大值吧,既然求最值,自然就能求出出现正面的概率参数来了。
2
似然与概率
概率与似然的不同
概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果。
而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计:似然是在知道输出结果(比如,对应1万个样本结果),求事物的性质的参数,如线性回归的中的权重参数。