极大似然估计是概率论中一个很常用的估计方法，在机器学习中的逻辑回归中就是基于它计算的损失函数，因此还是很有必要复习一下它的相关概念的。
背景
先来看看几个小例子：
- 猎人师傅和徒弟一同去打猎，遇到一只兔子，师傅和徒弟同时放枪，兔子被击中一枪，那么是师傅打中的，还是徒弟打中的？
- 一个袋子中总共有黑白两种颜色100个球，其中一种颜色90个，随机取出一个球，发现是黑球。那么是黑色球90个？还是白色球90个？
看着两个小故事，不知道有没有发现什么规律...由于师傅的枪法一般都高于徒弟，因此我们猜测兔子是被师傅打中的。随机抽取一个球，是黑色的，说明黑色抽中的概率最大，因此猜测90个的是黑色球。
他们有一个共同点，就是我们的猜测（估计），都是基于一个理论：概率最大的事件，最可能发生
其实我们生活中无时无刻不在使用这种方法，只是不知道它在数学中是如何确定或者推导的。而在数理统计中，它有一个专业的名词：
极大似然估计（maximum likelihood estimation, MLE），通俗的说就是 —— 最像估计法（最可能估计法）
数学过程
极大似然原理与数学表示
即，一次试验就发生的事件，这个事件本身发生概率最大
PS
举个例子，我们在学校衡量学习成绩的标准就是考试成绩，高考更是一考定终身的感觉。高考成绩的好坏，则可以当做一个学生能力的体现，虽然有的人考试紧张考砸了，有的人超常发挥了，但是从概率上来说，高考的成绩基本可以判断这个人的（学习）能力。基于极大似然的解释就是，我们高考的成绩很大程度上反应了平时的学习能力，因此考得好的（当前发生的事件），可以认为是学习好的（所有事件发生概率最大的）。
PS
极大似然估计法
如果总体X为离散型
解法
参考
- 深入浅出最大似然估计（Maximum Likelihood Estimation）
- 极大似然估计的原理和方法——强烈推荐，PPT其实讲的已经很清楚了
- 极大似然估计详解
