0x00 贝叶斯定理
条件概率
$ P(A|B) = \frac{P(AB)}{ P(B)}$ 表示的是事件B已经发生的情况下事件A发生的概率,进而可以推出
贝叶斯定理
$ P(B|A) = \frac{P(A|B)P(B)}{P(A)} $
先验概率
$P(B)$
0x01 朴素贝叶斯分类
朴素贝叶斯思想基础:对于给出的待分类项,求解在此项出现的条件下各个类别出现的概率,哪个最大,就认为此待分类项属于哪个类别。
正式定义:
所以由上述步骤理论,在各个特征属性独立的前提下,根据贝叶斯定理可以得到
$$
P(y_i|x) = \frac{P(x|y_i)P(y_i)}{P(x)}
$$
因为分母为一个常数,所以只需要$P(x|y_i)P(y_i) $最大化即可,同时因为各个属性是条件独立,所以有:
$$
P(x|y_i)P(y_i) = P(a_1|y_i)P(y_i)…P(a_m|y_i)P(y_i) = P(yi)\prod{j=1}^nP(a_j|y_i)
$$
- 本文作者: Noisy
- 本文链接: http://Metatronxl.github.io/2018/09/15/机器学习笔记(1):贝叶斯分类器/
- 版权声明: 本博客所有文章除特别声明外,均采用 Apache License 2.0 许可协议。转载请注明出处!