贝叶斯条件概率
一、TL;DL
条件概率的公式：P(AB)=P(A)P(B|A)=P(B)P(A|B)；即事件A和事件B同时发生的概率等于在发生A的条件下B发生的概率乘以A的概率。
贝叶斯公式：由条件概率公式推导出 P(B|A)=P(A|B)P(B)/P(A)
全概率公式：假设B是由相互独立的事件组成的概率空间{B1,b2，...bn}，P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn)
两个事件的独立性：意味着P(A|B)=P(A)；P(AB)=P(A|B)P(B)=P(A)P(B)
结合全概率公式后，贝叶斯公式：
常常把P(Bi|A)称作后验概率（Posterior），而P(A|Bn)P(Bn)为先验概率（Prior）。而P(Bi)又叫做基础概率。
多元贝叶斯：P(A|B,C) = P(A,B,C)/P(B,C)= P(C|A,B)*P(A,B)/P(B,C) = P(C|A,B)*P(B|A)*P(A)/P(C|B)*P(B)
二、贝叶斯法则
在贝叶斯法则中，每个名词都有约定俗成的名称：
Pr(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。
Pr(A|B)是已知B发生后A的条件概率，也由于得自B的取值而被称作A的后验概率。
Pr(B|A)是已知A发生后B的条件概率，也由于得自A的取值而被称作B的后验概率。
Pr(B)是B的先验概率或边缘概率，也作标准化常量（normalized constant）。
按这些术语，Bayes法则可表述为：
后验概率 = (似然度 * 先验概率)/标准化常量 也就是说，后验概率与先验概率和似然度的乘积成正比。
另外，比例Pr(B|A)/Pr(B)也有时被称作标准似然度（standardised likelihood），Bayes法则可表述为：
后验概率 = 标准似然度 * 先验概率
直观理解贝叶斯原理：
 |  |  |
三、全概率公式
B_i之间两两互斥且在每次试验中至少发生其中一个（互相独立），计算A可以使用全概率公式，从对B的条件概率入手
P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn)
四、贝叶斯应用
数学领域 | ▪ 贝叶斯分类算法 (应用:统计分析、测绘学) ▪ 贝叶斯公式 (应用:概率空间) ▪ 贝叶斯区间估计 (应用:数学中的区间估计) ▪ 贝叶斯序贯决策函数 (应用:统计决策论) | ▪ 贝叶斯风险 (应用:统计决策论) ▪ 贝叶斯估计 (应用:参数估计) ▪ 贝叶斯统计 (应用:统计决策论) ▪ 经验贝叶斯方法 (应用:统计决策论) |
工程领域 | ▪ 贝叶斯定理 (应用:人工智能、心理学、遗传学) ▪ 贝叶斯分析 (应用:计算机科学) ▪ 贝叶斯逻辑 (应用:人工智能) ▪ 贝叶斯网络 (应用:人工智能) | ▪ 贝叶斯分类器 (应用:模式识别、人工智能) ▪ 贝叶斯决策 (应用:人工智能) ▪ 贝叶斯推理 (应用:数量地理学、人工智能) ▪ 贝叶斯学习 (应用:模式识别) |
其他领域 | ▪ 贝叶斯主义 (应用:自然辩证法) | ▪ 有信息的贝叶斯决策方法 (应用:生态系统生态学) |