[200902] 全概率与贝叶斯公式

[200902] 全概率与贝叶斯公式

通过B站，巩固了全概率公式与贝叶斯公式：

首先是某个事件B的完备事件组{A1,A2,…,An}

可以用因果关系来理解。Ai是第i个“因”，B是“果”。 Ai --------> B 代表Ai发生后B发生的概率，即条件概率P(B|Ai) B ---------> Ai 代表B发生了，同时是由Ai发生导致的概率，即P(Ai|B)

全概率公式 先验概率范畴：由因及果。在Ai发生的条件下，所有Ai–>B的可能性，加在一起。 $$P(B)=\sum P(B|Ai)\ast P(Ai)$$

贝叶斯公式 后验概率范畴：执果寻因。在B发生后，推测由Ai导致的可能性。 $$P(Ai|B)=\frac{P(B|Ai)\ast P(Ai)}{\sum P(B|Ai)\ast P(Ai)}$$

贝叶斯公式可以用条件概率来理解与加强记忆： $$P(Ai|B)=\frac{P(Ai\ast B)}{P(B)}$$

Ai和B同时发生，P(Ai*B) = P(B|Ai)P(Ai) 事件B发生的概率，用全概率公式： $$P(B)=\sum P(B|Ai)\ast P(Ai)$$ 因此，将P(AiB)和P(B)代入条件概率公式，就得到贝叶斯公式。

延伸：一个简单的问题，为什么P(B|Ai)不等于P(Ai|B)? 虽然为了便于理解，在结构上他们是同一个路径，就像P(B|Ai)是正着走，P(Ai|B)是逆着走。 但是实际上，这是两条路。 一个是从Ai的事件空间里到B，另一个是从B的事件空间里到Ai。 从条件概率的公式出发，P(Ai)与P(B)是不一样的。 从空间的角度出发，Ai与B的事件空间大小是不同的。