Paste_Image.png

Generative Model 可以通过计算 P(x) 得到 x 出现的概率

Paste_Image.png

P(C1) 和 P(C2) 叫做 Prior，它们是比较好计算的

Paste_Image.png

Paste_Image.png

Paste_Image.png

Gaussian Distribution 可以想成它是一个 function，它的 input 就是一个 vector，它的 output 是一个 x 在 Distribution 中被 simple 出来几率

Paste_Image.png

把 Gaussian function 写出来，把 x 代入前面那个 function 就可以得出 x 被 simple 出来的几率

Paste_Image.png

那怎么把 µ 和 ∑ 找出来。用到的方法叫做 Maximum Likelihood，如果确定了 µ 和 ∑ 就可以计算出 x1 到 x79 的几率

Paste_Image.png

要找到 L(µ, ∑) 的最大值

Paste_Image.png

算出来的 P(C1|x) > 0.5 的话，它就属于 class 1

Paste_Image.png

Paste_Image.png

Sigmoid function z 的输入趋近无穷大的时候，输出趋近于 1，反之趋近于 0