Generative Model
可以通过计算 P(x) 得到 x 出现的概率
P(C1) 和 P(C2) 叫做 Prior
,它们是比较好计算的
Gaussian Distribution
可以想成它是一个 function,它的 input
就是一个 vector,它的 output 是一个 x 在 Distribution 中被 simple 出来几率
把 Gaussian function 写出来,把 x 代入前面那个 function 就可以得出 x 被 simple 出来的几率
那怎么把 µ 和 ∑ 找出来。用到的方法叫做 Maximum Likelihood
,如果确定了 µ 和 ∑ 就可以计算出 x1 到 x79 的几率
要找到 L(µ, ∑) 的最大值
算出来的 P(C1|x) > 0.5 的话,它就属于 class 1
Sigmoid function
z 的输入趋近无穷大的时候,输出趋近于 1,反之趋近于 0