参考资料
- https://www.pinecone.io/learn/product-quantization/
- http://www.fabwrite.com/productquantization
- http://kaiminghe.com/cvpr13/cvpr13opq_ppt.pdf
个人心得
Product Quantization的本质是将原始高维空间分解为有限数量的低维子空间,然后分别量化。具体可以参考资料1和2
PQ的动机来源
如上图红框所示,可以类比成:两个小组,组员之间的差异,可以用两个小组组长之间的差异来近似
Optimized PQ 试图寻找一个旋转矩阵,该旋转矩阵是正交矩阵,只旋转角度,不改变长度,将原始矩阵旋转后再进行PQ量化,以使量化后的向量重建后,其误差最小。旋转矩阵是通过EM方法,可以通过主成分分析(PCA)来理解。动机见下图