GloVe 与 Word2Vec 进行对比:
Word2Vec 有神经网络,GloVe 没有;Word2Vec 关注了局部信息,GloVe 关注局部信息和全局信息;都有滑动窗口但 Word2Vec 是用来训练的,GloVe 是用来统计共现矩阵的;GloVe 的结构比 Word2Vec 还要简单,所以速度更快;
再试着将 GLoVe 与 SVD 进行对比:
SVD 所有单词统计权重一致,GloVe 对此进行了优化;GloVe 使用比值而没有直接使用共现矩阵。
当然 GloVe 看着那么好,其实并不一定,在很多任务中都没 Word2Vec 的效果好。
毕竟没有最好的模型,只有最适合的模型。