GloVe与Word2Vec的比较
1.输入和输出
GloVe（全球向量对于词代表）和Word2Vec在输入和输出上都有一定的区别。Word2Vec的输入有两种，如果是CBOW算法，输入的是中心词周围的单词。如果是Skipgram算法，输入的是一个单词。而GloVe的输入则是整个句子的ngram特征（onehot形式），比Word2Vec多考虑了subword的向量训练。
2.训练过程
Word2Vec的训练过程是通过浅而双层的神经网络，用来训练以重新建构语言学之词文本。网络以词表现，并且需猜测相邻位置的输入词，在word2vec中词袋模型假设下，词的顺序是不重要的。而GloVe的训练过程则是根据词在大量文本中的共现统计来构建词的向量表示。GloVe的想法是，在可比较的情况下出现的词在语义上是相关的，并且可以使用通过共现矩阵统计它们的共现来推断这些词之间的联系。
3.损失函数
Word2Vec的损失函数通常是交叉熵损失，而GloVe的损失函数则是基于共现矩阵统计的，其中的Xij表示i和j共同出现的次数，其loss为如下的公式：f(x)是一个权重函数，当Xij等于0的时候,f(x)=0，并且当Xij过大的时候,f(x)=1。
4.优缺点
Word2Vec的优点是训练速度快，能够处理大规模语料库，而且能够捕捉到词语的语义信息。但是，Word2Vec是局部语料库训练的，其特征提取是基于共现的信息，可能会忽略一些全局的信息。而GloVe的优点是利用了全局信息，使其在训练时收敛更快，训练周期较Word2Vec较短且效果更好。但是，GloVe的缺点是在处理长距离的类比问题时，效果不如Word2Vec。
5.应用场景
Word2Vec和GloVe都广泛应用于自然语言处理领域，如文本分类、情感分析、机器翻译等。在实际应用中，可以根据具体的需求和数据情况选择合适的模型。
