首页 > 试题广场 >

word2vec实施过程

wordvec利用神经网络将词映射成词向量。有两种模型skip-gram和CBOW,cbow利用单词的上下文预测单词,skip-gram利用单词预测上下文。首先需要对输入的文本生成一个词汇表,将每个词处理V维one-hot词向量。cbow模型输入是上下文的onehot向量,经过隐藏层变换后对上下文向量取平均后映射到输出。skip-gram利用单词预测上下文,输入是单词的onehot向量,经过隐藏层变换后
发表于 2019-07-19 13:49:41 回复(0)