EMbedding

  FNN模型:非端到端

输入 --> 特征onehot --->FM 模型--->输出每个特征权重及因子值  ----> 输入神经网络  ----> 输出每个预测值  

此为一个embdding模型。其中的 fm模型实现了embedding过程。他将大量的onehot之后的特征缩短为少量特征。然后输入另一个模型中。

  

NLP中的embedding:       https://www.cnblogs.com/bonelee/p/7904495.html

大量单词 ---> onehot --->word2wec ---> 词向量  --->  输入神经网络 --->输出预测值 

神经网络中embedding层作用——本质就是word2vec,数据降维,同时可以很方便计算同义词(各个word之间的距离),底层实现是2-gram(词频)+神经网络

原文地址:https://www.cnblogs.com/zhangbojiangfeng/p/9479515.html