02-NLP-04基于统计的翻译系统-03-短语翻译表构造——短语抽取

统计翻译模型核心就是基于短语的翻译(短语与短语的对应)。

上一讲中词到词的对应就是为了短语对应做铺垫。

一致性短语需要满足三个条件:

条件1:如果“北京 房价”对应的英文短语中包含“北京”、“房价”分别对应的英文单词(原因是在词对齐的时候,可以发现有很多轮空的.)

条件2:

以目标语言为基础,不同目标长度做标准:滑动窗口的大小先从1开始到2,3........

先以目标长度(英文拆分成一个个单词)为1开始遍历:housing对应房价,但是房价对应housing prices。此时,发现prices不在目标英文中,将prices标记上蓝色表示异常。

                         “prices”对应的是房价,房价对应的是“housing prices”,此时“housing“”又不在目标英文中,将”housing”标记为蓝色表示异常。

接着以目标长度为2进行遍历,“beijing housing”对应的是“北京 房价”,再找“北京 房价”对应的却是“beijing housing prices”,将异常点prices标记为蓝色

              “housing prices”成功双向对应“房价”,没有异常点

              “prices continued”对应“房价 持续”,而“房价 持续”对应的是“housing prices continued”,将异常点housing标记为蓝色

以此类推。窗口加大一个单词的条件,窗口遍历到了最后一个单词。

遍历结束的条件:窗口大小达到了句子的长度。

在此过程中,利用上一讲的翻译表从词对词来生成短语到短语。因此本操作最后得到的是候选短语。

原文地址:https://www.cnblogs.com/Josie-chen/p/9138258.html