solr索引创建流程

solr索引创建流程:

  分词组件Tokenizer

    分词组件(Tokenizer)会做以下几件事情(这个过程称为:Tokenize),处理得到的结果是词汇单元(Token)。

      1、将文档分成一个一个单独的单词。

      2、去除标点符号。

      3、去除停词(stop word)。

  语言处理组件

    语言处理组件(linguistic processor)主要是对得到的词元(Token)做一些语言相关的处理。对于英语,语言处理组件(Linguistic Processor)一般做以下几点:  

      1、变为小写(Lowercase)

      2、将单词缩减为词根形式

      3、将单词转换为词根形式

 

 

 

  索引组件(Indexer)

    1、利用得到的词(Term)创建一个字典

    2、对字段进行排序

    3、合并相同的词和词出现的文档

 

 

原文地址:https://www.cnblogs.com/zlslch/p/6747871.html