7.4.2 elasticsearch(IK分词器，Kibana)---CentOS7.5上安装与配置

官网： https://www.elastic.co/cn/

中文社区： https://elasticsearch.cn/ （可下载任意版本）

目前官网最新是7.5.0，我这里使用的次新版 7.4.2版本， Linux

默认它不允许使用 root用户，我们这里使用的是yangw这个用户.

安装elasticsearch之前，请确保已安装了JDK8

tar -zxvf elasticsearch-7.4.2-linux-x86_64.tar.gz #解压缩

mv elasticsearch-7.4.2 elasticsearch

cd elasticsearch/

mkdir data

cd config/

vim jvm.options 我的虚拟机内存只设置了1G，故改一下虚拟机大小参数，见图

vim elasticsearch.yml （path指定的路径若不存在则自行创建）; 网络改成0.0.0.0表示任意IP都能连

cd ../bin

./elasticsearch

它的启动会比较慢，需要耐心等待...

启动报如下5个错.

[1]: initial heap size [268435456] not equal to maximum heap size [536870912]; this can cause resize pauses and prevents mlockall from locking the entire heap

解决办法: 重新修改elasticsearch的 jvm.options, 将内存都改成512m即可解决；

[2]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65535]

解决办法：

ulimit -Hn 查看硬限制结果是4096

切换到root用户

vim /etc/security/limits.conf

在文件最后追加内容: （其中yangw表示对yangw这个用户做的修改. 也可以用 * 表示所有用户）

yangw soft nofile 65536
yangw hard nofile 65536

一般要使用 exit命令退出当前终端，再重新登录启动即可生效；

[3]: max number of threads [3764] for user [yangw] is too low, increase to at least [4096]

解决办法：

切换到root用户

vim /etc/security/limits.conf

在文件最后追加内容

yangw soft nproc 4096
yangw hard nproc 4096

一般要使用 exit命令退出当前终端，再重新登录启动即可生效；

[4]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

解决办法：

切换到root用户，编辑文件 vim /etc/sysctl.conf 在末尾追加内容:

vm.max_map_count=262144

并执行命令 sysctl -p

[5]: the default discovery settings are unsuitable for production use; at least one of [discovery.seed_hosts, discovery.seed_providers, cluster.initial_master_nodes] must be configured

解决办法：

后台运行

若要在关闭终端的时候，让Elasticsearch继续保持运行。最简单的方法就是使用 nohup。先按Ctrl + C，停止当前运行的Elasticsearch，改用下面的命令运行Elasticsearch

nohup ./bin/elasticsearch&


成功启动后的日志截图：

9300端口： ES节点之间通讯使用

9200端口： ES节点和外部通讯使用

9300是TCP协议端口号，ES集群之间通讯端口号

9200端口号，暴露ES RESTful接口端口号

　　浏览器访问：

IK分词器 可以到github上下载:(选择与elasticsearch一样的版本 7.4.2 )

https://github.com/medcl/elasticsearch-analysis-ik/tree/master

https://github.com/medcl/elasticsearch-analysis-ik/releases （选择任意版本）

Analyzer: ik_smart , ik_max_word , Tokenizer: ik_smart , ik_max_word

安装步骤:

将elasticsearch-analysis-ik-7.4.2.zip上传到elasticsearch安装目录的plugins目录

unzip elasticsearch-analysis-ik-7.4.2.zip -d analysis-ik

rm -rf elasticsearch-analysis-ik-7.4.2.zip

重新启动 elasticsearch

官方提供大量的Rest风格API： https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html

官方提供各语言的客户端API：https://www.elastic.co/guide/en/elasticsearch/client/index.html

Java Low Level REST Client 是低级别的封装，提供一些基础功能，但更灵活；

Java High Level REST Client是高级别的封装，功能更丰富和完善，而且API会变得简单；

客户端这块，我们主要是学习 Spring Data Elasticsearch 客户端API

Kibana是一个基于Node.js的Elasticsearch索引库数据统计工具，可以利用Elasticsearch的聚合功能，生成各种图表，如柱形图，线状图，饼图等。

而且还提供了操作Elasticsearch索引数据的控制台，并且提供了一定的API提示。

一句话，它就是可视化窗口工具.

它是基于Nodejs的，故要现在Linux服务器上安装Nodejs环境

nodejs安装步骤：

上传 node-v10.16.3-linux-x64.tar.gz 包到服务器，

tar -zxvf node-v10.16.3-linux-x64.tar.gz

mv node-v10.16.3-linux-x64 node_10.16.3

cd ~

vim .bashrc

添加环境变量内容：

source .bashrc

查看版本node -v 出现版本号就表示OK.

kibana安装步骤

tar -zxvf kibana-7.4.2-linux-x86_64.tar.gz

cd kibana-7.4.2-linux-x86_64

cd config

vim kibana.yml

修改如下内容：

cd ../bin

./kibana

启动时间稍微长一点，请耐心等待.

若启动报如下类型的错误

Status changed from yellow to red - [data] Elasticsearch cluster did not respond with license information.

请修改elasticsearch的配置文件，vim elasticsearch.yml

再次启动，就正常了，正常日志如下：

浏览器访问：

kibana的控制台，可以对http请求进行简化.

创建索引：

请求方式：PUT
请求路径：/索引库名

请求参数：json格式：


{
    "settings": {
        "number_of_shards": 3,
        "number_of_replicas": 2
      }
}

settings：索引库的设置
- number_of_shards：分片数量
- number_of_replicas：副本数量

查看索引 GET /索引库名

删除索引 DELETE /索引库名

当然，我们也可以用HEAD请求，查看索引是否存在

2.5.1.创建映射字段

https://www.elastic.co/guide/en/elasticsearch/reference/7.4/mapping.html

属性字段的一些设置

type：类型，可以是text、long、short、date、integer、object等
index：是否索引，默认为true
store：是否存储，默认为false
analyzer：分词器，这里的ik_max_word即使用ik分词器

数据类型： https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-types.html

我们说几个关键的：

String类型，又分两种：
- text：可分词，不可参与聚合
- keyword：不可分词，数据会作为完整字段进行匹配，可以参与聚合
Numerical：数值类型，分两类
- 基本数据类型：long、interger、short、byte、double、float、half_float
- 浮点数的高精度类型：scaled_float
  - 需要指定一个精度因子，比如10或100。elasticsearch会把真实值乘以这个因子后存储，取出时再还原。
Date：日期类型

elasticsearch可以对日期格式化为字符串存储，但是建议我们存储为毫秒值，存储为long，节省空间。

2.5.3.2.index

index影响字段的索引情况。

true：字段会被索引，则可以用来进行搜索。默认值就是true
false：字段不会被索引，不能用来搜索

index的默认值就是true，也就是说你不进行任何配置，所有字段都会被索引。

但是有些字段是我们不希望被索引的，比如商品的图片信息，就需要手动设置index为false。

2.5.3.3.store

是否将数据进行额外存储。

在学习lucene和solr时，我们知道如果一个字段的store设置为false，那么在文档列表中就不会有这个字段的值，用户的搜索结果中不会显示出来。

但是在Elasticsearch中，即便store设置为false，也可以搜索到结果。

原因是Elasticsearch在创建文档索引时，会将文档中的原始数据备份，保存到一个叫做_source的属性中。而且我们可以通过过滤_source来选择哪些要显示，哪些不显示。

而如果设置store为true，就会在_source以外额外存储一份数据，多余，因此一般我们都会将store设置为false，事实上，store的默认值就是false。

创建映射 PUT /索引库名/_mapping (这个是elastic7.x的语法)

查看映射 GET /索引库名/_mapping

查看映射(某个具体的字段) GET /索引库名/_mapping/field/字段名

Elasticsearch 7.x

不建议在请求中指定类型。新索引API使用 PUT {index}/_doc/{id}于显式ID 和 POST {index}/_doc 自动生成的ID。请注意，在7.0中，它_doc是路径的永久部分，代表端点名称而不是文档类型。

事实上Elasticsearch非常智能，你不需要给索引库设置任何mapping映射，它也可以根据你输入的数据来判断类型，动态添加数据映射。

更新数据 POST /索引库名/_update/{id}

删除数据 DELETE /索引库名/_doc/{id}

https://www.elastic.co/guide/en/elasticsearch/reference/7.4/query-dsl-match-query.html

https://www.elastic.co/guide/en/elasticsearch/reference/7.4/full-text-queries.html

查询数据语法：

GET /索引库名/_search
{    "query":{        "查询类型":{            "查询条件":"查询条件值"        }    }}
 

这里的query代表一个查询对象，里面可以有不同的查询属性

查询类型：
- 例如：match_all， match，term ， range 等等
查询条件：查询条件会根据类型的不同，写法也有差异。

查询所有（match_all)

took：查询花费时间，单位是毫秒
time_out：是否超时
_shards：分片信息
hits：搜索结果总览对象
- total：搜索到的总条数
- max_score：所有结果中文档得分的最高分
- hits：搜索结果的文档对象数组，每个元素是一条搜索到的文档信息
  - _index：索引库
  - _type：文档类型
  - _id：文档id
  - _score：文档得分
  - _source：文档的源数据

匹配查询（match）

默认是or的关系，如果要再精确匹配的话，可以使用 "operator":"and"

`match` 查询支持 minimum_should_match 最小匹配参数，这让我们可以指定必须匹配的词项数用来表示一个文档是否相关。我们可以将其设置为某个具体数字，更常用的做法是将其设置为一个百分数，因为我们无法控制用户搜索时输入的单词数量：

多字段查询（multi_match）

词条匹配(term)

https://www.elastic.co/guide/en/elasticsearch/reference/7.4/query-dsl-term-query.html

term 查询被用于精确值匹配，这些精确值可能是数字、时间、布尔或者那些未分词的字符串

https://www.elastic.co/guide/en/elasticsearch/reference/7.4/query-dsl-terms-query.html

结果过滤

默认情况下，elasticsearch在搜索的结果中，会把文档中保存在 _source 的所有字段都返回。

1. 如果我们只想获取其中的部分字段，我们可以添加_source的过滤；

2. 也可以在_source中使用includes excutes来设置包含和排除那些字段；

高级查询

布尔组合（bool)

bool把各种其它查询通过must（与）、must_not（非）、should（或）的方式进行组合

范围查询(range)

range 查询找出那些落在指定区间内的数字或者时间

gt 大于 gte 大于等于 lt小于 lte 小于等于

模糊查询(fuzzy)

fuzzy 查询是 term 查询的模糊等价。它允许用户搜索词条与实际词条的拼写出现偏差，但是偏差的编辑距离不得超过2：

我们可以通过fuzziness来指定允许的编辑距离：

条件查询中进行过滤

所有的查询都会影响到文档的评分及排名。如果我们需要在查询结果中进行过滤，并且不希望过滤条件影响评分，那么就不要把过滤条件作为查询条件来用。而是使用filter方式；

一般都是在bool查询中使用filter

无查询条件，直接过滤

如果一次查询只有过滤，没有查询条件，不希望进行评分，我们可以使用constant_score取代只有 filter 语句的 bool 查询。在性能上是完全相同的，但对于提高查询简洁性和清晰度有很大帮助。

排序

单字段排序

sort 可以让我们按照不同的字段进行排序，并且通过order指定排序的方式

聚合aggregations

聚合可以让我们极其方便的实现对数据的统计、分析。例如：

什么品牌的手机最受欢迎？
这些手机的平均价格、最高价格、最低价格？
这些手机每月的销售情况如何？

实现这些统计功能的比数据库的sql要方便的多，而且查询速度非常快，可以实现实时搜索效果。

基本概念

Elasticsearch中的聚合，包含多种类型，最常用的两种，一个叫桶，一个叫度量：

**桶（bucket）**

桶的作用，是按照某种方式对数据进行分组，每一组数据在ES中称为一个`桶`

Elasticsearch中提供的划分桶的方式有很多：

Date Histogram Aggregation：根据日期阶梯分组，例如给定阶梯为周，会自动每周分为一组
Histogram Aggregation：根据数值阶梯分组，与日期类似
Terms Aggregation：根据词条内容分组，词条内容完全匹配的为一组
Range Aggregation：数值和日期的范围分组，指定开始和结束，然后按段分组
……

bucket aggregations 只负责对数据进行分组，并不进行计算，因此往往bucket中往往会嵌套另一种聚合：metrics aggregations即度量

度量（metrics）

分组完成以后，我们一般会对组中的数据进行聚合运算，例如求平均值、最大、最小、求和等，这些在ES中称为度量

比较常用的一些度量聚合方式：

Avg Aggregation：求平均值
Max Aggregation：求最大值
Min Aggregation：求最小值
Percentiles Aggregation：求百分比
Stats Aggregation：同时返回avg、max、min、sum、count等
Sum Aggregation：求和
Top hits Aggregation：求前几
Value Count Aggregation：求总数
……

注意：在ES中，需要进行聚合、排序、过滤的字段其处理方式比较特殊，因此不能被分词。这里我们将color和make这两个文字类型的字段设置为keyword类型，这个类型不会被分词，将来就可以参与聚合


例子: 常见索引库，定义字段，批量插入数据
批量插入用 _bulk

size：查询条数，这里设置为0，因为我们不关心搜索到的数据，只关心聚合结果，提高效率
aggs：声明这是一个聚合查询，是aggregations的缩写
- popular_colors：给这次聚合起一个名字，任意。
  - terms：划分桶的方式，这里是根据词条划分
    - field：划分桶的字段