Elasticsearch 索引库与文档操作

发布于:2023-02-14 ⋅ 阅读:(551) ⋅ 点赞:(0)

Elasticsearch 中的一些概念

elasticsearch中有很多独有的概念,与mysql中略有差别,但也有相似之处。

我们要先学习Elasticsearch 区别于mysql中的知识才能去进行操作:

文档和字段

elasticsearch是面向**文档(Document)**存储的,可以是数据库中的一条商品数据,一个订单信息。文档数据会被序列化为json格式后存储在elasticsearch中:

例如下面的例子,左侧的每一条数据存储到elasticsearch,都是一个文档

image-20210720202707797

而Json文档中往往包含很多的字段(Field),类似于数据库中的列。

例如上图中每一个文档的字段,”id“、”title“都是数据库中的列

索引和映射

索引(Index),就是相同类型的文档的集合。

也就是索引里面的每个文档的字段都是相同类型的

例如下面的例子:

  • 所有用户文档,就可以组织在一起,称为用户的索引;
  • 所有商品的文档,可以组织在一起,称为商品的索引;
  • 所有订单的文档,可以组织在一起,称为订单的索引;

image-20210720203022172

因此,我们可以把索引当做是数据库中的表。

数据库的表会有约束信息,用来定义表的结构、字段的名称、类型等信息。

因此,索引库中就有映射(mapping),是索引中文档的字段约束信息,类似表的结构约束。

mysql与elasticsearch的联系

我们统一的把mysql与elasticsearch的概念做一下对比:

MySQL Elasticsearch 说明
Table Index 索引(index),就是文档的集合,类似数据库的表(table)
Row Document 文档(Document),就是一条条的数据,类似数据库中的行(Row),文档都是JSON格式
Column Field 字段(Field),就是JSON文档中的字段,类似数据库中的列(Column)
Schema Mapping Mapping(映射)是索引中文档的约束,例如字段类型约束。类似数据库的表结构(Schema)
SQL DSL DSL是elasticsearch提供的JSON风格的请求语句,用来操作elasticsearch,实现CRUD

那么两者这不是很相像吗?我们学了MySQL为什么还要学Elasticsearch?

虽然两者在很多地方相似,但是两者各自有自己的擅长支出:

  • Mysql:擅长事务类型操作,可以确保数据的安全和一致性

  • Elasticsearch:擅长海量数据搜索、分析、计算

因此在企业中,往往是两者结合使用:

  • 对安全性要求较高的写操作,使用mysql实现
  • 对查询性能要求较高的搜索需求,使用elasticsearch实现
  • 两者再基于某种方式,实现数据的同步,保证一致性

例如下面实现Mysql与Elasticsearch结合使用的流程图:

应用前端向后端发送数据的CRUD请求,当进行事务类型操作的时,服务器与MySQL服务器进行数据持久化交互,保证数据操作的安全性,统一后端数据;当进行数据搜索与分析操作时,单纯的MySQL服务已经不能支撑完备的海量数据分析的操作,此时服务器往往是与Elasticsearch服务进行数据搜索、分析交互,得到最后数据计算的结果。

image-20210720203534945

索引库操作

Elasticsearch 索引库就类似数据库表,mapping映射就类似表的结构。

我们要向es中存储数据,必须先创建“库”和“表”。

类似于mysql的创建库和表,如下图所示为MySQL的库表
image-20220725105956503

1.mapping映射属性

mapping是对索引库中文档的约束,常见的mapping属性包括:

  • type:字段数据类型,常见的简单类型有:
    • 字符串:text(可分词的文本)、keyword(精确值,例如:品牌、国家、ip地址)
    • 数值:long、integer、short、byte、double、float、
    • 布尔:boolean
    • 日期:date
    • 对象:object
  • index:是否创建索引,默认为true
  • analyzer:使用哪种分词器
  • properties:该字段的子字段

例如下面的json文档:

{
    "age": 21,
    "weight": 52.1,
    "isMarried": false,
    "info": "精灵世界Java大师",
    "email": "yyl@jingling.cn",
    "score": [99.1, 99.5, 98.9],
    "name": {
        "firstName": "开",
        "lastName": "杨"
    }
}

对应的每个字段映射(mapping):

  • age:类型为 integer;参与搜索,因此需要index为true;无需分词器
  • weight:类型为float;参与搜索,因此需要index为true;无需分词器
  • isMarried:类型为boolean;参与搜索,因此需要index为true;无需分词器
  • info:类型为字符串,需要分词,因此是text;参与搜索,因此需要index为true;分词器可以用ik_smart
  • email:类型为字符串,但是不需要分词,因此是keyword;不参与搜索,因此需要index为false;无需分词器
  • score:虽然是数组,但是我们只看元素的类型,类型为float;参与搜索,因此需要index为true;无需分词器
  • name:类型为object,需要定义多个子属性
    • name.firstName;类型为字符串,但是不需要分词,因此是keyword;参与搜索,因此需要index为true;无需分词器
    • name.lastName;类型为字符串,但是不需要分词,因此是keyword;参与搜索,因此需要index为true;无需分词器

2.索引库的CRUD

这里我们统一使用Kibana编写DSL的方式来演示。

2.1.创建索引库和映射

基本语法:

  • 请求方式:PUT
  • 请求路径:/索引库名,可以自定义
  • 请求参数:mapping映射

格式:

PUT /索引库名称
{
  "mappings": {
    "properties": {
      "字段名":{
        "type": "text",
        "analyzer": "ik_smart"
      },
      "字段名2":{
        "type": "keyword",
        "index": "false"
      },
      "字段名3":{
        "properties": {
          "子字段": {
            "type": "keyword"
          }
        }
      },
      // ...略
    }
  }
}

例如

PUT /yyl
{
	"mappings":{
        
    }
}

示例:

PUT /yyl
{
  "mappings": {
    "properties": {
      "info":{
        "type": "text",
        "analyzer": "ik_smart"
      },
      "email":{
        "type": "keyword",
        "index": false
      },
      "name":{
        "properties": {
          "firstName": {
            "type": "keyword"
          }
        }
      },
      // 略...
    }
  }
}

运行,可以看到添加成功了

image-20220725112106696

2.2.查询索引库

基本语法

  • 请求方式:GET

  • 请求路径:/索引库名

  • 请求参数:无

格式

GET /索引库名

示例

GET /yyl

image-20220725112134762

2.3.修改索引库

倒排索引结构虽然不复杂,但是一旦数据结构改变(比如改变了分词器),就需要重新创建倒排索引,这简直是灾难。

img

因此索引库一旦创建,无法修改mapping

虽然无法修改mapping中已有的字段,但是却允许添加新的字段到mapping中,因为不会对倒排索引产生影响。

语法说明

PUT /索引库名/_mapping
{
  "properties": {
    "新字段名":{
      "type": "integer"
    }
  }
}

示例

PUT /yyl/_mapping
{
  "properties":{
    "age":{
      "type": "integer"
    }
  }
}

image-20220725114058607

2.4.删除索引库

语法:

  • 请求方式:DELETE

  • 请求路径:/索引库名

  • 请求参数:无

格式:

DELETE /索引库名

在kibana中测试:

image-20220725114128877

再查就查不到了:

image-20220725114155811

文档操作

1.新增文档

语法:

POST /索引库名/_doc/文档id
{
    "字段1": "值1",
    "字段2": "值2",
    "字段3": {
        "子属性1": "值3",
        "子属性2": "值4"
    },
    // ...
}

示例:

POST /yyl/_doc/1
{
    "info": "精灵世界Java大师",
    "email": "yyl@jingling.cn",
    "name": {
        "firstName": "开",
        "lastName": "杨"
    }
}

响应:

image-20220725134046563

2.查询文档

根据rest风格,新增是post,查询应该是get,不过查询一般都需要条件,这里我们把文档id带上。

语法:

GET /{索引库名称}/_doc/{id}

通过kibana查看数据:

GET /yyl/_doc/1

查看结果:

在_source字段中存储这我们插入的文档信息

image-20220725134117320

3.删除文档

删除使用DELETE请求,同样,需要根据id进行删除:

语法:

DELETE /{索引库名}/_doc/id值

示例:

# 根据id删除数据
DELETE /yyl/_doc/1

结果:

image-20220725134451032

4.修改文档

修改有两种方式:

修改方式 说明
全量修改 直接覆盖原来的文档
增量修改 修改文档中的部分字段

4.1.全量修改

全量修改是覆盖原来的文档,其本质是:

  • 根据指定的id删除文档
  • 新增一个相同id的文档

注意:如果根据id删除时,id不存在,第二步的新增也会执行,也就从修改变成了新增操作了。

语法:

PUT /{索引库名}/_doc/文档id
{
    "字段1": "值1",
    "字段2": "值2",
    // ... 略
}

示例:

PUT /yyl/_doc/1
{
    "info": "精灵世界C++大师",
    "email": "yyl@jingling.cn",
    "name": {
        "firstName": "开",
        "lastName": "杨"
    }
}

再get下,可以看到已经修改:

image-20220725134817632

4.2.增量修改

增量修改是只修改指定id匹配的文档中的部分字段。

语法:

POST /{索引库名}/_update/文档id
{
    "doc": {
         "字段名": "新的值",
    }
}

示例:

POST /yyl/_update/1
{
  "doc": {
    "email": "yyl@Shane.cn"
  }
}

再get下,可以看到已经修改:

image-20220725134950689

本文含有隐藏内容,请 开通VIP 后查看