听说你还没掌握Normalizer的使用方法?

简介: 在 Elasticsearch 中处理字符串类型的数据时,如果我们想把整个字符串作为一个完整的 term 存储,我们通常会将其类型 type 设定为 keyword。但有时这种设定又会给我们带来麻烦,比如同一个数据再写入时由于没有做好清洗,导致大小写不一致,比如 apple、Apple两个实际都是 apple,但当我们去搜索 apple时却无法返回 Apple的文档。

在 Elasticsearch 中处理字符串类型的数据时,如果我们想把整个字符串作为一个完整的 term 存储,我们通常会将其类型 type 设定为 keyword。但有时这种设定又会给我们带来麻烦,比如同一个数据再写入时由于没有做好清洗,导致大小写不一致,比如 apple、Apple两个实际都是 apple,但当我们去搜索 apple时却无法返回 Apple的文档。要解决这个问题,就需要 Normalizer出场了。废话不多说,直接上手看!

1. 上手

我们先来重现一下开篇的问题:

PUT test_normalizer
{
  "mappings": {
    "doc":{
      "properties": {
        "type":{
          "type":"keyword"
        }
      }
    }
  }
}

PUT test_normalizer/doc/1
{
  "type":"apple"
}

PUT test_normalizer/doc/2
{
  "type":"Apple"
}

# 查询一 
GET test_normalizer/_search
{
  "query": {
    "match":{
      "type":"apple"
    }
  }
}

# 查询二
GET test_normalizer/_search
{
  "query": {
    "match":{
      "type":"aPple"
    }
  }
}

大家执行后会发现查询一返回了文档1,而查询二没有文档返回,原因如下图所示:


d04658126e8f78f8e6e0d278b3878ca90f3d6653

1、Docs写入Elasticsearch时由于 type是 keyword,分词结果为原始字符串;

2、查询 Query 时分词默认是采用和字段写时相同的配置,因此这里也是keyword,因此分词结果也是原始字符;

3、两边的分词进行匹对,便得出了我们上面的结果。

2、Normalizer

normalizer是 keyword的一个属性,可以对 keyword生成的单一 Term再做进一步的处理,比如 lowercase,即做小写变换。使用方法和自定义分词器有些类似,需要自定义,如下所示:


DELETE test_normalizer
# 自定义 normalizer
PUT test_normalizer
{
  "settings": {
    "analysis": {
      "normalizer": {
        "lowercase": {
          "type": "custom",
          "filter": [
            "lowercase"
          ]
        }
      }
    }
  },
  "mappings": {
    "doc": {
      "properties": {
        "type": {
          "type": "keyword"
        },
        "type_normalizer": {
          "type": "keyword",
          "normalizer": "lowercase"
        }
      }
    }
  }
}

PUT test_normalizer/doc/1
{
  "type": "apple",
  "type_normalizer": "apple"
}

PUT test_normalizer/doc/2
{
  "type": "Apple",
  "type_normalizer": "Apple"
}
# 查询三
GET test_normalizer/_search
{
  "query": {
    "term":{
      "type":"aPple"
    }
  }
}

# 查询四
GET test_normalizer/_search
{
  "query": {
    "term":{
      "type_normalizer":"aPple"
    }
  }
}

我们第一步是自定义了名为 lowercase的 normalizer,其中filter 类似自定义分词器中的  filter ,但是可用的种类很少,详情大家可以查看官方文档。然后通过 normalizer属性设定到字段type_normalizer中,然后插入相同的2条文档。执行发现,查询三无结果返回,查询四返回2条文档。


问题解决了!我们来看下是如何解决的:

ebe40c708a26167803154beb69a6b4e1669da78d

文档写入时由于加入了 normalizer,所有的 term都会被做小写处理

查询时搜索词同样采用有 normalizer的配置,因此处理后的 term也是小写的

两边分词匹对,就得到了我们上面的结果

3. 总结

本文通过一个实例来给大家讲解了 Normalizer的实际使用场景,希望对大家有所帮助!

原文发布时间为:2018-09-10
本文作者: 我的小碗汤
本文来自云栖社区合作伙伴“ 的小碗汤”,了解相关信息可以关注“ 我的小碗汤”。
相关文章
|
4月前
|
编译器 Linux C语言
【C++】C++入门详解 I【C++入门 这一篇文章就够了】(上)
【C++】C++入门详解 I【C++入门 这一篇文章就够了】
38 1
|
5月前
|
C++
《C++避坑神器·二十》C++智能指针简单使用
《C++避坑神器·二十》C++智能指针简单使用
27 0
|
5月前
|
C语言 C++ 容器
《C++避坑神器·十》auto用法看这篇就够
《C++避坑神器·十》auto用法看这篇就够
51 0
|
5月前
|
编译器 C++
《C++避坑神器·十八》运算符重载,小白也能看懂
《C++避坑神器·十八》运算符重载,小白也能看懂
22 0
|
5月前
|
C++
《C++避坑神器·二十一》回调函数使用
《C++避坑神器·二十一》回调函数使用
57 0
|
5月前
|
编译器 C++
《C++避坑神器·八》史上最全模板的使用
《C++避坑神器·八》史上最全模板的使用
29 0
|
11月前
游戏开发零基础入门教程(7):有事儿的话,记得@我
这一节我们主要学习游戏开发中的一种常用的工具---通知,也称事件。 之前提到过,通知可以理解为给别人发信息,这个过程需要有两方的参与,一个发送方,一个接收方。发送方负责发送通知,而接收方决定收到通知后该如何做。
56 0
|
数据采集 JSON 网络协议
三个小项目入门Go语言 | 青训营笔记
今天的课程比较快速的讲解了go语言的入门,并配合三个小的项目实践梳理所学知识点,这里详细回顾一下这三个项目,并完成课后作业,以及分享一些自己的理解。
175 0
三个小项目入门Go语言 | 青训营笔记
阿里云使用初体验(从服务器小白到熟练使用服务器)
详细描述了我使用阿里云ESC服务器的初体验,从一名零基础学者到成功部署属于自己的网站。
152 2
阿里云使用初体验(从服务器小白到熟练使用服务器)
|
JSON JavaScript 安全
那些你熟悉而又陌生的函数
五层境界 我不知道我不知道 我知道我不知道 我知道我知道 我不知道我知道 第三层境界以上的兄台,可以直接离开了。 至于第五层境界,无需知道还是不知道。 废话不多说,进入正题,一起探索那些你熟悉和又陌生的函数。
125 0
那些你熟悉而又陌生的函数