索引(index)

1. 作为名词: 索引(index)指我们在 ES 中用来存放 doc 的一个库,类似数据库系统的 DB 概念。

2. 作为动词: 指把数据经过分析并存放到 ES 中形成索引(名词概念)的过程。在 Lucene 里,索引是指把文档(Document)经过分析(Analyzed)并创建倒排索引的过程。是一系列的操作步骤。

查询(query)

查询一般指具体的查询条件,比如:"性别:男" 这就是一条查询语句。

搜索(search)

搜索是指从搜索引擎中获取满足我们一条或多条查询(query)语句的文档集合的过程,比如:搜索"性别:男"、"年龄>30"的人员列表,这样一条搜索就包含2条查询(query)条件。

分片(shards)

理解:

分片,通俗的将就是将一个 ES 索引(index)切割为几个分片存放。一个分片其实是一个 Lucene 实例(Lucene 索引,为了不应起混淆称为实例,每个分片都提供完整的搜索引擎的功能),能提供完整的搜索功能。

用途:

1. 通过 shards 可以横向分割或扩展 index 的容量

2. 通过 shards 可以分发和并发你的操作,从而提高性能

示例:

假如你有一个 index 需要大约 1T 的磁盘容量,把这样的整个 index 存储在同一个 node 上,有时是无法接受的。

  • 可能你的单个 node 的存储容量不够 1T
  • 性能问题,每次的 search 操作都是从这样庞大的一个 index 中去,性能可能比较低下

通过 shards 就可以很好解决该问题:

  • 把这个 1T 的 index 分成多个 shards ,可以使它存放在多个 node 上,从而可以解决存放在单个 node 存储容量不足的问题
  • 每一个 search 操作都是在多个 shards 中并发进行的,性能可以成倍提升

复制(replica)

理解:

复制,就是对每一个 shards 提供多个备份的功能,从而可以实现较高的可靠性。

用途:

1. 提供容灾能力,分片不会由于某个 node 的不可用(故障、离线)而不可用,这也就要求了主分片和通过它复制出来的分片(复制分片)必须位于不同的 node 上

2. search 操作可以在所有的分片进行(主分片、复制分片),所以 replica 也能提高 search 的吞吐率,从而提高性能

示例:

假如你的 index 有3个 shards 位于3个不同的 node 上,且没有 replica(只有主分片)。

但其中某个 node 故障了,这将导致该 index 部分 shards 不可用,不能提供完整的功能。

通过设置 replica 就可以在一个 shard 故障后,从它的 replica 分片中进行 search ,整个 index 的所有 shards 依然可用。

路由(Index API Routing)

理解:

这里的路由(routing)是一个 index API 中的参数,通过这个参数来控制文档存放在某个 shard(分片)上去。当然在 search 时候也可以利用该 rouging。

用途:

1. 一个文档在 index 的时候,会通过文档的 ID 来进行 Hash 计算,从而决定该文档存放到哪个分片上去。通过 routing 参数可以人为控制存放的分片(前提你需要知道 Hash 的算法)。

如果有了 rouging 参数,那么就会用 routing 参数的值来进行 Hash 计算,而不是文档的 ID。

2. 更大的用处在于,在 search 时候,默认都是把请求广播发往所有的 shards 上去,而在 search 时候指定 rouging,就可以只请求特定的 shards,从而加快响应。

示例:

lcy@lcy:~$ curl -XPUT localhost:/lcy/test/?routing= -d {"test":}    //在 lcy/test/ 上创建 id=1 的文档,分片位置用1来 Hash
{"_index":"lcy","_type":"test","_id":"","_version":,"_shards":{"total":,"successful":,"failed":},"created":true}
lcy@lcy:~$
lcy@lcy:~$ curl -XPUT localhost:/lcy/test/?routing= -d {"test":} //在 lcy/test/ 上创建 id=1 的文档,分片位置用2来 Hash
{"_index":"lcy","_type":"test","_id":"","_version":,"_shards":{"total":,"successful":,"failed":},"created":true}
lcy@lcy:~$
lcy@lcy:~$ curl -XGET localhost:/lcy/test/ //广播查询 lcy/test/1 谁先返回就是谁
{"_index":"lcy","_type":"test","_id":"","_version":,"_routing":"","found":true,"_source":{test:}}
lcy@lcy:~$
lcy@lcy:~$ curl -XGET localhost:/lcy/test/?routing= //查询特定分片上的 lcy/test/1
{"_index":"lcy","_type":"test","_id":"","_version":,"_routing":"","found":true,"_source":{test:}}
lcy@lcy:~$

同一个index/type,可以存放2个 ID 相同的文档,仅仅是分片不同,而且都可以被搜索。这个怎么解释???

05-11 16:01