MongoDB范围片键和哈希片键

2020-12-29 11:14:28 浏览数 (1)

//

MongoDB范围片键和哈希片键

//

01

片键

MongoDB的片键决定了集合中存储的数据在集合中的分布情况,具体的方法是使用片键值的范围来对集合中的数据进行分区。举个例子:

假如我们以年龄age来作为片键,那么age的范围理论上是0~80,此时,MongoDB会为我们定义age的四个范围区间,他们分别是:0~20,20~40,40~60,60~80,每个范围都是一个chunk,这样我们写入数据之后,数据里面的数据块就有:

chunk1: age 0~20

chunk2: age 20~40

chunk3:age 40~60

chunk4:age 60~80

需要注意的是,在一个集合中,被选为片键的这个字段上必须有一个支持片键的索引,或者是必须有一个以这个字段开头的联合索引。

通常情况下,我们给字段添加的索引,最常见的是普通索引或者哈希索引,

普通的索引字段如果作为片键,那么这个片键我们称为范围片键;

哈希索引字段如果作为片键,那么这个片键我们称为哈希片键。

下面我们来看二者的不同之处:

02

范围片键(递增片键)

范围片键,顾名思义,就是将数据根据片键划分到连续的范围里面,在这个模型中,那些值"相似"的文档可能位于同一个片中。例如下面这样:

这中分片方式是MongoDB默认的分片方式,它有好处也有坏处。

好处:

可以高效的读取连续范围内的目标文档。如果你使用范围查询,则可以比较快速的拿到所有的结果值。因为数据所在的数据chunk比较少。

坏处:

如果我们写入的数据都几种在某一个分片区间,那么读写性能都可能因为片键划分不均匀而降低。(例如下图中,数据的基数大部分在20~maxKey,则大部分都在chunk C的位置,本身分布不均匀),Chunk C的写入压力将会增大。

在下列场景中,使用范围片键比较合适:

1、数据的基数比较大

2、分片的写入频率比较低(插入较少不容易产生chunk的搬运)

3、非单调变化的分片(如果单调写,则会分到同一个块里面,容易达到chunk割裂的条件,产生chunk的搬运)

如果数据满足上面的三个条件,则我们写入的数据可能是这样的:

就是比较均匀的写入到了数据块中。

02

哈希片键

哈希片键使用哈希索引在共享集群中对数据进行分区。哈希索引计算单个字段的哈希值作为索引值,该值用作片键(注意,这里并不是字段本身的值,而是hash之后的值)。

使用哈希索引,我们写入数据之后,对应写入数据块的图示可能如下:

从图中我们看出来,虽然我们输入的x值比较接近,分别是25、26、27,但是,经过hash函数之后,他们所在的数据块序号可能差距很远。

哈希分片在分片集群中提供了更均匀的数据分布,集合中那些具有近似值的文档,可能会被分到不同的块上,mongos更有可能执行广播操作来完成给定的范围查询。

哈希值得计算,是由MongoDB来负责的,不是应用程序负责的

作为哈希片键的索引字段应该有如下特点:

1、具有大量不同的值

2、哈希索引适合单调变化的字段,例如自增值,时间值等(因为可以将单调的字段通过hash函数映射到不同的块上去,从而分散写入压力,例如下图,虽然数据连续,但是写入了不同的数据块中)

它的缺点也比较明显,当我们查询某个范围的值的时候,hash索引会查找更多的数据分片,并将最终的结果汇总起来交给我们。

在实际生产环境中,我们需要结合自己的需求来确定使用哪种类型的片键,再次强调,在设定某个字段作为片键之前,需要先在当前字段创建对应类型的索引,或者创建一个以当前字段开头的联合索引。否则设定片键的语句会报错。

下面是分片创建从无到有的过程举例:

代码语言:javascript复制
1、创建表,只有一个字段name,并插入数据
mongos> use aaa
switched to db aaa
mongos> db.aaa.insert({name:1})
WriteResult({ "nInserted" : 1 })
mongos> db.aaa.insert({name:2})
WriteResult({ "nInserted" : 1 })
mongos> db.aaa.insert({name:3})
WriteResult({ "nInserted" : 1 })
mongos> db.aaa.insert({name:4})
WriteResult({ "nInserted" : 1 })
mongos> 

2、查看数据
mongos> db.aaa.find()
{ "_id" : ObjectId("5fdb7d54d91f2f9bae3b09a1"), "name" : 1 }
{ "_id" : ObjectId("5fdb7d56d91f2f9bae3b09a2"), "name" : 2 }
{ "_id" : ObjectId("5fdb7d59d91f2f9bae3b09a3"), "name" : 3 }
{ "_id" : ObjectId("5fdb7d5cd91f2f9bae3b09a4"), "name" : 4 }

3、允许数据库分片
mongos> sh.enableSharding("aaa")
{
        "ok" : 1,
        "operationTime" : Timestamp(1608220038, 3),
        "$clusterTime" : {
                "clusterTime" : Timestamp(1608220038, 3),
                "signature" : {
                        "hash" : BinData(0,"shemm3xvSYrMiy9t7gSYcVtFUuE="),
                        "keyId" : NumberLong("6894922308364795934")
                }
        }
}
mongos> 

4、在name字段创建hash索引
mongos> db.aaa.createIndex({name:"hashed"},{background:true})
{
        "raw" : {
                "sharding_yeyz/127.0.0.1:27018,127.0.0.1:27019,127.0.0.1:27020" : {
                        "createdCollectionAutomatically" : false,
                        "numIndexesBefore" : 1,
                        "numIndexesAfter" : 2,
                        "ok" : 1
                }
        },
        "ok" : 1,
        "operationTime" : Timestamp(1608220115, 3),
        "$clusterTime" : {
                "clusterTime" : Timestamp(1608220115, 3),
                "signature" : {
                        "hash" : BinData(0,"S3Wz9G26eJyOcwa1OLS6TVYu6SE="),
                        "keyId" : NumberLong("6894922308364795934")
                }
        }
}

5、以name字段作为片键创建哈希分片
mongos> sh.shardCollection("aaa.aaa",{name:"hashed"})
{
        "collectionsharded" : "aaa.aaa",
        "collectionUUID" : UUID("20a3895e-d821-43ae-9d28-305e6ae03bbc"),
        "ok" : 1,
        "operationTime" : Timestamp(1608220238, 10),
        "$clusterTime" : {
                "clusterTime" : Timestamp(1608220238, 10),
                "signature" : {
                        "hash" : BinData(0,"qeQlD3jsSvRZkyamEa2hjbezEdM="),
                        "keyId" : NumberLong("6894922308364795934")
                }
        }
}

6、查看分片信息
mongos> db.printShardingStatus()
--- Sharding Status --- 
  sharding version: {
        "_id" : 1,
        "minCompatibleVersion" : 5,
        "currentVersion" : 6,
        "clusterId" : ObjectId("5fafaf4f5785d9965548f687")
  }
  shards:
        {  "_id" : "sharding_yeyz",  "host" : "sharding_yeyz/127.0.0.1:27018,127.0.0.1:27019,127.0.0.1:27020",  "state" : 1 }
        {  "_id" : "sharding_yeyz1",  "host" : "sharding_yeyz1/127.0.0.1:27024,127.0.0.1:27025,127.0.0.1:27026",  "state" : 1 }
  active mongoses:
        "4.0.6" : 1
  autosplit:
        Currently enabled: yes
  balancer:
        Currently enabled:  yes
        Currently running:  no
        Failed balancer rounds in last 5 attempts:  2
        Last reported error:  Could not find host matching read preference { mode: "primary" } for set sharding_yeyz
        Time of Reported error:  Wed Nov 18 2020 17:08:14 GMT 0800 (CST)
        Migration Results for the last 24 hours: 
                No recent migrations
  databases:
        {  "_id" : "aaa",  "primary" : "sharding_yeyz",  "partitioned" : true,  "version" : {  "uuid" : UUID("26e55931-d1c1-4dc5-8a03-b5b0e70f6f43"),  "lastMod" : 1 } }
                aaa.aaa
                        shard key: { "name" : "hashed" }
                        unique: false
                        balancing: true
                        chunks:
                                sharding_yeyz   1
                        { "name" : { "$minKey" : 1 } } -->> { "name" : { "$maxKey" : 1 } } on : sharding_yeyz Timestamp(1, 0) 

0 人点赞