Redis Geo

8/11/2021 Redis

# 一:前言

Redis 在3.2 版本以后新增了地理位置GEO模块。

地图元素的位置数据使用二维的经纬度表示,经度范围 (-180, 180],纬度范围 (-90, 90],纬度正负以赤道为界,北正南负,经度正负以本初子午线 (英国格林尼治天文台) 为界,东正西负。比如掘金办公室在望京 SOHO,它的经纬度坐标是 (116.48105,39.996794),都是正数,因为中国位于东北半球。

当两个元素的距离不是很远时,可以直接使用勾股定理就能算得元素之间的距离。我们平时使用的「附近的人」的功能,元素距离都不是很大,勾股定理算距离足矣。不过需要注意的是,经纬度坐标的密度不一样 (经度总共 360 度,纬度总共 180 度),勾股定律计算平方差时之后再求和时,需要按一定的系数比加权求和。

# 二:问题

Q1:计算「附近的人」,给定一个元素的坐标,然后计算这个坐标附近的其它元素,按照距离进行排序,该如何下手?

Q2:如果现在元素的经纬度坐标使用关系数据库 (元素 id, 经度 x, 纬度 y) 存储,你该如何计算?

附近的人

# 三:解答—SQL版

首先,你不可能通过遍历来计算所有的元素和目标元素的距离然后再进行排序,这个计算量太大了,性能指标肯定无法满足。一般的方法都是通过矩形区域来限定元素的数量,然后对区域内的元素进行全量距离计算再排序。这样可以明显减少计算量。如何划分矩形区域呢?可以指定一个半径 r,使用一条 SQL 就可以圈出来。当用户对筛出来的结果不满意,那就扩大半径继续筛选。

select id from positions where x0-r < x < x0+r and y0-r < y < y0+r
1

# 四:解答—GeoHash 算法

GeoHash 算法将二维的经纬度数据映射到一维的整数,这样所有的元素都将在挂载到一条线上,距离靠近的二维坐标映射到一维后的点之间距离也会很接近。当我们想要计算「附近的人时」,首先将目标位置映射到这条线上,然后在这个一维的线上获取附近的点就行了。

那这个映射算法具体是怎样的呢?它将整个地球看成一个二维平面,然后划分成了一系列正方形的方格,就好比围棋棋盘。所有的地图元素坐标都将放置于唯一的方格中。方格越小,坐标越精确。然后对这些方格进行整数编码,越是靠近的方格编码越是接近。那如何编码呢?一个最简单的方案就是切蛋糕法。设想一个正方形的蛋糕摆在你面前,二刀下去均分分成四块小正方形,这四个小正方形可以分别标记为 00,01,10,11 四个二进制整数。然后对每一个小正方形继续用二刀法切割一下,这时每个小小正方形就可以使用 4bit 的二进制整数予以表示。然后继续切下去,正方形就会越来越小,二进制整数也会越来越长,精确度就会越来越高。

上面的例子中使用的是二刀法,真实算法中还会有很多其它刀法,最终编码出来的整数数字也都不一样。

编码之后,每个地图元素的坐标都将变成一个整数,通过这个整数可以还原出元素的坐标,整数越长,还原出来的坐标值的损失程度就越小。对于「附近的人」这个功能而言,损失的一点精确度可以忽略不计。

GeoHash 算法会继续对这个整数做一次 base32 编码 (0-9,a-z 去掉 a,i,l,o 四个字母) 变成一个字符串。在 Redis 里面,经纬度使用 52 位的整数进行编码,放进了 zset 里面,zset 的 value 是元素的 key,score 是 GeoHash 的 52 位整数值。zset 的 score 虽然是浮点数,但是对于 52 位的整数值,它可以无损存储。

在使用 Redis 进行 Geo 查询时,我们要时刻想到它的内部结构实际上只是一个zset(skiplist)。通过 zset 的 score 排序就可以得到坐标附近的其它元素 (实际情况要复杂一些,不过这样理解足够了),通过将 score 还原成坐标值就可以得到元素的原始坐标。

# 五:Geo命令

Redis 提供的 Geo 指令只有 6 个

# 5.1 增加

命令:geoadd key longitude latitude member [longitude latitude member ...]

参数:

- longitude:经度

- latitude:纬度

- member:成员

geoadd 指令携带集合名称以及多个经纬度名称三元组,注意这里可以加入多个三元组

> geoadd company 116.48105 39.996794 juejin
(integer) 1
> geoadd company 116.514203 39.905409 ireader
(integer) 1
> geoadd company 116.489033 40.007669 meituan
(integer) 1
> geoadd company 116.562108 39.787602 jd 116.334255 40.027400 xiaomi
(integer) 2
1
2
3
4
5
6
7
8

# 5.2 距离

命令:geodist key member1 member2 [unit]

结果单位:

- m(meters)代表米

- km(kilometers)代表公里

- mi(miles)代表英里

- ft(feet)代表尺

geodist 指令可以用来计算两个元素之间的距离,携带集合名称、2 个名称和距离单位

> geodist company juejin ireader km
"10.5501"
> geodist company juejin meituan km
"1.3878"
> geodist company juejin jd km
"24.2739"
> geodist company juejin xiaomi km
"12.9606"
> geodist company juejin juejin km
"0.0000"
1
2
3
4
5
6
7
8
9
10

我们可以看到掘金离美团最近,因为它们都在望京

# 5.3 获取元素位置

命令:geopos key member [member ...]

geopos 指令可以获取集合中任意元素的经纬度坐标,可以一次获取多个

> geopos company juejin
1) 1) "116.48104995489120483"
 2) "39.99679348858259686"
> geopos company ireader
1) 1) "116.5142020583152771"
 2) "39.90540918662494363"
> geopos company juejin ireader
1) 1) "116.48104995489120483"
 2) "39.99679348858259686"
2) 1) "116.5142020583152771"
 2) "39.90540918662494363"
1
2
3
4
5
6
7
8
9
10
11

我们观察到获取的经纬度坐标和 geoadd 进去的坐标有轻微的误差,原因是 geohash 对二维坐标进行的一维映射是有损的,通过映射再还原回来的值会出现较小的差别。对于「附近的人」这种功能来说,这点误差根本不是事

# 5.4 获取元素的 hash 值

geohash key member [member ...]

geohash 可以获取元素的经纬度编码字符串,上面已经提到,它是 base32 编码。 你可以使用这个编码值去 http://geohash.org/${hash} 中进行直接定位,它是 geohash 的标准编码值。

6379> geohash company ireader
1) "wx4g52e1ce0"
6379> geohash company juejin
1) "wx4gd94yjn0"
1
2
3
4

geohash特点:

  • GEO的数据类型为zset,Redis将所有地理位置信息的geohash存放在zset 中
> type company
zset
1
2
  • 字符串越长,表示的位置更精确,表3-8给出了字符串长度对应的精 度,例如geohash长度为9时,精度在2米左右。

geohash长度与精度对应关系

geohash 长度 精确度(km)
1 2500
2 630
3 78
4 20
5 2.4
6 0.61
7 0.076
8 0.019
9 0.002
  • 两个字符串越相似,它们之间的距离越近,Redis利用字符串前缀匹配 算法实现相关的命令
  • geohash编码和经纬度是可以相互转换的

Redis正是使用有序集合并结合geohash的特性实现了GEO的若干命令

# 5.5 附近的公司

命令:georadius key longitude latitude radiusm|km|ft|mi [withcoord] [withdist] [withhash] [COUNT count] [asc|desc] [store key] [storedist key]

命令:georadiusbymember key member radiusm|km|ft|mi [withcoord] [withdist] [withhash] [COUNT count] [asc|desc] [store key] [storedist key]

参数:

- withcoord:返回结果中包含经纬度

- withdist:返回结果中包含离中心节点位置的距离

- withhash:返回结果中包含geohash

- COUNT count:指定返回结果的数量

- asc|desc:返回结果按照离中心节点的距离做升序或者降序

- store key:将返回结果的地理位置信息保存到指定键

- storedist key:将返回结果离中心节点的距离保存到指定键

georadiusbymember 指令是最为关键的指令,它可以用来查询指定元素附近的其它元素,它的参数非常复杂

# 范围 20 公里以内最多 3 个元素按距离正排,它不会排除自身
> georadiusbymember company ireader 20 km count 3 asc
1) "ireader"
2) "juejin"
3) "meituan"
# 范围 20 公里以内最多 3 个元素按距离倒排
> georadiusbymember company ireader 20 km count 3 desc
1) "jd"
2) "meituan"
3) "juejin"
# 三个可选参数 withcoord withdist withhash 用来携带附加参数
# withdist 很有用,它可以用来显示距离
> georadiusbymember company ireader 20 km withcoord withdist withhash count 3 asc
1) 1) "ireader"
 2) "0.0000"
 3) (integer) 4069886008361398
 4) 1) "116.5142020583152771"
 2) "39.90540918662494363"
2) 1) "juejin"
 2) "10.5501"
 3) (integer) 4069887154388167
 4) 1) "116.48104995489120483"
 2) "39.99679348858259686"
3) 1) "meituan"
 2) "11.5748"
 3) (integer) 4069887179083478
 4) 1) "116.48903220891952515"
 2) "40.00766997707732031"
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

除了 georadiusbymember 指令根据元素查询附近的元素,Redis 还提供了根据坐标值来查询附近的元素,这个指令更加有用,它可以根据用户的定位来计算「附近的车」,「附近的餐馆」等。它的参数和 georadiusbymember 基本一致,除了将目标元素改成经纬度坐标值。

> georadius company 116.514202 39.905409 20 km withdist count 3 asc
1) 1) "ireader"
 2) "0.0000"
2) 1) "juejin"
 2) "10.5501"
3) 1) "meituan"
 2) "11.5748"
1
2
3
4
5
6
7

# 5.6 删除

zrem key member

GEO没有提供删除成员的命令,但是因为GEO的底层实现是zset,所以可以借用zrem命令实现对地理位置信息的删除

# 六:小结

在一个地图应用中,车的数据、餐馆的数据、人的数据可能会有百万千万条,如果使用Redis 的 Geo 数据结构,它们将全部放在一个 zset 集合中。在 Redis 的集群环境中,集合可能会从一个节点迁移到另一个节点,如果单个 key 的数据过大,会对集群的迁移工作造成较大的影响,在集群环境中单个 key 对应的数据量不宜超过 1M,否则会导致集群迁移出现卡顿现象,影响线上服务的正常运行。 所以,这里建议 Geo 的数据使用单独的 Redis 实例部署,不使用集群环境。如果数据量过亿甚至更大,就需要对 Geo 数据进行拆分,按国家拆分、按省拆分,按市拆分,在人口特大城市甚至可以按区拆分。这样就可以显著降低单个 zset 集合的大小。

# 七:参考文献

最后更新: 3/8/2022, 6:10:27 PM