|
|
51CTO旗下网站
|
|
移动端

稳了!用Redis实现“附近的人”功能

针对“附近的人”这一位置服务领域的应用场景,常见的可使用 PG、MySQL 和 MongoDB 等多种 DB 的空间索引进行实现。

作者:万汨来源:饿了么物流技术团队|2019-10-23 09:48

【线上直播】11月21日晚8点贝壳技术总监侯圣文《数据安全之数据库安全黄金法则》

针对“附近的人”这一位置服务领域的应用场景,常见的可使用 PG、MySQL 和 MongoDB 等多种 DB 的空间索引进行实现。


图片来自 Pexels

而 Redis 另辟蹊径,结合其有序队列 ZSET 以及 GEOHASH 编码,实现了空间搜索功能,且拥有极高的运行效率。

本文将从源码角度对其算法原理进行解析,并推算查询时间复杂度。要提供完整的“附近的人”服务,最基本的是要实现“增”、“删”、“查”的功能。

以下将分别进行介绍,其中会重点对查询功能进行解析。

操作命令

自 Redis 3.2 开始,Redis 基于 GEOHASH 和有序集合提供了地理位置相关功能。

Redis Geo 模块包含了以下 6 个命令:

  • GEOADD:将给定的位置对象(纬度、经度、名字)添加到指定的 Key。
  • GEOPOS:从 Key 里面返回所有给定位置对象的位置(经度和纬度)。
  • GEODIST:返回两个给定位置之间的距离。
  • GEOHASH:返回一个或多个位置对象的 GeoHASH 表示。
  • GEORADIUS:以给定的经纬度为中心,返回目标集合中与中心的距离不超过给定最大距离的所有位置对象。
  • GEORADIUSBYMEMBER:以给定的位置对象为中心,返回与其距离不超过给定最大距离的所有位置对象。

其中,组合使用 GEOADD 和 GEORADIUS 可实现“附近的人”中“增”和“查”的基本功能。

要实现微信中“附近的人”功能,可直接使用 GEORADIUSBYMEMBER 命令。其中“给定的位置对象”即为用户本人,搜索的对象为其他用户。

不过本质上,GEORADIUSBYMEMBER=GEOPOS+GEORADIUS,即先查找用户位置再通过该位置搜索附近满足位置相互距离条件的其他用户对象。

以下会从源码角度入手对 GEOADD 和 GEORADIUS 命令进行分析,剖析其算法原理。

Redis Geo 操作中只包含了“增”和“查”的操作,并没有专门的“删除”命令。主要是因为 Redis 内部使用有序集合(ZSET)保存位置对象,可用 ZREM 进行删除。

在 Redis 源码 geo.c 的文件注释中,只说明了该文件为 GEOADD、GEORADIUS 和 GEORADIUSBYMEMBER 的实现文件(其实也实现了另三个命令)。从侧面看出其他三个命令为辅助命令。

GEOADD

使用方式

  1. GEOADD key longitude latitude member [longitude latitude member ...] 

将给定的位置对象(纬度、经度、名字)添加到指定的 Key。其中,Key 为集合名称,Member 为该经纬度所对应的对象。

在实际运用中,当所需存储的对象数量过多时,可通过设置多 Key(如一个省一个 Key)的方式对对象集合变相做 Sharding,避免单集合数量过多。

成功插入后的返回值:

  1. (integer) N 

其中 N 为成功插入的个数。

源码分析

  1. /* GEOADD key long lat name [long2 lat2 name2 ... longN latN nameN] */ 
  2. void geoaddCommand(client *c) { 
  3.  
  4. //参数校验 
  5.     /* Check arguments number for sanity. */ 
  6.     if ((c->argc - 2) % 3 != 0) { 
  7.         /* Need an odd number of arguments if we got this far... */ 
  8.         addReplyError(c, "syntax error. Try GEOADD key [x1] [y1] [name1] " 
  9.                          "[x2] [y2] [name2] ... "); 
  10.         return
  11.     } 
  12.  
  13. //参数提取Redis 
  14.     int elements = (c->argc - 2) / 3; 
  15.     int argc = 2+elements*2; /* ZADD key score ele ... */ 
  16.     robj **argv = zcalloc(argc*sizeof(robj*)); 
  17.     argv[0] = createRawStringObject("zadd",4); 
  18.     argv[1] = c->argv[1]; /* key */ 
  19.     incrRefCount(argv[1]); 
  20.  
  21. //参数遍历+转换 
  22.     /* Create the argument vector to call ZADD in order to add all 
  23.      * the score,value pairs to the requested zset, where score is actually 
  24.      * an encoded version of lat,long. */ 
  25.     int i; 
  26.     for (i = 0; i < elements; i++) { 
  27.         double xy[2]; 
  28.  
  29.     //提取经纬度 
  30.         if (extractLongLatOrReply(c, (c->argv+2)+(i*3),xy) == C_ERR) { 
  31.             for (i = 0; i < argc; i++) 
  32.                 if (argv[i]) decrRefCount(argv[i]); 
  33.             zfree(argv); 
  34.             return
  35.         } 
  36.  
  37.     //将经纬度转换为52位的geohash作为分值 & 提取对象名称 
  38.         /* Turn the coordinates into the score of the element. */ 
  39.         GeoHashBits hash; 
  40.         geohashEncodeWGS84(xy[0], xy[1], GEO_STEP_MAX, &hash); 
  41.         GeoHashFix52Bits bits = geohashAlign52Bits(hash); 
  42.         robj *score = createObject(OBJ_STRING, sdsfromlonglong(bits)); 
  43.         robj *val = c->argv[2 + i * 3 + 2]; 
  44.  
  45.     //设置有序集合的对象元素名称和分值 
  46.         argv[2+i*2] = score; 
  47.         argv[3+i*2] = val; 
  48.         incrRefCount(val); 
  49.     } 
  50.  
  51. //调用zadd命令,存储转化好的对象 
  52.     /* Finally call ZADD that will do the work for us. */ 
  53.     replaceClientCommandVector(c,argc,argv); 
  54.     zaddCommand(c); 

通过源码分析可以看出 Redis 内部使用有序集合(ZSET)保存位置对象,有序集合中每个元素都是一个带位置的对象,元素的 Score 值为其经纬度对应的 52 位的 GEOHASH 值。

Double 类型精度为 52 位;GEOHASH 是以 base32 的方式编码,52bits 最高可存储 10 位 GEOHASH 值,对应地理区域大小为 0.6*0.6 米的格子。

换句话说经 Redis Geo 转换过的位置理论上会有约 0.3*1.414=0.424 米的误差。

算法小结

简单总结下 GEOADD 命令都干了啥:

  • 参数提取和校验
  • 将入参经纬度转换为 52 位的 GEOHASH 值(Score)
  • 调用 ZADD 命令将 Member 及其对应的 Score 存入集合 Key 中。

GEORADIUS

使用方式

  1. GEORADIUS key longitude latitude radius m|km|ft|mi [WITHCOORD] [WITHDIST] [WITHHASH] [ASC|DESC] [COUNT count] [STORE key] [STORedisT key

以给定的经纬度为中心,返回目标集合中与中心的距离不超过给定最大距离的所有位置对象。

范围单位:m | km | ft | mi --> 米 | 千米 | 英尺 | 英里

额外参数:

  • WITHDIST:在返回位置对象的同时,将位置对象与中心之间的距离也一并返回。距离的单位和用户给定的范围单位保持一致。
  • WITHCOORD:将位置对象的经度和维度也一并返回。
  • WITHHASH:以 52 位有符号整数的形式,返回位置对象经过原始 GEOHASH 编码的有序集合分值。这个选项主要用于底层应用或者调试,实际中的作用并不大。
  • ASC|DESC:从近到远返回位置对象元素 | 从远到近返回位置对象元素。
  • COUNT count:选取前 N 个匹配位置对象元素。(不设置则返回所有元素)
  • STORE key:将返回结果的地理位置信息保存到指定 key。
  • STORedisT key:将返回结果离中心点的距离保存到指定 Key。

由于 STORE 和 STORedisT 两个选项的存在,GEORADIUS 和 GEORADIUSBYMEMBER 命令在技术上会被标记为写入命令,从而只会查询(写入)主实例,QPS 过高时容易造成主实例读写压力过大。

为解决这个问题,在 Redis 3.2.10 和 Redis 4.0.0 中,分别新增了 GEORADIUS_RO 和 GEORADIUSBYMEMBER_RO 两个只读命令。

不过,在实际开发中笔者发现 在 java package Redis.clients.jedis.params.geo 的 GeoRadiusParam 参数类中并不包含 STORE 和 STORedisT 两个参数选项。

在调用 GEORADIUS 时是否真的只查询了主实例,还是进行了只读封装。感兴趣的朋友可以自己研究下。

成功查询后的返回值,不带 WITH 限定,返回一个 member list,如:

  1. ["member1","member2","member3"

带 WITH 限定,Member List 中每个 Member 也是一个嵌套 List,如:

  1.     ["member1", distance1, [longitude1, latitude1]] 
  2.     ["member2", distance2, [longitude2, latitude2]] 

源码分析

PS:此段源码较长,看不下去的可直接看中文注释,或直接跳到小结部分。

  1. /* GEORADIUS key x y radius unit [WITHDIST] [WITHHASH] [WITHCOORD] [ASC|DESC
  2.  *                               [COUNT count] [STORE key] [STORedisT key
  3.  * GEORADIUSBYMEMBER key member radius unit ... options ... */ 
  4. void georadiusGeneric(client *c, int flags) { 
  5.     robj *key = c->argv[1]; 
  6.     robj *storekey = NULL
  7.     int stoRedist = 0; /* 0 for STORE, 1 for STORedisT. */ 
  8.  
  9. //根据key获取有序集合 
  10.     robj *zobj = NULL
  11.     if ((zobj = lookupKeyReadOrReply(c, key, shared.null[c->resp])) == NULL || 
  12.         checkType(c, zobj, OBJ_ZSET)) { 
  13.         return
  14.     } 
  15.  
  16. //根据用户输入(经纬度/member)确认中心点经纬度 
  17.     int base_args; 
  18.     double xy[2] = { 0 }; 
  19.     if (flags & RADIUS_COORDS) { 
  20.         …… 
  21.     } 
  22.  
  23. //获取查询范围距离 
  24.     double radius_meters = 0, conversion = 1; 
  25.     if ((radius_meters = extractDistanceOrReply(c, c->argv + base_args - 2, 
  26.                                                 &conversion)) < 0) { 
  27.         return
  28.     } 
  29.  
  30. //获取可选参数 (withdist、withhash、withcoords、sort、count) 
  31.     int withdist = 0, withhash = 0, withcoords = 0; 
  32.     int sort = SORT_NONE; 
  33.     long long count = 0; 
  34.     if (c->argc > base_args) { 
  35.         ... ... 
  36.     } 
  37.  
  38. //获取 STORE 和 STORedisT 参数 
  39.     if (storekey && (withdist || withhash || withcoords)) { 
  40.         addReplyError(c, 
  41.             "STORE option in GEORADIUS is not compatible with " 
  42.             "WITHDIST, WITHHASH and WITHCOORDS options"); 
  43.         return
  44.     } 
  45.  
  46. //设定排序 
  47.     if (count != 0 && sort == SORT_NONE) sort = SORT_ASC; 
  48.  
  49. //利用中心点和半径计算目标区域范围 
  50.     GeoHashRadius georadius = 
  51.         geohashGetAreasByRadiusWGS84(xy[0], xy[1], radius_meters); 
  52.  
  53. //对中心点及其周围8个geohash网格区域进行查找,找出范围内元素对象 
  54.     geoArray *ga = geoArrayCreate(); 
  55.     membersOfAllNeighbors(zobj, georadius, xy[0], xy[1], radius_meters, ga); 
  56.  
  57. //未匹配返空 
  58.     /* If no matching results, the user gets an empty reply. */ 
  59.     if (ga->used == 0 && storekey == NULL) { 
  60.         addReplyNull(c); 
  61.         geoArrayFree(ga); 
  62.         return
  63.     } 
  64.  
  65. //一些返回值的设定和返回 
  66.     …… 
  67.     geoArrayFree(ga); 

上文代码中最核心的步骤有两个,一是“计算中心点范围”,二是“对中心点及其周围 8 个 GEOHASH 网格区域进行查找”。

对应的是如下两个函数:

  • geohashGetAreasByRadiusWGS84
  • membersOfAllNeighbors

我们依次来看:

①计算中心点范围

// geohash_helper.c

  1. /* GEORADIUS key x y radius unit [WITHDIST] [WITHHASH] [WITHCOORD] [ASC|DESC
  2.  *                               [COUNT count] [STORE key] [STORedisT key
  3.  * GEORADIUSBYMEMBER key member radius unit ... options ... */ 
  4. void georadiusGeneric(client *c, int flags) { 
  5.     robj *key = c->argv[1]; 
  6.     robj *storekey = NULL
  7.     int stoRedist = 0; /* 0 for STORE, 1 for STORedisT. */ 
  8.  
  9. //根据key获取有序集合 
  10.     robj *zobj = NULL
  11.     if ((zobj = lookupKeyReadOrReply(c, key, shared.null[c->resp])) == NULL || 
  12.         checkType(c, zobj, OBJ_ZSET)) { 
  13.         return
  14.     } 
  15.  
  16. //根据用户输入(经纬度/member)确认中心点经纬度 
  17.     int base_args; 
  18.     double xy[2] = { 0 }; 
  19.     if (flags & RADIUS_COORDS) { 
  20.         …… 
  21.     } 
  22.  
  23. //获取查询范围距离 
  24.     double radius_meters = 0, conversion = 1; 
  25.     if ((radius_meters = extractDistanceOrReply(c, c->argv + base_args - 2, 
  26.                                                 &conversion)) < 0) { 
  27.         return
  28.     } 
  29.  
  30. //获取可选参数 (withdist、withhash、withcoords、sort、count) 
  31.     int withdist = 0, withhash = 0, withcoords = 0; 
  32.     int sort = SORT_NONE; 
  33.     long long count = 0; 
  34.     if (c->argc > base_args) { 
  35.         ... ... 
  36.     } 
  37.  
  38. //获取 STORE 和 STORedisT 参数 
  39.     if (storekey && (withdist || withhash || withcoords)) { 
  40.         addReplyError(c, 
  41.             "STORE option in GEORADIUS is not compatible with " 
  42.             "WITHDIST, WITHHASH and WITHCOORDS options"); 
  43.         return
  44.     } 
  45.  
  46. //设定排序 
  47.     if (count != 0 && sort == SORT_NONE) sort = SORT_ASC; 
  48.  
  49. //利用中心点和半径计算目标区域范围 
  50.     GeoHashRadius georadius = 
  51.         geohashGetAreasByRadiusWGS84(xy[0], xy[1], radius_meters); 
  52.  
  53. //对中心点及其周围8个geohash网格区域进行查找,找出范围内元素对象 
  54.     geoArray *ga = geoArrayCreate(); 
  55.     membersOfAllNeighbors(zobj, georadius, xy[0], xy[1], radius_meters, ga); 
  56.  
  57. //未匹配返空 
  58.     /* If no matching results, the user gets an empty reply. */ 
  59.     if (ga->used == 0 && storekey == NULL) { 
  60.         addReplyNull(c); 
  61.         geoArrayFree(ga); 
  62.         return
  63.     } 
  64.  
  65. //一些返回值的设定和返回 
  66.     …… 
  67.     geoArrayFree(ga); 

②对中心点及其周围 8 个 GEOHASH 网格区域进行查找

// geo.c

  1. //在9个hashBox中获取想要的元素 
  2. int membersOfAllNeighbors(robj *zobj, GeoHashRadius n, double lon, double lat, double radius, geoArray *ga) { 
  3.     GeoHashBits neighbors[9]; 
  4.     unsigned int i, count = 0, last_processed = 0; 
  5.     int debugmsg = 0; 
  6.  
  7. //获取9个搜索hashBox 
  8.     neighbors[0] = n.hash; 
  9.     …… 
  10.     neighbors[8] = n.neighbors.south_west; 
  11.  
  12. //在每个hashBox中搜索目标点 
  13.     for (i = 0; i < sizeof(neighbors) / sizeof(*neighbors); i++) { 
  14.         if (HASHISZERO(neighbors[i])) { 
  15.             if (debugmsg) D("neighbors[%d] is zero",i); 
  16.             continue
  17.         } 
  18.  
  19.     //剔除可能的重复hashBox (搜索半径>5000KM时可能出现) 
  20.         if (last_processed && 
  21.             neighbors[i].bits == neighbors[last_processed].bits && 
  22.             neighbors[i].step == neighbors[last_processed].step) 
  23.         { 
  24.             continue
  25.         } 
  26.  
  27.     //搜索hashBox中满足条件的对象     
  28.         count += membersOfGeoHashBox(zobj, neighbors[i], ga, lon, lat, radius); 
  29.         last_processed = i; 
  30.     } 
  31.     return count
  32.  
  33.  
  34. int membersOfGeoHashBox(robj *zobj, GeoHashBits hash, geoArray *ga, double lon, double lat, double radius) { 
  35. //获取hashBox内的最大、最小geohash值(52位) 
  36.     GeoHashFix52Bits minmax
  37.     scoresOfGeoHashBox(hash,&min,&max); 
  38.  
  39. //根据最大、最小geohash值筛选zobj集合中满足条件的点 
  40.     return geoGetPointsInRange(zobj, minmax, lon, lat, radius, ga); 
  41.  
  42.  
  43. int geoGetPointsInRange(robj *zobj, double mindouble maxdouble lon, double lat, double radius, geoArray *ga) { 
  44.  
  45. //搜索Range的参数边界设置(即9个hashBox其中一个的边界范围) 
  46.     zrangespec range = { .min = min, .max = max, .minex = 0, .maxex = 1 }; 
  47.     size_t origincount = ga->used; 
  48.     sds member; 
  49.  
  50. //搜索集合zobj可能有ZIPLIST和SKIPLIST两种编码方式,这里以SKIPLIST为例,逻辑是一样的 
  51.     if (zobj->encoding == OBJ_ENCODING_ZIPLIST) { 
  52.         …… 
  53.     } else if (zobj->encoding == OBJ_ENCODING_SKIPLIST) { 
  54.         zset *zs = zobj->ptr; 
  55.         zskiplist *zsl = zs->zsl; 
  56.         zskiplistNode *ln; 
  57.  
  58.     //获取在hashBox范围内的首个元素(跳表数据结构,效率可比拟于二叉查找树),没有则返0 
  59.         if ((ln = zslFirstInRange(zsl, &range)) == NULL) { 
  60.             /* Nothing exists starting at our min.  No results. */ 
  61.             return 0; 
  62.         } 
  63.  
  64.     //从首个元素开始遍历集合 
  65.         while (ln) { 
  66.             sds ele = ln->ele; 
  67.         //遍历元素超出range范围则break 
  68.             /* Abort when the node is no longer in range. */ 
  69.             if (!zslValueLteMax(ln->score, &range)) 
  70.                 break; 
  71.         //元素校验(计算元素与中心点的距离) 
  72.             ele = sdsdup(ele); 
  73.             if (geoAppendIfWithinRadius(ga,lon,lat,radius,ln->score,ele) 
  74.                 == C_ERR) sdsfree(ele); 
  75.             ln = ln->level[0].forward
  76.         } 
  77.     } 
  78.     return ga->used - origincount; 
  79.  
  80. int geoAppendIfWithinRadius(geoArray *ga, double lon, double lat, double radius, double score, sds member) { 
  81.     double distance, xy[2]; 
  82.  
  83. //解码错误, 返回error 
  84.     if (!decodeGeohash(score,xy)) return C_ERR; /* Can't decode. */ 
  85.  
  86. //最终距离校验(计算球面距离distance看是否小于radius) 
  87.     if (!geohashGetDistanceIfInRadiusWGS84(lon,lat, xy[0], xy[1], 
  88.                                            radius, &distance)) 
  89.     { 
  90.         return C_ERR; 
  91.     } 
  92.  
  93. //构建并返回满足条件的元素 
  94.     geoPoint *gp = geoArrayAppend(ga); 
  95.     gp->longitude = xy[0]; 
  96.     gp->latitude = xy[1]; 
  97.     gp->dist = distance; 
  98.     gp->member = member; 
  99.     gp->score = score; 
  100.     return C_OK; 

算法小结

抛开众多可选参数不谈,简单总结下 GEORADIUS 命令是怎么利用 GEOHASH 获取目标位置对象的:

  • 参数提取和校验。
  • 利用中心点和输入半径计算待查区域范围。这个范围参数包括满足条件的最高的 GEOHASH 网格等级(精度)以及对应的能够覆盖目标区域的九宫格位置(后续会有详细说明)。
  • 对九宫格进行遍历,根据每个 GEOHASH 网格的范围框选出位置对象。进一步找出与中心点距离小于输入半径的对象,进行返回。

直接描述不太好理解,我们通过如下两张图再对算法进行简单的演示:

令左图的中心为搜索中心,绿色圆形区域为目标区域,所有点为待搜索的位置对象,红色点则为满足条件的位置对象。

在实际搜索时,首先会根据搜索半径计算 GEOHASH 网格等级(即右图中网格大小等级),并确定九宫格位置(即红色九宫格位置信息)。

再依次查找计算九宫格中的点(蓝点和红点)与中心点的距离,最终筛选出距离范围内的点(红点)。

算法分析

为什么要用这种算法策略进行查询,或者说这种策略的优势在哪,让我们以问答的方式进行分析说明。

①为什么要找到满足条件的最高的 GEOHASH 网格等级?为什么用九宫格?

这其实是一个问题,本质上是对所有的元素对象进行了一次初步筛选。在多层 GEOHASH 网格中,每个低等级的 GEOHASH 网格都是由 4 个高一级的网格拼接而成(如图)。

换句话说,GEOHASH 网格等级越高,所覆盖的地理位置范围就越小。当我们根据输入半径和中心点位置计算出的能够覆盖目标区域的最高等级的九宫格(网格)时,就已经对九宫格外的元素进行了筛除。

这里之所以使用九宫格,而不用单个网格,主要原因还是为了避免边界情况,尽可能缩小查询区域范围。

试想以 0 经纬度为中心,就算查 1 米范围,单个网格覆盖的话也得查整个地球区域。而向四周八个方向扩展一圈可有效避免这个问题。

②如何通过 GEOHASH 网格的范围框选出元素对象?效率如何?

首先在每个 GEOHASH 网格中的 GEOHASH 值都是连续的,有固定范围。所以只要找出有序集合中,处在该范围的位置对象即可。

以下是有序集合的跳表数据结构:

其拥有类似二叉查找树的查询效率,操作平均时间复杂性为 O(log(N))。且最底层的所有元素都以链表的形式按序排列。

所以在查询时,只要找到集合中处在目标 GEOHASH 网格中的第一个值,后续依次对比即可,不用多次查找。

九宫格不能一起查,要一个个遍历的原因也在于九宫格各网格对应的 GEOHASH 值不具有连续性。只有连续了,查询效率才会高,不然要多做许多距离运算。

综上,我们从源码角度解析了 Redis Geo 模块中 “增(GEOADD)” 和 “查(GEORADIUS)” 的详细过程。

并可推算出 Redis 中 GEORADIUS 查找附近的人功能,时间复杂度为:O(N+log(M))。

其中 N 为指定半径范围内的位置元素数量,而 M 则是被九宫格圈住计算距离的元素的数量。

结合 Redis 本身基于内存的存储特性,在实际使用过程中有非常高的运行效率。

作者:万汨

简介:饿了么资深开发工程师。iOS,Go,Java 均有涉猎。目前主攻大数据开发。喜欢骑行、爬山。

【编辑推荐】

  1. 万万没想到,Redis多线程版本竟然比原生版本快那么多
  2. KeyDB——据说是比Redis快5倍的中间件,为啥这么快?
  3. Redis集群的5种使用方式,各自优缺点分析
  4. Redis集群都有哪些模式
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

CentOS 8 全新学习术

CentOS 8 全新学习术

CentOS 8 正式发布
共16章 | UbuntuServer

256人订阅学习

用Python玩转excel

用Python玩转excel

让重复操作傻瓜化
共3章 | DE8UG

222人订阅学习

AI入门级算法

AI入门级算法

算法常识
共22章 | 周萝卜123

191人订阅学习

读 书 +更多

JAVA并发编程实践

本书既能够成为读者的理论支持,又可以作为构建可靠的、可伸缩的、可维护的并发程序的技术支持。本书并不仅仅提供并发API的清单及其机制,...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微