我想要的是:
用户传入邮政编码或城市名称
我在数据库中搜索最近的5个位置
向用户显示离该位置最近的5个位置
到目前为止我所拥有的:
假设一个包含以下内容的位置表:
(约16000行)
CREATE TABLE `locations` (
`locationID` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(150) NOT NULL,
`firstname` varchar(100) DEFAULT NULL,
`lastname` varchar(100) DEFAULT NULL,
`street` varchar(100) NOT NULL,
`city` varchar(100) NOT NULL,
`state` varchar(100) NOT NULL,
`zipcode` varchar(10) NOT NULL,
`phone` varchar(20) NOT NULL,
`web` varchar(255) DEFAULT NULL,
`machine` enum('Unbekannt','Foo','Bar') DEFAULT 'Unbekannt',
`surface` enum('Unbekannt','Foo','Bar','') DEFAULT 'Unbekannt',
PRIMARY KEY (`locationID`)
) ENGINE=InnoDB AUTO_INCREMENT=25 DEFAULT CHARSET=utf8
身份证件
名称
邮政编码
城市
现在我有了第二张table,上面有世界上所有的城镇:
(约340万行)
CREATE TABLE `geoData` (
`geoID` int(11) NOT NULL AUTO_INCREMENT,
`countryCode` char(2) NOT NULL,
`zipCode` varchar(20) NOT NULL,
`name` varchar(180) NOT NULL,
`state` varchar(100) NOT NULL,
`stateCode` varchar(20) NOT NULL,
`county` varchar(100) NOT NULL,
`countyCode` varchar(20) NOT NULL,
`community` varchar(100) NOT NULL,
`communityCode` varchar(20) NOT NULL,
`lat` mediumint(6) NOT NULL,
`lon` mediumint(6) NOT NULL,
PRIMARY KEY (`lon`,`lat`,`geoID`) USING BTREE,
KEY `geoID` (`geoID`)
) ENGINE=InnoDB AUTO_INCREMENT=16482 DEFAULT CHARSET=utf8
/*!50100 PARTITION BY RANGE (lat)
(PARTITION p0 VALUES LESS THAN (-880000) ENGINE = InnoDB,
PARTITION p1 VALUES LESS THAN (-860000) ENGINE = InnoDB,
PARTITION p2 VALUES LESS THAN (-840000) ENGINE = InnoDB,
PARTITION p3 VALUES LESS THAN (-820000) ENGINE = InnoDB,
PARTITION p4 VALUES LESS THAN (-800000) ENGINE = InnoDB,
PARTITION p5 VALUES LESS THAN (-780000) ENGINE = InnoDB,
PARTITION p6 VALUES LESS THAN (-760000) ENGINE = InnoDB,
PARTITION p7 VALUES LESS THAN (-740000) ENGINE = InnoDB,
PARTITION p8 VALUES LESS THAN (-720000) ENGINE = InnoDB,
PARTITION p9 VALUES LESS THAN (-700000) ENGINE = InnoDB,
PARTITION p10 VALUES LESS THAN (-680000) ENGINE = InnoDB,
PARTITION p11 VALUES LESS THAN (-660000) ENGINE = InnoDB,
PARTITION p12 VALUES LESS THAN (-640000) ENGINE = InnoDB,
PARTITION p13 VALUES LESS THAN (-620000) ENGINE = InnoDB,
PARTITION p14 VALUES LESS THAN (-600000) ENGINE = InnoDB,
PARTITION p15 VALUES LESS THAN (-580000) ENGINE = InnoDB,
PARTITION p16 VALUES LESS THAN (-560000) ENGINE = InnoDB,
PARTITION p17 VALUES LESS THAN (-540000) ENGINE = InnoDB,
PARTITION p18 VALUES LESS THAN (-520000) ENGINE = InnoDB,
PARTITION p19 VALUES LESS THAN (-500000) ENGINE = InnoDB,
PARTITION p20 VALUES LESS THAN (-480000) ENGINE = InnoDB,
PARTITION p21 VALUES LESS THAN (-460000) ENGINE = InnoDB,
PARTITION p22 VALUES LESS THAN (-440000) ENGINE = InnoDB,
PARTITION p23 VALUES LESS THAN (-420000) ENGINE = InnoDB,
PARTITION p24 VALUES LESS THAN (-400000) ENGINE = InnoDB,
PARTITION p25 VALUES LESS THAN (-380000) ENGINE = InnoDB,
PARTITION p26 VALUES LESS THAN (-360000) ENGINE = InnoDB,
PARTITION p27 VALUES LESS THAN (-340000) ENGINE = InnoDB,
PARTITION p28 VALUES LESS THAN (-320000) ENGINE = InnoDB,
PARTITION p29 VALUES LESS THAN (-300000) ENGINE = InnoDB,
PARTITION p30 VALUES LESS THAN (-280000) ENGINE = InnoDB,
PARTITION p31 VALUES LESS THAN (-260000) ENGINE = InnoDB,
PARTITION p32 VALUES LESS THAN (-240000) ENGINE = InnoDB,
PARTITION p33 VALUES LESS THAN (-220000) ENGINE = InnoDB,
PARTITION p34 VALUES LESS THAN (-200000) ENGINE = InnoDB,
PARTITION p35 VALUES LESS THAN (-180000) ENGINE = InnoDB,
PARTITION p36 VALUES LESS THAN (-160000) ENGINE = InnoDB,
PARTITION p37 VALUES LESS THAN (-140000) ENGINE = InnoDB,
PARTITION p38 VALUES LESS THAN (-120000) ENGINE = InnoDB,
PARTITION p39 VALUES LESS THAN (-100000) ENGINE = InnoDB,
PARTITION p40 VALUES LESS THAN (-80000) ENGINE = InnoDB,
PARTITION p41 VALUES LESS THAN (-60000) ENGINE = InnoDB,
PARTITION p42 VALUES LESS THAN (-40000) ENGINE = InnoDB,
PARTITION p43 VALUES LESS THAN (-20000) ENGINE = InnoDB,
PARTITION p44 VALUES LESS THAN (0) ENGINE = InnoDB,
PARTITION p45 VALUES LESS THAN (20000) ENGINE = InnoDB,
PARTITION p46 VALUES LESS THAN (40000) ENGINE = InnoDB,
PARTITION p47 VALUES LESS THAN (60000) ENGINE = InnoDB,
PARTITION p48 VALUES LESS THAN (80000) ENGINE = InnoDB,
PARTITION p49 VALUES LESS THAN (100000) ENGINE = InnoDB,
PARTITION p50 VALUES LESS THAN (120000) ENGINE = InnoDB,
PARTITION p51 VALUES LESS THAN (140000) ENGINE = InnoDB,
PARTITION p52 VALUES LESS THAN (160000) ENGINE = InnoDB,
PARTITION p53 VALUES LESS THAN (180000) ENGINE = InnoDB,
PARTITION p54 VALUES LESS THAN (200000) ENGINE = InnoDB,
PARTITION p55 VALUES LESS THAN (220000) ENGINE = InnoDB,
PARTITION p56 VALUES LESS THAN (240000) ENGINE = InnoDB,
PARTITION p57 VALUES LESS THAN (260000) ENGINE = InnoDB,
PARTITION p58 VALUES LESS THAN (280000) ENGINE = InnoDB,
PARTITION p59 VALUES LESS THAN (300000) ENGINE = InnoDB,
PARTITION p60 VALUES LESS THAN (320000) ENGINE = InnoDB,
PARTITION p61 VALUES LESS THAN (340000) ENGINE = InnoDB,
PARTITION p62 VALUES LESS THAN (360000) ENGINE = InnoDB,
PARTITION p63 VALUES LESS THAN (380000) ENGINE = InnoDB,
PARTITION p64 VALUES LESS THAN (400000) ENGINE = InnoDB,
PARTITION p65 VALUES LESS THAN (420000) ENGINE = InnoDB,
PARTITION p66 VALUES LESS THAN (440000) ENGINE = InnoDB,
PARTITION p67 VALUES LESS THAN (460000) ENGINE = InnoDB,
PARTITION p68 VALUES LESS THAN (480000) ENGINE = InnoDB,
PARTITION p69 VALUES LESS THAN (500000) ENGINE = InnoDB,
PARTITION p70 VALUES LESS THAN (520000) ENGINE = InnoDB,
PARTITION p71 VALUES LESS THAN (540000) ENGINE = InnoDB,
PARTITION p72 VALUES LESS THAN (560000) ENGINE = InnoDB,
PARTITION p73 VALUES LESS THAN (580000) ENGINE = InnoDB,
PARTITION p74 VALUES LESS THAN (600000) ENGINE = InnoDB,
PARTITION p75 VALUES LESS THAN (620000) ENGINE = InnoDB,
PARTITION p76 VALUES LESS THAN (640000) ENGINE = InnoDB,
PARTITION p77 VALUES LESS THAN (660000) ENGINE = InnoDB,
PARTITION p78 VALUES LESS THAN (680000) ENGINE = InnoDB,
PARTITION p79 VALUES LESS THAN (700000) ENGINE = InnoDB,
PARTITION p80 VALUES LESS THAN (720000) ENGINE = InnoDB,
PARTITION p81 VALUES LESS THAN (740000) ENGINE = InnoDB,
PARTITION p82 VALUES LESS THAN (760000) ENGINE = InnoDB,
PARTITION p83 VALUES LESS THAN (780000) ENGINE = InnoDB,
PARTITION p84 VALUES LESS THAN (800000) ENGINE = InnoDB,
PARTITION p85 VALUES LESS THAN (820000) ENGINE = InnoDB,
PARTITION p86 VALUES LESS THAN (840000) ENGINE = InnoDB,
PARTITION p87 VALUES LESS THAN (860000) ENGINE = InnoDB,
PARTITION p88 VALUES LESS THAN (880000) ENGINE = InnoDB,
PARTITION p89 VALUES LESS THAN MAXVALUE ENGINE = InnoDB) */
身份证件
城市
邮政编码
纬度
经度
基于这篇文章和其他一些关于这个问题的阅读,我有一个存储过程,它给我一个点(纬度/经度)附近最近城镇的n个位置/邮政编码。
我的存储过程:
BEGIN
DECLARE _deg2rad DOUBLE DEFAULT PI()/1800000;
SET @my_lat := _my_lat,
@my_lon := _my_lon,
@deg2dist := 0.0111325,
@start_deg := _start_dist / @deg2dist,
@max_deg := _max_dist / @deg2dist,
@cutoff := @max_deg / SQRT(2),
@dlat := @start_deg,
@lon2lat := COS(_deg2rad * @my_lat),
@iterations := 0;
SET @sql = CONCAT(
"SELECT COUNT(*) INTO @near_ct
FROM geoData
WHERE lat BETWEEN @my_lat - @dlat
AND @my_lat + @dlat
AND lon BETWEEN @my_lon - @dlon
AND @my_lon + @dlon");
PREPARE _sql FROM @sql;
MainLoop: LOOP
SET @iterations := @iterations + 1;
SET @dlon := ABS(@dlat / @lon2lat);
SET @dlon := IF(ABS(@my_lat) + @dlat >= 900000, 3600001, @dlon);
EXECUTE _sql;
IF ( @near_ct >= _limit OR
@dlat >= @cutoff ) THEN
LEAVE MainLoop;
END IF;
SET @dlat := LEAST(2 * @dlat, @cutoff);
END LOOP MainLoop;
DEALLOCATE PREPARE _sql;
SET @dlat := IF( @dlat >= @max_deg OR @dlon >= 1800000,
@max_deg,
GCDist(ABS(@my_lat), @my_lon,
ABS(@my_lat) - @dlat, @my_lon - @dlon) );
SET @dlon := IFNULL(ASIN(SIN(_deg2rad * @dlat) /
COS(_deg2rad * @my_lat))
/ _deg2rad
, 3600001);
IF (ABS(@my_lon) + @dlon < 1800000 OR
ABS(@my_lat) + @dlat < 900000) THEN
SET @sql = CONCAT(
"SELECT *,
@deg2dist * GCDist(@my_lat, @my_lon, lat, lon) AS dist
FROM geoData
WHERE lat BETWEEN @my_lat - @dlat
AND @my_lat + @dlat
AND lon BETWEEN @my_lon - @dlon
AND @my_lon + @dlon
HAVING dist <= ", _max_dist, "
ORDER BY dist
LIMIT ", _limit
);
ELSE
SET @west_lon := IF(@my_lon < 0, @my_lon, @my_lon - 3600000);
SET @east_lon := @west_lon + 3600000;
SET @sql = CONCAT(
"( SELECT *,
@deg2dist * GCDist(@my_lat, @west_lon, lat, lon) AS dist
FROM geoData
WHERE lat BETWEEN @my_lat - @dlat
AND @my_lat + @dlat
AND lon BETWEEN @west_lon - @dlon
AND @west_lon + @dlon
HAVING dist <= ", _max_dist, " )
UNION ALL
( SELECT *,
@deg2dist * GCDist(@my_lat, @east_lon, lat, lon) AS dist
FROM geoData
WHERE lat BETWEEN @my_lat - @dlat
AND @my_lat + @dlat
AND lon BETWEEN @east_lon - @dlon
AND @east_lon + @dlon
HAVING dist <= ", _max_dist, " )
ORDER BY dist
LIMIT ", _limit
);
END IF;
PREPARE _sql FROM @sql;
EXECUTE _sql;
DEALLOCATE PREPARE _sql;
END
我的问题是:
我想输入一个城市的邮政编码或名称,然后从那里开始搜索。所以我的想法是,我要求这些信息,并查找我的表中的所有城镇/邮政编码从世界各地。之后,如果只找到一个结果,我就有了lat/lon的信息,或者在有多个结果的情况下,我会要求用户选择正确的选项。
之后,我开始寻找离我现在位置最近的城镇。假设我想要一份50个城镇的名单。然后,我会去查一下,看看包含位置的表是否匹配其中的5个结果。
仔细想想,这听起来是个坏主意。。。
方法1:
我仔细阅读了存储过程、sql和monster查询,并尝试获得以下内容:
输入一个邮政编码/城市名称,我会查找它,从巨大的表中获取lat/lon(可能是mysql中的函数),然后根据它查找最近的城镇,然后在那里加入locations表,得到我的5个最近的位置。
问题:
如何避免同一城市/邮政编码的同一名称有多个匹配项?
为了得到5个最近的位置,用一个简单的连接听起来可能吗?
方法2:
获取我所在位置的所有纬度/经度值,然后在此表上运行该过程。就用那张大table来找回我现在的位置?
有了这些,我就需要收集我所在地的所有纬度/经度。但这也许是最好的办法。
不过,拥有庞大的城市/邮政编码数据库只是为了获取地理位置,似乎有点过头了。我希望有其他的选择,也许。。。不知怎的。。。
方法3
老实说,我想要的这个函数好像以前写过无数次。那我为什么要费心重新发明轮子呢?但我不知道如何找到合适的文章或书籍,以实现我的目标。
你们中有没有其他人对这种事情的最佳实践有什么想法?
2条答案
按热度按时间tpxzln5u1#
16k排其实没那么多。
我有一个
cities
3.1m行的表格(数据取自https://www.maxmind.com/de/free-world-cities-database). 我创造了一个“赝品”locations
具有16k个不同随机cityid和一些虚拟数据的表。我用一列POINT
数据类型而不是latitude
以及longitude
. 这是我从MySQL5.7.18上非常简单的查询中得到的:执行时间约为70ms。
可以通过子查询进行改进:
执行时间:~40ms
如果你储存
geoPoint
(多余的)在locations
表中,可以避免与cities
table。执行时间:~17ms
你仍然可以加入
cities
在不损失性能的情况下将表添加到子查询。请注意,所有这些查询都将计算所有16k行的距离并对它们进行排序。不过,这场表演对你来说已经足够了。
如果速度不够快或者
locations
表将随着时间的推移而增长,或者如果您想在大表中搜索,您仍然可以使用SPATIAL INDEX
在geoPoint
以及MBRWithin()
或者MBRContains()
.算法:
在用户位置周围定义一个小多边形。
增加循环中多边形的大小,直到它至少包含5个位置。
使用多边形中的位置选择5个最近的。
请注意,根据所使用的多边形类型,在找到一个具有5个位置的多边形后,可能需要再次增大其大小。例如,如果您使用一个正方形(简单的实现),您应该将大小增加一倍(将长度增加因子sqrt(2)),以绝对确保您不会错过正方形外的位置,该位置比正方形内的第五个位置更近。这是因为正方形不是圆。但是如果你用一个八角形,你可能会说-这已经够圆了-然后跳过最后一步。
这可能不是最好的算法。但它的实现非常简单,而且应该扩展得足够好。
mefy6pfw2#
首先是一些评论。。。
我在这里和其他论坛上看到了几十个(不是几百万个)的实现;你的比大多数人都好。
根据一个数据来源(我碰巧下载的),世界上大约有320万个城市。
为了提高性能,您需要避免检查所有3m行。你已经有了一个良好的开端与不断增长的边界框。请注意,您应该
优化器将在这些查询和第一个查询之间进行选择(使用
COUNT(*)
)会把它看作是“掩护”。它将是环绕地球的条纹或楔形物;超过3米的行距确实有所改善。最差的纬度(+34度)有9.6万个城市(1度=69英里/111公里)对于十分之一度,34.4度是最差的,有10公里的城市。(是的,我喜欢这种数据拼图。)
而且,我看到你处理日期线和波兰人。我认为你不能把它们当作特例来改进。
(我只看了一眼公式和常数。)
geohash和z顺序索引帮助。但是它们有一个小问题,那就是你需要检查目标周围的4个区域——就像没有意识到199999和200000两个整数彼此非常接近一样,尽管它们的第一个数字是不同的。
“用户传入邮政编码或城市名称”--这是指向两个简单表之一的点查询(除了可能有DUP——圣何塞和圣安东尼奥各有320多个。排名靠后的是第一个非西班牙名字:“维多利亚”,只有144个城市。)
第二,我的实现(它和你的有些相似。)
http://mysql.rjweb.org/doc.php/latlng
这通过使用
PARTITIONing
使边界框大致保持为正方形,而不是条形或楔形。如果您要查找最接近的5行,我的算法将很少触及几十行以上的行,并且这些行将“聚集”在少量块中,从而将磁盘命中数保持在很低的水平。在我的设计中,关键的一点是在一个表中包含所有必要的列。一旦你找到了最接近的5个,你就可以到其他table去拿一些辅助的东西(电话号码等)。
至于邮政编码,先将其转换为lat/lon,然后再开始搜索最近的5个。
算法内部的连接很可能会破坏性能。