我想做的是创建一个包含美国所有酒吧的数据库。我需要半定期(每周左右)更新此数据库,以包括新打开的酒吧。

yelp api的问题在于它们只会返回20个结果。在我5英里半径范围内,有800多个酒吧。我如何现实地实现自己的目标?

最佳答案

您需要编写一个搜寻器,该搜寻器将搜寻该网站以获取链接结构,而不是访问每个页面并抓取清单。另外,您可以使用API​​并根据需要发出尽可能多的请求以获取所有结果。

10-08 18:54