我从 docker 开始飞溅。
我为飞溅和scrapy创建了大的lua脚本,然后运行它我看到了问题:
我怎样才能增加内存飞溅?
最佳答案
不幸的是,从 Splash 2.3.2 开始,没有内置的方法来提高这些限制。限制在这里是硬编码的:https://github.com/scrapinghub/splash/blob/7b6612847984fc574ebbedf9c3c750180cd93813/splash/lua_modules/sandbox.lua#L176 - 您可以更改该值,然后通过从 Splash 源代码 check out 运行 docker build -t splash .
来重建 Docker 镜像,然后使用此镜像而不是来自 DockerHub 的镜像。
关于scrapy - 飞溅内存限制(scrapy),我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/44310987/