我有一个在请求中实例化的类(这是一个ML模型,该模型加载后会在启动时花费一些时间进行配置)。想法是只做一次,让每个请求都使用模型进行预测。 gunicorn每次都会实例化该应用程序吗?
Aka,每次收到新请求时,模型都会重新训练吗?
最佳答案
听起来您可以从应用程序预加载中受益:
http://docs.gunicorn.org/en/stable/settings.html#preload-app
这样,您就可以在分离工作人员之前加载应用程序代码。
关于python - Gunicorn和共享变量如何工作,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/42122807/