python - DeepPavlov elmo太慢

我试着使用DeepPavlov库中的ELMO嵌入（ElmoEmbedder）。它真的很慢，每100个单位64秒。
我试图增加mini_batch_的大小，但没有加快算法的速度。
有没有可能加快艾尔莫的速度？

最佳答案

mini_batch_size只有当您在GPU上运行模型时，才可能对性能产生重大影响。
如果没有GPU，请尝试使用Google Colab。它为您提供了对GPU和TPU的免费访问。

!pip install deeppavlov

from deeppavlov.deep import find_config
from deeppavlov.core.commands.infer import build_model
config_path = find_config('elmo_ru-wiki')
model = build_model(config_path, load_trained = True, download = True)
a = model(data)

不要忘记在Edit->Notebook settings->Hardware accelerator中启用GPU

关于python - DeepPavlov elmo太慢，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/53615765/