在我们的Django项目中,有一个视图可以创建多个对象(从5到甚至100)。问题是创建阶段需要很长时间。
不知道为什么会这样,但我想可能是因为在n个对象上,有n个数据库查找和提交。
例如,24个对象需要67秒。
我想加快这个过程。
我认为有两件事值得考虑:
在一个查询中创建这些对象,以便只执行一次提交。
创建ThreadPool
并并行创建这些对象。
这是导致问题的视图的一部分(我们在本地主机上使用Postgres,所以连接不是问题)
@require_POST
@login_required
def heu_import(request):
...
...
product = Product.objects.create(user=request.user,name=name,manufacturer=manufacturer,category=category)
product.groups.add(*groups)
occurences = []
counter = len(urls_xpaths)
print 'Occurences creating'
start = datetime.now()
eur_currency = Currency.objects.get(shortcut='eur')
for url_xpath in urls_xpaths:
counter-=1
print counter
url = url_xpath[1]
xpath = url_xpath[0]
occ = Occurence.objects.create(product=product,url=url,xpath=xpath,active=True if xpath else False,currency=eur_currency)
occurences.append(occ)
print 'End'
print datetime.now()-start
...
return render(request,'main_app/dashboard/new-product.html',context)
输出:
Occurences creating
24
.
.
.
0
End
0:01:07.727000
编辑:
我试图将for循环放入
with transaction.atomic():
块中,但它似乎只起了一点作用(47秒而不是67秒)。编辑2:
我不确定,但似乎SQL查询不是问题:
最佳答案
请使用“批量创建”插入多个对象。occurences = []
for url_xpath in urls_xpaths:
counter-=1
print counter
url = url_xpath[1]
xpath = url_xpath[0]
occurances.append(Occurence(product=product,url=url,xpath=xpath,active=True if xpath else False,currency=eur_currency))
Occurence.objects.bulk_create(occurences)