我是异步模块的新手,请原谅我的糟糕尝试:

在我的代码中,我尝试首先提交100个任务,然后在前100个任务完成后提交下一个100个任务,然后再提交另外100个任务。

我应该怎么做才能使其正常工作?

# len(ad_accounts) = 1000 for example
new_loop = asyncio.new_event_loop()
asyncio.set_event_loop(new_loop)
task_list = [
            asyncio.ensure_future(_handle_account(account)) for ad_account in ad_accounts[:100]
        ]
#just submit 100 tasks here once
new_loop.run_until_complete(asyncio.wait(task_list))
# then can I continuely submit next 100 tasks?

最佳答案

没什么要补充的,


get_event_loop将尝试访问任何可用的事件循环,如果没有,则将使用new_event_loop [Doc]调用set_event_loop
当您不会对单个任务执行任何进一步操作时,只需使用asyncio.gather。使用gather还提供了一种停止整个任务组的方法,请参阅此SO answer
您可能会在下面注意到,使用()生成器而不是[]列表理解,因为您实际上不需要将列表保存在内存中,并且直到迭代时才需要它。如果不是这种情况,请改回[]括号。


整个工作示例将是:

# len(ad_accounts) = 1000 for example

chunk_size = 100
batched_tasks = (ad_accounts[i:i + chunk_size] for i in range(0, len(ad_accounts), chunk_size))
_loop = asyncio.get_event_loop()

for task_group in batched_tasks:
    task_list = [
        asyncio.ensure_future(_handle_account(account)) for ad_account in task_group
    ]
    #just submit 100 tasks here once
    _loop.run_until_complete(asyncio.gather(*task_list))
    # Or _loop.run_until_complete(asyncio.wait(task_list))

关于python - 在异步模块中完成一个任务列表后,如何提交另一个任务列表?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/55331403/

10-12 17:06