为了加快用于训练神经网络的数据扩充，我正在尝试某种形式的并行处理，以便为GPU提供数据。目前的限制是我生成增强数据的速度，而不是GPU训练网络的速度。
如果我尝试将multiprocessing=True与生成器一起使用，则在Windows 10(v1083)64位下的Python 3.6.6中，keras 2.2.0出现以下错误:
我发现例如GitHub上的the following，因此这是Windows下keras的预期行为。该链接似乎建议移至序列而不是生成器(即使错误消息似乎建议使用多线程，但我也无法弄清楚如何在keras上使用多线程而不是多处理-我可能忽略了它在文档中，但我只是没有找到它)。因此，我使用了下面的代码(使用序列修改示例)，但这也无法实现加速，或者在带有use_multiprocessing=True的变体中卡住了。
我是否在这里缺少一些显而易见的东西，以了解如何使某种形式的并行生成器运行？
最小(非)工作示例:
from keras.utils import Sequence
from keras.models import Sequential
from keras.layers import Dense
from keras.utils import to_categorical
import numpy as np
class DummySequence(Sequence):
def __init__(self, x_set, y_set, batch_size):
self.x, self.y = x_set, y_set
self.batch_size = batch_size
def __len__(self):
return int(np.ceil(len(self.x) / float(self.batch_size)))
def __getitem__(self, idx):
batch_x = self.x[idx * self.batch_size:(idx + 1) * self.batch_size]
batch_y = self.y[idx * self.batch_size:(idx + 1) * self.batch_size]
return np.array(batch_x), np.array(batch_y)
x = np.random.random((100, 3))
y = to_categorical(np.random.random(100) > .5).astype(int)
seq = DummySequence(x, y, 10)
model = Sequential()
model.add(Dense(32, input_dim=3))
model.add(Dense(2, activation='softmax'))
model.compile(optimizer='rmsprop',
loss='categorical_crossentropy',
metrics=['accuracy'])
print('single worker')
model.fit_generator(generator=seq,
steps_per_epoch = 100,
epochs = 2,
verbose=2,
workers=1)
print('achieves no speed-up')
model.fit_generator(generator=seq,
steps_per_epoch = 100,
epochs = 2,
verbose=2,
workers=6,
use_multiprocessing=False)
print('Does not run')
model.fit_generator(generator=seq,
steps_per_epoch = 100,
epochs = 2,
verbose=2,
workers=6,
use_multiprocessing=True)
最佳答案
与序列结合使用multi_processing = False和worker = e.g。 4确实有效。
我只是意识到在问题的示例代码中，我没有看到速度提高，因为生成数据的速度太快了。通过插入time.sleep(2)，这变得明显。
class DummySequence(Sequence):
def __init__(self, x_set, y_set, batch_size):
self.x, self.y = x_set, y_set
self.batch_size = batch_size
def __len__(self):
return int(np.ceil(len(self.x) / float(self.batch_size)))
def __getitem__(self, idx):
batch_x = self.x[idx * self.batch_size:(idx + 1) * self.batch_size]
batch_y = self.y[idx * self.batch_size:(idx + 1) * self.batch_size]
time.sleep(2)
return np.array(batch_x), np.array(batch_y)
x = np.random.random((100, 3))
y = to_categorical(np.random.random(100) > .5).astype(int)
seq = DummySequence(x, y, 10)
model = Sequential()
model.add(Dense(32, input_dim=3))
model.add(Dense(2, activation='softmax'))
model.compile(optimizer='rmsprop',
loss='categorical_crossentropy',
metrics=['accuracy'])
print('single worker')
model.fit_generator(generator=seq,
steps_per_epoch = 10,
epochs = 2,
verbose=2,
workers=1)
print('achieves speed-up!')
model.fit_generator(generator=seq,
steps_per_epoch = 10,
epochs = 2,
verbose=2,
workers=4,
use_multiprocessing=False)
这在我的笔记本电脑上产生了以下内容:
single worker
>>> model.fit_generator(generator=seq,
... steps_per_epoch = 10,
... epochs = 2,
... verbose=2,
... workers=1)
Epoch 1/2
- 20s - loss: 0.6984 - acc: 0.5000
Epoch 2/2
- 20s - loss: 0.6955 - acc: 0.5100
和
achieves speed-up!
>>> model.fit_generator(generator=seq,
... steps_per_epoch = 10,
... epochs = 2,
... verbose=2,
... workers=4,
... use_multiprocessing=False)
Epoch 1/2
- 6s - loss: 0.6904 - acc: 0.5200
Epoch 2/2
- 6s - loss: 0.6900 - acc: 0.5000
重要说明:
您可能需要在
self.lock = threading.Lock()中添加__init___，然后在with self.lock:中添加__getitem__。据我所知，请尝试在with self.lock:内执行所需的绝对最低限度要求，这将是对self.xxxx的任何引用(在with self.lock:块运行时避免了多线程处理)。此外，如果您希望多线程加速计算(即CPU操作是极限)，则不要期望任何加速。 global-interpreter lock(GIL)可以防止这种情况。如果限制是在I/O操作中，则多线程只会为您提供帮助。显然，为了加速CPU计算，我们需要真正的多重处理，而
keras当前在Windows 10上不支持。也许可以手工制作多重处理生成器(我不知道)。