我正在使用 Netty 来执行大型 文件上传 。它工作正常,但客户端使用的 RAM 似乎随着文件的大小而增加。这不是预期的行为,因为一切都是从读取源文件到写入目标文件的管道。
起初,我想到了一种自适应缓冲区,直到达到 Xmx 为止,但是 将 Xmx 设置为合理的值(50M)会在开始上传后不久导致 OutOfMemoryError 。
使用 Eclipse Memory Analyzer 进行一些研究后,似乎保留堆内存的对象是:
org.jboss.netty.channel.socket.nio.NioSocketChannel$WriteRequestQueue
是否有任何选项可以设置此队列的限制,或者我是否必须使用 ChannelFutures 编写自己的队列来控制字节数并在达到限制时阻塞管道?
谢谢你的帮助,
问候,
雷诺
最佳答案
@normanmaurer 在 Netty Github 上的回答
你应该使用
Channel.isWritable()
检查“队列”是否已满。如果是这样,您将需要检查是否有足够的空间来写入更多内容。因此,如果您快速写入数据以将其发送给客户端,就会发生您看到的效果。
尝试通过 DefaultFileRegion 或 ChunkedFile 编写文件时,您可以解决此类问题。
@normanmaurer 谢谢我错过了 channel 的这种方法!
我想我需要阅读里面发生的事情:
org.jboss.netty.handler.stream.ChunkedWriteHandler
更新:2012/08/30
这是我为解决问题而编写的代码:
public class LimitedChannelSpeaker{
Channel channel;
final Object lock = new Object();
long maxMemorySizeB;
long size = 0;
Map<ChannelBufferRef, Integer> buffer2readablebytes = new HashMap<ChannelBufferRef, Integer>();
public LimitedChannelSpeaker(Channel channel, long maxMemorySizeB) {
this.channel= channel;
this.maxMemorySizeB = maxMemorySizeB;
}
public ChannelFuture speak(ChannelBuffer buff) {
if (buff.readableBytes() > maxMemorySizeB) {
throw new IndexOutOfBoundsException("The buffer is larger than the maximum allowed size of " + maxMemorySizeB + "B.");
}
synchronized (lock) {
while (size + buff.readableBytes() > maxMemorySizeB) {
try {
lock.wait();
} catch (InterruptedException ex) {
throw new RuntimeException(ex);
}
}
ChannelBufferRef ref = new ChannelBufferRef(buff);
ref.register();
ChannelFuture future = channel.write(buff);
future.addListener(new ChannelBufferRef(buff));
return future;
}
}
private void spoken(ChannelBufferRef ref) {
synchronized (lock) {
ref.unregister();
lock.notifyAll();
}
}
private class ChannelBufferRef implements ChannelFutureListener {
int readableBytes;
public ChannelBufferRef(ChannelBuffer buff) {
readableBytes = buff.readableBytes();
}
public void unregister() {
buffer2readablebytes.remove(this);
size -= readableBytes;
}
public void register() {
buffer2readablebytes.put(this, readableBytes);
size += readableBytes;
}
@Override
public void operationComplete(ChannelFuture future) throws Exception {
spoken(this);
}
}
}