在inference阶段,整个模型会load到GPU上,进行端到端的计算,通常只会给你输出一个最终结果。
如果想要获取模型的中间层输出,则需要在计算前标定目标层位置(通过forward返回),或者把模型在那层截断(当作一个小模型)输出。本文介绍2种获取模型中间层输出结果的方法:
1. 标定目标层位置
def forward(self, x):
layer1_out = self.layer1(x)
layer2_out = self.layer2(layer1_out)
out = self.final_layer(layer2_out)
return out #, layer2_out
如果想看第二层的输出结果,只需在return的时候把layer2_out返回即可。
2. 把模型在某层截断
class MyModel:
def __init__(self, xxx):
self.backbone = net1()
self.head = net2()
def forward(self, x):
out = self.head(net1(x))
return out
if __name__=='__main__':
model = MyModel()
x = cv2.imread('xxx')
mid_out = model.backbone(x)
print(mid_out.size())