我的模型是一个resnet-152,我想将其分为两个子模型,问题是第二个子模型,我不知道如何构建从中间层到输出的模型
我试过这个代码从这个响应,它不为我工作这里是我的代码:
def getLayerIndexByName(model, layername):
for idx, layer in enumerate(model.layers):
if layer.name == layername:
return idx
idx = getLayerIndexByName(resnet, 'res3a_branch2a')
input_shape = resnet.layers[idx].get_input_shape_at(0) # which is here in my case (None, 55, 55, 256)
layer_input = Input(shape=input_shape[1:]) # as keras will add the batch shape
# create the new nodes for each layer in the path
x = layer_input
for layer in resnet.layers[idx:]:
x = layer(x)
# create the model
new_model = Model(layer_input, x)
我得到这个错误:
ValueError: Input 0 is incompatible with layer res3a_branch1: expected axis -1 of input shape to have value 256 but got shape (None, 28, 28, 512).
我也试过这个功能:
def split(model, start, end):
confs = model.get_config()
kept_layers = set()
for i, l in enumerate(confs['layers']):
if i == 0:
confs['layers'][0]['config']['batch_input_shape'] = model.layers[start].input_shape
if i != start:
confs['layers'][0]['name'] += str(random.randint(0, 100000000)) # rename the input layer to avoid conflicts on merge
confs['layers'][0]['config']['name'] = confs['layers'][0]['name']
elif i < start or i > end:
continue
kept_layers.add(l['name'])
# filter layers
layers = [l for l in confs['layers'] if l['name'] in kept_layers]
layers[1]['inbound_nodes'][0][0][0] = layers[0]['name']
# set conf
confs['layers'] = layers
confs['input_layers'][0][0] = layers[0]['name']
confs['output_layers'][0][0] = layers[-1]['name']
# create new model
submodel = Model.from_config(confs)
for l in submodel.layers:
orig_l = model.get_layer(l.name)
if orig_l is not None:
l.set_weights(orig_l.get_weights())
return submodel
我得到这个错误:
ValueError: Unknown layer: Scale
因为我的resnet 152包含一个Scale层。
下面是一个工作版本:
import resnet # pip install resnet
from keras.models import Model
from keras.layers import Input
def getLayerIndexByName(model, layername):
for idx, layer in enumerate(model.layers):
if layer.name == layername:
return idx
resnet = resnet.ResNet152(weights='imagenet')
idx = getLayerIndexByName(resnet, 'res3a_branch2a')
model1 = Model(inputs=resnet.input, outputs=resnet.get_layer('res3a_branch2a').output)
input_shape = resnet.layers[idx].get_input_shape_at(0) # get the input shape of desired layer
print(input_shape[1:])
layer_input = Input(shape=input_shape[1:]) # a new input tensor to be able to feed the desired layer
# create the new nodes for each layer in the path
x = layer_input
for layer in resnet.layers[idx:]:
x = layer(x)
# create the model
model2 = Model(layer_input, x)
model2.summary()
下面是错误:
ValueError: Input 0 is incompatible with layer res3a_branch1: expected axis -1 of input shape to have value 256 but got shape (None, 28, 28, 512)
3条答案
按热度按时间snvhrwxg1#
正如我在评论部分提到的,由于ResNet模型没有线性架构(即,它具有跳跃连接,并且一个层可以连接到多个层),您不能简单地在循环中一个接一个地遍历模型的层,并在循环中将一个层应用到前一层的输出上(即,不同于具有线性架构的模型,this method works)。
因此,您需要找到各层之间的连通性,并遍历该连通图,以便能够构建原始模型的子模型。目前,我想到了以下解决方案:
1.指定子模型的最后一层。
1.从该层开始,找到所有连接到它的层。
1.获取这些连接图层的输出。
1.将最后一个图层应用于收集的输出。
显然,步骤#3暗示了递归:要得到连接层的输出(即X),我们首先需要找到它们的连接层(即Y),得到它们的输出(即Y的输出),然后将它们应用到这些输出上(即将X应用到Y的输出上)。此外,要找到连接层,您需要了解一些Keras的内部信息,这些信息已经在this answer中介绍过。因此,我们提出了以下解决方案:
重要说明:
1.该解决方案假设原始模型中的每一层仅被使用过一次,即,它不适用于其中层可以被共享并且因此可以被不止一次地应用于不同输入Tensor的暹罗网络。
1.如果要将模型正确分割为多个子模型,则仅将这些图层用作分割点是有意义的(例如,在上述代码中由
starting_layer_name
指示),它们不在分支中(例如在ResNet中合并层之后的激活层是一个好的选择,但是您选择的res3a_branch2a
不是一个好的选项,因为它在一个分支中)。为了更好地查看模型的原始架构,您可以使用plot_model()
实用函数来绘制它的图:1.由于新节点是在构造子模型之后创建的,因此不要试图构造另一个子模型**,该子模型与前面的子模型 * 在上面的代码 * 的同一次运行中具有重叠(即,如果它没有重叠,则是可以的!);否则,您可能会遇到错误。
enyaitl32#
在这种情况下,当存在索引为
middle
的层时,该层仅连接到前一层(#middle-1
),并且之后的所有层不直接连接到其之前的层,我们可以利用每个模型被保存为层列表的事实,并且以这种方式创建两个部分模型:然后很容易检查
model2.predict(model1.predict(x))
是否给出与model.predict(x)
相同的结果ecfsfe2w3#
我在分割一个用于迁移学习的初始CNN时遇到了类似的问题,只设置某个点之后的层为可训练的。
我选择迭代而不是递归的解决方案,因为对于具有许多收敛分支的网络,宽度优先遍历集合似乎是一个更安全的解决方案。
应该这样使用(例如InceptionV3)
输出