02、VGG16预训练好的参数加载与模型网络构建_笔记

东方耀

02、VGG16预训练好的参数加载与模型网络构建_笔记

vgg16与vgg19预训练好的参数文件下载【回复本帖可见】：

游客，如果您要查看本帖隐藏内容请回复

1. # -*- coding: utf-8 -*-
   
2. __author__ = 'dongfangyao'
   
3. __date__ = '2019/3/12 下午5:19'
   
4. __product__ = 'PyCharm'
   
5. __filename__ = '1_vgg16_content'
   
6. 
   
7. 
   
8. import numpy as np
   
9. 
   
10. vgg16_data = np.load('vgg16.npy', encoding='latin1')
    
11. 
    
12. print(type(vgg16_data))
    
13. data_dict = vgg16_data.item()
    
14. print(type(data_dict))
    
15. print(data_dict.keys())
    
16. print(len(data_dict))
    
17. 
    
18. conv1_1 = data_dict['conv1_1']
    
19. print(len(conv1_1))
    
20. w, b = conv1_1
    
21. print(w.shape)
    
22. print(b.shape)
    
23. 
    
24. conv3_1 = data_dict['conv3_1']
    
25. print(len(conv3_1))
    
26. w, b = conv3_1
    
27. print(w.shape)
    
28. print(b.shape)
    
29. 
    
30. fc6 = data_dict['fc6']
    
31. w, b = fc6
    
32. print(w.shape)
    
33. print(b.shape)
    
34. 
    
35. fc8 = data_dict['fc8']
    
36. w, b = fc8
    
37. print(w.shape)
    
38. print(b.shape)
    
39. 
    
40. 
    
41. 
    
42. 
    

复制代码

1. # -*- coding: utf-8 -*-
   
2. __author__ = 'dongfangyao'
   
3. __date__ = '2019/3/12 下午5:33'
   
4. __product__ = 'PyCharm'
   
5. __filename__ = '2_image_style_con'
   
6. 
   
7. import tensorflow as tf
   
8. from tensorflow import logging
   
9. import os
   
10. import time
    
11. import numpy as np
    
12. 
    
13. 
    
14. logging.set_verbosity(logging.INFO)
    
15. 
    
16. # logging.info('dfy_88888')
    
17. # vgg net 中写死的 归一化的数据预处理
    
18. VGG_MEAN = [103.939, 116.779, 123.68]
    
19. 
    
20. 
    
21. class VGGNet:
    
22.     """
    
23.     构建VGG16的网络结构 并从预训练好的模型提取参数 加载
    
24.     """
    
25.     def __init__(self, data_dict):
    
26.         self.data_dict = data_dict
    
27. 
    
28.     def get_conv_kernel(self, name):
    
29.         # 卷积核的参数：w 0  b 1
    
30.         return tf.constant(self.data_dict[name][0], name='conv')
    
31. 
    
32.     def get_fc_weight(self, name):
    
33.         return tf.constant(self.data_dict[name][0], name='fc')
    
34. 
    
35.     def get_bias(self, name):
    
36.         return tf.constant(self.data_dict[name][1], name='bias')
    
37. 
    
38.     def conv_layer(self, inputs, name):
    
39.         """
    
40.         构建一个卷积计算层
    
41.         :param inputs: 输入的feature_map
    
42.         :param name: 卷积层的名字 也是获得参数的key 不能出错
    
43.         :return:
    
44.         """
    
45.         with tf.name_scope(name):
    
46.             """
    
47.             多使用name_scope的好处：1、防止参数命名冲突 2、tensorboard可视化时很规整
    
48.             如果scope里面有变量需要训练时则用tf.variable_scope
    
49.             """
    
50.             conv_w = self.get_conv_kernel(name)
    
51.             conv_b = self.get_bias(name)
    
52.             # tf.layers.conv2d() 这是一个封装更高级的api
    
53.             # 里面并没有提供接口来输入卷积核参数 这里不能用 平时训练cnn网络时非常好用
    
54.             result = tf.nn.conv2d(input=inputs, filter=conv_w, strides=[1, 1, 1, 1], padding='SAME', name=name)
    
55.             result = tf.nn.bias_add(result, conv_b)
    
56.             result = tf.nn.relu(result)
    
57.             return result
    
58. 
    
59.     def pooling_layer(self, inputs, name):
    
60.         # tf.layers.max_pooling2d()
    
61.         # tf.nn.max_pool 这里的池化层没有参数 两套api都可以用
    
62.         return tf.nn.max_pool(inputs, [1, 2, 2, 1], [1, 2, 2, 1], padding='SAME', name=name)
    
63. 
    
64.     def fc_layer(self, inputs, name, activation=tf.nn.relu):
    
65.         """
    
66.         构建全连接层
    
67.         :param inputs: 输入
    
68.         :param name:
    
69.         :param activation: 是否有激活函数的封装
    
70.         :return:
    
71.         """
    
72.         with tf.name_scope(name):
    
73.             fc_w = self.get_fc_weight(name)
    
74.             fc_b = self.get_bias(name)
    
75.             # fc: wx+b 线性变换
    
76.             result = tf.nn.bias_add(tf.matmul(inputs, fc_w), fc_b)
    
77.             if activation is None:
    
78.                 # vgg16的最后是不需relu激活的
    
79.                 return result
    
80.             else:
    
81.                 return activation(result)
    
82. 
    
83.     def flatten_op(self, inputs, name):
    
84.         # 展平操作 为了后续的fc层必须将维度展平
    
85.         with tf.name_scope(name):
    
86.             # [NHWC]---> [N, H*W*C]
    
87. 
    
88.             x_shape = inputs.get_shape().as_list()
    
89.             dim = 1
    
90.             for d in x_shape[1:]:
    
91.                 dim *= d
    
92.             inputs = tf.reshape(inputs, shape=[-1, dim])
    
93.             # 直接用现成api也是可以的
    
94.             # return tf.layers.flatten(inputs)
    
95.             return inputs
    
96. 
    
97.     def build(self, input_rgb):
    
98.         """
    
99.         构建vgg16网络结构 抽取特征 FP过程
    
100.         :param input_rgb: [1, 224, 224, 3]
     
101.         :return:
     
102.         """
     
103.         start_time = time.time()
     
104.         logging.info('building start...')
     
105. 
     
106.         # 在通道维度上分离 深度可分离卷积中也需要用到这个api
     
107.         r, g, b = tf.split(input_rgb, num_or_size_splits=3, axis=3)
     
108.         # 在通道维度上拼接
     
109.         # 输入vgg网络的图像是bgr的（与OpenCV一样 倒序的）而不是rgb
     
110.         x_bgr = tf.concat(values=[
     
111.             b - VGG_MEAN[0],
     
112.             g - VGG_MEAN[1],
     
113.             r - VGG_MEAN[2],
     
114.         ], axis=3)
     
115. 
     
116.         assert x_bgr.get_shape().as_list()[1:] == [224, 224, 3]
     
117. 
     
118.         # 构建网络
     
119.         # stage 1
     
120.         self.conv1_1 = self.conv_layer(x_bgr, 'conv1_1')
     
121.         self.conv1_2 = self.conv_layer(self.conv1_1, 'conv1_2')
     
122.         self.pool1 = self.pooling_layer(self.conv1_2, 'pool1')
     
123. 
     
124.         # stage 2
     
125.         self.conv2_1 = self.conv_layer(self.pool1, 'conv2_1')
     
126.         self.conv2_2 = self.conv_layer(self.conv2_1, 'conv2_2')
     
127.         self.pool2 = self.pooling_layer(self.conv2_2, 'pool2')
     
128. 
     
129.         # stage 3
     
130.         self.conv3_1 = self.conv_layer(self.pool2, 'conv3_1')
     
131.         self.conv3_2 = self.conv_layer(self.conv3_1, 'conv3_2')
     
132.         self.conv3_3 = self.conv_layer(self.conv3_2, 'conv3_3')
     
133.         self.pool3 = self.pooling_layer(self.conv3_3, 'pool3')
     
134. 
     
135.         # stage 4
     
136.         self.conv4_1 = self.conv_layer(self.pool3, 'conv4_1')
     
137.         self.conv4_2 = self.conv_layer(self.conv4_1, 'conv4_2')
     
138.         self.conv4_3 = self.conv_layer(self.conv4_2, 'conv4_3')
     
139.         self.pool4 = self.pooling_layer(self.conv4_3, 'pool4')
     
140. 
     
141.         # stage 5
     
142.         self.conv5_1 = self.conv_layer(self.pool4, 'conv5_1')
     
143.         self.conv5_2 = self.conv_layer(self.conv5_1, 'conv5_2')
     
144.         self.conv5_3 = self.conv_layer(self.conv5_2, 'conv5_3')
     
145.         self.pool5 = self.pooling_layer(self.conv5_3, 'pool5')
     
146. 
     
147.         # flatten_op
     
148.         self.flatten = self.flatten_op(self.pool5, 'flatten_op')
     
149. 
     
150.         # fc
     
151.         self.fc6 = self.fc_layer(self.flatten, 'fc6')
     
152.         self.fc7 = self.fc_layer(self.fc6, 'fc7')
     
153.         self.fc8 = self.fc_layer(self.fc7, 'fc8', activation=None)
     
154.         self.logits = tf.nn.softmax(self.fc8, name='logits')
     
155.         logging.info('building end... 耗时%3d秒' % (time.time() - start_time))
     
156. 
     
157. 
     
158. vgg16_npy_path = './vgg16.npy'
     
159. vgg16_data = np.load(vgg16_npy_path, encoding='latin1')
     
160. 
     
161. print(type(vgg16_data))
     
162. data_dict = vgg16_data.item()
     
163. 
     
164. vgg16_for_result = VGGNet(data_dict)
     
165. image_rgb = tf.placeholder(dtype=tf.float32, shape=[1, 224, 224, 3], name='image_rgb')
     
166. vgg16_for_result.build(image_rgb)
     
167. print(vgg16_for_result.conv1_1)
     
168. print(vgg16_for_result.fc6)
     
169. 
     
170. 
     
171. 
     
172. 
     
173. 
     

复制代码

虎宝宝

fdsafsadf

weiguangnixia

fsdfasdfdsa

水水水水

ssssssssssss

谭浩良

看看大神莫i噢噢噢噢噢噢噢噢

hmiao04

飞得高奋斗过

yqchilde

跟着东方老师学习

阳阳11

谢谢楼主分享

jlbu

111

何马

12121