精易论坛

标题: 基于TensorFlow识别Captcha库验证码图文教程 [打印本页]

---

作者: yueying    时间: 2018-5-30 22:32
标题: 基于TensorFlow识别Captcha库验证码图文教程

准确度在96%左右，模型是腾讯云课堂公布的，我在机器上运行了6个小时，识别效果很好，我对其教程进行的整理，下面还原了一下

惊喜：看到最下面有关于识别英数验证码的网络模型

简介
传统的验证码识别算法一般需要把验证码分割为单个字符，然后逐个识别。本教程将验证码识别问题转化为分类的问题，实现对验证码进行整体识别。

• 步骤简介
  

本教程一共分为四个部分

• generate_captcha.py - 利用 Captcha 库生成验证码；
• captcha_model.py - CNN 模型；
• train_captcha.py - 训练 CNN 模型；
• predict_captcha.py - 识别验证码。
  

1、通过pip安装Captcha库

1. pip install captcha

复制代码

2、获取训练数据
本教程使用的验证码由数字、大写字母、小写字母组成，每个验证码包含 4 个字符，总共有 62^4 种组合，所以一 共有 62^4 种不同的验证码。

3、请创建generate_captcha.py文件并粘贴以下源代码：

1. #-*- coding:utf-8 -*-
   
2. from captcha.image import ImageCaptcha
   
3. from PIL import Image
   
4. import numpy as np
   
5. import random
   
6. import string
   
7. 
   
8. class generateCaptcha():
   
9.     def __init__(self,
   
10.                  width = 160,#验证码图片的宽
    
11.                  height = 60,#验证码图片的高
    
12.                  char_num = 4,#验证码字符个数
    
13.                  characters = string.digits + string.ascii_uppercase + string.ascii_lowercase):#验证码组成，数字+大写字母+小写字母
    
14.         self.width = width
    
15.         self.height = height
    
16.         self.char_num = char_num
    
17.         self.characters = characters
    
18.         self.classes = len(characters)
    
19. 
    
20.     def gen_captcha(self,batch_size = 50):
    
21.         X = np.zeros([batch_size,self.height,self.width,1])
    
22.         img = np.zeros((self.height,self.width),dtype=np.uint8)
    
23.         Y = np.zeros([batch_size,self.char_num,self.classes])
    
24.         image = ImageCaptcha(width = self.width,height = self.height)
    
25. 
    
26.         while True:
    
27.             for i in range(batch_size):
    
28.                 captcha_str = ''.join(random.sample(self.characters,self.char_num))
    
29.                 img = image.generate_image(captcha_str).convert('L')
    
30.                 img = np.array(img.getdata())
    
31.                 X[i] = np.reshape(img,[self.height,self.width,1])/255.0
    
32.                 for j,ch in enumerate(captcha_str):
    
33.                     Y[i,j,self.characters.find(ch)] = 1
    
34.             Y = np.reshape(Y,(batch_size,self.char_num*self.classes))
    
35.             yield X,Y
    
36. 
    
37.     def decode_captcha(self,y):
    
38.         y = np.reshape(y,(len(y),self.char_num,self.classes))
    
39.         return ''.join(self.characters[x] for x in np.argmax(y,axis = 2)[0,:])
    
40. 
    
41.     def get_parameter(self):
    
42.         return self.width,self.height,self.char_num,self.characters,self.classes
    
43. 
    
44.     def gen_test_captcha(self):
    
45.         image = ImageCaptcha(width = self.width,height = self.height)
    
46.         captcha_str = ''.join(random.sample(self.characters,self.char_num))
    
47.         img = image.generate_image(captcha_str)
    
48.         img.save(captcha_str + '.jpg')
    
49. 
    
50.         X = np.zeros([1,self.height,self.width,1])
    
51.         Y = np.zeros([1,self.char_num,self.classes])
    
52.         img = img.convert('L')
    
53.         img = np.array(img.getdata())
    
54.         X[0] = np.reshape(img,[self.height,self.width,1])/255.0
    
55.         for j,ch in enumerate(captcha_str):
    
56.             Y[0,j,self.characters.find(ch)] = 1
    
57.         Y = np.reshape(Y,(1,self.char_num*self.classes))
    
58.         return X,Y

复制代码

理解训练数据

• X：一个 mini-batch 的训练数据，其 shape 为 [ batch_size, height, width, 1 ]，batch_size 表示每批次多少个训练数据，height 表示验证码图片的高，width 表示验证码图片的宽，1 表示图片的通道。
• Y：X 中每个训练数据属于哪一类验证码，其形状为 [ batch_size, class ] ，对验证码中每个字符进行 One-Hot 编码，所以 class 大小为 4*62。
  

4、生成训练数据

1. python
   
2. from generate_captcha import generateCaptcha
   
3. g = generateCaptcha()
   
4. X,Y = g.gen_test_captcha()
   
5. <b>查看训练数据</b>
   
6. X.shape
   
7. Y.shape

复制代码

上面的代码的意思是进入python环境，执行我们创建的生成验证码文件，此文件调用Captcha库生成验证码bytes数据

5、模型学习

• CNN 模型
  

总共 5 层网络，前 3 层为卷积层，第 4、5 层为全连接层。对 4 层隐藏层都进行 dropout。
网络结构如下所示： input——>conv——>pool——>dropout——>conv——>pool——>dropout——>conv——>pool——>dropout——>fully connected layer——>dropout——>fully connected layer——>output


请创建captcha_model.py文件并粘贴下面源代码：

1. # -*- coding: utf-8 -*
   
2. import tensorflow as tf
   
3. import math
   
4. 
   
5. class captchaModel():
   
6.     def __init__(self,
   
7.                  width = 160,
   
8.                  height = 60,
   
9.                  char_num = 4,
   
10.                  classes = 62):
    
11.         self.width = width
    
12.         self.height = height
    
13.         self.char_num = char_num
    
14.         self.classes = classes
    
15. 
    
16.     def conv2d(self,x, W):
    
17.         return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding='SAME')
    
18. 
    
19.     def max_pool_2x2(self,x):
    
20.         return tf.nn.max_pool(x, ksize=[1, 2, 2, 1],
    
21.                               strides=[1, 2, 2, 1], padding='SAME')
    
22. 
    
23.     def weight_variable(self,shape):
    
24.         initial = tf.truncated_normal(shape, stddev=0.1)
    
25.         return tf.Variable(initial)
    
26. 
    
27.     def bias_variable(self,shape):
    
28.         initial = tf.constant(0.1, shape=shape)
    
29.         return tf.Variable(initial)
    
30. 
    
31.     def create_model(self,x_images,keep_prob):
    
32.         #first layer
    
33.         w_conv1 = self.weight_variable([5, 5, 1, 32])
    
34.         b_conv1 = self.bias_variable([32])
    
35.         h_conv1 = tf.nn.relu(tf.nn.bias_add(self.conv2d(x_images, w_conv1), b_conv1))
    
36.         h_pool1 = self.max_pool_2x2(h_conv1)
    
37.         h_dropout1 = tf.nn.dropout(h_pool1,keep_prob)
    
38.         conv_width = math.ceil(self.width/2)
    
39.         conv_height = math.ceil(self.height/2)
    
40. 
    
41.         #second layer
    
42.         w_conv2 = self.weight_variable([5, 5, 32, 64])
    
43.         b_conv2 = self.bias_variable([64])
    
44.         h_conv2 = tf.nn.relu(tf.nn.bias_add(self.conv2d(h_dropout1, w_conv2), b_conv2))
    
45.         h_pool2 = self.max_pool_2x2(h_conv2)
    
46.         h_dropout2 = tf.nn.dropout(h_pool2,keep_prob)
    
47.         conv_width = math.ceil(conv_width/2)
    
48.         conv_height = math.ceil(conv_height/2)
    
49. 
    
50.         #third layer
    
51.         w_conv3 = self.weight_variable([5, 5, 64, 64])
    
52.         b_conv3 = self.bias_variable([64])
    
53.         h_conv3 = tf.nn.relu(tf.nn.bias_add(self.conv2d(h_dropout2, w_conv3), b_conv3))
    
54.         h_pool3 = self.max_pool_2x2(h_conv3)
    
55.         h_dropout3 = tf.nn.dropout(h_pool3,keep_prob)
    
56.         conv_width = math.ceil(conv_width/2)
    
57.         conv_height = math.ceil(conv_height/2)
    
58. 
    
59.         #first fully layer
    
60.         conv_width = int(conv_width)
    
61.         conv_height = int(conv_height)
    
62.         w_fc1 = self.weight_variable([64*conv_width*conv_height,1024])
    
63.         b_fc1 = self.bias_variable([1024])
    
64.         h_dropout3_flat = tf.reshape(h_dropout3,[-1,64*conv_width*conv_height])
    
65.         h_fc1 = tf.nn.relu(tf.nn.bias_add(tf.matmul(h_dropout3_flat, w_fc1), b_fc1))
    
66.         h_fc1_drop = tf.nn.dropout(h_fc1, keep_prob)
    
67. 
    
68.         #second fully layer
    
69.         w_fc2 = self.weight_variable([1024,self.char_num*self.classes])
    
70.         b_fc2 = self.bias_variable([self.char_num*self.classes])
    
71.         y_conv = tf.add(tf.matmul(h_fc1_drop, w_fc2), b_fc2)
    
72. 
    
73.         return y_conv

复制代码

6、训练 CNN 模型
每批次采用 64 个训练样本，每 100 次循环检查1次识别准确度，当精准度大于0.99时，训练结束，采用 GPU 需要 4-5 个小时左右，CPU 大概需要 20 个小时左右。

请创建train_captcha.py文件并粘贴下面源代码：

1. #-*- coding:utf-8 -*-
   
2. import tensorflow as tf
   
3. import numpy as np
   
4. import string
   
5. import generate_captcha
   
6. import captcha_model
   
7. 
   
8. if __name__ == '__main__':
   
9.     captcha = generate_captcha.generateCaptcha()
   
10.     width,height,char_num,characters,classes = captcha.get_parameter()
    
11. 
    
12.     x = tf.placeholder(tf.float32, [None, height,width,1])
    
13.     y_ = tf.placeholder(tf.float32, [None, char_num*classes])
    
14.     keep_prob = tf.placeholder(tf.float32)
    
15. 
    
16.     model = captcha_model.captchaModel(width,height,char_num,classes)
    
17.     y_conv = model.create_model(x,keep_prob)
    
18.     cross_entropy = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(labels=y_,logits=y_conv))
    
19.     train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)
    
20. 
    
21.     predict = tf.reshape(y_conv, [-1,char_num, classes])
    
22.     real = tf.reshape(y_,[-1,char_num, classes])
    
23.     correct_prediction = tf.equal(tf.argmax(predict,2), tf.argmax(real,2))
    
24.     correct_prediction = tf.cast(correct_prediction, tf.float32)
    
25.     accuracy = tf.reduce_mean(correct_prediction)
    
26. 
    
27.     saver = tf.train.Saver()
    
28.     with tf.Session() as sess:
    
29.         sess.run(tf.global_variables_initializer())
    
30.         step = 1
    
31.         while True:
    
32.             batch_x,batch_y = next(captcha.gen_captcha(64))
    
33.             _,loss = sess.run([train_step,cross_entropy],feed_dict={x: batch_x, y_: batch_y, keep_prob: 0.75})
    
34.             print ('step:%d,loss:%f' % (step,loss))
    
35.             if step % 100 == 0:
    
36.                 batch_x_test,batch_y_test = next(captcha.gen_captcha(100))
    
37.                 acc = sess.run(accuracy, feed_dict={x: batch_x_test, y_: batch_y_test, keep_prob: 1.})
    
38.                 print ('###############################################step:%d,accuracy:%f' % (step,acc))
    
39.                 if acc > 0.99:
    
40.                     saver.save(sess,"./capcha_model.ckpt")
    
41.                     break
    
42.             step += 1

复制代码

然后执行:

1. python train_captcha.py

复制代码

执行结果：

1. step:75193,loss:0.010931
   
2. step:75194,loss:0.012859
   
3. step:75195,loss:0.008747
   
4. step:75196,loss:0.009147
   
5. step:75197,loss:0.009351
   
6. step:75198,loss:0.009746
   
7. step:75199,loss:0.010014
   
8. step:75200,loss:0.009024

复制代码

step为步长，每100批测试一次训练集，loss为损失值

代码文件以及训练好的模型、验证码附件打包下载链接：https://pan.baidu.com/s/1fbuvnF3RSOuxI_wqt8GpsQ 密码：ugbd


7、测试识别验证码
请创建predict_captcha.py文件并粘贴下面源代码：

1. #-*- coding:utf-8 -*-
   
2. from PIL import Image, ImageFilter
   
3. import tensorflow as tf
   
4. import numpy as np
   
5. import string
   
6. import sys
   
7. import generate_captcha
   
8. import captcha_model
   
9. 
   
10. if __name__ == '__main__':
    
11.     captcha = generate_captcha.generateCaptcha()
    
12.     width,height,char_num,characters,classes = captcha.get_parameter()
    
13. 
    
14.     gray_image = Image.open(sys.argv[1]).convert('L')
    
15.     img = np.array(gray_image.getdata())
    
16.     test_x = np.reshape(img,[height,width,1])/255.0
    
17.     x = tf.placeholder(tf.float32, [None, height,width,1])
    
18.     keep_prob = tf.placeholder(tf.float32)
    
19. 
    
20.     model = captcha_model.captchaModel(width,height,char_num,classes)
    
21.     y_conv = model.create_model(x,keep_prob)
    
22.     predict = tf.argmax(tf.reshape(y_conv, [-1,char_num, classes]),2)
    
23.     init_op = tf.global_variables_initializer()
    
24.     saver = tf.train.Saver()
    
25.     gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.95)
    
26.     with tf.Session(config=tf.ConfigProto(log_device_placement=False,gpu_options=gpu_options)) as sess:
    
27.         sess.run(init_op)
    
28.         saver.restore(sess, "capcha_model.ckpt")
    
29.         pre_list =  sess.run(predict,feed_dict={x: [test_x], keep_prob: 1})
    
30.         for i in pre_list:
    
31.             s = ''
    
32.             for j in i:
    
33.                 s += characters[j]
    
34.             print(s)

复制代码

然后执行:

1. python predict_captcha.py captcha/0hWn.jpg

复制代码

动态效果：


另外，今天有位github上的小哥通过QQ联系到我，共享了mbus验证码识别平台依赖的XG-CNN英数验证码网络模型的代码，仅为猜测，并未测试，感谢这位网名Diamond的同学
请创建resnet18.prototxt文件并粘贴以下源代码：

1. name: "ResNet-18"
   
2. layer {
   
3.     name: "data"
   
4.     type: "Data"
   
5.     top: "data"
   
6.     top: "label"
   
7.     include {
   
8.         phase: TRAIN
   
9.     }
   
10.     transform_param {
    
11.         mirror: true
    
12.         crop_size: 224
    
13.         mean_value: 104
    
14.         mean_value: 117
    
15.         mean_value: 123
    
16.     }
    
17.     data_param {
    
18.         source: ""
    
19.         batch_size: 100
    
20. 
    
21.     }
    
22.      input_param {
    
23.              shape: {
    
24.             dim: 10
    
25.             dim: 3
    
26.             dim: 224
    
27.             dim: 224
    
28.         }
    
29.     }
    
30. }
    
31. layer {
    
32.     name: "data"
    
33.     type: "Data"
    
34.     top: "data"
    
35.     top: "label"
    
36.     include {
    
37.         phase: TEST
    
38.     }
    
39.     transform_param {
    
40.         mirror: false
    
41.         crop_size: 224
    
42.         mean_value: 104
    
43.         mean_value: 117
    
44.         mean_value: 123
    
45.     }
    
46.     data_param {
    
47.         source: ""
    
48.         batch_size: 50
    
49. 
    
50.     }
    
51. }
    
52. 
    
53. layer {
    
54.     bottom: "data"
    
55.     top: "conv1"
    
56.     name: "conv1"
    
57.     type: "Convolution"
    
58.     convolution_param {
    
59.         num_output: 64
    
60.         kernel_size: 7
    
61.         pad: 3
    
62.         stride: 2
    
63.         weight_filler {
    
64.             type: "msra"
    
65.         }
    
66.         bias_term: false
    
67. 
    
68.     }
    
69. }
    
70. 
    
71. layer {
    
72.     bottom: "conv1"
    
73.     top: "conv1"
    
74.     name: "bn_conv1"
    
75.     type: "BatchNorm"
    
76. 
    
77. }
    
78. 
    
79. layer {
    
80.     bottom: "conv1"
    
81.     top: "conv1"
    
82.     name: "scale_conv1"
    
83.     type: "Scale"
    
84.     scale_param {
    
85.         bias_term: true
    
86.     }
    
87. }
    
88. 
    
89. layer {
    
90.     bottom: "conv1"
    
91.     top: "conv1"
    
92.     name: "conv1_relu"
    
93.     type: "ReLU"
    
94. }
    
95. 
    
96. layer {
    
97.     bottom: "conv1"
    
98.     top: "pool1"
    
99.     name: "pool1"
    
100.     type: "Pooling"
     
101.     pooling_param {
     
102.         kernel_size: 3
     
103.         stride: 2
     
104.         pool: MAX
     
105.     }
     
106. }
     
107. 
     
108. layer {
     
109.     bottom: "pool1"
     
110.     top: "res2a_branch1"
     
111.     name: "res2a_branch1"
     
112.     type: "Convolution"
     
113.     convolution_param {
     
114.         num_output: 64
     
115.         kernel_size: 1
     
116.         pad: 0
     
117.         stride: 1
     
118.         weight_filler {
     
119.             type: "msra"
     
120.         }
     
121.         bias_term: false
     
122. 
     
123.     }
     
124. }
     
125. 
     
126. layer {
     
127.     bottom: "res2a_branch1"
     
128.     top: "res2a_branch1"
     
129.     name: "bn2a_branch1"
     
130.     type: "BatchNorm"
     
131. 
     
132. }
     
133. 
     
134. layer {
     
135.     bottom: "res2a_branch1"
     
136.     top: "res2a_branch1"
     
137.     name: "scale2a_branch1"
     
138.     type: "Scale"
     
139.     scale_param {
     
140.         bias_term: true
     
141.     }
     
142. }
     
143. 
     
144. layer {
     
145.     bottom: "pool1"
     
146.     top: "res2a_branch2a"
     
147.     name: "res2a_branch2a"
     
148.     type: "Convolution"
     
149.     convolution_param {
     
150.         num_output: 64
     
151.         kernel_size: 3
     
152.         pad: 1
     
153.         stride: 1
     
154.         weight_filler {
     
155.             type: "msra"
     
156.         }
     
157.         bias_term: false
     
158. 
     
159.     }
     
160. }
     
161. 
     
162. layer {
     
163.     bottom: "res2a_branch2a"
     
164.     top: "res2a_branch2a"
     
165.     name: "bn2a_branch2a"
     
166.     type: "BatchNorm"
     
167. 
     
168. }
     
169. 
     
170. layer {
     
171.     bottom: "res2a_branch2a"
     
172.     top: "res2a_branch2a"
     
173.     name: "scale2a_branch2a"
     
174.     type: "Scale"
     
175.     scale_param {
     
176.         bias_term: true
     
177.     }
     
178. }
     
179. 
     
180. layer {
     
181.     bottom: "res2a_branch2a"
     
182.     top: "res2a_branch2a"
     
183.     name: "res2a_branch2a_relu"
     
184.     type: "ReLU"
     
185. }
     
186. 
     
187. layer {
     
188.     bottom: "res2a_branch2a"
     
189.     top: "res2a_branch2b"
     
190.     name: "res2a_branch2b"
     
191.     type: "Convolution"
     
192.     convolution_param {
     
193.         num_output: 64
     
194.         kernel_size: 3
     
195.         pad: 1
     
196.         stride: 1
     
197.         weight_filler {
     
198.             type: "msra"
     
199.         }
     
200.         bias_term: false
     
201. 
     
202.     }
     
203. }
     
204. 
     
205. layer {
     
206.     bottom: "res2a_branch2b"
     
207.     top: "res2a_branch2b"
     
208.     name: "bn2a_branch2b"
     
209.     type: "BatchNorm"
     
210. 
     
211. }
     
212. 
     
213. layer {
     
214.     bottom: "res2a_branch2b"
     
215.     top: "res2a_branch2b"
     
216.     name: "scale2a_branch2b"
     
217.     type: "Scale"
     
218.     scale_param {
     
219.         bias_term: true
     
220.     }
     
221. }
     
222. 
     
223. layer {
     
224.     bottom: "res2a_branch1"
     
225.     bottom: "res2a_branch2b"
     
226.     top: "res2a"
     
227.     name: "res2a"
     
228.     type: "Eltwise"
     
229.     eltwise_param {
     
230.         operation: SUM
     
231.     }
     
232. }
     
233. 
     
234. layer {
     
235.     bottom: "res2a"
     
236.     top: "res2a"
     
237.     name: "res2a_relu"
     
238.     type: "ReLU"
     
239. }
     
240. 
     
241. layer {
     
242.     bottom: "res2a"
     
243.     top: "res2b_branch2a"
     
244.     name: "res2b_branch2a"
     
245.     type: "Convolution"
     
246.     convolution_param {
     
247.         num_output: 64
     
248.         kernel_size: 3
     
249.         pad: 1
     
250.         stride: 1
     
251.         weight_filler {
     
252.             type: "msra"
     
253.         }
     
254.         bias_term: false
     
255. 
     
256.     }
     
257. }
     
258. 
     
259. layer {
     
260.     bottom: "res2b_branch2a"
     
261.     top: "res2b_branch2a"
     
262.     name: "bn2b_branch2a"
     
263.     type: "BatchNorm"
     
264. 
     
265. }
     
266. 
     
267. layer {
     
268.     bottom: "res2b_branch2a"
     
269.     top: "res2b_branch2a"
     
270.     name: "scale2b_branch2a"
     
271.     type: "Scale"
     
272.     scale_param {
     
273.         bias_term: true
     
274.     }
     
275. }
     
276. 
     
277. layer {
     
278.     bottom: "res2b_branch2a"
     
279.     top: "res2b_branch2a"
     
280.     name: "res2b_branch2a_relu"
     
281.     type: "ReLU"
     
282. }
     
283. 
     
284. layer {
     
285.     bottom: "res2b_branch2a"
     
286.     top: "res2b_branch2b"
     
287.     name: "res2b_branch2b"
     
288.     type: "Convolution"
     
289.     convolution_param {
     
290.         num_output: 64
     
291.         kernel_size: 3
     
292.         pad: 1
     
293.         stride: 1
     
294.         weight_filler {
     
295.             type: "msra"
     
296.         }
     
297.         bias_term: false
     
298. 
     
299.     }
     
300. }
     
301. 
     
302. layer {
     
303.     bottom: "res2b_branch2b"
     
304.     top: "res2b_branch2b"
     
305.     name: "bn2b_branch2b"
     
306.     type: "BatchNorm"
     
307. 
     
308. }
     
309. 
     
310. layer {
     
311.     bottom: "res2b_branch2b"
     
312.     top: "res2b_branch2b"
     
313.     name: "scale2b_branch2b"
     
314.     type: "Scale"
     
315.     scale_param {
     
316.         bias_term: true
     
317.     }
     
318. }
     
319. 
     
320. layer {
     
321.     bottom: "res2a"
     
322.     bottom: "res2b_branch2b"
     
323.     top: "res2b"
     
324.     name: "res2b"
     
325.     type: "Eltwise"
     
326.     eltwise_param {
     
327.         operation: SUM
     
328.     }
     
329. }
     
330. 
     
331. layer {
     
332.     bottom: "res2b"
     
333.     top: "res2b"
     
334.     name: "res2b_relu"
     
335.     type: "ReLU"
     
336. }
     
337. 
     
338. layer {
     
339.     bottom: "res2b"
     
340.     top: "res3a_branch1"
     
341.     name: "res3a_branch1"
     
342.     type: "Convolution"
     
343.     convolution_param {
     
344.         num_output: 128
     
345.         kernel_size: 1
     
346.         pad: 0
     
347.         stride: 2
     
348.         weight_filler {
     
349.             type: "msra"
     
350.         }
     
351.         bias_term: false
     
352. 
     
353.     }
     
354. }
     
355. 
     
356. layer {
     
357.     bottom: "res3a_branch1"
     
358.     top: "res3a_branch1"
     
359.     name: "bn3a_branch1"
     
360.     type: "BatchNorm"
     
361. 
     
362. }
     
363. 
     
364. layer {
     
365.     bottom: "res3a_branch1"
     
366.     top: "res3a_branch1"
     
367.     name: "scale3a_branch1"
     
368.     type: "Scale"
     
369.     scale_param {
     
370.         bias_term: true
     
371.     }
     
372. }
     
373. 
     
374. layer {
     
375.     bottom: "res2b"
     
376.     top: "res3a_branch2a"
     
377.     name: "res3a_branch2a"
     
378.     type: "Convolution"
     
379.     convolution_param {
     
380.         num_output: 128
     
381.         kernel_size: 3
     
382.         pad: 1
     
383.         stride: 2
     
384.         weight_filler {
     
385.             type: "msra"
     
386.         }
     
387.         bias_term: false
     
388. 
     
389.     }
     
390. }
     
391. 
     
392. layer {
     
393.     bottom: "res3a_branch2a"
     
394.     top: "res3a_branch2a"
     
395.     name: "bn3a_branch2a"
     
396.     type: "BatchNorm"
     
397. 
     
398. }
     
399. 
     
400. layer {
     
401.     bottom: "res3a_branch2a"
     
402.     top: "res3a_branch2a"
     
403.     name: "scale3a_branch2a"
     
404.     type: "Scale"
     
405.     scale_param {
     
406.         bias_term: true
     
407.     }
     
408. }
     
409. 
     
410. layer {
     
411.     bottom: "res3a_branch2a"
     
412.     top: "res3a_branch2a"
     
413.     name: "res3a_branch2a_relu"
     
414.     type: "ReLU"
     
415. }
     
416. 
     
417. layer {
     
418.     bottom: "res3a_branch2a"
     
419.     top: "res3a_branch2b"
     
420.     name: "res3a_branch2b"
     
421.     type: "Convolution"
     
422.     convolution_param {
     
423.         num_output: 128
     
424.         kernel_size: 3
     
425.         pad: 1
     
426.         stride: 1
     
427.         weight_filler {
     
428.             type: "msra"
     
429.         }
     
430.         bias_term: false
     
431. 
     
432.     }
     
433. }
     
434. 
     
435. layer {
     
436.     bottom: "res3a_branch2b"
     
437.     top: "res3a_branch2b"
     
438.     name: "bn3a_branch2b"
     
439.     type: "BatchNorm"
     
440. 
     
441. }
     
442. 
     
443. layer {
     
444.     bottom: "res3a_branch2b"
     
445.     top: "res3a_branch2b"
     
446.     name: "scale3a_branch2b"
     
447.     type: "Scale"
     
448.     scale_param {
     
449.         bias_term: true
     
450.     }
     
451. }
     
452. 
     
453. layer {
     
454.     bottom: "res3a_branch1"
     
455.     bottom: "res3a_branch2b"
     
456.     top: "res3a"
     
457.     name: "res3a"
     
458.     type: "Eltwise"
     
459.     eltwise_param {
     
460.         operation: SUM
     
461.     }
     
462. }
     
463. 
     
464. layer {
     
465.     bottom: "res3a"
     
466.     top: "res3a"
     
467.     name: "res3a_relu"
     
468.     type: "ReLU"
     
469. }
     
470. 
     
471. layer {
     
472.     bottom: "res3a"
     
473.     top: "res3b_branch2a"
     
474.     name: "res3b_branch2a"
     
475.     type: "Convolution"
     
476.     convolution_param {
     
477.         num_output: 128
     
478.         kernel_size: 3
     
479.         pad: 1
     
480.         stride: 1
     
481.         weight_filler {
     
482.             type: "msra"
     
483.         }
     
484.         bias_term: false
     
485. 
     
486.     }
     
487. }
     
488. 
     
489. layer {
     
490.     bottom: "res3b_branch2a"
     
491.     top: "res3b_branch2a"
     
492.     name: "bn3b_branch2a"
     
493.     type: "BatchNorm"
     
494. 
     
495. }
     
496. 
     
497. layer {
     
498.     bottom: "res3b_branch2a"
     
499.     top: "res3b_branch2a"
     
500.     name: "scale3b_branch2a"
     
501.     type: "Scale"
     
502.     scale_param {
     
503.         bias_term: true
     
504.     }
     
505. }
     
506. 
     
507. layer {
     
508.     bottom: "res3b_branch2a"
     
509.     top: "res3b_branch2a"
     
510.     name: "res3b_branch2a_relu"
     
511.     type: "ReLU"
     
512. }
     
513. 
     
514. layer {
     
515.     bottom: "res3b_branch2a"
     
516.     top: "res3b_branch2b"
     
517.     name: "res3b_branch2b"
     
518.     type: "Convolution"
     
519.     convolution_param {
     
520.         num_output: 128
     
521.         kernel_size: 3
     
522.         pad: 1
     
523.         stride: 1
     
524.         weight_filler {
     
525.             type: "msra"
     
526.         }
     
527.         bias_term: false
     
528. 
     
529.     }
     
530. }
     
531. 
     
532. layer {
     
533.     bottom: "res3b_branch2b"
     
534.     top: "res3b_branch2b"
     
535.     name: "bn3b_branch2b"
     
536.     type: "BatchNorm"
     
537. 
     
538. }
     
539. 
     
540. layer {
     
541.     bottom: "res3b_branch2b"
     
542.     top: "res3b_branch2b"
     
543.     name: "scale3b_branch2b"
     
544.     type: "Scale"
     
545.     scale_param {
     
546.         bias_term: true
     
547.     }
     
548. }
     
549. 
     
550. layer {
     
551.     bottom: "res3a"
     
552.     bottom: "res3b_branch2b"
     
553.     top: "res3b"
     
554.     name: "res3b"
     
555.     type: "Eltwise"
     
556.     eltwise_param {
     
557.         operation: SUM
     
558.     }
     
559. }
     
560. 
     
561. layer {
     
562.     bottom: "res3b"
     
563.     top: "res3b"
     
564.     name: "res3b_relu"
     
565.     type: "ReLU"
     
566. }
     
567. 
     
568. layer {
     
569.     bottom: "res3b"
     
570.     top: "res4a_branch1"
     
571.     name: "res4a_branch1"
     
572.     type: "Convolution"
     
573.     convolution_param {
     
574.         num_output: 256
     
575.         kernel_size: 1
     
576.         pad: 0
     
577.         stride: 2
     
578.         weight_filler {
     
579.             type: "msra"
     
580.         }
     
581.         bias_term: false
     
582. 
     
583.     }
     
584. }
     
585. 
     
586. layer {
     
587.     bottom: "res4a_branch1"
     
588.     top: "res4a_branch1"
     
589.     name: "bn4a_branch1"
     
590.     type: "BatchNorm"
     
591. 
     
592. }
     
593. 
     
594. layer {
     
595.     bottom: "res4a_branch1"
     
596.     top: "res4a_branch1"
     
597.     name: "scale4a_branch1"
     
598.     type: "Scale"
     
599.     scale_param {
     
600.         bias_term: true
     
601.     }
     
602. }
     
603. 
     
604. layer {
     
605.     bottom: "res3b"
     
606.     top: "res4a_branch2a"
     
607.     name: "res4a_branch2a"
     
608.     type: "Convolution"
     
609.     convolution_param {
     
610.         num_output: 256
     
611.         kernel_size: 3
     
612.         pad: 1
     
613.         stride: 2
     
614.         weight_filler {
     
615.             type: "msra"
     
616.         }
     
617.         bias_term: false
     
618. 
     
619.     }
     
620. }
     
621. 
     
622. layer {
     
623.     bottom: "res4a_branch2a"
     
624.     top: "res4a_branch2a"
     
625.     name: "bn4a_branch2a"
     
626.     type: "BatchNorm"
     
627. 
     
628. }
     
629. 
     
630. layer {
     
631.     bottom: "res4a_branch2a"
     
632.     top: "res4a_branch2a"
     
633.     name: "scale4a_branch2a"
     
634.     type: "Scale"
     
635.     scale_param {
     
636.         bias_term: true
     
637.     }
     
638. }
     
639. 
     
640. layer {
     
641.     bottom: "res4a_branch2a"
     
642.     top: "res4a_branch2a"
     
643.     name: "res4a_branch2a_relu"
     
644.     type: "ReLU"
     
645. }
     
646. 
     
647. layer {
     
648.     bottom: "res4a_branch2a"
     
649.     top: "res4a_branch2b"
     
650.     name: "res4a_branch2b"
     
651.     type: "Convolution"
     
652.     convolution_param {
     
653.         num_output: 256
     
654.         kernel_size: 3
     
655.         pad: 1
     
656.         stride: 1
     
657.         weight_filler {
     
658.             type: "msra"
     
659.         }
     
660.         bias_term: false
     
661. 
     
662.     }
     
663. }
     
664. 
     
665. layer {
     
666.     bottom: "res4a_branch2b"
     
667.     top: "res4a_branch2b"
     
668.     name: "bn4a_branch2b"
     
669.     type: "BatchNorm"
     
670. 
     
671. }
     
672. 
     
673. layer {
     
674.     bottom: "res4a_branch2b"
     
675.     top: "res4a_branch2b"
     
676.     name: "scale4a_branch2b"
     
677.     type: "Scale"
     
678.     scale_param {
     
679.         bias_term: true
     
680.     }
     
681. }
     
682. 
     
683. layer {
     
684.     bottom: "res4a_branch1"
     
685.     bottom: "res4a_branch2b"
     
686.     top: "res4a"
     
687.     name: "res4a"
     
688.     type: "Eltwise"
     
689.     eltwise_param {
     
690.         operation: SUM
     
691.     }
     
692. }
     
693. 
     
694. layer {
     
695.     bottom: "res4a"
     
696.     top: "res4a"
     
697.     name: "res4a_relu"
     
698.     type: "ReLU"
     
699. }
     
700. 
     
701. layer {
     
702.     bottom: "res4a"
     
703.     top: "res4b_branch2a"
     
704.     name: "res4b_branch2a"
     
705.     type: "Convolution"
     
706.     convolution_param {
     
707.         num_output: 256
     
708.         kernel_size: 3
     
709.         pad: 1
     
710.         stride: 1
     
711.         weight_filler {
     
712.             type: "msra"
     
713.         }
     
714.         bias_term: false
     
715. 
     
716.     }
     
717. }
     
718. 
     
719. layer {
     
720.     bottom: "res4b_branch2a"
     
721.     top: "res4b_branch2a"
     
722.     name: "bn4b_branch2a"
     
723.     type: "BatchNorm"
     
724. 
     
725. }
     
726. 
     
727. layer {
     
728.     bottom: "res4b_branch2a"
     
729.     top: "res4b_branch2a"
     
730.     name: "scale4b_branch2a"
     
731.     type: "Scale"
     
732.     scale_param {
     
733.         bias_term: true
     
734.     }
     
735. }
     
736. 
     
737. layer {
     
738.     bottom: "res4b_branch2a"
     
739.     top: "res4b_branch2a"
     
740.     name: "res4b_branch2a_relu"
     
741.     type: "ReLU"
     
742. }
     
743. 
     
744. layer {
     
745.     bottom: "res4b_branch2a"
     
746.     top: "res4b_branch2b"
     
747.     name: "res4b_branch2b"
     
748.     type: "Convolution"
     
749.     convolution_param {
     
750.         num_output: 256
     
751.         kernel_size: 3
     
752.         pad: 1
     
753.         stride: 1
     
754.         weight_filler {
     
755.             type: "msra"
     
756.         }
     
757.         bias_term: false
     
758. 
     
759.     }
     
760. }
     
761. 
     
762. layer {
     
763.     bottom: "res4b_branch2b"
     
764.     top: "res4b_branch2b"
     
765.     name: "bn4b_branch2b"
     
766.     type: "BatchNorm"
     
767. 
     
768. }
     
769. 
     
770. layer {
     
771.     bottom: "res4b_branch2b"
     
772.     top: "res4b_branch2b"
     
773.     name: "scale4b_branch2b"
     
774.     type: "Scale"
     
775.     scale_param {
     
776.         bias_term: true
     
777.     }
     
778. }
     
779. 
     
780. layer {
     
781.     bottom: "res4a"
     
782.     bottom: "res4b_branch2b"
     
783.     top: "res4b"
     
784.     name: "res4b"
     
785.     type: "Eltwise"
     
786.     eltwise_param {
     
787.         operation: SUM
     
788.     }
     
789. }
     
790. 
     
791. layer {
     
792.     bottom: "res4b"
     
793.     top: "res4b"
     
794.     name: "res4b_relu"
     
795.     type: "ReLU"
     
796. }
     
797. 
     
798. layer {
     
799.     bottom: "res4b"
     
800.     top: "res5a_branch1"
     
801.     name: "res5a_branch1"
     
802.     type: "Convolution"
     
803.     convolution_param {
     
804.         num_output: 512
     
805.         kernel_size: 1
     
806.         pad: 0
     
807.         stride: 2
     
808.         weight_filler {
     
809.             type: "msra"
     
810.         }
     
811.         bias_term: false
     
812. 
     
813.     }
     
814. }
     
815. 
     
816. layer {
     
817.     bottom: "res5a_branch1"
     
818.     top: "res5a_branch1"
     
819.     name: "bn5a_branch1"
     
820.     type: "BatchNorm"
     
821. 
     
822. }
     
823. 
     
824. layer {
     
825.     bottom: "res5a_branch1"
     
826.     top: "res5a_branch1"
     
827.     name: "scale5a_branch1"
     
828.     type: "Scale"
     
829.     scale_param {
     
830.         bias_term: true
     
831.     }
     
832. }
     
833. 
     
834. layer {
     
835.     bottom: "res4b"
     
836.     top: "res5a_branch2a"
     
837.     name: "res5a_branch2a"
     
838.     type: "Convolution"
     
839.     convolution_param {
     
840.         num_output: 512
     
841.         kernel_size: 3
     
842.         pad: 1
     
843.         stride: 2
     
844.         weight_filler {
     
845.             type: "msra"
     
846.         }
     
847.         bias_term: false
     
848. 
     
849.     }
     
850. }
     
851. 
     
852. layer {
     
853.     bottom: "res5a_branch2a"
     
854.     top: "res5a_branch2a"
     
855.     name: "bn5a_branch2a"
     
856.     type: "BatchNorm"
     
857. 
     
858. }
     
859. 
     
860. layer {
     
861.     bottom: "res5a_branch2a"
     
862.     top: "res5a_branch2a"
     
863.     name: "scale5a_branch2a"
     
864.     type: "Scale"
     
865.     scale_param {
     
866.         bias_term: true
     
867.     }
     
868. }
     
869. 
     
870. layer {
     
871.     bottom: "res5a_branch2a"
     
872.     top: "res5a_branch2a"
     
873.     name: "res5a_branch2a_relu"
     
874.     type: "ReLU"
     
875. }
     
876. 
     
877. layer {
     
878.     bottom: "res5a_branch2a"
     
879.     top: "res5a_branch2b"
     
880.     name: "res5a_branch2b"
     
881.     type: "Convolution"
     
882.     convolution_param {
     
883.         num_output: 512
     
884.         kernel_size: 3
     
885.         pad: 1
     
886.         stride: 1
     
887.         weight_filler {
     
888.             type: "msra"
     
889.         }
     
890.         bias_term: false
     
891. 
     
892.     }
     
893. }
     
894. 
     
895. layer {
     
896.     bottom: "res5a_branch2b"
     
897.     top: "res5a_branch2b"
     
898.     name: "bn5a_branch2b"
     
899.     type: "BatchNorm"
     
900. 
     
901. }
     
902. 
     
903. layer {
     
904.     bottom: "res5a_branch2b"
     
905.     top: "res5a_branch2b"
     
906.     name: "scale5a_branch2b"
     
907.     type: "Scale"
     
908.     scale_param {
     
909.         bias_term: true
     
910.     }
     
911. }
     
912. 
     
913. layer {
     
914.     bottom: "res5a_branch1"
     
915.     bottom: "res5a_branch2b"
     
916.     top: "res5a"
     
917.     name: "res5a"
     
918.     type: "Eltwise"
     
919.     eltwise_param {
     
920.         operation: SUM
     
921.     }
     
922. }
     
923. 
     
924. layer {
     
925.     bottom: "res5a"
     
926.     top: "res5a"
     
927.     name: "res5a_relu"
     
928.     type: "ReLU"
     
929. }
     
930. 
     
931. layer {
     
932.     bottom: "res5a"
     
933.     top: "res5b_branch2a"
     
934.     name: "res5b_branch2a"
     
935.     type: "Convolution"
     
936.     convolution_param {
     
937.         num_output: 512
     
938.         kernel_size: 3
     
939.         pad: 1
     
940.         stride: 1
     
941.         weight_filler {
     
942.             type: "msra"
     
943.         }
     
944.         bias_term: false
     
945. 
     
946.     }
     
947. }
     
948. 
     
949. layer {
     
950.     bottom: "res5b_branch2a"
     
951.     top: "res5b_branch2a"
     
952.     name: "bn5b_branch2a"
     
953.     type: "BatchNorm"
     
954. 
     
955. }
     
956. 
     
957. layer {
     
958.     bottom: "res5b_branch2a"
     
959.     top: "res5b_branch2a"
     
960.     name: "scale5b_branch2a"
     
961.     type: "Scale"
     
962.     scale_param {
     
963.         bias_term: true
     
964.     }
     
965. }
     
966. 
     
967. layer {
     
968.     bottom: "res5b_branch2a"
     
969.     top: "res5b_branch2a"
     
970.     name: "res5b_branch2a_relu"
     
971.     type: "ReLU"
     
972. }
     
973. 
     
974. layer {
     
975.     bottom: "res5b_branch2a"
     
976.     top: "res5b_branch2b"
     
977.     name: "res5b_branch2b"
     
978.     type: "Convolution"
     
979.     convolution_param {
     
980.         num_output: 512
     
981.         kernel_size: 3
     
982.         pad: 1
     
983.         stride: 1
     
984.         weight_filler {
     
985.             type: "msra"
     
986.         }
     
987.         bias_term: false
     
988. 
     
989.     }
     
990. }
     
991. 
     
992. layer {
     
993.     bottom: "res5b_branch2b"
     
994.     top: "res5b_branch2b"
     
995.     name: "bn5b_branch2b"
     
996.     type: "BatchNorm"
     
997. 
     
998. }
     
999. 
     
1000. layer {
      
1001.     bottom: "res5b_branch2b"
      
1002.     top: "res5b_branch2b"
      
1003.     name: "scale5b_branch2b"
      
1004.     type: "Scale"
      
1005.     scale_param {
      
1006.         bias_term: true
      
1007.     }
      
1008. }
      
1009. 
      
1010. layer {
      
1011.     bottom: "res5a"
      
1012.     bottom: "res5b_branch2b"
      
1013.     top: "res5b"
      
1014.     name: "res5b"
      
1015.     type: "Eltwise"
      
1016.     eltwise_param {
      
1017.         operation: SUM
      
1018.     }
      
1019. }
      
1020. 
      
1021. layer {
      
1022.     bottom: "res5b"
      
1023.     top: "res5b"
      
1024.     name: "res5b_relu"
      
1025.     type: "ReLU"
      
1026. }
      
1027. 
      
1028. layer {
      
1029.     bottom: "res5b"
      
1030.     top: "pool5"
      
1031.     name: "pool5"
      
1032.     type: "Pooling"
      
1033.     pooling_param {
      
1034.         kernel_size: 7
      
1035.         stride: 1
      
1036.         pool: AVE
      
1037.     }
      
1038. }
      
1039. 
      
1040. ###loss1
      
1041. layer {
      
1042.     bottom: "pool5"
      
1043.     top: "fc10001"
      
1044.     name: "fc10001"
      
1045.     type: "InnerProduct"
      
1046.     param {
      
1047.         lr_mult: 1
      
1048.         decay_mult: 1
      
1049.     }
      
1050.     param {
      
1051.         lr_mult: 2
      
1052.         decay_mult: 1
      
1053.     }
      
1054.     inner_product_param {
      
1055.         num_output: 37
      
1056.         weight_filler {
      
1057.             type: "xavier"
      
1058.         }
      
1059.         bias_filler {
      
1060.             type: "constant"
      
1061.             value: 0
      
1062.         }
      
1063.     }
      
1064. }
      
1065. 
      
1066. layer {
      
1067.     bottom: "fc10001"
      
1068.     bottom: "label"
      
1069.     name: "loss1"
      
1070.     type: "SoftmaxWithLoss"
      
1071.     top: "loss1"
      
1072. }
      
1073. 
      
1074. layer {
      
1075.     bottom: "fc10001"
      
1076.     bottom: "label"
      
1077.     top: "acc/top-1"
      
1078.     name: "acc/top-1"
      
1079.     type: "Accuracy"
      
1080.     include {
      
1081.         phase: TEST
      
1082.     }
      
1083. }
      
1084. 
      
1085. layer {
      
1086.     bottom: "fc10001"
      
1087.     bottom: "label"
      
1088.     top: "acc/top-5"
      
1089.     name: "acc/top-5"
      
1090.     type: "Accuracy"
      
1091.     include {
      
1092.         phase: TEST
      
1093.     }
      
1094.     accuracy_param {
      
1095.         top_k: 37
      
1096.     }
      
1097. }
      
1098. layer {
      
1099.     bottom: "pool5"
      
1100.     top: "fc10002"
      
1101.     name: "fc10002"
      
1102.     type: "InnerProduct"
      
1103.     param {
      
1104.         lr_mult: 1
      
1105.         decay_mult: 1
      
1106.     }
      
1107.     param {
      
1108.         lr_mult: 2
      
1109.         decay_mult: 1
      
1110.     }
      
1111.     inner_product_param {
      
1112.         num_output: 37
      
1113.         weight_filler {
      
1114.             type: "xavier"
      
1115.         }
      
1116.         bias_filler {
      
1117.             type: "constant"
      
1118.             value: 0
      
1119.         }
      
1120.     }
      
1121. }
      
1122. 
      
1123. layer {
      
1124.     bottom: "fc10002"
      
1125.     bottom: "label"
      
1126.     name: "loss2"
      
1127.     type: "SoftmaxWithLoss"
      
1128.     top: "loss2"
      
1129. }
      
1130. 
      
1131. layer {
      
1132.     bottom: "fc10002"
      
1133.     bottom: "label"
      
1134.     top: "acc/top-1"
      
1135.     name: "acc/top-1"
      
1136.     type: "Accuracy"
      
1137.     include {
      
1138.         phase: TEST
      
1139.     }
      
1140. }
      
1141. 
      
1142. layer {
      
1143.     bottom: "fc10002"
      
1144.     bottom: "label"
      
1145.     top: "acc/top-5"
      
1146.     name: "acc/top-5"
      
1147.     type: "Accuracy"
      
1148.     include {
      
1149.         phase: TEST
      
1150.     }
      
1151.     accuracy_param {
      
1152.         top_k: 37
      
1153.     }
      
1154. } layer {
      
1155.     bottom: "pool5"
      
1156.     top: "fc10003"
      
1157.     name: "fc10003"
      
1158.     type: "InnerProduct"
      
1159.     param {
      
1160.         lr_mult: 1
      
1161.         decay_mult: 1
      
1162.     }
      
1163.     param {
      
1164.         lr_mult: 2
      
1165.         decay_mult: 1
      
1166.     }
      
1167.     inner_product_param {
      
1168.         num_output: 37
      
1169.         weight_filler {
      
1170.             type: "xavier"
      
1171.         }
      
1172.         bias_filler {
      
1173.             type: "constant"
      
1174.             value: 0
      
1175.         }
      
1176.     }
      
1177. }
      
1178. 
      
1179. layer {
      
1180.     bottom: "fc10003"
      
1181.     bottom: "label"
      
1182.     name: "loss3"
      
1183.     type: "SoftmaxWithLoss"
      
1184.     top: "loss3"
      
1185. }
      
1186. 
      
1187. layer {
      
1188.     bottom: "fc10003"
      
1189.     bottom: "label"
      
1190.     top: "acc/top-1"
      
1191.     name: "acc/top-1"
      
1192.     type: "Accuracy"
      
1193.     include {
      
1194.         phase: TEST
      
1195.     }
      
1196. }
      
1197. 
      
1198. layer {
      
1199.     bottom: "fc10003"
      
1200.     bottom: "label"
      
1201.     top: "acc/top-37"
      
1202.     name: "acc/top-37"
      
1203.     type: "Accuracy"
      
1204.     include {
      
1205.         phase: TEST
      
1206.     }
      
1207.     accuracy_param {
      
1208.         top_k: 37
      
1209.     }
      
1210. }
      
1211. ##loss4
      
1212. layer {
      
1213.     bottom: "pool5"
      
1214.     top: "fc10004"
      
1215.     name: "fc10004"
      
1216.     type: "InnerProduct"
      
1217.     param {
      
1218.         lr_mult: 1
      
1219.         decay_mult: 1
      
1220.     }
      
1221.     param {
      
1222.         lr_mult: 2
      
1223.         decay_mult: 1
      
1224.     }
      
1225.     inner_product_param {
      
1226.         num_output: 37
      
1227.         weight_filler {
      
1228.             type: "xavier"
      
1229.         }
      
1230.         bias_filler {
      
1231.             type: "constant"
      
1232.             value: 0
      
1233.         }
      
1234.     }
      
1235. }
      
1236. 
      
1237. layer {
      
1238.     bottom: "fc10004"
      
1239.     bottom: "label"
      
1240.     name: "loss4"
      
1241.     type: "SoftmaxWithLoss"
      
1242.     top: "loss4"
      
1243. }
      
1244. 
      
1245. layer {
      
1246.     bottom: "fc10004"
      
1247.     bottom: "label"
      
1248.     top: "acc/top-1"
      
1249.     name: "acc/top-1"
      
1250.     type: "Accuracy"
      
1251.     include {
      
1252.         phase: TEST
      
1253.     }
      
1254. }
      
1255. 
      
1256. layer {
      
1257.     bottom: "fc10004"
      
1258.     bottom: "label"
      
1259.     top: "acc/top-5"
      
1260.     name: "acc/top-5"
      
1261.     type: "Accuracy"
      
1262.     include {
      
1263.         phase: TEST
      
1264.     }
      
1265.     accuracy_param {
      
1266.         top_k: 37
      
1267.     }
      
1268. }
      
1269. ###loss5
      
1270. layer {
      
1271.     bottom: "pool5"
      
1272.     top: "fc10005"
      
1273.     name: "fc10005"
      
1274.     type: "InnerProduct"
      
1275.     param {
      
1276.         lr_mult: 1
      
1277.         decay_mult: 1
      
1278.     }
      
1279.     param {
      
1280.         lr_mult: 2
      
1281.         decay_mult: 1
      
1282.     }
      
1283.     inner_product_param {
      
1284.         num_output: 37
      
1285.         weight_filler {
      
1286.             type: "xavier"
      
1287.         }
      
1288.         bias_filler {
      
1289.             type: "constant"
      
1290.             value: 0
      
1291.         }
      
1292.     }
      
1293. }
      
1294. 
      
1295. layer {
      
1296.     bottom: "fc10005"
      
1297.     bottom: "label"
      
1298.     name: "loss5"
      
1299.     type: "SoftmaxWithLoss"
      
1300.     top: "loss5"
      
1301. }
      
1302. 
      
1303. layer {
      
1304.     bottom: "fc10005"
      
1305.     bottom: "label"
      
1306.     top: "acc/top-1"
      
1307.     name: "acc/top-1"
      
1308.     type: "Accuracy"
      
1309.     include {
      
1310.         phase: TEST
      
1311.     }
      
1312. }
      
1313. 
      
1314. layer {
      
1315.     bottom: "fc10005"
      
1316.     bottom: "label"
      
1317.     top: "acc/top-5"
      
1318.     name: "acc/top-5"
      
1319.     type: "Accuracy"
      
1320.     include {
      
1321.         phase: TEST
      
1322.     }
      
1323.     accuracy_param {
      
1324.         top_k: 37
      
1325.     }
      
1326. }
      
1327. ###loss6
      
1328. layer {
      
1329.     bottom: "pool5"
      
1330.     top: "fc10006"
      
1331.     name: "fc10006"
      
1332.     type: "InnerProduct"
      
1333.     param {
      
1334.         lr_mult: 1
      
1335.         decay_mult: 1
      
1336.     }
      
1337.     param {
      
1338.         lr_mult: 2
      
1339.         decay_mult: 1
      
1340.     }
      
1341.     inner_product_param {
      
1342.         num_output: 37
      
1343.         weight_filler {
      
1344.             type: "xavier"
      
1345.         }
      
1346.         bias_filler {
      
1347.             type: "constant"
      
1348.             value: 0
      
1349.         }
      
1350.     }
      
1351. }
      
1352. 
      
1353. layer {
      
1354.     bottom: "fc10006"
      
1355.     bottom: "label"
      
1356.     name: "loss6"
      
1357.     type: "SoftmaxWithLoss"
      
1358.     top: "loss6"
      
1359. }
      
1360. 
      
1361. layer {
      
1362.     bottom: "fc10006"
      
1363.     bottom: "label"
      
1364.     top: "acc/top-1"
      
1365.     name: "acc/top-1"
      
1366.     type: "Accuracy"
      
1367.     include {
      
1368.         phase: TEST
      
1369.     }
      
1370. }
      
1371. 
      
1372. layer {
      
1373.     bottom: "fc10006"
      
1374.     bottom: "label"
      
1375.     top: "acc/top-6"
      
1376.     name: "acc/top-6"
      
1377.     type: "Accuracy"
      
1378.     include {
      
1379.         phase: TEST
      
1380.     }
      
1381.     accuracy_param {
      
1382.         top_k: 37
      
1383.     }
      
1384. }
      
1385. ###loss7
      
1386. layer {
      
1387.     bottom: "pool5"
      
1388.     top: "fc10007"
      
1389.     name: "fc10007"
      
1390.     type: "InnerProduct"
      
1391.     param {
      
1392.         lr_mult: 1
      
1393.         decay_mult: 1
      
1394.     }
      
1395.     param {
      
1396.         lr_mult: 2
      
1397.         decay_mult: 1
      
1398.     }
      
1399.     inner_product_param {
      
1400.         num_output: 37
      
1401.         weight_filler {
      
1402.             type: "xavier"
      
1403.         }
      
1404.         bias_filler {
      
1405.             type: "constant"
      
1406.             value: 0
      
1407.         }
      
1408.     }
      
1409. }
      
1410. 
      
1411. layer {
      
1412.     bottom: "fc10007"
      
1413.     bottom: "label"
      
1414.     name: "loss7"
      
1415.     type: "SoftmaxWithLoss"
      
1416.     top: "loss7"
      
1417. }
      
1418. 
      
1419. layer {
      
1420.     bottom: "fc10007"
      
1421.     bottom: "label"
      
1422.     top: "acc/top-1"
      
1423.     name: "acc/top-1"
      
1424.     type: "Accuracy"
      
1425.     include {
      
1426.         phase: TEST
      
1427.     }
      
1428. }
      
1429. 
      
1430. layer {
      
1431.     bottom: "fc10007"
      
1432.     bottom: "label"
      
1433.     top: "acc/top-6"
      
1434.     name: "acc/top-6"
      
1435.     type: "Accuracy"
      
1436.     include {
      
1437.         phase: TEST
      
1438.     }
      
1439.     accuracy_param {
      
1440.         top_k: 37
      
1441.     }
      
1442. }
      
1443. ###loss8
      
1444. layer {
      
1445.     bottom: "pool5"
      
1446.     top: "fc10008"
      
1447.     name: "fc10008"
      
1448.     type: "InnerProduct"
      
1449.     param {
      
1450.         lr_mult: 1
      
1451.         decay_mult: 1
      
1452.     }
      
1453.     param {
      
1454.         lr_mult: 2
      
1455.         decay_mult: 1
      
1456.     }
      
1457.     inner_product_param {
      
1458.         num_output: 37
      
1459.         weight_filler {
      
1460.             type: "xavier"
      
1461.         }
      
1462.         bias_filler {
      
1463.             type: "constant"
      
1464.             value: 0
      
1465.         }
      
1466.     }
      
1467. }
      
1468. 
      
1469. layer {
      
1470.     bottom: "fc10008"
      
1471.     bottom: "label"
      
1472.     name: "loss8"
      
1473.     type: "SoftmaxWithLoss"
      
1474.     top: "loss8"
      
1475. }
      
1476. 
      
1477. layer {
      
1478.     bottom: "fc10008"
      
1479.     bottom: "label"
      
1480.     top: "acc/top-1"
      
1481.     name: "acc/top-1"
      
1482.     type: "Accuracy"
      
1483.     include {
      
1484.         phase: TEST
      
1485.     }
      
1486. }
      
1487. 
      
1488. layer {
      
1489.     bottom: "fc10008"
      
1490.     bottom: "label"
      
1491.     top: "acc/top-6"
      
1492.     name: "acc/top-6"
      
1493.     type: "Accuracy"
      
1494.     include {
      
1495.         phase: TEST
      
1496.     }
      
1497.     accuracy_param {
      
1498.         top_k: 37
      
1499.     }
      
1500. }
      
1501. ###loss9
      
1502. layer {
      
1503.     bottom: "pool5"
      
1504.     top: "fc10009"
      
1505.     name: "fc10009"
      
1506.     type: "InnerProduct"
      
1507.     param {
      
1508.         lr_mult: 1
      
1509.         decay_mult: 1
      
1510.     }
      
1511.     param {
      
1512.         lr_mult: 2
      
1513.         decay_mult: 1
      
1514.     }
      
1515.     inner_product_param {
      
1516.         num_output: 37
      
1517.         weight_filler {
      
1518.             type: "xavier"
      
1519.         }
      
1520.         bias_filler {
      
1521.             type: "constant"
      
1522.             value: 0
      
1523.         }
      
1524.     }
      
1525. }
      
1526. 
      
1527. layer {
      
1528.     bottom: "fc10009"
      
1529.     bottom: "label"
      
1530.     name: "loss9"
      
1531.     type: "SoftmaxWithLoss"
      
1532.     top: "loss9"
      
1533. }
      
1534. 
      
1535. layer {
      
1536.     bottom: "fc10009"
      
1537.     bottom: "label"
      
1538.     top: "acc/top-1"
      
1539.     name: "acc/top-1"
      
1540.     type: "Accuracy"
      
1541.     include {
      
1542.         phase: TEST
      
1543.     }
      
1544. }
      
1545. 
      
1546. layer {
      
1547.     bottom: "fc10009"
      
1548.     bottom: "label"
      
1549.     top: "acc/top-6"
      
1550.     name: "acc/top-6"
      
1551.     type: "Accuracy"
      
1552.     include {
      
1553.         phase: TEST
      
1554.     }
      
1555.     accuracy_param {
      
1556.         top_k: 37
      
1557.     }
      
1558. }
      
1559. ###loss 10
      
1560. layer {
      
1561.     bottom: "pool5"
      
1562.     top: "fc100010"
      
1563.     name: "fc100010"
      
1564.     type: "InnerProduct"
      
1565.     param {
      
1566.         lr_mult: 1
      
1567.         decay_mult: 1
      
1568.     }
      
1569.     param {
      
1570.         lr_mult: 2
      
1571.         decay_mult: 1
      
1572.     }
      
1573.     inner_product_param {
      
1574.         num_output: 37
      
1575.         weight_filler {
      
1576.             type: "xavier"
      
1577.         }
      
1578.         bias_filler {
      
1579.             type: "constant"
      
1580.             value: 0
      
1581.         }
      
1582.     }
      
1583. }
      
1584. 
      
1585. layer {
      
1586.     bottom: "fc100010"
      
1587.     bottom: "label"
      
1588.     name: "loss10"
      
1589.     type: "SoftmaxWithLoss"
      
1590.     top: "loss10"
      
1591. }
      
1592. 
      
1593. layer {
      
1594.     bottom: "fc100010"
      
1595.     bottom: "label"
      
1596.     top: "acc/top-1"
      
1597.     name: "acc/top-1"
      
1598.     type: "Accuracy"
      
1599.     include {
      
1600.         phase: TEST
      
1601.     }
      
1602. }
      
1603. 
      
1604. layer {
      
1605.     bottom: "fc100010"
      
1606.     bottom: "label"
      
1607.     top: "acc/top-5"
      
1608.     name: "acc/top-5"
      
1609.     type: "Accuracy"
      
1610.     include {
      
1611.         phase: TEST
      
1612.     }
      
1613.     accuracy_param {
      
1614.         top_k: 37
      
1615.     }
      
1616. }

复制代码

我已在论坛开源mbus验证码识别平台，如需下载源代码，请访问http://125.confly.eu.org/forum.php?mod=viewthread&tid=14172517&extra=
目前我已在自己的服务器上部署服务，可以为你提供免费识别服务，接入开发文档请访问http://139.199.211.96:8090/

---

作者: freexx    时间: 2018-6-1 09:15
已经接入，速度还行

---

作者: hua5551    时间: 2018-6-6 17:41
看不懂搭建。。。

---

作者: 807288702    时间: 2019-1-30 17:16
唔，在楼主的代码基础上添加了TensorBoard的支持，但是训练性能减半，预计训练速度是原速度两倍（应该是为了采集数据，准确率需要每次训练后执行），不过训练情况应该都可以可视化看了，然后请问一下楼主，我能开个新楼分享一下源码吗？QwQ
附上TensorBoard可视化图片：




补充内容 (2019-1-30 20:33):
改一下w训练速度是原速度的1.5倍左右，两倍是因为本人沙雕多加了一段重复代码导致的

---

作者: 7855535    时间: 2019-3-23 20:40
牛逼。。。。。不过我也看不懂。

---

作者: Danlaran    时间: 2019-5-29 14:58
您好，请问使用这个测试代码，怎么才能一次性验证多个验证码呢，一次识别两个就会报错，是为什么呢

---

欢迎光临 精易论坛 (https://125.confly.eu.org/)

Powered by Discuz! X3.4