技术+案例详解无监督学习Autoencoder

x33g5p2x  于2021-11-11 转载在 其他  
字(15.7k)|赞(0)|评价(0)|浏览(762)

**摘要:**本篇文章将分享无监督学习Autoencoder的原理知识,然后用MNIST手写数字案例进行对比实验及聚类分析。

本文分享自华为云社区《[Python人工智能] 十五.无监督学习Autoencoder原理及聚类可视化案例详解》,作者: eastmount。

一.什么是Autoencoder

首先,什么是自编码(Autoencoder)?自编码是一种神经网络的形式,注意它是无监督学习算法。例如现在有一张图片,需要给它打码,然后又还原图片的过程,如下图所示:

一张图片经过压缩再解压的工序,当压缩时原有的图片质量被缩减,当解压时用信息量小却包含所有关键性文件恢复出原来的图片。为什么要这么做呢?有时神经网络需要输入大量的信息,比如分析高清图片时,输入量会上千万,神经网络从上千万中学习是非常难的一个工作,此时需要进行压缩,提取原图片中具有代表性的信息或特征,压缩输入的信息量,再把压缩的信息放入神经网络中学习。这样学习就变得轻松了,所以自编码就在这个时候发挥作用。

如下图所示,将原数据白色的X压缩解压成黑色的X,然后通过对比两个X,求出误差,再进行反向的传递,逐步提升自编码的准确性。

训练好的自编码,中间那部分就是原数据的精髓,从头到尾我们只用到了输入变量X,并没有用到输入变量对应的标签,所以自编码是一种无监督学习算法。

但是真正使用自编码时,通常只用到它的前半部分,叫做编码器,能得到原数据的精髓。然后只需要创建小的神经网络进行训练,不仅减小了神经网络的负担,而且同样能达到很好的效果。

下图是自编码整理出来的数据,它能总结出每类数据的特征,如果把这些数据放在一张二维图片上,每一种数据都能很好的用其精髓把原数据区分开来。自编码能类似于PCA(主成分分析)一样提取数据特征,也能用来降维,其降维效果甚至超越了PCA。

二.Autoencoder分析MNIST数据

Autoencoder算法属于非监督学习,它是把数据特征压缩,再把压缩后的特征解压的过程,跟PCA降维压缩类似。

本篇文章的代码包括两部分内容:

  • 第一部分:使用MNIST数据集,通过feature的压缩和解压,对比解压后的图片和压缩之前的图片,看看是否一致,实验想要的效果是和图片压缩之前的差不多。
  • 第二部分:输出encoder的结果,压缩至两个元素并可视化显示。在显示图片中,相同颜色表示同一类型图片,比如类型为1(数字1),类型为2(数字2)等等,最终实现无监督的聚类。

有监督学习和无监督学习的区别

(1) 有监督学习方法必须要有训练集与测试样本。在训练集中找规律,而对测试样本使用这种规律。而非监督学习没有训练集,只有一组数据,在该组数据集内寻找规律。
(2) 有监督学习的方法就是识别事物,识别的结果表现在给待识别数据加上了标签。因此训练样本集必须由带标签的样本组成。而非监督学习方法只有要分析的数据集的本身,预先没有什么标签。 如果发现数据集呈现某种聚集性,则可按自然的聚集性分类,但不予以某种预先分类标签对上号为目的。

让我们开始编写代码吧!

第一步,打开Anaconda,然后选择已经搭建好的“tensorflow”环境,运行Spyder。

第二步,导入扩展包。

  1. import numpy as np
  2. import tensorflow as tf
  3. import matplotlib.pyplot as plt
  4. from tensorflow.examples.tutorials.mnist import input_data

第三步,下载数据集。

由于MNIST数据集是TensorFlow的示例数据,所以我们只需要下面一行代码,即可实现数据集的读取工作。如果数据集不存在它会在线下载,如果数据集已经被下载,它会被直接调用。

  1. # 下载手写数字图像数据集
  2. mnist = input_data.read_data_sets('MNIST_data', one_hot=True)

第四步,定义参数。

MNIST图片是28*28的像素,其n_input输入特征为784,feature不断压缩,先压缩成256个,再经过一层隐藏层压缩到128个。然后把128个放大,解压256个,再解压缩784个。最后对解压的784个和原始的784个特征进行cost对比,并根据cost提升Autoencoder的准确率。

  1. #-------------------------------------初始化设置-------------------------------------------
  2. # 基础参数设置
  3. learning_rate = 0.01 #学习效率
  4. training_epochs = 5 #5组训练
  5. batch_size = 256 #batch大小
  6. display_step = 1
  7. examples_to_show = 10 #显示10个样本
  8. # 神经网络输入设置
  9. n_input = 784 #MNIST输入数据集(28*28)
  10. # 隐藏层设置
  11. n_hidden_1 = 256 #第一层特征数量
  12. n_hidden_2 = 128 #第二层特征数量
  13. weights = {
  14. 'encoder_h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
  15. 'encoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
  16. 'decoder_h1': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_1])),
  17. 'decoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_input]))
  18. }
  19. biases = {
  20. 'encoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  21. 'encoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  22. 'decoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  23. 'decoder_b2': tf.Variable(tf.random_normal([n_input]))
  24. }

第五步,编写核心代码,即定义encoder和decoder函数来实现压缩和解压操作。

encoder就是两层Layer,分别压缩成256个元素和128个元素。decoder同样包括两层Layer,对应解压成256和784个元素。

  1. #---------------------------------压缩和解压函数定义---------------------------------------
  2. # Building the encoder
  3. def encoder(x):
  4. # 第一层Layer压缩成256个元素 压缩函数为sigmoid(压缩值为0-1范围内)
  5. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['encoder_h1']),
  6. biases['encoder_b1']))
  7. # 第二层Layer压缩成128个元素
  8. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['encoder_h2']),
  9. biases['encoder_b2']))
  10. return layer_2
  11. # Building the decoder
  12. def decoder(x):
  13. # 解压隐藏层调用sigmoid激活函数
  14. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['decoder_h1']),
  15. biases['decoder_b1']))
  16. # 第二层Layer解压成784个元素
  17. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['decoder_h2']),
  18. biases['decoder_b2']))
  19. return layer_2
  20. #-----------------------------------压缩和解压操作---------------------------------------
  21. # 压缩:784 => 128
  22. encoder_op = encoder(X)
  23. # 解压:784 => 128
  24. decoder_op = decoder(encoder_op)

需要注意,在MNIST数据集中,xs数据的最大值是1,最小值是0,而不是图片的最大值255,因为它已经被这里的sigmoid函数归一化了。

  1. batch_xs, batch_ys = mnist.train.next_batch(batch_size) # max(x) = 1, min(x) = 0

第六步,定义误差计算方式。

其中,y_pred表示预测的结果,调用decoder_op解压函数,decoder_op又继续调用decoder解压和encoder压缩函数,对图像数据集X进行处理。

  1. #--------------------------------对比预测和真实结果---------------------------------------
  2. # 预测
  3. y_pred = decoder_op
  4. # 输入数据的类标(Labels)
  5. y_true = X
  6. # 定义loss误差计算 最小化平方差
  7. cost = tf.reduce_mean(tf.pow(y_true - y_pred, 2))
  8. optimizer = tf.train.AdamOptimizer(learning_rate).minimize(cost)

第七步,定义训练和可视化代码,该部分为神经网络运行的核心代码。

首先进行init初始化操作,然后分5组实验进行训练,batch_x为获取的图片数据集,通过 sess.run([optimizer, cost], feed_dict={X: batch_xs}) 计算真实图像与预测图像的误差。

  1. #-------------------------------------训练及可视化-------------------------------------
  2. # 初始化
  3. init = tf.initialize_all_variables()
  4. # 训练集可视化操作
  5. with tf.Session() as sess:
  6. sess.run(init)
  7. total_batch = int(mnist.train.num_examples/batch_size)
  8. # 训练数据 training_epochs为5组实验
  9. for epoch in range(training_epochs):
  10. # Loop over all batches
  11. for i in range(total_batch):
  12. batch_xs, batch_ys = mnist.train.next_batch(batch_size) # max(x)=1 min(x)=0
  13. # 运行初始化和误差计算操作
  14. _, c = sess.run([optimizer, cost], feed_dict={X: batch_xs})
  15. # 每个epoch显示误差值
  16. if epoch % display_step == 0:
  17. print("Epoch:", '%04d' % (epoch+1), "cost=", "{:.9f}".format(c))
  18. print("Optimization Finished!")

第八步,调用matplotlib库画图,可视化对比原始图像和预测图像。

  1. # 压缩和解压测试集
  2. encode_decode = sess.run(
  3. y_pred, feed_dict={X: mnist.test.images[:examples_to_show]})
  4. # 比较原始图像和预测图像数据
  5. f, a = plt.subplots(2, 10, figsize=(10, 2))
  6. # 显示结果 上面10个样本是真实数据 下面10个样本是预测结果
  7. for i in range(examples_to_show):
  8. a[0][i].imshow(np.reshape(mnist.test.images[i], (28, 28)))
  9. a[1][i].imshow(np.reshape(encode_decode[i], (28, 28)))
  10. plt.show()

第九步,运行代码并分析结果。

输出结果如下图所示,误差在不断减小,表示我们的无监督神经网络学习到了知识。

  1. Extracting MNIST_data\train-images-idx3-ubyte.gz
  2. Extracting MNIST_data\train-labels-idx1-ubyte.gz
  3. Extracting MNIST_data\t10k-images-idx3-ubyte.gz
  4. Extracting MNIST_data\t10k-labels-idx1-ubyte.gz
  5. Epoch: 0001 cost= 0.097888887
  6. Epoch: 0002 cost= 0.087600455
  7. Epoch: 0003 cost= 0.083100438
  8. Epoch: 0004 cost= 0.078879632
  9. Epoch: 0005 cost= 0.069106154
  10. Optimization Finished!

通过5批训练,显示结果如下图所示,上面是真实的原始图像,下面是压缩之后再解压的图像数据。注意,其实5批训练是非常少的,正常情况需要更多的训练。

完整代码:

  1. # -*- coding: utf-8 -*-
  2. """
  3. Created on Wed Jan 15 15:35:47 2020
  4. @author: xiuzhang Eastmount CSDN
  5. """
  6. import numpy as np
  7. import tensorflow as tf
  8. import matplotlib.pyplot as plt
  9. from tensorflow.examples.tutorials.mnist import input_data
  10. #-----------------------------------初始化设置---------------------------------------
  11. # 基础参数设置
  12. learning_rate = 0.01 #学习效率
  13. training_epochs = 5 #5组训练
  14. batch_size = 256 #batch大小
  15. display_step = 1
  16. examples_to_show = 10 #显示10个样本
  17. # 神经网络输入设置
  18. n_input = 784 #MNIST输入数据集(28*28)
  19. # 输入变量(only pictures)
  20. X = tf.placeholder("float", [None, n_input])
  21. # 隐藏层设置
  22. n_hidden_1 = 256 #第一层特征数量
  23. n_hidden_2 = 128 #第二层特征数量
  24. weights = {
  25. 'encoder_h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
  26. 'encoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
  27. 'decoder_h1': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_1])),
  28. 'decoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_input]))
  29. }
  30. biases = {
  31. 'encoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  32. 'encoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  33. 'decoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  34. 'decoder_b2': tf.Variable(tf.random_normal([n_input]))
  35. }
  36. # 导入MNIST数据
  37. mnist = input_data.read_data_sets("MNIST_data", one_hot=False)
  38. #---------------------------------压缩和解压函数定义---------------------------------------
  39. # Building the encoder
  40. def encoder(x):
  41. # 第一层Layer压缩成256个元素 压缩函数为sigmoid(压缩值为0-1范围内)
  42. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['encoder_h1']),
  43. biases['encoder_b1']))
  44. # 第二层Layer压缩成128个元素
  45. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['encoder_h2']),
  46. biases['encoder_b2']))
  47. return layer_2
  48. # Building the decoder
  49. def decoder(x):
  50. # 解压隐藏层调用sigmoid激活函数(范围内为0-1区间)
  51. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['decoder_h1']),
  52. biases['decoder_b1']))
  53. # 第二层Layer解压成784个元素
  54. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['decoder_h2']),
  55. biases['decoder_b2']))
  56. return layer_2
  57. #-----------------------------------压缩和解压操作---------------------------------------
  58. # Construct model
  59. # 压缩:784 => 128
  60. encoder_op = encoder(X)
  61. # 解压:784 => 128
  62. decoder_op = decoder(encoder_op)
  63. #--------------------------------对比预测和真实结果---------------------------------------
  64. # 预测
  65. y_pred = decoder_op
  66. # 输入数据的类标(Labels)
  67. y_true = X
  68. # 定义loss误差计算 最小化平方差
  69. cost = tf.reduce_mean(tf.pow(y_true - y_pred, 2))
  70. optimizer = tf.train.AdamOptimizer(learning_rate).minimize(cost)
  71. #-------------------------------------训练及可视化-------------------------------------
  72. # 初始化
  73. init = tf.initialize_all_variables()
  74. # 训练集可视化操作
  75. with tf.Session() as sess:
  76. sess.run(init)
  77. total_batch = int(mnist.train.num_examples/batch_size)
  78. # 训练数据 training_epochs为5组实验
  79. for epoch in range(training_epochs):
  80. # Loop over all batches
  81. for i in range(total_batch):
  82. batch_xs, batch_ys = mnist.train.next_batch(batch_size) # max(x)=1 min(x)=0
  83. # 运行初始化和误差计算操作
  84. _, c = sess.run([optimizer, cost], feed_dict={X: batch_xs})
  85. # 每个epoch显示误差值
  86. if epoch % display_step == 0:
  87. print("Epoch:", '%04d' % (epoch+1), "cost=", "{:.9f}".format(c))
  88. print("Optimization Finished!")
  89. # 压缩和解压测试集
  90. encode_decode = sess.run(
  91. y_pred, feed_dict={X: mnist.test.images[:examples_to_show]})
  92. # 比较原始图像和预测图像数据
  93. f, a = plt.subplots(2, 10, figsize=(10, 2))
  94. # 显示结果 上面10个样本是真实数据 下面10个样本是预测结果
  95. for i in range(examples_to_show):
  96. a[0][i].imshow(np.reshape(mnist.test.images[i], (28, 28)))
  97. a[1][i].imshow(np.reshape(encode_decode[i], (28, 28)))
  98. plt.show()

三.特征聚类分析

第一部分实验完成,它对比了10张原始图像和预测图像。我们接着分享第二部分的实验,生成聚类图。

第一步,修改参数。

修改如下,学习效率设置为0.001,训练批次设置为20。

  1. # 基础参数设置
  2. learning_rate = 0.001 #学习效率
  3. training_epochs = 20 #20组训练
  4. batch_size = 256 #batch大小
  5. display_step = 1

第二步,增加encoder和decoder层数,并修改参数。

我们将隐藏层设置为4层,这样的效果会更好。首先从784压缩到128,再压缩到64、10,最后压缩到只有2个元素(特征),从而显示在二维图像上。同时更新weights值和biases值,encoder和decoder都设置为4层。

  1. # 隐藏层设置
  2. n_hidden_1 = 128 #第一层特征数量
  3. n_hidden_2 = 64 #第二层特征数量
  4. n_hidden_3 = 10 #第三层特征数量
  5. n_hidden_4 = 2 #第四层特征数量
  6. weights = {
  7. 'encoder_h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
  8. 'encoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
  9. 'encoder_h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_3])),
  10. 'encoder_h4': tf.Variable(tf.random_normal([n_hidden_3, n_hidden_4])),
  11. 'decoder_h1': tf.Variable(tf.random_normal([n_hidden_4, n_hidden_3])),
  12. 'decoder_h2': tf.Variable(tf.random_normal([n_hidden_3, n_hidden_2])),
  13. 'decoder_h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_1])),
  14. 'decoder_h4': tf.Variable(tf.random_normal([n_hidden_1, n_input]))
  15. }
  16. biases = {
  17. 'encoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  18. 'encoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  19. 'encoder_b3': tf.Variable(tf.random_normal([n_hidden_3])),
  20. 'encoder_b4': tf.Variable(tf.random_normal([n_hidden_4])),
  21. 'decoder_b1': tf.Variable(tf.random_normal([n_hidden_3])),
  22. 'decoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  23. 'decoder_b3': tf.Variable(tf.random_normal([n_hidden_1])),
  24. 'decoder_b4': tf.Variable(tf.random_normal([n_input])),
  25. }

第三步,修改压缩和解压定义函数,也是增加到四层。

  1. #---------------------------------压缩和解压函数定义---------------------------------------
  2. # Building the encoder
  3. def encoder(x):
  4. # 压缩隐藏层调用函数sigmoid(压缩值为0-1范围内)
  5. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['encoder_h1']),
  6. biases['encoder_b1']))
  7. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['encoder_h2']),
  8. biases['encoder_b2']))
  9. layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2, weights['encoder_h3']),
  10. biases['encoder_b3']))
  11. # 输出范围为负无穷大到正无穷大 调用matmul函数
  12. layer_4 = tf.add(tf.matmul(layer_3, weights['encoder_h4']),
  13. biases['encoder_b4'])
  14. return layer_4
  15. # Building the decoder
  16. def decoder(x):
  17. # 解压隐藏层调用sigmoid激活函数(范围内为0-1区间)
  18. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['decoder_h1']),
  19. biases['decoder_b1']))
  20. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['decoder_h2']),
  21. biases['decoder_b2']))
  22. layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2, weights['decoder_h3']),
  23. biases['decoder_b3']))
  24. layer_4 = tf.nn.sigmoid(tf.add(tf.matmul(layer_3, weights['decoder_h4']),
  25. biases['decoder_b4']))
  26. return layer_4

第四步,最后修改训练代码,我们不再观看它的训练结果,而是观察它解压前的结果。

  1. # 观察解压前的结果
  2. encoder_result = sess.run(encoder_op, feed_dict={X: mnist.test.images})
  3. # 显示encoder压缩成2个元素的预测结果
  4. plt.scatter(encoder_result[:, 0], encoder_result[:, 1], c=mnist.test.labels)
  5. plt.colorbar()
  6. plt.show()

完整代码如下:

  1. # -*- coding: utf-8 -*-
  2. """
  3. Created on Wed Jan 15 15:35:47 2020
  4. @author: xiuzhang Eastmount CSDN
  5. """
  6. import numpy as np
  7. import tensorflow as tf
  8. import matplotlib.pyplot as plt
  9. from tensorflow.examples.tutorials.mnist import input_data
  10. #-----------------------------------初始化设置---------------------------------------
  11. # 基础参数设置
  12. learning_rate = 0.001 #学习效率
  13. training_epochs = 20 #20组训练
  14. batch_size = 256 #batch大小
  15. display_step = 1
  16. examples_to_show = 10 #显示10个样本
  17. # 神经网络输入设置
  18. n_input = 784 #MNIST输入数据集(28*28)
  19. # 输入变量(only pictures)
  20. X = tf.placeholder("float", [None, n_input])
  21. # 隐藏层设置
  22. n_hidden_1 = 128 #第一层特征数量
  23. n_hidden_2 = 64 #第二层特征数量
  24. n_hidden_3 = 10 #第三层特征数量
  25. n_hidden_4 = 2 #第四层特征数量
  26. weights = {
  27. 'encoder_h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
  28. 'encoder_h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
  29. 'encoder_h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_3])),
  30. 'encoder_h4': tf.Variable(tf.random_normal([n_hidden_3, n_hidden_4])),
  31. 'decoder_h1': tf.Variable(tf.random_normal([n_hidden_4, n_hidden_3])),
  32. 'decoder_h2': tf.Variable(tf.random_normal([n_hidden_3, n_hidden_2])),
  33. 'decoder_h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_1])),
  34. 'decoder_h4': tf.Variable(tf.random_normal([n_hidden_1, n_input]))
  35. }
  36. biases = {
  37. 'encoder_b1': tf.Variable(tf.random_normal([n_hidden_1])),
  38. 'encoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  39. 'encoder_b3': tf.Variable(tf.random_normal([n_hidden_3])),
  40. 'encoder_b4': tf.Variable(tf.random_normal([n_hidden_4])),
  41. 'decoder_b1': tf.Variable(tf.random_normal([n_hidden_3])),
  42. 'decoder_b2': tf.Variable(tf.random_normal([n_hidden_2])),
  43. 'decoder_b3': tf.Variable(tf.random_normal([n_hidden_1])),
  44. 'decoder_b4': tf.Variable(tf.random_normal([n_input])),
  45. }
  46. # 导入MNIST数据
  47. mnist = input_data.read_data_sets("MNIST_data", one_hot=False)
  48. #---------------------------------压缩和解压函数定义---------------------------------------
  49. # Building the encoder
  50. def encoder(x):
  51. # 压缩隐藏层调用函数sigmoid(压缩值为0-1范围内)
  52. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['encoder_h1']),
  53. biases['encoder_b1']))
  54. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['encoder_h2']),
  55. biases['encoder_b2']))
  56. layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2, weights['encoder_h3']),
  57. biases['encoder_b3']))
  58. # 输出范围为负无穷大到正无穷大 调用matmul函数
  59. layer_4 = tf.add(tf.matmul(layer_3, weights['encoder_h4']),
  60. biases['encoder_b4'])
  61. return layer_4
  62. # Building the decoder
  63. def decoder(x):
  64. # 解压隐藏层调用sigmoid激活函数(范围内为0-1区间)
  65. layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['decoder_h1']),
  66. biases['decoder_b1']))
  67. layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['decoder_h2']),
  68. biases['decoder_b2']))
  69. layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2, weights['decoder_h3']),
  70. biases['decoder_b3']))
  71. layer_4 = tf.nn.sigmoid(tf.add(tf.matmul(layer_3, weights['decoder_h4']),
  72. biases['decoder_b4']))
  73. return layer_4
  74. #-----------------------------------压缩和解压操作---------------------------------------
  75. # Construct model
  76. # 压缩:784 => 128
  77. encoder_op = encoder(X)
  78. # 解压:784 => 128
  79. decoder_op = decoder(encoder_op)
  80. #--------------------------------对比预测和真实结果---------------------------------------
  81. # 预测
  82. y_pred = decoder_op
  83. # 输入数据的类标(Labels)
  84. y_true = X
  85. # 定义loss误差计算 最小化平方差
  86. cost = tf.reduce_mean(tf.pow(y_true - y_pred, 2))
  87. optimizer = tf.train.AdamOptimizer(learning_rate).minimize(cost)
  88. #-------------------------------------训练及可视化-------------------------------------
  89. # 初始化
  90. init = tf.initialize_all_variables()
  91. # 训练集可视化操作
  92. with tf.Session() as sess:
  93. sess.run(init)
  94. total_batch = int(mnist.train.num_examples/batch_size)
  95. # 训练数据
  96. for epoch in range(training_epochs):
  97. # Loop over all batches
  98. for i in range(total_batch):
  99. batch_xs, batch_ys = mnist.train.next_batch(batch_size) # max(x)=1 min(x)=0
  100. # 运行初始化和误差计算操作
  101. _, c = sess.run([optimizer, cost], feed_dict={X: batch_xs})
  102. # 每个epoch显示误差值
  103. if epoch % display_step == 0:
  104. print("Epoch:", '%04d' % (epoch+1), "cost=", "{:.9f}".format(c))
  105. print("Optimization Finished!")
  106. # 观察解压前的结果
  107. encoder_result = sess.run(encoder_op, feed_dict={X: mnist.test.images})
  108. # 显示encoder压缩成2个元素的预测结果
  109. plt.scatter(encoder_result[:, 0], encoder_result[:, 1], c=mnist.test.labels)
  110. plt.colorbar()
  111. plt.show()

这个训练过程需要一点时间,运行结果如下图所示:

聚类显示结果如下图所示,它将不同颜色的分在一堆,对应不同的数字。比如左下角数据集被无监督学习聚类为数字0,而另一边又是其他的数据。

但其聚类结果还有待改善,因为这只是Autoencoder的一个简单例子。希望这篇文章能够帮助博友们理解和认识无监督学习和Autoencoder算法,后续作者会更深入的分享好案例。

参考文献:

[1] 杨秀璋, 颜娜. Python网络数据爬取及分析从入门到精通(分析篇)[M]. 北京:北京航天航空大学出版社, 2018.
[2] 
[3] 
[4] https://github.com/siucaan/CNN_MNIST
[5] https://github.com/eastmountyxz/AI-for-TensorFlow
[6]《机器学习》周志华
[7] 深度学习(07)RNN-循环神经网络-02-Tensorflow中的实现 - 莫失莫忘Lawlite
[8] https://github.com/lawlite19/DeepLearning_Python

点击关注,第一时间了解华为云新鲜技术~

相关文章