Tensorflow 学习日记-2 回归和分类问题

TensorFlow 学习日记-2

p.s.: 到了暑假好不容易有时间继续学习 Tensorflow. 虽然只是学习下框架和最基本的概念, 但也挺有意思的.(?)

今日所学:

• 使用梯度下降的方式(线性)回归问题 y = w*x + b

学习了如何使用梯度下降的方式做线性回归. 感觉就是用梯度下降(即将x的取值不断向斜率减小的方向推进)推广了高中所学的最小二乘法, 使其可以适用于更多的问题.

• 使用矩阵乘法解决分类问题(手写数字识别) h = ReLU(X@W + b)

尝试识别了 MNIST 手写数字数据集. 在上一步线性回归的基础上引入非线性的激活函数和多层隐藏层来解决更为复杂的非线性的问题.(比如手写数字识别)

概要流程: 将输入的数据转换成矩阵, 多次带入 h = ReLU(X@Wi + bi) 降维, 经过多次降维后所得的数据与 One-Hot Encoding 的结果作平方差计算 loss 函数, 用梯度下降的方法求得 loss 最小值时各层参数的取值.

本来还想尝试一下用自己动手不用 Tensorflow 的框架来实现一次 Deep learning, 但时间有限, 即使是一个两三层的网络工作量还是太大… 就算了.