参考课程:YUN-NUNG (VIVIAN) CHEN的深度学习课程

参考书籍:http://lamda.nju.edu.cn/weixs/book/CNN_book.pdf

1.网络训练(神经网络前馈运算+反馈运算)

前馈运算:后一层的输入(z)=前一层的输出(a)与对应权值(w-两层间的连接线上)加权求和。

反馈运算(backpropagation):后一次迭代的权值w/偏置b=前一次迭代的权值w/偏置b-学习率×误差对前一次迭代权值w/偏置b的偏导数

①YUN-NUNG (VIVIAN) CHEN版

参数:

算法:

Xiu-Shen WEI

损失函数(目标函数):

(回归问题),(分类问题)

链式参数更新法则:

2.卷积操作

计算方式:图片对应位置与卷积核对应位置加权求和。(滑动的卷积核)

卷积核理解:其实在网络训练过程中,训练的就是卷积核对应位置的值,也就是1中前馈运算中的权重w

3.实质问题

网络训练其实就是不断更新权值w以及偏置b,权值就是卷积核中不同位置的参数值.