参考课程:YUN-NUNG (VIVIAN) CHEN的深度学习课程
参考书籍:http://lamda.nju.edu.cn/weixs/book/CNN_book.pdf
1.网络训练(神经网络前馈运算+反馈运算)
前馈运算:后一层的输入(z)=前一层的输出(a)与对应权值(w-两层间的连接线上)加权求和。
反馈运算(backpropagation):后一次迭代的权值w/偏置b=前一次迭代的权值w/偏置b-学习率×误差对前一次迭代权值w/偏置b的偏导数
①YUN-NUNG (VIVIAN) CHEN版
参数:
算法:
损失函数(目标函数):
(回归问题),(分类问题)
链式参数更新法则:
2.卷积操作
计算方式:图片对应位置与卷积核对应位置加权求和。(滑动的卷积核)
卷积核理解:其实在网络训练过程中,训练的就是卷积核对应位置的值,也就是1中前馈运算中的权重w
3.实质问题
网络训练其实就是不断更新权值w以及偏置b,权值就是卷积核中不同位置的参数值.
评论