chengchaowei的博客,反向传播

卷积神经网络中卷积核的翻转、全连接层的处理和反向传播的详细过程 , 是怎样的?
【chengchaowei的博客,反向传播】

chengchaowei的博客,反向传播


首先卷积核会在自身内部形成一个类似数字8的漩涡 , 这个漩涡会进而产生微弱向内的引力场 , 卷积神经在这个引力场的作用下向内收缩 , 多个卷积神经的引力场其实作用也不大 , 但是已经足够固立牢固的连接层 , 全连接层就此建成 , 在没有外部刺激的情况下不会产生反向传播 。除非有外部刺激 , 以目前的科技水平还不能创造深核或者基核刺激 , 唯有大喊三声“答主马良我爱你”才能提高0.36%的概率创造深核刺激 。
深度学习结构及其算法和早已提出的多层感知器及其反向传播算法有哪些本质区别?
chengchaowei的博客,反向传播


我简单讲一下我个人的理解 。深度学习只是一个统称 , 其中包括了dnn , cnn等 。就dnn而言 , 现在的改进在于多层稀疏自编码进行特征提取 , 初始权重的分层逐步优化 , 有效避免了简单反向传播算法的权重消散 , 以及随机初始权重导致容易陷入局部最优解等问题 。加上由于数据量的空前庞大和计算力的空前提高 , 才使得dnn有了质的改进 。

    推荐阅读