changdejie的专栏,玻尔兹曼机( 二 )


当然,深度学习现在备受关注的另外一个原因,当然是因为在某些场景下,这种算法模式识别的精度,超过了绝大多数目前已有的算法 。而在最近,深度学习的提出者修改了其实现代码的Bug之后,这种模型识别精度又有了很大的提升 。这些因素共同引起了深层神经网络模型,或者说深度学习这样一个概念的新的热潮 。深度学习的优点为了进行某种模式的识别,通常的做法首先是以某种方式,提取这个模式中的特征 。
这个特征的提取方式有时候是人工设计或指定的,有时候是在给定相对较多数据的前提下,由计算机自己总结出来的 。深度学习提出了一种让计算机自动学习出模式特征的方法,并将特征学习融入到了建立模型的过程中,从而减少了人为设计特征造成的不完备性 。而目前以深度学习为核心的某些机器学习应用,在满足特定条件的应用场景下,已经达到了超越现有算法的识别或分类性能 。
深度学习的缺点深度学习虽然能够自动的学习模式的特征,并可以达到很好的识别精度,但这种算法工作的前提是,使用者能够提供“相当大”量级的数据 。也就是说在只能提供有限数据量的应用场景下,深度学习算法便不能够对数据的规律进行无偏差的估计了,因此在识别效果上可能不如一些已有的简单算法 。另外,由于深度学习中,图模型的复杂化导致了这个算法的时间复杂度急剧提升,为了保证算法的实时性,需要更高的并行编程技巧以及更好更多的硬件支持 。
深度学习需要什么样的IT基础才能学习?

changdejie的专栏,玻尔兹曼机


初学者入门深度学习需要了解Python基础,以优就业深度学习课程为例,内容包括AI概述及前沿应用成果介绍,人工神经网络及卷积神经网络原理及TensorFlow实战,循环神经网络原理及项目实战,生成式对抗网络原理及项目实战,深度学习的分布式处理及项目实战,深度强化学习及项目实战,企业级项目实战-车牌识别项目实战,深度学习最新前沿技术简介八个阶段 。
打开深度学习,对于大部分小白,编程已然令人生畏,而更加令人难以接受的,那么,深度学习里的数学到底难在哪里? 寻常人等又有如何路径走通,请听慢慢解析 。线性代数:想要学习深度学习,你第一个需要理解透彻的学问是线性代数 。为什么? 因为深度学习的根本思想就是把任何事物转化成高维空间的向量,强大无比的神经网络,说来归齐就是无数的矩阵运算和简单的非线性变换的结合 。
这样把图像啊,声音啊这类的原始数据一层层转化为我们数学上说的向量 。什么image to vector,word to vector 这些,都在说的一件事情就是这类数学转化,不同类型(我们通常称为非结构化数据)的数据最终成为数学上不可区分的高维空间的向量,所谓万类归宗 。线性代数,就是对于这一类高维空间运算做的默认操作模式,可谓上帝的魔术之手 。
因此你要驾驶深度学习这个跑车,线性代数关系你到是否理解发动机的原理 。线性代数核心需要掌握的是线性空间的概念和矩阵的各项基本运算,对于线性组合,线性空间的各类概念,矩阵的各种基本运算,矩阵的正定和特征值等等都要有非常深厚的功力 。概率论:下一个我们需要讲解的是什么呢? 概率论基础。概率论事整个机器学习和深度学习的语言,因为无论是深度学习还是机器学习所做的事情是均是预测未知 。
预测未知你就一定要对付不确定性 。整个人类对不确定性的描述都包含在了概率论里面 。概率论你首先要知道的是关于概率来自频率主义和贝叶斯主义的观点,然后你要了解概率空间这一描述描述不确定事件的工具,在此基础上,熟练掌握各类分布函数描述不同的不确定性 。我们最常用的分布函数是高斯,但是你会发现高斯是数学书里的理想,而真实世界的数据,指数分布和幂函数分布也很重要,不同的分布对机器学习和深度学习的过程会有重要的影响,比如它们影响我们对目标函数和正则方法的设定 。

推荐阅读