学习笔记整理系列之,深度学习( 五 )


该项目利用了 9 层的神经网络来获得脸部表征,神经网络处理的参数高达 1.2亿 。最后我们再回到大数据这个时代背景上来 。当坐拥海量的大数据,我们无论是做推荐系统还是3D模型检索(见第6章的6.4节“众里寻她千百度──海量3D模型的检索”),以前用简单的线性数学模型,一般也能获得还不错的结果 。因此我们沾沾自喜起来,认为还是大数据更重要,而智能算法用简单直接的就OK了,不需要也没必要弄得很复杂 。
而当深度学习出现后,它的一系列辉煌战绩让我们意识到:也许是时候该“鸟枪换炮”了 。简而言之,在大数据情况下,也许只有比较复杂的模型,或者说表达能力强的模型,才能充分发掘海量数据中蕴藏的有价值信息 。更重要的是,深度学习可以自动学习特征,而不必像以前那样还要请专家手工构造特征,极大地推进了智能自动化 。深度学习(即所谓“深度”)应大数据(即所谓“广度”)而生,给大数据提供了一个深度思考的大脑,而3D打印(即所谓“力度”)给了智能数字化一个强健的躯体,三者共同引发了“大数据+深度模型+3D打印”浪潮的来临 。
如何才能深度学习呢?

学习笔记整理系列之,深度学习


人工智能和深度计算人工智能(Artificial Intelligence,AI),是指基于底层算法、计算机技术模拟、扩展人大脑智能的理论、方法、技术和应用系统的一门新的技术科学 。人工智能一直学界研究和关注的重点,跨越了数学、生理学、计算机等多学科的明星学科,已经发展了好几十年,BP神经网络、SVM都曾经带动AI火了好一阵子 。
最近AI火又烧起来了,自2006年以来,依赖于分布式计算、云计算使得计算机并行处理能力大大加强,而且而且在算法上又有了突进 。我们说的算法就是深度计算 Deep Learning 。12年6月,媒体报道了Google Brain项目,大家的广泛关注 。项目有著名机器学习教授Andrew Ng和JeffDean共同主导,用16000个CPU Core的并行计算平台训练一种称为“深度神经网络”(DNN,Deep Neural Networks)的机器学习模型(内部有10亿个节点),在语音识别和图像识别等领域获得了巨大的成功 。
TensorFlow15年谷歌开源了,旗下著名的AI和深度学习 TensorFlow引擎,引燃了AI和DL在大火 。TensorFlow 是谷歌在DistBelief基础上发展的第二代人工智能学习系统 。关于其名称来源:Tensor(张量)意味着N维数组,Flow(流)意味着基于数据流图的计算,TensorFlow是指张量从流图的一端流动到另一端计算过程 。
TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统 。TensorFlow可广泛地应用于语音识别,自然语言理解,计算机视觉,广告等等 。同时各大厂商也都推出了类似的机器学习框架 。关于深度学习的学习深度学习是在AI,神经网络的一个新算法,如果要系统学习AI,你必须有一定基础的数学技能、AI和模式算法的基础,不是一下深入的 。
建议先打一些数学和AI、模式识别等基本算法的基础,然后可以学习机器学习的公开课,比如Hinton 的Neural Networks for Machine Learning,斯坦福 CS231 。中文在线教程,推荐李宏毅的机器学习课程关于中文课程,台湾一个教授李宏毅的一个中文在线课程Hung-yi Lee :课程设置非常合理,内容由浅入深,内容很全,大概会涵盖近几年最新的paper ,而且也会引用reddit 讨论的deep learning问题,同时他也会讲很多调参的技巧 。
【学习笔记整理系列之,深度学习】注重应用和实践的一些课程和工具框架的教学 。比如2015年时候讲theano,17年讲tensorflow以及keras 。他的课程主页上有ppt,video,homework,非常适合初学者食用,如果你的数学很差,他的课程主页有一门linear algebra,还有一门machine learning ,这两门课会补很多数学知识 。

推荐阅读