changdejie的专栏,玻尔兹曼机( 四 )


这部分的数学难度应该与深度强化学习在同一难度上 。需要对概率论有比较深的理解 。最基础的生成模型你要理解玻尔兹曼机这个与统计物理渊源很深的模型,需要较深的概率统计知识 。GAN生成对抗模型的目标函数含有了大名鼎鼎的博弈论思想 。纳什均衡都进来了啊,虽然这时候的优化理论已经飞一样的难,你还是会有一种融汇贯通的感觉 。
阶段6:信息瓶颈理论? 计算神经科学前沿? 铁哥恭喜你此处要告别尘缘了 。深度学习的尽头必然要与我们对认知和信息本质的基础认识相连 。此处针对希望做深度学习研究的人员 。基础教材推荐:陈希孺院士的《概率论与数理统计》,这是一本数理统计的入门级教材 。最好的统计中文教材 。参考评论 https://d.cosx.org/d/14990-14990龚升的《简明微积分》 。
人工智能、机器学习、深度学习三者之间的关系?

changdejie的专栏,玻尔兹曼机


人工智能、机器学习、深度学习三者之间的关系?有人说,人工智能(AI)是未来,人工智能是科幻,人工智能也是我们日常生活中的一部分 。事实上,这些说法都是正确的,这一切都取决于你所指的是哪一种人工智能 。例如,此前Google DeepMind的AlphaGo打败了韩国的围棋大师李世乭九段 。在媒体描述DeepMind胜利的时候,就曾将人工智能(AI)、机器学习(Machine Learning)和深度学习(Deep Learning)都提到了 。
这三者在AlphaGo击败李世乭的过程中都起了作用,但它们说的并不是一回事 。要解释这三者之间的关系和应用,最简单的方法就是画一个同心圆,如下图,人工智能是最早出现的,也是最大、最外侧的同心圆;其次是机器学习,稍晚一点;最内侧,是深度学习,也是当今人工智能大爆炸的核心驱动 。从概念的提出到走向繁荣1956年,几位计算机科学家相聚在达特茅斯会议(Dartmouth Conferences),提出了“人工智能”的概念 。
其后,人工智能就一直萦绕在人们的脑海之中,并在科研实验室中慢慢孵化成形 。在之后的几十年,人工智能一直在不停地两极反转,既有人把其称作人类文明耀眼的未来;也有人把其当做是技术疯子们的妄想,嗤之以鼻 。坦白说,直到2012年之前,这两种声音都还同时存在 。过去几年,尤其是自2015年以来,人工智能开始大爆发 。
很大一部分原因是由于GPU的广泛应用,使得并行计算变得更快、更便宜、更有效 。当然,无限拓展的存储能力和骤然爆发的数据洪流(大数据),也使得图像数据、文本数据、交易数据、映射数据全面海量爆发 。让我们慢慢梳理一下计算机科学家们是如何将人工智能从最早的一点点星星之火,发展到能够支撑那些每天被数亿用户使用的实际应用的 。
人工智能(Artificial Intelligence)——为机器赋予人的智能King me:扮演跳棋玩家的计算机程序,是最早的人工智能实例之一,在20世纪50年代激起了人工智能的早期浪潮 。早在1956年夏天的那次会议上,人工智能的先驱们就梦想着用当时刚刚出现的计算机来构造复杂的、拥有与人类智慧同样本质特性的机器,既我们所谓的“强人工智能”(General AI) 。
这是一个无所不能的机器,它有着我们所有的感知(甚至比人更多),以及我们所有的理性,可以像我们一样思考 。人们在电影里也总是看到这样的机器人:像星球大战中友好的C-3PO;或者是邪恶的终结者 。强人工智能目前还仅存在于电影和科幻小说中,原因很简单,因为我们还没法实现它们,至少目前还不行 。我们目前能实现的,一般被称为“弱人工智能”(Narrow AI) 。

推荐阅读