防止被算力“锁死” AI进化急需革命性算法( 二 )


除了算力 , 深度学习本身还可通过哪些方式改进算法?吴家骥介绍 , 深度学习都是在异构硬件上运行 , 大数据进入时 , 需要分流处理 , 从算法上来看 , 可以调度优化 , 让异构架构(CPU、GPU、AI芯片)因地制宜地调度深度学习和大数据处理业务 。
吴家骥指出 , 未来可能很长一段时间内 , 对深度算法的改进 , 不仅要从架构、硬件上考虑 , 还要考虑模型的压缩能力 。 例如 , 就具体问题而言 , 考虑如何把大象关进冰箱 , 但问题是冰箱关不了大象 , 但若把大象压缩成小猫小狗的大小 , 就可装入冰箱 。 这就需要模型压缩 , 在保证精度的前提下 , 压缩神经网络模型 , 降低对计算平台的要求 , 大大提高计算效率 , 满足更多的实际场景需求 。
研究人员认为 , 在算法水平上进行深度学习改进已有先例 。 例如谷歌的张量处理单元 , 现场可编程门阵列和专用集成电路 , 并试图通过网络压缩和加速技术来降低计算复杂性 。 他们还引用了神经体系结构搜索和元学习 , 查找在一类问题上保持良好性能的体系结构 , 以此作为计算上有效改进算法的途径 。
算力增长未必会让AI拥有类人智力
无疑 , 算法突破的目的是让机器更像人类大脑一样具有神经元的功能 。 但就功耗而言 , 大脑要像超级计算机那样运算 , 自身温度就会飙升上百摄氏度 , 所以若简单认为更多的计算能力就可让人工智能拥有人类智能的想法显然是存在争议的 。
“人类的智能中基因与常识是机器所不具备的 , 其中基因是不需要计算的 , 常识是可以通过简单计算实现的 。 ”谭茗洲指出 。
“常识决定了基本能力、发现力和创造力 , 而具有常识能力 , 是更先进意义上的人工智能 。 革命性的算法 , 就是要让AI具备拥有学习常识的能力 , 这也是未来一个很有潜力的研究方向 。 ”吴家骥说 。
有人说 , 深度学习大多数是“炼金术” , 大多数算法是对经验更朴实的归纳 , 对说的问题进行更精辟的演绎 。 谭茗洲说:“现在数据非常多 , 算力也在增强 , 人们依赖深度学习提升AI智力 , 但‘傻学硬练’形成更强的学习方法 , 很难达到或超越人类的算力及智力 。 ”
那么 , 革命性算法的标准是什么 , 为什么优于深度学习的算法迟迟没出现?
谭茗洲认为 , 革命算法的标准首先是在不同场景具有高适应度 , 可以形成知识记忆和经验记忆的算法 , 并且低耗能低成本 。 未来革命性算法有可能基于三点提升 , 一是基于常识推理 。 由于我们面对的大量场景不是通过大量数据训练而来 , 人类大脑面对这些场景往往是通过常识推理运算而得出结论 , 而深度学习并没有建立这套体系 。 另外 , 常识和常识之间的关联性 , 加速了人类对结果的推理速度 。 二是基于负性小样本的学习 。 在深度学习模型中 , 往往很少去学习什么是错误的 , 而汲取负面行为及教训性质类型的小样本是有学习意义的 。 三是基于交流、沟通的学习 , 人与人交流在学习中分几个层次 , 看、听、模仿等 , AI也应多从这几个方面入手 , 建立以交通、沟通为目的的学习 , 而不是单单通过大数据训练模仿人类智能 。 (采访人员 华 凌)

推荐阅读