数据集大小方面带来的问题也是不可忽视的,一系列的随机算法(SGD-based method)、分布式算法被提出来应对这些问题 。从计算难度的角度而言,油田、大气、金融等问题的计算一般都有很好的formulation,问题求解虽然不见得性质很好(例如解Levy Process因为跳的存在,也涉及到很多0-范数的问题,本质上还是NP-hard的),但是起码能够有一些理论的保证 。
而深度学习由于问题极其扭曲(深),非线性程度很高,所以求解过程收敛速度和收敛性并没有任何的保证 。当然最近也有一些在比较强的假设下,浅层的神经网络到达saddle point或者local minima的一些证明,但是计算上的问题还是一个根本的困难问题 。然而,在给定大量高质量数据的前提下,深度网络和深度学习算法展现出了相比较传统机器学习模型精准得多的逼近能力,能够提供高精度的逼近效果 。
从本质上说,这一点就是深度学习带给运筹学的最大影响 。在合适的应用场景下,通过深度网络离线学习得到高质量的逼近模型,并把它和符合问题特点的优化算法相结合,将会带来意想不到的应用效果 。我相信未来几年内,这方面的论文会涌现出一大批 。从应用层面来说,机器学习在‘预测’上比传统运筹和统计模型表现好是必然的,原因是传统模型基于简单的假设,因为复杂的假设可能无法快速的解出最优解 。
更多的参数意味着这更好的拟合程度,虽然有过拟合的风险,但机器学习模型可以通过模型增加正则化,Bagging, Boosting等一些列方式防止过拟合,从而达到很好的预测效果 。当然了,预测好并不是一个模型的全部,相对于传统的统计模型所缺少的是可解释性和insight 。4. 深度学习的发展举个例子,博弈问题如围棋,就是一个典型的复杂优化问题 。
而AlphaGo 成功的本质原因,是通过深度网络离线学习得到了对于状态和落子点价值的较为准确的评估,然后在线地和搜索算法(蒙特卡洛树搜索算法)相结合,取得了突破性的效果 。最近,机器学习界也在反思,Neural Network BP=AI这么一个打法究竟是否成立 。Hinton直接就跳出来说:“BP在深度学习中不是必要的”,并且提出了一个叫Capsule的东西给大家思考 。
包括我们也知道有很多non-gradient的方法(粒子群蚁群优化等,一度被小圈子玩坏的领域,但是在新时代有无重新兴起的可能?而OR也确实能够给机器学习界带来很大的帮助:例如,以SMO求解SVM等对偶方法现在已经是标准思路 。5. 机器学习和整数规划结合的一些成果整数规划作为运筹学理论体系中很重要的一部分,对解决实际工业需求中的问题提供了强有力的建模方式,但机器学习模型可以通过模型增加正则化,Bagging, Boosting等一些列方式防止过拟合,从而达到很好的预测效果 。
【RMSprop优化器,rmsprop】Branch-and-Bound(B
推荐阅读
- 一种使用移动机器人的更智能的建筑方式,我的机器人诺伊百度云
- 骁龙710跑分,全面领先骁龙710
- 你的手机处理器排名高吗 手机处理器综合排名
- 你的手机处理器排名高吗 手机处理器排名大全
- 你们任务管理器里面的这个音乐能暂停么?
- 空气能热水器怎样使用,我家空气能热水器如何才能更省电
- 苹果mfi认证的充电器,MFI认证的那些第三方厂商的充电器和数据线靠谱么
- 海尔热水器全国热线,海尔热水器总代理电话
- 老板电器股票行情,看到钱江晚报上说老板电器最高股价270可是看新浪财经上股价就50
- 100种家用电器有哪些,价值100元的小家电有哪些