集成学习,深度学习三大谜团 _集成

学集成电路需要基础电路知识吗？

我的答案是是肯定要有，而且电路方面的知识还需要学的很多。尤其是作为一名集成电路设计方面的学生，没有基础电路知识是不可想象的。不过如果专业是集成电路工艺方向，对电路知识的要求可以低一点，不过即使再低，基础电路知识也是必修的。我大致罗列一下微电子专业学生的课程（大一到大四），跟电路相关的课程至少有7门:数电，模电，信号与系统，模拟集成电路设计，数字集成电路设计，版图设计，VLSI导论（超大规模集成电路）高数普通物理线性代数数学物理方法量子力学数电模电信号与系统微机原理固体物理半导体物理(核心)微电子材料半导体器件物理微纳电子器件模拟集成电路设计数字集成电路设计版图设计VLSI导论通信原理。
集成学习相对于单个学习器一定会有提高吗？

俗话说：“三个臭皮匠，顶个诸葛亮。”不过，三个臭皮匠，恐怕抵不上一个诸葛亮。否则刘备也不用三顾茅庐请诸葛亮出山了。问题在于，三个臭皮匠，相对于单个臭皮匠，水平是否一定提升？其实这个问题专门有一个定理，称为臭皮匠定理。上式中：N为臭皮匠总数m是臭皮匠构成多数的值（这里我们假定臭皮匠意见出现分歧时，通过简单多数原则投票决定结果，当超过m个臭皮匠赞同时，臭皮匠团体赞同，相反，当超过m个臭皮匠反对时，臭皮匠团体反对。
实际上，m = (N 1)/2）p为单个臭皮匠做出正确决定的概率μ是整个臭皮匠团体做出正确决定的概率由臭皮匠定理可知，当p大于等于0.5时，μ大于等于p 。0.5是什么？什么都不知道，瞎蒙的概率就是0.5. 所以说，只要臭皮匠稍微有一点水平，比瞎蒙的水平高一点，那么三个臭皮匠做出正确决策的概率就一定高于单个臭皮匠。
另一方面，当p大于0.5且N趋向于无穷大时，μ趋向于1. 换句话说，无穷多的臭皮匠一定胜过诸葛亮。也就是说，理论上，刘备可以组建一个臭皮匠参谋团，用成千上万的臭皮匠来代替诸葛亮。当然，这只是理论上而已。实际上：臭皮匠定理只考虑了一个二元分类问题（binary classification problem），也就是说，要么赞同，要么反对，而无法应对开放性问题。
换句话说，理论上，无穷多的臭皮匠，在“是否执行草船借箭计划”这个问题上，也许能做出非常靠谱的决策，但是这无穷多的臭皮匠，其中未必有人能想到草船借箭这个主意。当然，另一方面，臭皮匠们也不是只能赞同或者反对的。1906年的时候，高尔顿（达尔文的表弟）在一个集市上观察到，八百个人竞猜一头牛的重量。尽管没人猜中正确答案（1198磅），但是这八百人猜测的平均值是1197磅。
也就是说，虽然许多臭皮匠恐怕未必想出草船借箭这个主意，但草船借箭之后，找很多臭皮匠来估算借了多少箭还是可行的。现实中，当人数达到一定数量，难免会混入不靠谱的臭皮匠。实际上，由臭皮匠定理可知，即使臭皮匠中有些滥竽充数的人，也没关系，因为这些人不过是瞎蒙而已，有人蒙错，就有相应的蒙对的人互相抵消。但是，有些不靠谱的臭皮匠，脑子里塞满了自以为正确的偏见，做决策的水平还不如瞎蒙呢！这些不靠谱的臭皮匠一多，那μ就可能小于p了。
【集成学习,深度学习三大谜团】更可怕的是，这些水平不如瞎蒙的臭皮匠可能对自己很有信心，所以会四处鼓吹自己的主张，很多本来一无所知，只能瞎蒙的人，或者本来水平只比瞎蒙好一点的人，可能因为听信了这些不靠谱臭皮匠的宣传，而做出错误的决策。回到集成学习（ensemble learning）这个话题，由臭皮匠定理可知，集成学习相比单个学习器一定有提升（除非你的单个学习器精确度还不如瞎蒙，这不叫学习器，这叫学习器废品）。