文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
机器之心报道
编辑：杜伟、陈陈
昨天 ， 两位机器学习先驱 John J. Hopfield 和 Geoffrey E. Hinton 获得 2024 诺贝尔物理学奖的消息引爆了整个 AI 领域 ， 让很多人直呼「物理学不存在了」 。
就连 AI（GPT-4o）都不敢相信今年的物理诺奖会花落机器学习和人工神经网络领域 ， 认为这些领域通常不属于物理学范畴 。
诺贝尔奖官方推特（X）也发起了一项问卷调查 ， 「你知道机器学习模型是基于物理等式吗？」从结果来看 ， 不知道的人占比更高 。
但无论如何 ， 两位泰斗级人物的获奖成为了 AI 圈的又一盛事 。 各路大佬纷纷为他们送上了祝贺 ， 包括同为 2018 年图灵奖得主的 Meta 首席 AI 科学家 Yann LeCun 和 UdeM 全职教授、Mila 创始人和科学主任 Yoshua Bengio 。
Yann LeCun 表示 ， 「恭喜我的两位前同事 John 和 Geoff 。 我在多伦多做过 Geoff 实验室的博士后 ， 之后加入了贝尔实验室 ， 而 John 在那里担任兼职科学家 。 事实上 ， 正是因为 John ， 我才加入了神经网络研究部门 。 我第一次见到他们二人都是在 1985 年 ， 其中 1985 年初在 Les Houches 的一个研讨会上遇到了 John ， 1985 年 6 月在巴黎的 Cognitiva 会议上遇到了 Geoff 。 」
Yoshua Bengio 表示 ， 「John 和 Geoff 及其合作者在物理学和 AI 之间架起了一座美丽且富有洞察力的桥梁 。 他们发明的神经网络不仅受到大脑的启发 ， 还受到物理学中核心概念的启发 ， 例如能量、温度、系统动力学、能量屏障、随机性和噪声的作用 ， 将局部属性（如原子或神经元）与全局属性（如熵和吸引子）联系起来 。 他们超越了物理学 ， 展示了这些想法如何产生记忆、学习和生成模型 。 这些概念仍然处于现代 AI 研究的前沿 。 」
此外 ， 他们二人的想法给了 Bengio 深刻的启发 ， 以至于他决定选择神经网络学习作为自己的研究生课题 。 他们激励 Bengio 探索抽象的原理 ， 这些原理可以像物理定律一样简单 ， 但又可以解释生物和 AI 。 Bengio 由衷地为他们二人以及所在的领域感到高兴 。
与此同时 ， 谷歌首席科学家 Jeff Dean、SSI 创始人 Ilya Sutskever、「AI 教母」李飞飞教授、Coursera 联合创始人吴恩达等也对他们二人表达了祝贺 。
Jeff Dean：祝贺我的好朋友兼前谷歌同事 Geoff Hinton 获得 2024 年诺贝尔物理学奖（与 John Hopfield 一起）！随着神经网络应用于越来越多的领域 ， Geoff 对许多科学领域的影响不断增长 。
Ilya Sutskever 祝贺 Geoff Hinton 获得诺贝尔物理学奖 。
李飞飞这太令人兴奋了！AI 的深远影响才刚刚开始 。 祝贺他们 。
吴恩达：我是第一个称 Geoff Hinton 为「深度学习教父」的人 ， 后来被称为「AI 教父」 。 很高兴看到他和 John Hopfield 一道为 AI 领域赢得诺贝尔奖 。
【两位AI先驱斩获诺奖，GPT-4o表示疑惑，物理学与AI的桥梁已架起】凌晨两点接到电话 ， Hinton 以为是恶作剧
「我怎么能确定这不是一个恶作剧电话呢？」在得奖的第一时间 ， Hinton 正在加州的一个酒店房间里 ， 然后他接到了这个电话 ， 当时大约是在凌晨 2 点 。
有趣的是 ， 当时 Hinton 并不相信自己得奖了 ， 而是电话那头多个瑞典的口音帮他确认了他获得诺贝尔物理学奖是真实的 。
下面是电话连线内容 。
主持人：你好 Geoffrey Hinton ， 我是诺贝尔奖官网的工作人员 Adam Smith ， 从诺贝尔奖网站打来电话 。 我们可以聊几分钟吗？首先当然是恭喜你获奖 ， 请问你是从哪里得到这个消息的？
Hinton：我是在加州的一家廉价旅馆里 。 没有互联网连接 ， 手机信号也不太好 ， 我原本打算今天去做核磁共振扫描 ， 但我想我必须取消了 ， 我甚至不知道我会被提名为诺贝尔物理学奖 ， 这让我感到非常惊讶 。
并且现在是凌晨两点 。 我的第一个想法是我怎么能确定这不是一个恶作剧电话 。
主持人：你怎么确定的呢？
Hinton：瑞典口音 ， 那个人有着浓重的瑞典口音 ， 而且有这种口音的人不止一个 ， 是好几个 。 如果电话是假的 ， 那么必须有人故意模仿 ， 这种情况我认为不太可能 。
主持人：你怎么形容你自己？是一名计算机科学家？还是一名物理学家？
Hinton：我会说我是一个不真正知道自己处于哪个领域的人 ， 但我想要理解大脑是如何工作的 。 在试图理解大脑工作机制的过程中 ， 帮助创造了一种表现出奇的好的技术。
主持人：值得注意的是 ， 我想您已经公开表达了对技术可能带来的危害的担忧 ， 您认为需要做什么才能减轻您和其他人所表达的担忧 。
Hinton：我认为这和气候变化的情况大不相同 。 在气候变化问题上 ， 每个人都知道需要做什么 —— 我们需要停止燃烧碳 。 问题只在于大公司为了巨额利润不愿意采取行动 。 但在这里 ， 我们面临的是一个我们对将会发生什么以及如何应对都知之甚少的问题 。 因此 ， 我希望我有一个简单的方案 ， 如果做了就能保证一切都会好转 ， 但我没有 。 特别是关于这些事物失控并取代我们的存在威胁 ， 我认为我们正处于历史的一个分岔点 ， 未来几年我们需要找出是否有办法应对这一威胁 。 因此 ， 我认为现在对于人们来说 ， 研究如何保持控制非常重要 ， 我们需要投入大量研究努力 。 我认为政府可以做的一件事是迫使大公司投入更多资源进行安全研究 ， 这样像 OpenAI 这样的公司就不能把安全研究置于次要地位 。
主持人：在生物技术革命期间 ， 那些顶尖的科技公司在阿西洛马会议中聚集起来 ， 并坐下来讨论 ， 指出这里存在潜在的危险 ， 我们需要自己来关注这一点 。
Hinton：是的 ， 我认为与此有一些相似之处 ， 我认为他们做的非常好 。 遗憾的是 ， AI 领域的应用更为广泛和复杂 ， 这使得管理和监控潜在风险更具挑战性 。
对于像克隆这样的事情 ， 生物学家们一直在努力控制 。 我觉得生物学家们的做法是一个很好的典型 ， 他们能够达成一致且令人印象深刻的结果 。
主持人：关于大语言模型 ， 我猜想这可能是你的担忧之一 ， 当涉及诺贝尔奖在这一领域的影响时 ， 你认为它会带来改变吗？
Hinton：是的 ， 我认为这会有所改变 。 希望这能使我在说这些事情时更有信誉 ， 真的能理解它们的本质 。
有一整个语言学派别来自乔姆斯基 ， 他们认为这些模型理解语言是完全没有意义的 ， 因为这些模型并不像我们人类一样处理语言 。 我认为这个学派是错误的 ， 现在很明显 ， 神经网络在处理语言方面远胜于乔姆斯基语言学派所产生的任何东西 。 但是 ， 关于这一点在语言学家中仍然有很多争论 。
主持人：现在 ， 我只是想回到你在酒店房间里半夜接到这个消息的情况 ， 某种程度上 ， 在这样一个孤独的地方听到这样的消息 ， 没有人可以分享 ， 只能自己庆祝 。
Hinton：嗯 ， 我和我的伴侣在一起 ， 她很兴奋 。
主持人：再次祝贺你 。
Hinton：谢谢 ， 再见 。
Hopfield 网络：它影响了很多领域
虽然今年的诺贝尔物理学奖颁给了两位享誉盛名的 AI 科学家 ， 但他们的工作尤其是 Hopfield 网络产生的影响已经足够大 。 比如 MIT 沃森人工智能实验室的 Dmitry Krotov 认为 ， Hopfield 网络至少对统计物理学、计算机科学与 AI、神经科学具有巨大的影响 。
Dmitry Krotov 是一位在 AI 和神经科学领域有重要贡献的科学家 。 他投稿的论文「Can a Fruit Fly Learn Word Embeddings?」曾在 ICLR 2021 会议上引起广泛关注 。
在统计物理学中 ， Hopfield 模型成为最常研究的 Hamiltonians 学派之一 ， 关于它的论文和书籍已有数万篇 。 这个想法为数百名物理学家进入神经科学和 AI 领域提供了切入点 ， Dmitry Krotov 自己就是其中之一 。
在计算机科学中 ， Hopfield 网络是促使 AI 寒冬（1974-1981 年）结束以及随后人工神经网络复兴的主要驱动思想 。 Hopfield 在 1982 年发表的论文标志着现代神经网络时代的开始 。
论文地址：https://www.pnas.org/doi/pdf/10.1073/pnas.79.8.2554
此外 ， AI 顶会之一 NeurIPS 的历史可追溯到 1984-1986 年在加州理工学院召开的会议 ， 当时这些会议被称为「Hopfests」 ， 具体参阅 John Moody 撰写的 NIPS 1991 会议记录 。
Hopfield 网络还是受限玻尔兹曼机开发的主要灵感来源 ， 而受限玻尔兹曼机在深度学习的早期发挥了重要作用 。 基于能量的建模是突出的 AI 范例 ， 是 Hopfield 基于能量的记忆的发展 。
最后在神经科学中 ， Hopfield 网络为后续许多记忆计算模型奠定了基础 。 并且将记忆回忆概念化为能量曲线向下滚动的想法也成为了神经科学中的典型隐喻 。
正如有人评价称 ， John Hopfield 获奖当之无愧 ， 他为 AI 领域的物理学博士创造了大量的就业机会 ， 从而保持了物理学的活力 。
Pedro Domingos 为华盛顿大学计算机科学教授 。
推荐阅读
- 让机器学会学习！两位为机器学习奠基的巨匠获得今年物理诺奖
- Ryzen 9000X3D CPU性能泄露，多核性能提升两位数
- 一张人脸照片，Meta眼镜识别全部个人信息，两位哈佛开发者
- 首销斩获销量“冠军”，16GB+1TB+硬核曲面屏，如今售价再创新低
- 韩柳是哪两位诗人,柳宗元与韩愈都是非常著名的大诗人，他们两个人并称什么？
- 王国两位君主狮鹫怎么获得
- 两位数除以一位数如何列竖式
- 四川身份证开头两位数是多少
- 100506保留两位小数是多少
- 王国两位君主隐士被抢走怎么办