来源：BBC Future
撰文：克里斯·巴拉纽克（Chris Baraniuk）
翻译：任天
使用人工智能的算法正在尝试以意想不到的技巧来解决问题 ， 这让它们的开发者感到惊讶 。 但与此同时 ， 这也引发了人们对如何控制人工智能的担忧 。
谷歌公司的一群员工正茫然地盯着自己的电脑屏幕 。 几个月来 ， 他们一直在完善一个算法 ， 用来控制一个无人热气球从波多黎各一直飞到秘鲁 。 但还是有些地方不尽如人意 ， 气球在机器智能的控制下不断偏离既定路线 。
Loon项目（Project Loon）是谷歌公司现在已经停止的一个项目 ， 它原本的目标旨在通过气球将互联网接入偏远地区 。 作为该项目的负责人 ， 塞尔瓦托·坎迪多无法解释这个气球的轨迹 。 最后 ， 他的同事们手动控制了系统 ， 让气球回到了正轨 。
后来他们才意识到发生了什么 。 令人意想不到的是 ， 气球上的人工智能学会了重现人类在几百年 ， 甚至几千年前发明的古老航海技术 ， 例如“改变航向” ， 这指的是操纵船只迎风航行 ， 然后再向外倾斜 ， 从而在大致方向上以之字形前进 。
在不利的天气条件下 ， 自主飞行的气球已经学会了完全靠自己来改变航向 。 它们自发地完成了这一过程 ， 让所有人都感到震惊 ， 尤其是参与这个项目的研究人员 。
“当第一个被允许完全执行这种技术的气球创造了从波多黎各到秘鲁的飞行时间记录时 ， 我们马上意识到自己被打败了 ， ”坎迪多在一篇关于该项目的博客文章中写道 ， “我从来没有像这样 ， 同时感到自己既聪明又愚蠢 。 ”
富有创造力的人工智能
当人工智能在设备中被放任自流时 ， 很可能就会发生这样的事情 。 与传统的计算机程序不同 ， 人工智能的设计目的就是探索和开发新的方法 ， 以完成人类工程师没有明确告诉它们的任务 。
然而 ， 在学习如何完成这些任务的同时 ， 人工智能有时会想出一种极富创造力的方法 ， 甚至会让一直使用这种系统的人大吃一惊 。 这可能是一件好事 ， 但同时也可能使人工智能控制的一切变得不可预测 ， 甚至可能带来危险 。 例如 ， 机器人和自动驾驶汽车最终可能做出将人类置于危险境地的决定 。
人工智能系统怎么可能“智胜”它的人类主人呢？我们能否以某种方式约束机器智能 ， 以确保不致某些不可预见的灾难？
在人工智能研究界 ， 有一个关于人工智能创造力的例子似乎被引用得最多 。 真正让人们对人工智能的能力感到兴奋的时刻 ， 是DeepMind的人工智能机器学习系统AlphaGo如何掌握围棋这一古老的游戏 ， 然后击败了世界上最优秀的人类棋手之一 。 DeepMind是一家创立于2010年的人工智能公司 ， 在2014年被谷歌收购 。
事实证明 ， 它们可以用一些以往从未有人用过——或者至少很多人不知道——的新策略或新技巧 ， 来对付人类棋手 。
然而 ， 即使是这样一场单纯的围棋游戏 ， 也会引起人们不同的感受 。 一方面 ， DeepMind自豪地描述了其系统AlphaGo的“创新”之处 ， 并揭示了围棋 ， 这一人类已经玩了数千年的游戏的新玩法 。 另一方面 ， 一些人质疑如此有创造性的人工智能有朝一日是否会对人类构成严重威胁 。
在AlphaGo取得历史性胜利后 ， 澳大利亚西悉尼大学的机器学习、电子学和神经科学研究者乔纳森?塔普森写道：“认为我们能够预测或管理人工智能最坏的行为是很可笑的 ， 我们实际上无法想象它们可能的行为 。 ”
推荐阅读
- 推动人工智能应用迈向认知智能时代
- 正常拔牙需要多少时间 拔牙需要多久
- 三个方法还你“干净” 如何去老年斑
- 爱情是如何走进“坟墓”的？
- 如何避免婚姻出现“七年之痒”？
- 森林有什么之称
- 面食馕的做法
- 谈谈“平水韵”的来龙去脉 什么叫平水韵
- 人工智能画作售出天价，人类如何看待AI创造力？
- 智能餐厅不只是“机器人炒菜”