|
Google 旗下的人工智能研究所 DeepMind，最近以他们研发的 AI 程式打败世界围棋冠军李世乭后一夜成名，无疑为人工智能技术立下了一个里程碑。但 DeepMind 却表示，在棋艺上打败人类只是研究的开始；他们的最终目标，是研发像人类一样能独立思考和从经验中学习的人工智能。
这不禁为大众带来忧虑：假如一天人工智能系统发生故障、受病毒感染、甚至选择背叛人类，我们将有能力反抗吗？
正因此，DeepMind 最近和牛津大学人类未来研究院合作，发表了一篇论文，指出「人工智能不可能随时处于最佳状态」，在某些情况下，人类操作者可能需要「按下一个紧急按钮」，方止AI 造成任何的伤害。换而言之，我们必需设计出他们的死穴。
DeepMind 研究所创办人之一的素里曼先生强调，DeepMind 并非一个只会下棋的程式，而是一个「人工综合性智能」，这表示DeepMind 并不需要任何预先输入的程式，也能独自从资料及数据中学习。
那么这些「人工综合性智能」也能找出自己的死穴，然后学习如何超越它，打败我们最后的防线吗？在 DeepMind 和牛津大学合作发表的论文中，科学家解释他们正探索一个能防止 AI 人工智能找出他们死穴的方法。
Google 人工智能与围棋世界冠军的对决 如今，AI 人工智能每年都以惊人的速度在不断成长。素里曼举例说，DeepMind 在2012 年曾以 84% 的准确度分类了一百万张照片内的动物，引来传媒一时轰动。但在大众的回响逐渐平息后，DeepMind 依然一直在更新和学习，三年后，它的准确度竟已达到 94.5%，足足减少了百分之十的误差。
在某些工作上，人工智能无疑地已达到、甚至已超越我们人类的技术水平。以往，围棋一直被视为世界上最复杂的棋盘游戏，策略千变万化，每一步皆存在数百个可能性，超出电脑计算的范围。即使在 1997 年，DeepBlue 电脑打败国际象棋冠军后，大众依然不能相信电脑一日能够掌握围棋。想不到在 20 年内，DeepMind 已成功征服这人类多年智慧的结晶，令人兴奋之余，亦同时让人忧虑未来人工智能将能够取代我们。 |
|
|
