强人工智能vs弱人工智能

 一、AlphaGo其实只是弱人工智能

　　AlphaGo的技术细节在今年《自然》杂志上详细公布过，我们细细研究一下，就会发现AlphaGo的原理其实非常简单。

　　AlphaGo利用深度学习学习人类棋谱，模拟人类来选择几个优势点，然后通过蒙特卡罗树搜索，穷举计算这几个点胜率，从中优选。本质上来说，它还是搜索求解，而且是在非常固定的规则与模式下进行。

　　它所用到的GPU通用计算，分布式计算，深度学习，神经网络，蒙特卡罗树搜索都不是新技术。只是把这些技术用到围棋上并投入大量资源是首次。

　　按照人工智能的分类，AlphaGo还属于弱人工智能Artificial Narrow Intelligence (ANI)。

　　弱人工智能是只能擅长于单个方面的人工智能，规则是封闭的。AlphaGo的判断可以用于围棋，达到很高的水平，它要下象棋也能达到很高的水平，但是就要从头再搞一套象棋的软硬件，它在围棋的深度学习无法通用于其他领域。

　　按照人工智能的分类，还有强人工智能Artificial General Intelligence (AGI)

　　强人工智能是指在各方面都能和人类比肩的人工智能，人类能做的脑力活动它都能做。它没有既定规则和领域，是开放式的。

　　我们现在看到的各种幻想其实是强人工智能超越人类的高级阶段，AlphaGo作为弱人工智能，层次还相去甚远。

　　二、强人工智能是什么样子?

　　AlphaGo在围棋很强大，但是围棋是一个固定规则，有明确输赢判断的游戏，围棋棋盘不会扔进一个象棋棋子。而强人工智能要面对的是真实的世界，它所面对的规则是开放式的。

　　我们看一下李彦宏演示百度强人工智能的例子。

　　在百度大会上，李彦宏展示了度秘的多轮对话的人工智能。李彦宏询问度秘度身份，问它来自哪，能做什么，最后还让度秘订了两杯咖啡。

　　在这一组多轮对话中，李彦宏的问话是随机的，可能说各种问题，没有既定的规则。而度秘的人工智能首先要采集李彦宏的语音，然后把李彦宏的语音拆分成词，识别词意，然后识别李彦宏的语意，通过人工智能作出回答，最后把回答组织成句子，用语音说出来。

　　李彦宏的话是开放式的，而且有前言后语，针对这种环境的就是强人工智能。看起来这组对话只是小朋友的智力水平，而实际难度远远高于AlphaGo结合深度学习与蒙特卡罗树搜索的弱人工智能。

　　百度很热衷于展示自己在强人工智能上的成绩，在2015年联想大会上，李彦宏还演示过一次识图对话。

　　李彦宏打开一张费德勒穿蓝色T恤打网球的图，问AI。

　　“他在做什么?”“他的衣服是什么颜色的?”“他手里拿着什么?”而AI像人类一样应答无误。

　　这组对话除了前面例子中开放语言的强人工智能，还有一组图片识别的强人工智能，强人工智能不知道自己看的是什么图片，但是它经过深度学习看过千亿张图片学习后，可以认出颜色，物体，动作。

　　这个看似小孩能完成的举动，难度也远超AlphaGo。图片没有既定规则，开放中学习寻找规律，远不是深度学习与树搜索能解决的问题。

　　其实，谷歌也在研发强人工智能，它和百度一样去参加国际评测FDDB与LFW(成绩还输给了百度)。谷歌知道AlphaGo看似酷炫，但是只是可以作作大广告，而人类真正的未在在强人工智能这个方向。

　　三、AlphaGo距离颠覆人类非常遥远

　　科学与常识往往是违背的，AlphaGo赢了围棋看似开启了新时代，但是其真实意义类更似于计算器赢了人类口算，是单一领域的智能超越人类。只是围棋的难度远高于象棋，从1997年的深蓝到2016年到AlphaGo，人类因为更大的棋盘等了接近20年。

　　而AlphaGo放到人工智能科学到角度看，只是计算能力很强的弱鸡，其高度远不如百度达到3、4岁小孩智力的强人工智能。

　　弱人工智能只能在一些领域帮助人类，而当强人工智能未来发展到成人水平，人类当所有劳动就有可能被完全替代。那个时候人类就可以享受而不用辛劳了。

　　而当强人工智能完全超过人类以后，人类才需要担心机器会不会背叛人类的问题，那还是非常非常遥远的事情。

　　所以，AlphaGo只是强大的弱鸡，我们无须过于担心。

  

  

  

  

 强人工智能vs弱人工智能

　　人工智能很火爆，但它的定义到底是什么。查阅百度百科，定义如下：人工智能(A rtificialIntelligence)，英文缩写为A I。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。研究的目标是，机器视、听、触、感觉及思维方式对人的模拟，包括指纹识别，人脸识别，视网膜识别，虹膜识别，掌纹识别，专家系统，智能搜索，定理证明，逻辑推理，博弈，信息感应与辨证处理等等。

　　任何一个领域，必然存在着多个流派，人工智能领域也不例外。目前，最重要的三大流派如下：第一派是符号主义，或称计算机学派，其原理主要为物理符号系统假设和有限合理性原理。说白了，就是相信计算机的运算能力叠加，将会最终帮助机器获得自由意志。第二派是联结主义，又称为仿生学派，其原理主要为神经网络及神经网络间的连接机制与学习算法。简言之，他们相信模仿人类大脑的构成，可以制造一个相同的大脑。第三种是行为主义，又称进化主义或控制论学派，其原理为控制论及感知-动作型控制系统。这一派认为智能不需要知识、表示和推理，通过在现实环境中交互，智能行为会逐步得到进化。

　　上述三种研究进路，当然只是一部分，虽然很主流，但在这个充满奇思妙想的人类世界里，相信还有很多怪异的研究方法，到底哪一条路才能研制出真正的“智能人”，即拥有人类思维的机器人，在事情发生之前，没有人会知道。

　　人工智能学科的起源，普遍被认为是1956年在美国达特茅斯大学召开的一次会议。后来，被称为“人工智能之父”的约翰·麦卡锡博士在那次会议上首次提出了人工智能的概念，他认为：人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。不过，这个定义不够精准。目前，对人工智能的定义大多被划分为四类，即机器“像人一样思考”、“像人一样行动”、“理性地思考”和“理性地行动”。这里“行动”应广义地理解为采取行动，或制定行动的决策，而不是肢体动作。

　　由此，也诞生了“强人工智能”和“弱人工智能”的区分，即机器的思考和推理就像人的思维完全一样，就是强人工智能，而如果机器只是部分拥有人的思维、推理、情感、行动能力，就算是弱人工智能。我们前面提到的腾讯的“梦幻写手”、百度的“度秘”、微软的“小冰”、软银“pep-per”以及苹果iO S系统的“siri”，都只是在思维上部分拥有人类的推理、情感或其他能力，所以都属于弱人工智能。目前流行的智能家具、智能汽车、无人机、智能手机，也都是弱人工智能的体现。

　　人工智能的伦理陷阱

　　接续上文的论述，所以，伦理的讨论也分为强人工智能和弱人工智能两部分。

　　首先，按照强人工智能的定义，我们可以得出该机器人获得了人类完全的思维能力，他(暂且用“他”)拥有我们相同的思维、情感、创造力乃至不可预测性。那么，问题来了，他到底是机器人还是我们所认为的人类?

　　疑问1：他身体构成的材料与我们完全不一样，也许是硅胶，或者是别的东西，总之不是我们这样的血肉之躯。那么，他还是人类吗?

　　回答：关于人的定义，核心在于身体还是具备人的思维意识，这一点需要考虑清楚。安装假肢的残障人士也有非血肉材料，只是比例较小。然而，伴随3D打印器官的投入使用，人体越来越多的部分都可能不是血肉之躯，但我们不会认为他们就不是人类范畴了。所以，只要思维一致或者更加抽象地说，拥有自由意志，那么不管他是什么做的，就已经属于人类范畴了。

　　疑问2：他并非人类繁衍的产物，他没有生理学意义上的父母，更像是一个怪物，所以还是人类吗?

　　回答：试管婴儿在今天已经非常普遍，克隆如果不被禁止，克隆出的产物也会被认为是人类，正如“多利”不会被认为不是羊。未来，人工智能无论通过什么方法，如果最终能够制造出具有人类思维的机器人，那么应该赋予其基本的“人权”，承认其人类的身份。

　　所以，在是否该赋予强人工智能制造的机器人“人权”这一点上，不该存有疑虑。既然承认他是“人类的成员”，那么人类现有的价值判断原则就没有遭受冲击的可能，因为我们只需要用人的方式对待他即可。无故伤人也好，破坏公共秩序也罢，之前如何对待人类，现在也就照样对待。

　　当然，对于社会关系，例如家庭组织、亲属关系的冲击是显而易见的，但这并不影响整个世界最基本的制度规范。千百年来，婚恋的变迁、审美的流变，都差距奇大，但这些变化也都在历史长河中被“合理化”。也许就像50年前的人无法想象如今极为普遍的婚前性行为或同性恋合法化一样，今天的我们也无法去设想智能机器人加入我们之后产生的变化会如何消除争议。

　　所以，强人工智能的机器，并非新的物种，他就是归属于人类，他带来的伦理冲击并不能上升到宏观价值。况且，我们距离强人工智能时代还很遥远，关于伦理，弱人工智能反而更加值得讨论。

　　弱人工智能的伦理问题存在已久，讨论最典型的即无人轰炸机的伦理问题。一个自动轰炸的机器人，成为了战争的帮凶，万一失控，造成对平民的伤害如何界定。对此，我们需要明白，人类从制造劳动工具和武器开始，工具就已经变成了自己的延伸。工具本身的智能水平有限，并不能拥有完全的自主性，所以无人机无论造成什么后果，责任主体依旧没有变，就是控制机器人的人。由此可以推出，智能汽车失控，或者智能导航带你进湖，这些都属于拥有明确责任主体的机器。

　　其次，则是隐私问题。每一个智能机器人(设备)都是一个收集数据的终端，无数数据的汇集最终可能出现有价值的商业模式，前提之一必然是个人隐私的被贩卖。对于隐私的边界，人们并非不可接受，但是要认同让渡的隐私权和获得的便利比是有价值的。目前来看，大数据产生的隐私滥用问题已经非常严重，斯诺登的出现表明企业和政府形成了“同谋”，铁幕遍地，并非危言耸听。

　　人类数千年的文明史，伦理体系混乱不堪，至今我们也没有一个统一的、标准的、明确的伦理体系，而仅有一些大部分人承认的大体的原则而已。对于人工智能带来的伦理冲击，更多的聚集在一些较为规则性的领域，从人类自身的发展历程来说，可以称其为无关宏旨。即使是政治监控的问题，这也并非人工智能独创的，秘密警察、告密制度早已有之。人类社会存在的阴暗面，不能简单嫁祸智能机器人，无论他是否真正具备人类的思维方式。

　　人工无智能：虚拟现实

　　本文的主题是讨论人工智能时代的伦理问题，从上文可以得知，强弱的人工智能时代，或许会存在一些具体领域法律规则或社会规范的调适，但不会引起大规模、根本性的伦理困境。似乎到了这里，关于伦理与人工智能的讨论就可以告一段落了。但正如许多人所秉持的“误区”一样，人们把人工智能等同于高科技发展，把技术与伦理的关系直接套用在人工智能与世界伦理的关系上。

　　这样的忧心多少有些歪打正着，我们早已迈入弱人工智能时代，强人工智能时代又并未出现明显迹象，但我们却忽略了虚拟现实(V irtual R eal-ity，简称V R )马上降临的基本事实。而这一同样充满着高科技色彩，并且被很多人误以为是人工智能领域的技术，将很可能带来一系列新型伦理陷阱。

　　在讨论虚拟现实技术可能带来的伦理冲击之前，先列出虚拟现实的学术定义：是一种可以创建和体验虚拟世界的计算机仿真系统，它利用计算机生成一种模拟环境，形成一种多源信息融合的交互式的三维动态视景和实体行为的系统仿真，使得用户沉浸到该环境中。补充一点，虚拟技术不是人工智能技术，因为没有赋予头盔、眼镜或者其他物件智能思维，看起来，它更像是一个工具———尽管我们在后面的分析中会发现这一判断同样充满争议。

　　2014年3月，Facebook宣布以20亿美元收购沉浸式虚拟现实技术公司Oculus V R。虚拟技术数十年的发展历史，亦是几经沉浮，但时至今日，虚拟技术引发的关注可能带来质的突破。在美国《时代周刊》2015年8月的封面文章中，我们看到虚拟现实已经是硅谷最热的事物，索尼、三星、H T C都卷入了这一轮由Facebook收购Oculus引发的热潮。

　　目前，虚拟现实技术需要解决的问题是可穿戴设备的便捷性以及价格上的居高不下两点。一旦商业价值被充分看好，将会迅速带来“人联网”和“物联网”的联结(中山大学哲学系教授翟振明语)，届时产生的结果将是，当你进入一个虚拟的世界，你可以获得实体机械工具(人工无智能机器)的操控能力。在虚拟现实技术解决视觉感知外，还有听觉、触觉、力觉、运动等感知，甚至还包括嗅觉和味觉也被模拟，此外，头部转动，眼睛、手势、或其他人体行为动作所能达到的实时响应，使用者将可以完全获得虚拟=现实的感觉。

　　就此，著名电影《阿凡达》中杰克·萨利在潘多拉星球上的“替身”现象，就会真真切切地出现了。举一例，A在广州，但他可以通过虚拟现实的技术，操控他的“替身”去纽约开会。使用期间“替身”所有的动作、发言和行动，都由A在广州来操作，因特网就可以提供A与人替的实时链接。从技术上看，这一刻很快就将到来，由此也更加迫切地要求我们，提出伦理上的疑虑和担忧。

　　虚实难分的伦理困境

　　中山大学哲学系教授翟振明令人吃惊地创建了全球首个“人机互联实验室”，也令人吃惊地聚焦到了虚拟现实技术成熟和普及后的伦理问题。

　　翟振明的观点是：以往的技术基本都是客体技术，即通过制造工具、使用工具来改造自然客体的技术。并且，这种被制造和使用的工具本身也是客体。例如，一辆汽车、一把锤子虽然融入了人的技术，但它们毕竟还是与制造者分立的物体。与客体技术相比，虚拟现实技术则是一种主体技术。这类新兴技术不是用来制造客体化的工具的，也不是用来改造自然客体的，而是用来改变人本身的。成熟了的虚拟现实化的人联网，相当于我们重新创造的一个物理世界。如果此类主体技术成为我们的主导性技术，我们的生活方式将会从根基上发生巨变。

　　翟振明将《阿凡达》中的“替身”翻译成“人替”，他认为在使用虚拟现实系统之前，我们主要是用键盘、鼠标、手柄之类的东西来操作。有了虚拟现实头盔等可穿戴设备，虚拟现实不久就可以整到这里来了，你的人替也不再是第三人称视角的对象，而是变成第一人称视角。所以，远在纽约的人替虽然没有自我意识，而是作为A的自身存在，A的所有感知和行动都体现在人替上。

　　这带来了直接性的伦理挑战。按照翟振明的分析，在“人联网”与“物联网”无缝衔接之后，假如A的人替在纽约犯罪，将会造成纷繁复杂的困境：例如A在现实中是男性，但虚拟世界中选择女性，在虚拟世界中性骚扰一位女性，可能造成法律不适用;又如人替与人的关系，人替是身体的一部分，还是属于财产，处罚时如何处理人替和人;超越国界的使用，也会挑战政治的边界，犯罪的A到底是在美国还是中国，这些都值得讨论。

　　在虚拟和现实之间的边界变得模糊不清之后，所制造的伦理困境还有非常多，这里只是列举了其中一小部分。但最为终极的伦理问题不是别的，而是翟振明所忧虑的：在人联网和物联网无缝融合成一个巨型系统之前，我们最迫切的任务就是要想办法保住每个人类个体的自主性，杜绝有人试图把大家用作操作物联网的工具，也就是防止控制了物联网的某个寡头或一小撮寡头联合体把所有的其他人当作实现其权力意志的永久性工具。在这个地方，我们的决策差之毫厘，就有可能导致人类未来走向失之千里。

　　的确，假使短期内技术取得很大进展的虚拟现实技术获得普及，带来的绝不是文章开头担心的某一行业、某些工种受到冲击的问题，而是整个社会权力的重新配置，那些占得先机又肆无忌惮的寡头，将获得控制的途径，并发生新的专制暴政的问题。学者、媒体和公民，以及充满忧患意识的科技人员，有义务在虚拟现实时代降临之前，秉持人文理性，倡导建立起新世界的规范与伦理。