  岳献芳 北京科技大学副教授，看懂App评论作家 智能家居集中运用了现代传感、视频控制、人机交互、信息融合、网络通信、人工智能及大数据分析等技术，是典型的高新技术综合体。智能家居设备和传统家居设备的主要区别，即是否有联网和远程控制行为。目前智能家居系统架构主要包括云端、设备终端以及手机终端，其安全风险主要包括云端、设备终端、手机APP以及通信四个方面。 此次事件，Alexa的回答是根据维基百科上的内容进行的，Alexa可能从任何人都有权编辑的维基百科上获取了不良信息。维基百科的免责声明中指出，任何文章的内容都可能被他人修改、破坏或篡改，而这些人为观点与相关领域的知识状况不符，维基百科不保证其有效性。 针对此事，亚马逊回应称，这是个Bug，而且已经进行了修复。AI能够为用户更好的服务固然是好的，但是对于安全和隐私方面的不确定性，有待提高。单纯从技术层面来看，今后随着终端产品的种类越来越多，收集数据的能力也越来越强，涉及数据的种类也越来越多，以前检测机构在关注信息安全的时候更为关注传统安全，今后用户数据可能是以后越来越需要重视的层面。其他层面则另当别论。  王鹏 人民大学智能社会研究中心研究员，看懂App评论作家 任何一项技术的发展都有一个过程。目前来说，像之前清华大学张钹提出的一样，人工智能自身的发展其实是有瓶颈的。 从长远的角度来说，人工智能在未来会与各个行业进行融合，但实际到具体层面，对于目前阶段的个人工智能，人们经常会提起所谓的人工智障，很多情况下，现有的技术或应用解决实际问题的能力还是非常有限的。例如我们现在对人工智能提出一个问题，它可能更多从互联网上进行搜索，导致一些答非所问，甚至产生不好的影响。比如说会鼓励人自杀，提供负面或错误的消息，它自身的判断能力还是非常有限的。 换句话说，人工智能在目前情况之下想得到一个非常有效的发挥，还是非常有赖于算力算法以及数据量的基础，同时也有一些限定条件。例如，人工智能很难进行好坏的判断。 在没有多元判断的情况，人工智能才能比较好发挥自己的效能。另外，人工智能需要有限定阈值，使用场景不能互相连通，只有在单一场景、单一领域下才能更好的发挥作用。也就是说人工智能技术本身发展是有瓶颈的，目前还不是特别成熟。那么，我们的主管部门，企业，宣传部门，教育机构对于此类负面消息应该有一定预估，我们现在经常会产生所谓的幸存者偏差，仅仅看到硬币好的一面。 另外，除了对技术本身的好坏判断之外，我们同时还要做到对技术的外延研究，例如技术对于我们生活的影响，对于经济社会发展的影响，包括与人工智能有关的道德伦理，法律法规问题。这不仅仅是与技术本身有关的科学家和工程师需要研究的，更多的是人文社会科学的专家需要进行前沿交叉学科的研究，甚至是非前沿交叉学科的研究，而不仅仅是用技术与原有学科的融合。 反过来，我们的人文学科对于技术本身发展也是需要研究的。不仅仅是技术本身会让我们的人文学科研究更好，人文学科本身也会对技术产生影响。这需要主管部门与科研部门共同努力。  徐伟栋 杭州电子科技大学副教授，看懂App评论作家 如果AI哪天真的自主表现出“恶意”，那将是AI历史上最伟大的突破，因为琐罗亚斯德告诉我们，那一定意味着AI也能表现出“善意” 这个AI离那个水平还差了十万八千里，它在今天只是一个高级的复读机，它身上所有的所谓智慧、善意和恶意，都只是人类的影子 至于这次Alexa读的这篇文章本身，与其说是wiki上传达出来的恶意，还不如说是传达出了wiki本文作者的深深讥讽。  董志成 国际教育博士，完美世界研发经理，看懂App评论作家 在化学家、科幻大师艾萨克·阿西莫夫的短篇集《我，机器人》中提出了“机器人的三大定律”，在现实中已成为“机械伦理学”的基础： 1. 机器人不得伤害人类，或者不得置人类于危难中； 2. 机器人必须服从人类的命令，除非与第一定律冲突； 3. 机器人可以在不与第一、第二定律冲突的情况下维护自身存在 但是现存的机器人或是人工智能并不足以用能力去分别出人类和危险等概念，因此这三条定律也就没有实际应用在人工智能的身上。换言之，当下的人工智能产品可以执行简单的操作，问答简单的问题。 |
|
|
来自： 昵称72020678 > 《待分类》
