制作逼真的深度造假(deep fake)视频可能需要做大量的工作,但使用AI,用虚假语音实施欺诈来得更容易更快捷,在这起显然成功的CEO欺诈案之后可能数量会增加。 据《华尔街日报》报道,犯罪分子使用基于AI的软件,冒充了德国老板的声音,欺诈下属英国子公司负责人转账了 24.3 万美元。 《华尔街日报》的Catherine Stupp报道:“一家总部位于英国的能源公司的负责人以为,另一头与他通电话的是他的老板,即这家公司的德国母公司的首席执行官,对方让他将资金转给一家匈牙利供应商。 据该公司的保险公司Euler Hermes Group SA声称,来电者称这个要求很紧急,指令该首席执行官在一小时内付款。Euler Hermes拒绝透露受害公司的名字。” 该报援引总部位于慕尼黑的金融服务公司安联的子公司Euler Hermes的欺诈专家Rüdiger Kirsch的话表示,英国负责人在电话中认出了他老板略微带德国的口音和腔调。该负责人按要求将款项打给了匈牙利供应商,事后对方再次联系他,保证转账立即给予报销。 ESET的网络安全专家Jake Moore在发给SC Media UK的电子邮件中说:“我预测在不久的将来,我们会看到利用机器学习的网络犯罪大幅增加。我们已经看到深度造假技术使用视频格式模仿名人和公众人物,但制作这些逼真的镜头要花17个小时左右。能够伪造声音需要较少的录音即可制作而成。随着计算能力不断提高,我们开始看到这些变得更容易制作,未来形势令人不安。” “为了降低风险,不仅有必要让人们意识到这种模仿现在可以实现,还有必要在转账之前加入验证技术。双因子验证是另一种有效、廉价、简单的技术,它增添了另一层安全,可以保护打给流氓账户的资金。被要求转账时,特别是大笔金额,请核查电话号码并要求回电。使用你地址簿中的号码,而不是点击通话记录中的‘回电’选项。” KnowBE4的首席执行官Stu Sjouwerman在其博客中评论:“这实际上是CEO欺诈案中使用社交工程伎俩的升级版。你需要让员工接受全新的安全意识培训以防止诸如此类的人为错误。” 《崛起的超级智能》一书主要阐述当今天人类为人工智能的春天到来而兴奋,为人工智能是否超越人类而恐慌的时候,一个更为庞大、远超人类预期的智能形态正在崛起,种种迹象表明50年来,互联网正在从网状结构进化成为类脑模型,数十亿人类智慧与数百亿机器智能通过互联网大脑结构,正在形成自然界前所未有的超级智能形式。这个新的超级智能的崛起正在对人类的科技,产业、经济,军事,国家竞争产生重要而深远的影响。 张亚勤、刘慈欣、周鸿祎、王飞跃、约翰.翰兹联合推荐 |
|