世界首例AI诈骗案英国高管接老板电话被骗22万欧元

发布日期:2019-09-08 作者:责任编辑NO。许安怡0216

人工智能软件不只能够仿照别人的声响、语调,乃至还能仿照带德国口音的英语。 图据英国verdict

假如你的老板打电话让你干事,你会不加分辩地照办吗?读完这个故事,或许你会多一个心眼儿。

据《每日邮报》9月6日报导,本年3月,一名诈骗犯运用AI语音仿照软件假充公司大老板,成功让一家英国动力公司的CEO信赖自己正在与德国母公司的老板通电话。

在电话中,诈骗犯要求这位CEO立行将22万欧元转到匈牙利一家供货商的银行账户,以防止交纳“滞纳金”,并将转账信息以邮件方式发送,而这位高管毫不犹豫地照做了。 终究,这22万欧元一去不复返……

近来,为这家动力公司承保的裕利安宜公司(Euler Hermes)向媒体泄漏了此案细节。据报导,此案被认为是全球首例触及人工智能的诈骗案,这再度引发了人们对人工智能软件被用于违法的忧虑。

德国口音的英语也能仿照

据《华盛顿邮报》报导,这位CEO后来在一封电子邮件中指出,这个要求适当“古怪”,但“大老板”的德国口音十分传神,他觉得自己别无选择,只能遵守。

这家英国动力公司的承保人裕利安宜公司说,这位公司高管其时认为自己是在和他的德国老板说话,所以依照要求在一个小时内电汇了这笔钱,为的是协助公司防止拖欠罚款。

这家保险公司表明:“骗子运用的某种人工智能软件,不只能够仿照别人的声响、语调,乃至还能仿照带德国口音的英语。”

据悉,骗子总共打了三次电话。第二通电话是在22万欧元汇出后,对方打电话告知这位高管,母公司会搬运资金归还英国公司的费用。

此案引发了人们对人工智能软件被用于违法的忧虑。 图据《每日邮报》

而在当天晚些时候,当这位高管接到第三通电话,对方故技重施假充德国老板要求第2次付款时,他才认识到不对劲。因为对方许诺的转账归还资金并没有收到,且这次的电话号码显现来自奥地利,出于置疑,他没有付出第二笔金钱,而是直接致电德国老板自己,成果发现自己上圈套。

“(假的)‘约翰内斯’乃至在我正与实在的约翰内斯通话时,要求跟我通话!”这位CEO在一封电子邮件中说道。

但是,裕利安宜公司表明,等发现本相时,第一笔汇出22万欧元现已过匈牙利和墨西哥的账户被搬运涣散到了多个账户,现在还没有称查到嫌疑人,这笔钱已无法找回。终究,保险公司许诺将承当悉数的丢失费用。

一些研究人员表明,这是世界上初次揭露报导的人工智能诈骗案。

“深度假造”AI技能非专业罪犯也能用

据《每日邮报》报导,这种AI语音仿照技能的作业原理是将一个人的声响分解成音节或声响,然后再进行从头排列,再构成新的语句。虽然该体系仍处于前期开发阶段有不少瑕疵,但假如违法者假装在轿车或繁忙的环境中,就能够将令人生疑的当地掩盖曩昔。

一些草创企业Lyrebird等规划较小的公司,正在努力使这些东西能够更广泛地免费、无限制地运用。比方,Lyrebird答应任何人经过上传一分钟的语音片段创立一个“声响化身”,它被称为“世界上最实在的人工声响。”

但这种AI组成音频以及AI组成视频,即所谓的“深度假造(deepfakes)技能”,已加重了人们对重生技能腐蚀大众信赖、赋予违法分子权利、让传统的通讯事务买卖、家庭电话,乃至是总统竞选活动更简单遭到电脑操作的忧虑。

“违法分子会运用任何能让他们以最低本钱到达意图的东西,”斯坦福大学网络方针中心研究员、白宫网络安全方针高档主管安德鲁·格罗托说道。他指出:“这项在十年前听起来很奇特的技能,现在任何一个有发明力的非专业罪犯都能够运用。”

关于外界的冲击和忧虑,Lyrebird的一名讲话人在一份声明中写道:“幻想一下,就算咱们不发布这项技能,其别人也会开发它,谁知道他们的主意是否会和咱们相同真挚。”

Lyrebird这类开发这项技能的公司不断强调着它的活跃用处,称它能够协助自动化电话体系愈加人性化,并协助哑巴“从头说话”。但是,最新陈述的这起事情,势必将引发人们对不受监管的“深度假造”技能被违法分子运用,导致有针对性的黑客进犯和网络违法的忧虑。

网络安全公司Symatec的研究人员称,他们发现了三起相似的事例,高管被运用人工智能的骗子要求向另一个账户汇款。该公司泄漏,其间一个事例的丢失总计达数百万美元。

运用“深度假造”技能制造的美国前总统奥巴马的虚伪视频。图据美联社

明显,不少大型科技公司现已认识到了这项技能带来的损害。就在9月5日,Facebook和微软公司发起了一项新的运动,将冲击那些看起来极端传神的“深度假造”视频。已投入1000万美元建立基金,专门用于创立一个体系,运用一个“假造数据库”来检测这些“深度假造”的产品。

“这项应战的方针是发明一种技能,让每个人都能更好地检测出什么时候人工智能被用来修正视频,误导受众,”Facebook首席技能官迈克·施罗德弗表明。

红星新闻记者 王雅林 徐缓 编译报导

修改 张寻

为您推荐