据《华盛顿邮报》9月6日报导,一个英国动力公司的董事接到其德国母公司老板的电话,后者要求该董事向一个隐秘账户汇款24万美元,此事后来被发现是欺诈团伙使用人工智能(AI)软件仿照德国老板的口音。这是迄今揭露报导的榜首桩AI欺诈案。
据报导,本年3月的一个星期五下午,英国某动力公司的董事接到其德国母公司老板打来的电话,后者要求该董事向匈牙利的一个隐秘账户汇款24万美元,以协助母公司防止因延迟付款而遭受罚款。
据这个英国动力公司的保险公司Euler Hermes说,该英国公司董事接到电话后,虽然有点置疑,但他彻底信任自己是在跟德国老板通话,因而按要求向匈牙利的隐秘账户汇去了24万美元。
“这个软件能仿照人的声响,不仅是声响,还有语调,即德国口音。”保险公司说。
AI技能不但能仿照人的声响,乃至还能仿照口音语调。
欺诈团伙故伎重演时总算暴露,这一次英国公司的董事起了猜疑,他直接给德国老板打电话,成果发现这是欺诈团伙在作案。
据报导,英国董事前次汇出的24万美元很快被涣散到多个账户,现已无法追回。
《华盛顿邮报》的报导称,这是世界上首例被揭露报导的人工智能欺诈案。
据悉,这项人工智能仿照声响的技能能够将一个人的声响细分红音节或声响片段,然后再从头组合成新的语句。虽然这项技能现在尚不老练,仿照出来的声响听起来有点古怪,但欺诈团伙能够宣称这是在开车时或在喧哗环境中说话。
一家新的创业公司Lyrebird拿手这项技能,它在广告中寻求志愿者上传一段1分钟的语音,宣称能够用“世界上最传神的仿照声响”将其转换成新的语句。
该公司在其免责声明中表明:“幻想一下,假如咱们彻底不揭露这项技能。其他人也能开展这项技能,谁知道他们的意图是否跟咱们相同真挚。”
网络安全公司Symatec的研制人员说,他们现已发现三例相似的欺诈案,其间一例丢失高达数百万美元。
这些事例引发人们对人工智能软件被用于险峻意图的忧虑。
假如AI技能被用于编造政治人物的虚伪录像,或许会引发许多政治灾祸。
据报导,脸书和微软公司9月5日建议一项反“深度欺诈视频”(deep fakes)的建议,联合出资1000万美元用于研制检测“深度欺诈视频”的技能。
据悉,人工智能现在现已能够假造出传神的录像,用于诈骗观众。因为美国2020大选日益接近,很多人开端忧虑人工智能技能或许用于假造政治人物的说话。
编译/采写:南都记者陈林
图片来历:dailymail