
简介
美国检方指控三名男子利用 AI 仿造企业高管和律师的声音、面孔,诱骗员工向境外账户汇款约 1.29 亿美元。案件显示,生成式 AI 正被嵌入传统商业邮件诈骗和电汇欺诈流程,使身份核验与资金追踪面临更大压力。
一场把深伪技术嵌入电汇流程的欺诈
美国检方起诉三名男子,指控他们利用人工智能复制企业高管和律师的声音与面孔,诱骗公司员工向指定账户转账约 1.29 亿美元。美国纽约南区联邦检察官办公室表示,相关起诉书已经解封。案件中的被告为 Jacob Soall、Sharon Hazan 和 Guy Sheetrit,三人分别为 41 岁、54 岁和 42 岁。
按照起诉书描述,这并不是单纯发送一封伪造邮件,而是一套围绕企业付款流程设计的多阶段社会工程攻击。诈骗者先冒充公司首席执行官,通过电话、声音或视频形象联系员工,声称公司正在推进一项保密交易,需要员工协助完成付款。随后,所谓的高管会要求员工联系一家大型国际律师事务所的“律师”,由另一名团伙成员继续扮演该律师,并提供收款银行账户信息。
这种安排利用了企业内部常见的授权链条:高管发起请求,法律顾问提供外部确认,财务或运营员工执行汇款。AI 深伪并没有取代传统欺诈技巧,而是被用来增强冒充者的可信度,让原本依赖电话、视频会议和熟人识别的核验环节更难发挥作用。
受害行业广泛,损失跨越多个司法辖区
检方称,受害者包括密苏里州一家医院系统、英国一家金融科技公司、罗得岛州一家银行、加利福尼亚州一家医院系统、马萨诸塞州一家共同基金以及佛罗里达州一家宠物食品公司。其中,密苏里州医院系统损失约 480 万美元,英国金融科技公司损失约 1160 万美元。
这些案例共同指向一个风险特征:攻击者并不一定需要入侵公司的核心系统,也不一定需要取得员工的登录凭证。只要能够掌握企业高管、律师事务所、付款授权人和交易流程的公开信息,就可能通过实时沟通制造“看似完整”的业务背景。对员工而言,转账请求可能来自熟悉的声音、视频画面和组织关系,但这些信号本身已经不再足以证明对方身份。
案件还说明,企业欺诈损失往往不是在单一国家内形成或结束。检方称,涉案资金被转入包括西班牙、希腊、阿联酋、新加坡和中国在内的多个国家或地区账户,之后被兑换为加密货币,以隐藏资金来源。跨境账户、不同金融机构以及数字资产转换环节叠加后,调查机构需要同时处理银行记录、通信证据、身份信息和链上交易轨迹。
需要强调的是,起诉书中的金额、流程和个人角色均属于检方指控,案件仍须经过司法程序。西班牙警方曾在 6 月和 8 月逮捕 Soall 和 Hazan,英国警方则在 9 月逮捕 Sheetrit;美国方面已经提出引渡请求。三人面临包括电信欺诈、洗钱和加重身份盗窃在内的指控,最严重的罪名最高可判处 20 年监禁,但被告在定罪前均依法推定无罪。
为什么深伪会放大传统电汇诈骗
商业电汇诈骗通常依赖三种心理机制:权威、保密和紧迫性。高管身份提供权威感,“秘密交易”限制了员工向同事求证的空间,而大额付款和时间压力则会缩短核验时间。AI 生成的声音和面孔进一步增加了感官层面的说服力,使员工更容易把技术生成的内容误认为真实互动。
这也改变了企业反欺诈控制的重点。过去,员工可能通过来电号码、熟悉的语音或视频画面判断请求是否可信;如今,这些因素都可能被伪造。更稳健的控制措施需要把“看到或听到谁”与“是否经过独立授权”区分开来。例如,大额或异常付款可以要求通过预先登记的独立渠道二次确认,禁止仅凭同一通电话或视频会议修改收款账户,并对新收款人、跨境转账和紧急保密指令设置额外审批。
对于金融机构和数字资产服务商而言,风险也不止于识别最初的欺诈。资金一旦在多个账户间快速转移,随后进入加密货币体系,合规团队需要关注资金来源、受益所有人、交易对手以及异常转移路径。机构钱包和托管系统通常需要结合权限分离、多人审批、地址白名单、交易限额和实时监测等控制,避免单个员工或单一身份信号直接推动不可逆转的资产转移。这些措施不能保证消除欺诈,但能够提高拦截和追踪的机会。
企业防御将从“识别内容”转向“验证流程”
这起案件的更广泛影响在于,企业不能再把深伪问题仅视为内容审核或网络安全部门的技术问题。付款、法务、人力资源和高管办公室都可能成为防线的一部分。培训需要覆盖电话、视频和即时通信中的冒充场景,而不是只提醒员工警惕可疑邮件。
同时,企业应把异常付款控制设计成不依赖个人判断的流程。对于改变银行账户、绕过既有审批或要求立即保密的请求,组织可以设置强制冷静期、回拨验证和多方确认。内部记录也应保留足够的通信、审批和账户变更信息,以便在资金被转移后及时向银行、执法机构及相关合规团队报告。
AI 让冒充变得更逼真,但案件暴露的核心问题仍是身份、权限和资金流转之间缺乏独立验证。随着深伪工具继续普及,企业真正需要重建的不是对某一种声音或图像的信任,而是对付款指令来源、授权链条和最终收款人的系统性核验。
Source: 链接