示意图。两部手机通过TikTok应用程序正在播放视频。
近日，香港发生发生运用AI深伪技术诈骗企业的案件。诈骗团伙换上一跨国公司多名英国高管的样貌和声音，通过视讯会议骗取该公司香港分部财务人员的信任，以进行机密交易的名义，骗走约2亿港元资金。
据香港《文汇报》的报导，香港警方日前对外披露了香港首宗利用AI技术“多人变脸”诈骗案的详细案情。
据香港网络安全及科技罪案调查科网络安全组介绍，诈骗集团首先在互联网上搜集到这家跨国公司英国总部多名高层的面部和声音数据，然后透过AI深伪技术，把几名骗子换上了这些公司高层的面貌和声音。再按照事先编写好的剧本，预制了一个“公司高层举行会议”的短片。
第二步，诈骗团伙以总部首席财务官的名义，向该公司香港分部的财务人员发信息，声称公司要进行一项“机密交易”，邀请该香港职员参加线上“视讯会议”。
第三步，向香港财务人员播放了事先录制的模拟在线会议的场景短片。画面显示，有多名英国总部的高层人员参加了这次线上会议，各位“高层”简短“讨论”了公司的一项机密交易并作出决策。
第四步，“总部首席财务官”透过即时通讯软件，指示香港分公司财务职员在一星期内，分15次将总计两亿港元的资金存入5个本地银行户口，作为“机密交易”的资金。
由于线上“视讯会议”的场景十分逼真，而出席会议的多名公司总部高层都是香港财务职员熟识的，不但样貌相同，而且说话的声音也完全与真人相符，因此香港财务人员没有产生怀疑，按照“首席财务官”的指令在其指定转存了2亿港元。直到今年1月29日，香港分公司向总部查询，才知道上当受骗而报警。
香港警方指出，这次AI“变脸”诈骗案中，为让受害人不产生怀疑，诈骗团伙用“深伪技术”假冒了多人多角色。由于“在线会议”是提前预制好的，不能在线上与香港职员有现场的对话互动，因此整个“会议”过程在短短几分钟内就结束，不给香港职员任何现场提问的机会。而让总部多名高层同时“现身”并当场下指令，就是要让香港分部的财务人员深信这是来自公司总部的“最高指示”。
警方在公布上述案例的具体案情后，提醒香港市民：人工智能“深度伪造”的欺诈手法不易识别，网上已经“眼见不一定为实”。不过，只要市民保持警惕，不轻易相信任何社交平台或通讯软件所收到信息，采取必要的措施求证鉴别，仍可防患于未然。
识别利用深伪技术诈骗的方法包括以下几种：
1.要求对方在镜头前做指定动作，留意对方在视频上影像有否异常情况出现；2.当对电话或视频上的亲友提问，以鉴别对方的身份是否真实。3.切勿轻易向他人提供自己的人脸、指纹等生物辨识资料，以免被骗子利用犯案；4.当亲友及公司职员在视频或录音中提出汇款要求时，务必重新拨打对方电话或通过其他渠道对其身份及指令进行核实。5.避免接听陌生视像通话来电，以防被骗子盗取肖像用来犯案；6.如有怀疑，可在“防骗视伏器”输入对方的电话号码、社交媒体账号、收款账号等评估风险，或拨打香港警务处反诈骗协调中心的热线电话进行查询。
警方没有透露被害公司的名称，只通报说该案仍在调查过程中，“截至目前没有人遭到逮捕”。
