台南女大生追撞警员后遭网友肉搜谩骂,事实查核中心证实网传冷漠查看机车影片内容其实为AI变造。 图:翻摄自台湾民主实验室 脸书专页
台南郑姓警员4月28日遭戴姓女大生骑机车追撞,随后又被游览车辗毙身亡;事后网络流传一段监视器画面,内容显示女大生反复查看自己机车有无受损、却不理会伤者,因而遭大批网友肉搜谩骂。台湾事实查核中心查证后认定,这支疯传画面实为AI变造;台湾民主实验室进一步追查发现,源头疑似与中国内容农场“无边界集团”有关。
台湾事实查核中心比对真实监视器画面指出,现场其实只有戴姓女大生与一名深色外套男子,两人仅查看“一次”车损情形;但网络流传版本却被动了手脚,让女大生“反复”查看车辆,画面中甚至凭空多出一名真实监视器里不存在的白衣人士,证实整段影片经过人为加工。
台湾民主实验室追踪发现,影片最早出现于Threads账号“jadeduartduart”,留言处附上连结导向内容农场网站“美食记”,其网域注册地位于中国河北秦皇岛,与该实验室先前锁定的“无边界集团”总部所在地一致;同一时间,还有十余个分别由马来西亚、香港、菲律宾等地管理员经营的脸书粉专同步转发同一支影片。
该实验室研究团队也比对出,同一账号留言连结指向的网域“cocovn”同样注册于秦皇岛;另在已确认属“无边界集团”的网域“dsawjk”中,也查获内容完全相同的新闻,并流传于另一批粉专。研究人员说明,这类账号操作手法固定,多先将台湾或中国新闻复制转贴至自家网站,再于社群平台发布影像、于留言区埋入连结,操作模式与先前掌握的549个假账号、1,217个网域行为高度吻合。
台湾民主实验室强调,这是该单位少数观察到“无边界集团”开始运用AI影片的案例,同批账号还有多则手法类似的AI变造贴文,显示利用新闻照片生成AI影片,已逐渐成为内容农场的新操作模式。
研究团队指出,此事件已非单纯博取流量的八卦操作,假账号实际介入了社会瞩目案件的舆论风向,让原本承受丧亲之痛的警员家属与遭公审的当事人,额外承受一层不应存在的伤害,而源头竟只是一支AI生成的假影片。该实验室也提醒民众,日后看到类似耸动贴文时,应先查证来源账号与留言区是否夹带可疑连结,避免再度被有心人士利用操弄社会事件。
台湾民主实验室追查发现,AI变造影片源自中国内容农场,并由十余个境外脸书粉专同步转发扩散。 图:翻摄自台湾民主实验室 脸书专页