AI影片愈来愈逼真，美国人工智能公司OpenAI警告，未来恐难以准确识别所有AI生成图像。（Shutterstock）
美国人工智能公司OpenAI周四（10月15日）向美国司法机构表示，即使未来技术继续进步，也未必能找到一种科学方法，准确辨别所有AI生成的图像。Meta也指出，新一代AI模型制作的影音内容，已很难单凭肉眼辨别真伪。
两家公司代表当天在波士顿出席美国司法会议证据规则咨询委员会（Advisory Committee on Evidence Rules）会议。该委员会自2023年起研究AI伪造证据问题，考虑是否需要制定专门规则。
据路透社报导，OpenAI政策顾问安德森（Shira Anderson）表示，AI生成的图像只会愈来愈逼真，她不相信未来能找到一种科学方法，准确识别所有AI生成的图像。
Meta产品管理总监诺德（Devin Norder）指出，新一代AI模型制作的影音内容，已经很难单凭肉眼辨别真伪，而且制作速度快、成本低。
931名法官中15人遇过相关争议
美国联邦司法中心（Federal Judicial Center）今年3月公布的调查显示，在931名受访法官中，有15人曾遇到诉讼当事人以“深度伪造”为由，质疑证据真实性的情况。不过，这不代表相关证据已被证实造假。
主持委员会的曼哈顿联邦法官弗曼（Jesse Furman）表示，虽然外界一直担心AI会影响司法审判，但目前实际出现的相关争议仍然不多。他周四宣布成立一个小组，继续研究法院应如何处理这类证据。
水印工具难以通用 法官对新规意见不一
目前，OpenAI和Meta等科技公司已推出辨别AI生成内容的工具，加州和欧盟也要求采用水印等技术，协助识别AI内容。
但安德森指出，各家公司使用的技术不同，目前没有通用方法能识别所有水印，也无法保证核实每张图像的真伪。
对于是否需要制定专门的证据规则，美国司法界仍有分歧。曼哈顿联邦法官卡普罗尼（Valerie Caproni）认为，目前没有足够证据显示深度伪造已成为法院的普遍问题，不宜急于制定新规。她指出，现行法律已禁止提交虚假证据，法官也有权审查证据真伪。
美国司法机构目前尚未决定是否修改证据规则，相关研究仍在进行。
