2024年3月，费城《独立报》一则新闻引起各界对“伪造声纹”的热烈讨论。新闻写到，一名父亲接到儿子来电，儿子慌张地说自己出了车祸，需要9000美元保释金，还要父亲联系这起事件的公诉律师，接着就真的有位律师透过电话引导要这名父亲远端汇款，所幸，当他准备汇款时，他“真的儿子”先一步打电话找他，他才没有落入圈套。这就是一起典型利用AI语音克隆技术（Voice cloning methods）的诈骗。
根据美国联邦贸易委员会统计，自2020年起，类似骗局几成爆炸性成长，关键就在语音克隆技术让伪造声纹变得愈来愈逼真，加上人的犯罪劣根性，原本，新科技主要为客制化语音界面（如用于视讯游戏），或是重塑个人化虚拟助理，乃至协助个人语言学习，但很快的，这项技术马上遭到滥用，其中伪造声纹尤其被当成最普遍的冒名诈骗工具。
过去，我们听到类似“家人求助”诈骗电话，或许还会为对方传来声音真假有所迟疑，现在，借由人工智能语音产生器，目标人物的声音变得更逼真，从而带动了诈骗升级。
同时，伪造声纹不只增加了诈骗，还带来衍伸挑战。如同上述假儿子声音诈骗父亲，进一步讨论是，倘若伪造一个人的声音已可达到如此逼真程度，那么，过去根据美国《联邦证据第901条规则》——“传唤证人，亲耳证明某段录音是某人，即满足证据可采纳性的认证标准”，在人工智能时代，这种推定显然已很难成立。
2023年，当美国伪造声纹诈骗金额达27亿美元的一刻，便迫使诸多学者专家不得不投入研究这项“语音变革”所带来的新安全和隐私风险。迄今多有例证，这种更为契合特定人物语言模式、口音呼吸的个人声音数位副本，已让任何人在感知上愈难辨识音讯真伪，于是更多是被使用于恶意，犯罪者从此也更容易侵入普罗大众个人空间，后续亦造成了数位鉴识调查更加困难。
一开始人类迎接新时代，以为语音克隆技术将增加娱乐性，又或者进入医疗领域，成为有语言障碍者的福音，结果多数已达语音克隆技术预想的“成功案例”，几乎全是犯罪。最多的就是冒充名人混淆视听。
类似“假儿子骗父亲9000美金”，2020年以来层出不穷的伪造声纹诈骗新闻，包括有一家日本公司在香港的分公司经理接到一通电话，电话那头传来声音，是—位他母公司的董事，“董事”且带来了好消息，说：公司即将进行收购，需要授权一笔总额达3500万美元的资金转移。香港经理不疑有他，于是开始进行转账；2024年，一名孟买商人接到自称印度驻迪拜大使馆来电，说他的儿子犯罪被捕，然后还播放他儿子的求情声音，这名商人救子心切，立刻汇了8万卢比要为儿子保释，结果证明是骗局一场；同样2024年，一名澳洲商人接到旧识，昆士兰州州长的语音私讯，“州长”基于私交，邀请他进行比特币投资，好在就算传来声音具备惊人的逼真模仿效果，这名商人最终识破对方是个骗子。
总之，这几年来，语音克隆技术的正面应用尚未真正见效，歪头歪脑的人已大肆滥用这项技术的阴暗面获益，很多国家于是意识到这种风险正日益加深中。
今天，有国民党人在制作反毒油影片《油不得你》时，因为利用深伪技术，模仿赖清德声音，引起了有关“伪造声纹”有没有犯法的议论。从其影片制作，很清楚，内容中“赖清德声音”所讲述的一长串，完全都不是赖清德本人曾说过的话，而是透过真伪难辨（这类技术最得意之处）的语音制作，变成了“赖清德在说”。如此当然已不是传统文宣攻击，也不是所谓政治嘲讽，制作者大可正正当当用任何其他语音讲述一样的事情，偏偏要学乌俄战争初期，俄罗斯骇客深伪制作泽伦斯基发表投降谈话影片，直接把你没有说的话塞到你嘴里，再进阶用语音克隆技术，把这段话变成“你说的话”。技巧聪明归聪明，当时扰乱军心当然是目的之一，但没办法让对手讲出你希望他讲出的话，干脆弄个以假乱真的，正常人都会认为这样做确实是不入流。
若说今天的政党攻防，可以伪造声纹作为文宣攻击，那么，明天可不可以将伪造声纹用在其他任何选举诈欺？这个例子有没有犯法，各界可继续议论，问题是它确实让人看到了一个政党对“新科技”的应用，似乎只想着把其阴暗面发扬光大，一旦潘朵拉盒子被打开，只怕有心人纷纷“起而效尤”，让台湾政坛更加陷入一片真假莫辨？
