AI人工智能会否导致人类失业,这个话题近年闹得热腾腾,最新受波及的职业,可能是"五毛党"!有华裔专家正研究利用AI,生产网络评论。这可以为商家制造好评如潮的表象。
很多人在购物时,会参考其他人的网络评论,因此有商家会僱用一批网络评论员,于网上制造好评。这些评论员被称"水军"又或"五毛党"。
自动生成网评人类分辨不到
然而,制造"五毛评论"就快毋须人手,可由AI人工智能代劳。
媒体报道,芝加哥大学计算机科学教授赵燕斌(Ben Y. Zhao)的团队,正进行《在线点评系统中的自动众包攻击和防御》研究;简单而言,就是用AI生成复杂的网络点评信息,使人类无法分辨出来。
这篇论文今年晚些时候,据称会在计算机安全顶级会议ACM CCS上展示。
已在亚马逊、Yelp测试
据称,AI"五毛党"使用的是一种称为RNN(循环神经网路)的深度学习技术,RNN会网络使用上千条真实在线点评,再进行自我训练。例如(中译):
●我已经来过这儿好几年了,每次的体验都很好。
●服务很棒!这儿的人都挺友善。我一定会再来的!
●这个地方很不错!调酒师十分厉害。意大利面很好。
●我喜欢这个地方。和我哥一起去的。
研究人员表示,AI生成的点评已经做到了"以假乱真",有600个用户参与的调查显示,这些虚假的点评不仅能逃过人类的法眼,而且还被用户认为有用。
研究人员已尝试在亚马逊、Yelp等网站下自动生成假评。但赵燕斌直指,这对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会动摇人类对真实和虚假的信念。