新闻 > 军政 > 正文

美专家:中国利用AI虚拟人物对个人进行认知战 植入思想和意识形态

作者:
人工智能虚拟人物以友善的方式接近和对待他人,但实际上却按照国家指令行事,植入思想和意识形态,引导目标朝着既定方向发展。

美国范德堡大学教授高德斯坦图:翻摄自美国范德堡大学官网

随着人工智能(AI)的发展,认知战也已经进入新的阶段。《日本经济新闻》稍早刊登美国范德堡大学(Vanderbilt University)教授高德斯坦(Brett J. Goldstein)的发现,指出中国的认知战手法已经从伪装成美国人,试图在高度敏感的议题和美国外交政策上加深社会分裂,演变到以AI虚拟人物植入思想和意识形态,引导目标朝着既定方向发展。

高德斯坦指出,他和和范德堡大学的研究伙伴本森(Brett V. Benson)在2025年发现一家名为GoLaxy的中国公司正在开发用于影响日本、香港和台湾的人工智能工具,从社群媒体收集公开讯息,创建了数百个经过训练、尽可能逼真的“虚拟人物”(虚拟档案),并散布旨在改变人们行为的资讯。根据该公司文件,这些行动是代表中国政府和情报机构进行的。

高德斯坦指出,这类人工智能虚拟人物的部署已在台湾出现,其雏形目前也出现在美国和日本。这些迹象表明,人工智能驱动的影响行动已在个人层面展开,而且情况很可能会进一步恶化。人工智能正在将外国影响行动从集体层面转移到个人层面,其规模和复杂程度达到了前所未有的高度。

对某些人来说,人工智能虚拟人物可能是名人;对其他人来说,可能是志同道合的朋友;也可能是风趣幽默、富有影响力的部落客。他们以友善的方式接近和对待他人,但实际上却按照国家指令行事,植入思想和意识形态,引导目标朝着既定方向发展。

高德斯坦指出,我们必须正视人工智能带来的阴暗面。虚假的网络红人、篡改的影片、对选举的攻击——这些在我们的日常生活中已经屡见不鲜。如果我们不采取行动,我们将越来越难以信任我们在网络上互动的一切人事物。

每个人都应该在识别这些虚假身份和减轻其潜在影响方面发挥作用。个人需要意识到这些工具的存在。

当然,个人的能力是有限的。学术界必须通力合作,在混乱的世界中寻找辨识合成资讯的新方法。各国政府和主要的人工智能研究机构肩负着最重大的责任,而没有合作,它们无法履行这项责任。

高德斯坦指出,挑战不在于减缓这项技术的发展速度,而是确保其安全快速地部署。日本及其盟友应将人工智能驱动的影响行动视为共同威胁,并以应对网络攻击的相同方式予以应对。

高德斯坦指出,中国和俄罗斯的认知战,在人工智能技术的推动下,正从单纯的宣传转向针对特定利益的策略。“人工智能人格”行为如同人类,伪装成朋友或有影响力的人接近民众,试图影响他们的决策。日本必须意识到自身已成为攻击目标。

高德斯坦指出,仅仅警告民众“警惕人格”是不够的。中国和俄罗斯的行动并非易事,难以轻易察觉。我们需要事先告知民众常用的策略,例如冒充账号和虚假视频,以便受众能够识别其中的矛盾之处。各国政府和人工智能公司必须携手合作,改善假资讯检测技术。目前正在测试的是保护民主资讯空间免受利用人工智能的影响行动侵害的能力。

阿波罗网责任编辑:李华

来源:新头壳

转载请注明作者、出处並保持完整。

家在美国 放眼世界 魂系中华
Copyright © 2006 - 2026 by Aboluowang

免翻墙 免翻墙链接