阿波罗新闻网 评论 > 外媒看中国 > 正文

美媒:谷歌前工程师 我为何反对“蜻蜓”项目

"只要你不去做一些无法原谅的事情,比如接受媒体采访,我们就可以原谅你的政治立场,把关注点放在你的技术贡献上。"

这是离职谈话时,谷歌(Google)给我的临别赠言。此前,我手握辞职信进行了一个月的内部争论,要求公司澄清它在蜻蜓项目(Project Dragonfly)上的道德底线。这是一个为了满足中国共产党的审查和监视要求,对谷歌搜索进行修改的项目。

一个似乎允许中国政府通过中国用户电话号码监视其搜索行为的系统原型,曾在公司内部流传,谷歌的高管认为,它并没有超出现有规范。毕竟,各国政府总是对该公司提出各种各样的执法要求。他们问员工,此举的危害从何说起?

但是,科技公司可以只构建工具、编写算法和收集数据,而无需考虑谁在使用这项技术及其目的时代已经过去了。

来自一名普通工程师的抱怨不会让企业置重要的财务利益于不顾。但历史表明,在法庭或舆论的帮助下,持有不同意见的人有时是会起到作用的。哪怕这种异议无非是在提醒公众这些企业要干什么。

差不多十年前,11名法轮功学员的代表将思科系统公司(Cisco Systems)告上了联邦法院,称这家公司为中国政府建立了一个全国性的视频监控和"强制转化"用户信息管理系统,这是为北京方面打击该组织而量身定制的。根据思科自己的营销资料,这个视频分析系统是"唯一能够识别90%以上法轮功图像信息的产品",若放在今天,这个设备会被作为"人工智能"出售。

虽然法庭承认思科开发了"专门为发现、跟踪和打压法轮功而定制和设计的个性化功能",但早期的一些裁决对原告不利。此案仍在美国第九巡回上诉法院的审理中。

思科逃脱惩罚,为美国企业树立了一个先例,即可以给外国政府打造用于政治迫害的人工智能产品。今年,时报通过调查发现,一个名为赛默飞世尔(Thermo Fisher)的美国公司出售DNA分析设备给中方,协助目前在新疆地区对数十万维吾尔族人(一个以穆斯林为主的民族)所做的大规模国内监控和拘禁行动。报道刊出后,该公司表示它不再向新疆地区出售有关设备。

公开羞辱不一定总是有好效果。2005年10月,将在五年后获得诺贝尔和平奖的刘晓波发表了一封致时任雅虎(Yahoo)董事长杨致远的公开信,以回应雅虎在逮捕民主派记者师涛过程中所起的作用。师涛匿名发表了中共关于不得报道1989年天安门广场抗议活动15周年的指示。

刘晓波在信中说,雅虎"帮助中共国安部门追查师涛的电脑记录,提供了雅虎用户师涛先生的邮箱帐号、IP及身份,使师涛的私人资讯被中共安全部门掌控,并在法庭上变成了师涛被判十年重刑的证据之一。"他进一步暗示,雅虎前不久完成了收购电子商务巨头阿里巴巴40%股份的交易,是公司做出该决定的考虑因素之一。

刘晓波不可能知道,10年后,谷歌搜索引擎的一个名为"蜻蜓"的修改版本会审查关于他获得诺贝尔奖的信息,据报道,它还会将搜索行为与搜索者的电话号码联系起来。

在刘晓波的信发表两年后,杨致远前往众议院外交事务委员会(House Foreign Affairs Committee)作证,当时师涛正在监狱服10年徒刑——刑期后来减至8年半。委员会主席汤姆·兰托斯(Tom Lantos)严厉斥责了杨致远的观点,即雅虎只是在配合正常的执法。"虽然你们是技术和经济上的巨人,但你们是道德上的侏儒,"兰托斯说。

杨致远为雅虎的人权承诺做了辩护,并强调了中国市场的重要性。去年,谷歌为"蜻蜓"做了类似的辩护。尽管谷歌遭到负面新闻报道,副总统迈克·彭斯(Mike Pence)直接打电话要求终止该项目,国会还对其高管做了两次聆讯,但蜻蜓项目遭遇的唯一重大挫折来自谷歌的隐私团队对管理层的反抗。

在谷歌,雇员集体行动一直是对问题项目的一种制约,虽然这一点并没有得到充分的认知。这一趋势可以说始于一群工程师("九人小组")拒绝开发联邦安全所需的"气隙"技术,阻止了谷歌接受空军合同。这激发了谷歌内部不断的努力,阻止谷歌参与五角大楼的马文项目(Maven Project),即在军方无人机拍摄的目标叛乱分子画面中应用人工智能,该努力最终获得了成功。

这一内部动荡导致了谷歌人工智能原则的诞生,该原则承诺,公司不会"设计或部署"违反"被广泛接受的国际法和人权原则"的技术。取消马文项目合同,加上无法完成所需的联邦认证,导致谷歌退出了旨在建设五角大楼云计算项目"绝地项目"(Project JEDI)的合同,价值100亿美元。

谷歌集体行动的高潮是在2018年11月1日,当时两万名谷歌员工集体走出办公室,要求改善谷歌关于性骚扰的政策。此前谷歌遭《纽约时报》曝光,称谷歌向已证实有不当性行为的"安卓之父"安迪·鲁宾(Andy Rubin)支付9000万美元,员工的举动是对公司这一决定的直接回应。这一行动导致谷歌乃至整个科技行业在强制仲裁问题上做出公开让步。

在马文和绝地项目事件中,内部组织是成功的。关于人工智能的原则被起草,并被引证为取消合同的原因。但在蜻蜓项目中,即便集体行动是由关键员工发起,也没有一份公开声明称该项目违背了谷歌的承诺,即不设计侵犯人权的技术。

技术工作者的直接行动无疑是有效的。因此,人权组织必须继续倡导对举报者和良心反抗者的法律保护,包括保护有效集体行动所需的组织工作。此外,更广泛的公民社会可以设立一个专门的法律辩护基金,增加举报的频率。

科技公司正花费创纪录的资金进行游说,并悄悄地努力限制对员工组织的法律保护。北美的立法者理应响应人权组织和研究机构的呼吁,藉由类似欧盟最近通过的那种法案,保证对举报人的明确保护。理想情况下,他们应该明确支持通过国际人权法让企业担负支持人权的法律义务。

科技公司的工作如果在道德上是站得住脚的,那么它在讨论其对人权的影响时,应该没有什么好害怕的,无论是在董事会还是在公共场合。

Jack Poulson是Tech Inquiry的创始人,曾在斯坦福大学数学系任教。

阿波罗网责任编辑:李广松 来源:纽约时报 转载请注明作者、出处並保持完整。

外媒看中国热门

相关新闻

➕ 更多同类相关新闻