AI预测错了谁负责谁在承担代价
政务资料并不是社会现实自然留下的痕迹。哪些事件可以被登记，哪些问题被算作风险，哪些投诉被归入重复信访，哪些失业者被称为灵活就业，哪些企业问题需要上报，都是政治与行政选择的结果。资料在进入模型以前，已历经干部考核、部门利益、平台审查和对上负责的层层加工。
换句话说，AI模型可以读到的未必是中国社会，而是中国官僚体系允许被写进表格的中国。
这会形成一个非常危险的回馈循环。地方政府先为了考核清洗资料，模型再根据清洗后的资料作出高置信度判断；上级把模型输出视为客观证据，进而要求地方依照模型分配资源与处置风险；不符合模型判断的现实，则更难进入下一轮资料。最后不是模型逐渐接近现实，而是现实被迫向模型靠拢。这里面的差距，就是治理的风险。
预测模型还可能制造另一种自我证明。系统把某家企业列为讨薪风险，政府提前介入，最终没有发生抗议，部门便可以把结果记作模型预测成功。但事件本来是否会发生，没有人知道；企业和工人是否因错误预警承受额外监控、约谈或污名，也很少进入绩效报表。因此AI介入会成为一个单向“棘轮”，出现AI预测的风险，介入解决证明了AI的有效；出现了AI未预测到的风险，这不证明AI无效，反而是需要更大力度使用AI的证明。
系统和党考量的是“避免了多少危险”，个人承担的则是那些被定义为危险的代价。
这使中国AI治理最重要的问题变得非常简单：模型预测错了，谁负责？一个人被列为风险对象后，能不能申诉？
现有政策已经开始要求全流程管理、人工复核与“人工兜底”（由专人负责善后）。这些原则并非毫无意义，但它们主要回答政府应当如何安全使用模型，并没有清楚回答被模型判错的人如何恢复权利。谁必须提供解释？资料错误由谁更正？行政处分能否暂停？名誉、工作与经济损失如何补偿？在一个本来就几乎没有任何问责性的社会，AI偏误的行政问责同样难如登天。
更麻烦的是，“人工复核”很容易成为一种形式，AI产出大量中间成果，官僚会像进入用Vibe Coding的人一样，面对AI写下的几千字确认文档闭眼点击“确认”。
对一名基层干部而言，依照模型处置，即使后来出错，也可以说自己遵循了系统；否定模型，若事件真的发生，责任却可能完全落到自己身上。在这种考核结构中，人工不会自然成为模型的纠错者，反而很可能成为替模型签字的人。
这就是自动化偏误：人类名义上仍然作出最后决定，实际上却因模型的权威、工作压力与责任风险而跟随系统。AI没有消灭官僚责任，只是让责任更容易被转移。
而最容易承担代价的，通常也是申诉能力最低的人。欠薪工人、小微企业、负债家庭、上访者与其他被视为不稳定的人群，留下的行政资料更多，更容易被分类，也更难要求政府公开分类依据。风险治理看似面向所有人，代价却会不均等地落在政治资源最少的人身上。
国家不再只命令而是住进日常生活
借用社会学家Michael Mann对“专断权力”与“基础设施权力”的区分，我愿意把中国国家能力改写成两种形式。
第一种是禁止性能力：封号、审查、抓捕、停业、禁用、强制执行。这是国家不经社会同意，直接下达命令的能力。也是中国过去作为极权国家最容易施展的社会管控。
第二种是生产性能力：国家透过政务平台、资料库、智能体、税务风控、医保审核与城市管理，持续塑造人们可以采取哪些行动、获得哪些资源、进入哪些程序。这里的“生产性”，不是说权力必然带来好结果，而是它会生产分类、秩序、资格与行为。
因此，AI治理不能只理解成监控增加。监控主要解决“看见”；真正的形态改变，是把看见接上分类、排序、分派与执行，让中国成为“生产性能力”的国家。
国家不再只靠一道命令从上方落下来约束边界。它透过资料接口，住进企业的信贷审核、医院的支付系统、学校的管理平台、法院的案件分派、工厂的生产流程和普通人的每一次政务申请。这种权力不一定总以暴力面貌出现，它甚至可能非常便利。正因如此，它比单纯的禁止更深入，也更难逆转。这不是科幻小说，中国国家税务系统“金税四期”早已经是一个毛细血管一样的AI驱动的生产性能力。正是这样的AI系统，让中国在经济出现重大问题的两年，还能维持双位数的“个人所得税”增长。
被拆掉的官僚缓冲器
官僚自由裁量并不天然值得歌颂，尤其在中国。它可能意味着推诿、腐败、选择性执法和因人而异。AI标准化也确实可能减少部分刁难，让行政流程更清楚、更快速。
但自由裁量的另一面，是地方知识与人情判断。过去一道不合理的中央命令，需要穿过省、市、区、街道、居委会与具体执行人员。在这条漫长的链条中，拖延、变通、选择性执行与阳奉阴违有时构成腐败，有时却也构成一层缓冲。
2022年上海封城期间，一位在小区门口工作的保安，对居民夜间出入一直睁一只眼闭一只眼。只有领导检查时，他才严格执行规定。这当然不是法治，但那种“枪口抬高一寸”，确实让居民在僵硬命令下保留了一点生活空间。这样的空间随小区门口设置“AI哨兵”而结束，这是一个强制性人脸识别的进出系统。
模型化治理会逐步压缩自由裁量空间。系统自动记录、即时上报、统一排序，地方执行人员不再容易假装没有看见。中央命令在官僚层级间下达落实的摩擦降低，错误便可能传得更快、更广，也更难被地方经验修正。
这并不意味着中国会突然变成一个运转完美、资讯互通的全知国家。部门壁垒、资料孤岛、地方财政差异、技术品质与执行能力仍然存在。中国AI治理真正危险的地方，不是它必然无所不知，而是它可能在资讯仍然残缺的情况下，获得前所未有的执行信心。
它不是低能力国家，恰恰相反，他可能成为一个高能力却同时具有系统性脆弱的国家。
对台湾真正危险的不是一只机械狼
回到建军节的画面。对台湾真正危险的，未必是那只机械狼能否在滩岸上跑多远。
更值得注意的是，解放军正在尝试把无人机、无人艇、地面平台、商业卫星、开源情报、网络攻击、认知作战与指挥系统接进同一套节奏。单项装备不需要全面超越美国，只要整合速度加快、使用成本降低、出动频率提高，就可能增加灰色地带施压，并压缩台湾与盟友的反应时间。
但还有一种更深的风险。
模型吃进去的若仍是层层洗白、报喜不报忧的情报，AI不会自动帮助中共中央看见真相，反而可能替偏见加上数学权威。一个依赖模型推演的决策中心，可能愈来愈相信自己的风险评分、舆情分析与战争模拟，最后说服自己：台湾抵抗意志已经崩溃，美国不会介入，经济制裁可以承受，有限行动能够快速造成既定事实。
这种危险不来自中国无所不知，而来自它“自信地错”。
当感知与现实的落差进入最高层决策，错误不再只是一次行政误判，也可能成为战争的扳机。中国内部的系统性脆弱，于是直接转化为台海的外部风险。
北京正在下注另一种可能。它希望透过AI提高国家能力，克服超大社会的资讯与治理成本
北京希望透过AI提高国家能力，克服超大社会的资讯与治理成本。（法新社）
AI的真正对手台湾可成反证
很多人把AI看成中美之间的最后一战：哪一国掌握更大的模型、更多的算力和更完整的芯片供应链，哪一国就能决定下一个时代。
但对中共党国而言，AI真正挑战的也许不是美国，而是现代化理论中那个粗略却影响深远的命题：经济发展、教育扩张与社会复杂化，终究会增加多少自由化与政治参与的压力。
北京正在下注另一种可能。它希望透过AI提高国家能力，克服超大社会的资讯与治理成本，在经济继续发展的同时维持政治控制。它要证明，发展可以不伴随自由化和分权，控制可以取代信任，算力可以弥补社会契约的缺失。
这场赌注未必会失败。中国拥有庞大的行政组织、国有基础设施、密集的公共资料、巨大的市场和成熟的制造能力。AI确实可能让它在许多领域变得更快、更便宜、更能深入社会。
但能力不等于正当性。更精密的预测，不能让一个被判错的人自动获得申诉；更完整的资料，不能使干部愿意向上级说真话；更快速的执行，也不能修补公民对制度的不信任。相反，建构这套能力所依赖的控制本能，恰恰可能把资讯失真、责任真空与政治僵化一并放大。
台湾因此不只是中国AI军事应用的潜在对象。作为华语世界的自由民主政体，它也是这场豪赌的活体反证。
台湾需要审查的不只是某一个中国App，而是资料究竟流过谁的API（应用程式界面）、模型权重、更新通道与云端服务；需要保护的不只是个人资料，也包括高品质繁体中文语料，以及一个社会描述自身历史与政治现实的能力；需要建设的不只是晶圆代工，而是从服务器、资安、模型部署到资料治理的可信AI供应链；面对认知作战，也不能只依赖事后辟谣，而要预先建立跨部门验证、危机沟通与复合情境演练。
回答中国AI化国家的方式，不是让民主社会变得更会控制，而是证明另一件事：分散的知识、真实的资讯、可以申诉的程序、自由的公共讨论与被信任的制度，并不是国家能力的障碍。
它们本身，就是更强的国家能力。
※作者为旅居日本的中国独立知识分子与多栖内容创作者。主持YouTube“三个水枪手”、“世界苦茶”等节目。北京中央民族大学毕，双修法学与经济。本文授权转载自《想想论坛Thinking Taiwan公共思辨，想想台湾》。
