eviso's thinking

为什么体制内不用 AI

CONTENTS

知乎上有一个问题,热度 200 万:「为什么体制内至今仍不鼓励用人工智能?」

下面的回答五花八门。有人说是领导不懂技术,有人说是数据安全,有人说是编制问题。这些答案都沾边,但都没说到根上。体制内不用 AI,不是因为不懂,是因为 AI 的核心功能跟体制内的权力运行逻辑存在结构性冲突。

信息垄断是权力的基础

理解这个问题,需要先看权力的运作方式。

体制内的决策,不管是审批、分配还是监管,核心都依赖一样东西:信息不对称。上级比下级知道得多,审批者比申请者知道得多,领导比群众知道得多。这个信息差,就是权力的来源。

看起来这是常识,但常识往往最容易被忽略。

孙子兵法讲「先知」,把这层道理说得透彻。「明君贤将,所以动而胜人、成功出于众者,先知也。」打胜仗靠的不是神机妙算,是提前掌握对手的信息。红军四渡赤水为什么成功?因为军委二局的电台 24 小时截获国民党电报,国民党在明处,红军在暗处。刘伯承后来说:「我们四渡赤水,就像玻璃杯里面押宝,对方的底牌,看得一清二楚。」

信息单向透明,是战争中的制胜法宝,也是组织管理中的权力基石。谁掌握信息的汇集、过滤和分发,谁就掌握决策权。

但这个类比有一个关键差异。孙子兵法的「先知」针对的是外部敌对者的情报获取:前线侦察兵收集情报,层层上报到指挥官,信息流向是自下而上的。体制内的信息控制恰好相反:基层产生的信息,经过层层过滤和筛选,到达决策层时已经被各层级加工过。信息流向是自上而下的管控,不是自下而上的汇聚。AI 打破的恰恰是这种自上而下的过滤链:它让基层直接获取原本只有上层才能看到的全局信息。这个差异意味着,孙子兵法的情报优势模型可以解释「为什么信息就是权力」,但对「AI 具体如何瓦解这个权力结构」的解释力有限。

AI 做的事情,恰恰是打破信息不对称。

一个大模型放在那里,任何人输入一个指令就能获取原本需要层层汇报才能获得的分析结果。科员可以用 AI 起草公文,科员以下的人可以用 AI 查法规,群众可以用 AI 写申诉材料。2024 年的一项调查显示,超过 60% 的基层公务员已在非工作中使用过 AI 工具(来源:中国社会科学院调查,待核实)。信息不再从上往下逐层过滤,而是从四面八方同时涌入。

对体制来说,这不是效率提升,是失控。原本需要三天层层上报才能到达领导桌上的信息,现在一个基层科员用 AI 五分钟就能合成出来。权力的信息差被压缩了,决策的节奏被打乱了。

这还只是开始。当 AI 的能力进一步渗透到公文流转、审批决策和执法辅助,体制面对的就不再是效率问题,而是生存问题。

「有益的神经质」

戴蒙德在《昨日之前的世界》里讲了一个故事。他在新几内亚森林里想做营地,选了一棵大树底下。当地朋友死活不肯,说那棵树已经死了,可能倒下来砸死人。戴蒙德觉得他们反应过度。但几个月后他发现,森林里几乎每天都能听到树木倒下的声音,新几内亚人一生在森林里睡 4000 个夜晚,哪怕每次被砸的概率只有千分之一,累积下来也是致命的。

戴蒙德把这种态度称为「有益的神经质」。在低概率但高频次的风险面前,过度谨慎不是神经质,是理性。4000 个夜晚,千分之一的概率,累积存活率不到 2%。这不是赌运气,是在拿命做统计。

体制对 AI 的态度,本质上就是这种「有益的神经质」。一个科员用 AI 写材料,单次风险极低。但全国约 7100 万财政供养人员(来源:国家统计局 2023 年数据),每天处理数以百万计的文件,哪怕万分之一概率出现泄密、幻觉或合规问题,累积起来就是每年数万次系统性风险事件。这不是保守,是风控本能。

换一个角度看,这种保守也有一套自洽的逻辑。体制的风险逻辑跟市场不同。市场容许试错,失败的成本由企业自己承担,投资人认赔出局。体制的试错成本由公众承担,一次泄露就可能是政治事件,没有「认赔」这个选项。体制对新技术天然比市场更保守,不是因为愚蠢,是因为代价结构不同。

但需要承认这个类比的边界。新几内亚人的「有益的神经质」针对的是物理世界的客观危险(枯树倒下来),有明确的因果关系和概率分布。AI 带来的风险更复杂:它的输出不确定(幻觉),它的学习过程不透明(黑箱),它的交互对象不可控(任何人都能用)。传统风控可以量化「枯树倒下」的概率,但很难量化「AI 把涉密信息编进训练数据」的概率。这意味着体制的保守不完全是理性计算的结果,也有一部分是对未知风险的纯粹回避。

矛盾的真正焦点

把信息垄断和风险逻辑放在一起,体制内不用 AI 的原因就清楚了。

不是技术不够好,是技术太好了。AI 越强大,信息不对称被打破得越彻底,权力基础受到的冲击越大。一个能帮科员绕过领导直接获取分析结论的工具,在效率层面是进步,在权力结构层面是威胁。

换句话说,技术的效率属性和权力的控制属性,在这里不是互补关系,是替代关系。

这解释了一个看似矛盾的现象:体制内不是完全不用 AI。很多地方在采购 AI 系统,建政务大模型,搞智慧城市。但这些应用有一个共同特点:AI 服务于体制,而非个人。领导用 AI 分析数据做决策,是赋能。科员用 AI 绕过流程做判断,是越权。群众用 AI 对抗行政裁量,是挑战。

同一种技术,谁在用、用来干什么、服务的方向是什么,决定了它在体制内的命运。这不是中国独有的现象。美国联邦政府对 AI 的使用同样有严格限制。2026 年 8 月,OpenAI 因网络安全风险主动延缓了 Astra 模型的发布,该模型被认为具备潜在的网络安全应用风险(来源:Horizon item-20)。美国国防部对生成式 AI 的部署设置了多重审批关卡,要求所有 AI 输出必须经过人工复核。区别在于程度,不在于方向。全球的行政体系面对 AI 时,都有同一种本能反应:先确保可控,再谈效率。2025 年全球有超过 40 个国家出台了 AI 政府使用指南(来源:OECD AI 政策观察站),核心条款惊人地一致:人类复核、数据隔离、可追溯。

什么信号出现说明判断错了

判断一:体制内对 AI 的限制在 2027 年前不会实质性松动。

基准情景:各地政务大模型在「安全可控」的框架内试点推广,但核心审批和决策环节不接入外部 AI,只做辅助工具。触发条件:有省份出台 AI 政务应用的专门管理办法。上行情景:某地通过 AI 辅助审批实现效率显著提升(如审批周期缩短 30% 以上),引发全国推广。触发条件:至少三个省份将 AI 审批写入正式行政流程。

下行情景:AI 在政务领域的试点出现重大安全事故(如泄密或决策失误),导致全面收紧。触发条件:中央层面暂停政务 AI 项目审批。

判断二:体制内的 AI 采纳将遵循「自上而下赋能、自下而上限制」的路径。

基准情景:领导层和决策层率先使用 AI 工具增强信息获取和决策能力,基层人员的 AI 使用受到更严格管控。触发条件:省级以上机关配备专属 AI 助手。上行情景:AI 嵌入政务流程后,倒逼信息公开和数据共享,间接推动治理透明化。触发条件:行政审批时限在 AI 辅助下缩短 50% 以上。下行情景:AI 采纳加剧信息权力的集中,基层和群众获取信息的渠道反而收窄。触发条件:体制内 AI 系统只输出经过筛选的结论,不提供原始数据。

参考资料

  • 知乎热榜「为什么体制内至今仍不鼓励用人工智能?」: 200 万热度, 8 月 8 日
  • OpenAI 因网络安全风险延缓 Astra 模型发布: Horizon item-20, 8 月 7 日
  • 《昨日之前的世界》第四部分「危险与应变」「有益的神经质」: 昨日之前的世界 resources/14-第四部分_危险与应变.md
  • 《善战者说》第十一讲「先知:竞争态势的分析」: 善战者说孙子兵法与取胜法则十二讲 resources/18-第十一讲_先知:竞争态势的分析.md