eviso's thinking

监管不接盘之后,AI 安全变成公司治理

CONTENTS

2026年9月13日,美国众议院议长 Mike Johnson 对 Axios 说,国会不会主导 AI 安全监管,AI 公司应当为自己的产品安全负责。Politico 的标题写得更直接:科技公司必须对 AI 安全负主要责任。Bloomberg 的补充是,Johnson 主张在立法之前先与 AI 领袖会面。

责任被推回门口了。

这句话把一个问题从国会山送回了公司。过去安全派常把希望押在公共立法上:先有外部规则,再有公司合规。现在 Speaker 明确表示不接盘。无论这是审慎、拖延还是政治推责,实际效果都一样:2026年安全议程的主要落点不再是等待一部联邦 AI 安全法,而是公司治理、外部审计、合同约束和资本市场定价。

换句话说,这不是监管消失,是监管重心下沉。规则没有先出现在联邦法典里,而会先出现在公司章程、审计授权、采购条款和估值模型里。

David Sacks 的回应更冷酷。他在 X 上说,Anthropic 和 OpenAI 本来就自由决定“pace the frontier”,应该基于商业理由去做,而不是先要求一个偏好的监管框架。这句话有一种刺眼的地方:它把安全倡议从公共政策问题降回企业选择。但刺眼不等于错误,至少在现行美国政治结构下,前沿实验室确实握有训练节奏、发布门槛和审计范围的控制权。

三家公司把球接走

同一天的 Techmeme 页面里,Amodei、Altman、Musk 与 Johnson、Sacks 形成了罕见对照。政治系统说不主导,产业领袖反而开始说减速。2026年9月12日,Amodei 发表《We Must Pace the Frontier》,提出三件事:嵌入式评估者、民主国家协调、与威权政府进行全球协调。Politico 报道,Musk 对此表态“Dario is right”。

政治语言和商业语言开始互换位置。

Sam Altman 则把安全推进到资本时间表。Fortune 报道,他确认 OpenAI 2026年不上市,理由是“given everything happening with safety, right now would be an ill-advised moment to go public”。这句话的重要性不在于 IPO 本身,而在于这一次,安全被 CEO 用来解释上市节奏。上市不再只是估值窗口问题,也成为治理能力是否足够外部化的测试。

这里有一个容易被忽略的转折。

外部生态也开始移动。Hugging Face 联合创始人 Clem Delangue 在 X 上说,由另一位联合创始人 Thomas Wolf 负责的 Open Alignment Initiative,希望加入 Amodei 承诺的嵌入式评估者计划。这个细节比又一份原则声明更有价值:外部审计开始争取长期访问权、评估权限和组织地位,而不是只等事故后写报告。

这组变化共同指向一个结论:安全责任没有被消灭,而是被重新分配。国会保留召集权和事后追责权,公司掌握前置控制权,外部评估者争取访问权,资本市场定价剩余风险。问题从“美国会不会立一部好法”,变成“哪家公司能把安全承诺写成可执行的治理结构”。

但重心下沉并不自动等于治理有效。

治理栈要补五层

第一层是董事会。如果安全风险会影响训练节奏、产品发布和 IPO 时间,董事会就不能只听合规汇报,而要看到能力路线图、红队结果、事故暴露和长期责任承担。安全议程进入董事会,意味着它从价值观变成约束条件。

第二层是外部评估。嵌入式评估者的关键不是“外部”两个字,而是权限:能否持续接触模型、系统、部署日志和事故数据;能否在发布前给出阻断或条件性结论;报告能否对公众或客户披露。没有权限的审计只是背书,有权限的审计才构成治理。

第三层是激励。研发团队若只按能力进度拿奖励,安全团队必然变成成本中心。治理设计要把发现风险、推迟发布、拒绝部署和事故复盘纳入晋升与奖金,而不是口头宣称 safety first。真正可信的安全文化会让踩刹车的人不付出职业代价。

第四层是客户和供应链。企业采购方可以用合同要求模型审计、数据边界、事故通知、回滚机制和责任分配。云厂商、模型厂商、应用开发商之间也必须写清谁承担 Agent 越权、数据泄露和自动化攻击责任。公共立法缺位时,商业合同就是临时监管层。

第五层是披露。OpenAI 延后 IPO 说明安全风险足够重要,但外部投资者仍需要可比指标:重大事故数量、发现时间、披露时间、修复时间、外部评估结论和发布否决次数。2026年的投资者还没有拿到这类标准化数据,只能把“安全担忧”折成模糊估值折扣,无法区分治理强者和营销高手。

德鲁克早给过位置

《管理大师德鲁克经典》里“管理层的责任”一章,几乎是在提醒今天的 AI 公司:现代企业集中了大量资源和决策权,因此管理层的责任不能只被理解为私人财产的保值增值。德鲁克说,管理者应针对每个政策和决定自问,如果产业里所有人都这么做,大众会有什么反应;如果企业把问题丢给别人,最后会被迫接受政府的解决方案。

这个框架放到 2026年特别贴切。Johnson 说国会不主导,并不代表公共压力消失。恰恰相反,若前沿公司无法自我约束,事故、舆论和选举政治会把更粗糙的规则推回来。德鲁克最有用的地方在于,他把安全视为企业保住自主权的前置投资,而不是外部强加的道德义务。

在这里,安全不是道德表态,是保住经营自主权的制度投资。企业越想把判断权留在内部,就越要证明这些判断有流程、权限和责任承接。

书中“社会影响和社会问题”一章还区分了两类责任:企业活动造成的不良影响必须治理;企业无法解决的社会退化问题则要谨慎承担,因为责任必须与职权匹配。这提醒我们,AI 公司要为模型和 Agent 的直接影响负责,却不能宣称替社会解决全部政治冲突。

解释力的边界:德鲁克分析的是二十世纪工业公司、员工、社区和政府的关系。AI 公司的风险不只发生在工厂边界内,模型能力、开源生态和跨境竞争使职权与影响的边界更模糊。把他的框架直接搬到前沿模型,需要先说明公司对哪些直接影响拥有实际控制权。

没有规则时,承诺就是策略

《博弈论》第一章把规则、策略和收益分开:规则限定参与者能做什么,策略是参与者在规则内的完整计划,收益由规则和选择共同决定。2026年的 AI 安全博弈麻烦在于,联邦层面的规则暂时缺位,公司声明、审计安排和客户合同都变成策略行动,而不是合规结果。

这解释了为什么承诺必须可验证。Amodei 的嵌入式评估者、OpenAI 的上市推迟、Hugging Face 的加入意愿,本质上都是在发出信号。可信信号要具备三个条件:事先可观察、事后可追责、违反有成本。否则安全声明只是低成本的协调话术,竞争对手既不能判断真假,也无法据此调整自己的节奏。

分界线不是谁先表态,是谁能让承诺被观察。持续访问、披露规则和违约后果,比一份原则声明更能约束训练与发布节奏。

博弈论的第二个提醒是信息结构。若只有模型公司掌握事故和内部评估数据,外部监管者、客户和公众都处在信息弱势。嵌入式评估者的作用就是改变信息结构,让外部参与者获得持续观察位置。与其说这是慈善,不如说是为了让承诺能被定价。

解释力的边界:教科书中的零和二人博弈高度抽象,AI 安全涉及公司、政府、客户、研究者、开源社区和跨境竞争者的重复博弈。经典模型能帮助我们区分规则与策略、承诺与信号,却不能直接推出具体治理制度。这里的用法是概念工具,不是求解均衡。

别把问题简化成末日或炒作

《事实》第一章批评“一分为二”的本能:人们习惯把世界切成对立两极,并想象中间存在巨大鸿沟。AI 讨论最常见的切法,一边是末日风险,另一边是资本炒作;一边是安全派,另一边是加速派。Johnson 说不要恐慌,Amodei 说要减速,Sacks 说你们本来就自由,这三种姿态并不落在同一个二维坐标上。

更准确的看法是把安全拆成多个可检验命题:Agent 是否具备越权行动能力,评估者是否有权限发现问题,公司是否有能力推迟发布,客户是否有合同救济,资本市场是否把治理差异计入估值。拆开后,有些判断会偏风险,有些会偏商业,不必先站队末日或泡沫。

这里的任务不是替读者选边,是把大题拆小。每一层都有自己的证据、责任主体和失败方式,混在一起才会显得无解。

这也是反对立法缺位后陷入虚无的理由。没有联邦主导法,不代表没有约束。董事会、审计、激励、客户合同和估值折扣都是制度,只是执行主体从公共机构转向私人治理。它们可能不够民主,也可能不够一致,但绝不是不存在。

解释力的边界:《事实》处理的是统计数据和认知偏误,帮助修正二元叙事,却不能判断 AI 风险本身的大小。风险概率、能力阈值和事故后果仍需要技术评估与事故证据。这里借用的是拆解二元直觉的方法,不是用一般认知偏误否定严肃风险。

三种情景

基准情景:2026年到2027年,美国仍无全面的联邦 AI 安全法。主要公司建立外部评估者机制,客户合同增加安全和事故条款,董事会披露仍不完整。安全不会让训练停止,但会改变发布节奏和融资披露,治理能力开始影响估值。

上行情景:嵌入式评估者获得稳定权限,评估指标和事故披露形成行业惯例;主要买家把安全条款写进采购标准;国会转向信息披露、责任边界和审计权,而不是直接管制技术路线。公司治理先走,公共规则后补,形成较连续的制度演进。

下行情景:安全承诺停留为宣传,评估者没有数据权限;竞争压力和中国议题重新压倒治理讨论;事故披露依赖外部研究者,公司间相互指责。2027年以后,公众信任下降,政治系统用更粗糙的禁令、责任规则或平台责任制度回补,企业自主权反而收窄。

什么信号说明本文错了

如果未来一年美国通过了一部真正主导训练节奏、审计权限和事故披露的联邦法,那么“监管不接盘”的判断就过早。如果 OpenAI、Anthropic 等公司在没有外部评估者和客户合同压力的情况下仍系统性推迟前沿模型,并且把安全指标详细披露,那么“公司治理先于公共规则”的路径也会比本文预期更自律。

反过来,如果到2027年,安全只出现在发布会和访谈中,董事会不承担责任,评估者没有长期权限,采购合同不写事故救济,IPO 或融资文件也不解释安全风险,那么本文仍高估了公司治理的成熟度。可观察的分界不在于谁喊安全,在于谁把安全变成权限、成本和责任。

参考资料

  1. Axios, Speaker Johnson says Congress won’t lead the charge on regulating AI safety, 2026年9月13日.
  2. Politico via Techmeme, Johnson says tech companies must take primary responsibility for AI safety, 2026年9月13日.
  3. David Sacks on X via Techmeme, Anthropic and OpenAI are already free to “pace the frontier”, 2026年9月13日.
  4. Dario Amodei, We Must Pace the Frontier, 2026年9月12日.
  5. Politico, Elon Musk backs Dario Amodei’s arguments about pacing the frontier, saying “Dario is right”, 2026年9月12日.
  6. Fortune, Sam Altman confirms OpenAI won’t go public this year, 2026年9月12日.
  7. Clem Delangue on X via Techmeme, Hugging Face says its Open Alignment Initiative seeks to join the embedded evaluators program, 2026年9月12日.
  8. Peter F. Drucker, The Essential Drucker, 管理层的责任、社会影响和社会问题章节.
  9. 《博弈论》,第一章“策略博弈:了解对手,战而胜之”.
  10. Hans Rosling, Factfulness, 第一章“一分为二”.