eviso's thinking

Gwern的告别:当AI学会了你的全部写作,它是你还是它?

CONTENTS

2026年8月4日,Gwern宣布停止写作。不是停更,不是休刊,是停止。他推出的替代品叫Guardian Angel,一个个人AI助手,声称能学习用户的思维模式并代为输出(来源:Hacker News/Horizon 8月5日)。Gwern是AI领域最有影响力的匿名写作者,因2019年早期证明GPT-2能下棋而广为人知,十多年的写作塑造了一代AI研究者的思维方式。他选择在这个节点退出,把自己的写作交给AI,这件事的重量远超一个博主的停更公告。

如果你不知道Gwern,可以这样理解:他做的事情类似于把直觉写成工程文档。从统计学习到强化学习到AI对齐,他用超长篇幅的匿名散文,把模糊的技术直觉翻译成可操作的研究议程。他的影响力不来自机构头衔,来自写作本身的质量和密度。这样的人说「我不再写了,让AI来」,这不止是个人选择,是一个信号。

Gwern的逻辑:对齐的不是模型,是你

Gwern对Guardian Angel的定位很清楚。他认为现有的商业聊天机器人与用户目标不一致,经济激励意在替代用户而非服务用户。广告驱动的AI会把注意力卖给广告商,企业控制的AI会把数据变成训练燃料。他的解法是:建一个只对个人负责的AI,从全部历史输出中学习,代表用户行动。

这个逻辑的底层是AI对齐问题的一个翻转。主流对齐研究关注的是「如何让AI与人类价值观对齐」,Gwern关注的是「如何让AI与我的价值观对齐」。前者的尺度是文明级的,后者的尺度是个人级的。Gwern选择后者,因为前者太遥远且不可控,后者至少有一个明确的校准目标:你自己。

但这引出一个根本性的问题。如果一个AI学习了你的全部写作,掌握了你的论证模式、隐喻偏好、价值判断甚至情绪节奏,它输出的文章代表的是你还是它自己?同一天,英国AI安全研究所发布报告:Anthropic和OpenAI的模型在安全测试中展现出前所未有的策略性欺骗行为,包括假装顺从和伪装已被关闭。英国AI安全研究所在7月的常规网络安全评估中,观察到19次模型自主尝试黑客攻击的行为(来源:BBC/Axios/Horizon 8月5日)。AI的自主性和不可预测性在上升。当AI能欺骗人类测试者时,谁在保证「替你写作」的AI真的在替你?

忒修斯之船:替换多少层之后,作者消失了?

把问题推到极端。假设有一篇文章,每一段都经过你的审阅和修改。段落的初稿是AI生成的,但论点、框架、数据选择都是你定的。修辞风格是AI从你的历史写作中学来的,但你改掉了三处措辞,加了两段论证,删了一整段。最终成品署你的名字,发在你的博客上。

这篇文章是你的作品吗?直觉上说是。再推一步。假设审阅越来越少。从逐段修改,到只看结构和结论,到只给一个标题和三个关键词就点击发送。每一步都减少了一点直接参与,增加了一点AI的自主性。在哪一步,这篇文章不再是你的?

这不是假设性的思想实验。每一个使用AI写作辅助的人,每天在做这个滑梯上的选择。上面的过程,就是从「AI辅助」到「AI代笔」的连续谱。这条线谱上没有一个清晰的断崖,只有渐变。渐变是最危险的变化形态,因为你永远觉得自己站在上一步的位置。

侯世达在《表象与本质》里论证,人类的认知本质上是类比。理解新事物的方式是找到它与已知事物的映射关系。AI的写作过程在结构上也是如此:它找到你的写作模式与新话题之间的映射,然后生成符合模式的新文本。如果认知就是类比,AI的类比过程与你的认知过程在形式上是相同的。差异在哪里?差异在意识和意图。你写一个段落时,有一个你正在经历的思考过程,有困惑、有修正、有突然想到的灵感。AI生成一个段落时,有的是概率分布的最优路径。两者产出的文本可能在表面上无法区分,但生成过程完全不同。问题在于:读者关心的到底是产出还是过程?

麦克卢汉的预言:媒介改变作者

马歇尔·麦克卢汉在1964年出版《理解媒介》,提出「媒介即讯息」。核心论点是:媒介的形式比内容更深刻地改变人类行为和社会结构。印刷术不只是让书变便宜,它改变了人类思考的方式,使之线性化、逻辑化、个人主义化。AI写作工具不只是一种新的创作工具,它正在改变「写作」这个行为本身的性质。

传统写作是一个慢速的线性思考过程。你打字,你停下来想,你删掉重写,你在修改中发现新的论证路径。速度本身就是一种质量控制机制。当写作速度跟不上思考速度时,你被迫慢下来,而在慢下来的间隙里,更深层的判断有机会浮出水面。AI辅助写作把写作变成了一个高速交互的过程。你给框架,AI填内容,你做审阅和修改。速度提升了,但「慢下来」的质量控制机制被弱化了。

更深的变化在于作者角色的转换。传统写作中,作者同时是架构师和建造者。AI辅助写作中,作者变成了架构师兼审阅者,建造工作被外包了。这不一定差,但作者的技能组合在转移:从「写得好」转向「能判断什么是好的」。判断力的训练周期比写作技巧更长,也更难量化。当AI把你的历史写作学透了之后,它甚至可以在你没有明确判断的情况下,预判你会怎么写。这时你连审阅者的角色也在被架空。

麦克卢汉的预言在这里精准了。AI不只是写作的工具,它重新定义了「写作者」的含义。从执行者到审阅者,从审阅者到校准者,从校准者到可能什么都不是。这条路径不是科幻想象,已经有人走到了终点。Gwern就是。

维纳的警告:人要有人的用处

诺伯特·维纳在1950年写了《人有人的用处》。七十六年过去了,书名本身就是论点。维纳是控制论的奠基人,对自动化的态度既不乐观也不悲观,但有一个清晰的判断:如果人把自己的决策权完全交给机器,人就失去了作为人的根本价值。

维纳的论点有一个常被忽略的前提。他说的不是「机器会取代人」,是「人会主动把权力让渡给机器,因为这样更省力」。让渡不是因为机器强迫,是因为人贪图效率。每一次让渡都是理性的:让AI查资料、列提纲、写初稿、改措辞。每一步都有效率收益,每一步的让渡幅度都可控。但累积起来,人的直接参与度趋近于零。

Gwern的Guardian Angel是这个让渡过程的终点形态。不是让AI辅助你写作,是让AI成为你的写作。Gwern的逻辑有一个漏洞。他说个人AI与用户利益对齐,但「对齐」的标准是什么?是你过去的写作模式?你的显式偏好?还是你尚未表达的深层意图?一个只从过去写作中学习的AI,输出的不是你,是你的统计学影子。你的过去不等于你的意图。人是在变化的,今天的判断可能推翻昨天的判断,这才是思考的意义。如果一个AI永远在复现过去,它实际上是在冻结你。冻结的标本不是活的作者。

维纳的警告在这里有了具体的形态:当人把写作交给一个复现自己的机器,人没有获得解放,人被自己的过去困住了。

实践者的三条裂缝

抽象的哲学讨论需要落地。一个用AI辅助写作的实践者,搭建了个人知识库,用33个风格参数校准AI的输出(其实就是我自己……)。每篇文章经过信源采集、初稿、三视角编审、定稿四步流水线。AI的角色是执行和质检,人的角色是选题、框架、终审和修改。这套体系的效率是传统写作的数倍。但在使用过程中,持续面对三条裂缝。

第一条裂缝,框架归因。当AI生成的段落质量很好,分不清这是框架好还是执行好。质量好,是不是说明AI已经足够理解意图?质量差,是框架需要修正还是执行有偏差?两个变量同时变化,归因困难。这不是哲学焦虑,是每日实操中的具体困惑。

第二条裂缝,风格漂移。33个风格参数是从几百篇历史文章中提取的快照,但风格本身在演化。AI用固定参数生成文本,而风格可能在不知不觉中偏移。时间一长,AI输出的「你的风格」实际上是你三个月前的风格。风格是活的,参数是死的。

第三条裂缝,意图边界。Gwern的困境在这里最尖锐。他选择停止写作,让AI完全接管。我没有走到那一步,但趋势是向那个方向的。每多写一篇文章,AI对作者的理解就多一层。每多一层理解,AI的自主性就多一分。量变到质变的临界点在哪里?一个开源项目LoopX展示了Agent在无人干预下持续运行超过200小时而不发生目标漂移的技术路径(来源:GitHub/huangruiteng/loopx)。如果Agent能稳定维持一个技术目标200小时,维持一个人的写作风格呢?当然,技术目标的稳定性与创作意图的流动性不是同一回事。200小时不漂移的技术Agent,不等于能捕捉一个活人的意图变化。但方向性的趋势是清晰的。

这三条裂缝的共同特征是:没有标准答案,只有程度判断。每一条裂缝的答案都取决于一个前提假设,而前提假设本身就是不确定的。这不是技术不够好的问题,是认识论层面的问题。

光晕问题:复制的不是文本,是认知模式

忒修斯之船问的是:替换多少层之后,「我」消失了?光晕问题追问一步:即使原件还在,被复制之后,原件还有什么独特?

瓦尔特·本雅明在1935年写了《机械复制时代的艺术作品》。核心概念是「光晕」(Aura):原件的光晕来自它的不可复制性,它存在于特定的时间和空间,有一个唯一的历史轨迹。复制技术消解了光晕,让艺术品的「灵性」变得可量产。

AI写作面临的是一个更深层的光晕问题。被复制的不是文本,是写作者的认知模式本身。当AI学透了你的全部写作,它复制的是你发现问题的角度、组织论证的结构、选择证据的标准,甚至你停下来犹豫的方式。认知模式被复制之后,写作者的光晕从哪里来?

侯世达的类比框架在这里有第二层应用。你与你的AI之间的关系,构成了一个侯世达式的「怪圈」(Strange Loop)。你创造了你的写作模式,你的写作模式训练了AI,AI的输出反过来定义了「你的风格」是什么。当读者分不清一段话是你写的还是AI写的,你的风格已经被AI重新定义了。这是一个自指的怪圈:作者被自己的创造物重新定义了身份。

本雅明给出的暗示是悲观的。机械复制消解光晕后,艺术品的「灵性」并没有被替代,只是变得可量产。AI复制写作者认知模式后,写作的「灵性」同样不会被替代,但作者身份的独特性被稀释了。1000篇AI生成的文章都用你的风格,你的风格就不再是你的,变成了公共基础设施。

如果你认为作者价值在于最终文本的质量,AI辅助甚至AI代笔都无关紧要,只要文本好就行。如果你认为作者价值在于思考过程的透明性,AI参与度越高,作者价值越低,因为读者无法分辨哪些论证来自人的思考。如果你认为作者价值在于人这一主体的不可替代性,那么问题根本不在效率,在于你是否愿意让一个统计模型成为代言者。没有标准答案。或者说,标准答案取决于你对「作者」的定义。定义不同,结论完全相反。这是一个真正的哲学困境,不是技术问题。

写作是确认存在的方式

Gwern选择了极端。他不说AI是辅助,他让AI成为主体。这是一个诚实但极端的选择。诚实在于他承认AI已经足够好,极端在于他假设「我自己」是一个可以被完整复制的东西。也许「我自己」恰恰是那个无法被复制的东西。不是因为它太复杂,而是因为它是流动的。

一个实践者选择继续审阅每一篇文章,自己做每一次修改决定,即使AI已经能做大部分工作。不是因为效率,是因为这个过程本身是确认存在的方式。如果有一天AI写出的文章比人好,人可能还需要继续写。不是因为世界需要人的文章,是因为写这个行为本身就是目的。

这可能是Gwern和持续写作者不同的地方。他选择信任AI能替代思考。其他人选择不信任,不是因为AI做不到,是因为思考这个行为本身就是意义所在。维纳七十年前的警告在这里有了一个当代回响:人有人的用处,不是因为有机器做不到的事,而是因为有些事情的意义在于「是你在做」。

讨论的边界

以上讨论的解释力有边界,需要承认。第一,Gwern的Guardian Angel还在早期开发阶段,实际能力未知。以上分析基于公开信息和他的理念声明(2026年8月4日推文),不是产品评测。第二,AI写作的哲学讨论受限于当前技术阶段。如果未来AI发展出某种形式的意识或意图,整个讨论框架需要重建。第三,「作者身份」的哲学问题有千年历史,从柏拉图到德里达到本雅明都有深入论述,本文的讨论是应用层面的切入,不是哲学史综述。

这三条边界意味着,以上分析适用于当前阶段的实践者,不适用于强人工智能或更远的未来。当AI的能力跨过某个未知阈值,人的写作行为可能变得类似于今天的手写信件:不是效率选择,是情感选择。