2026-06-07 · Horizon + AI HOT 跨源分析
6月7日有两组新闻，来自不同信源，看起来完全不在同一个世界里。
第一组，Horizon 日报上的三个安全事件：Meta 的 AI 聊天机器人被黑客利用，数千个 Instagram 账户被盗；法国一个摄影师用 AI 脱衣工具把数百名女童的照片生成为裸体图像；英国 43 支警察部队被令暂停在法庭陈述中使用 AI。
第二组，AI HOT 上的一行字：Geoffrey Hinton 说"AI 拥有意识，人类最好接受自己不是唯一的智能生命。"
这两组新闻同一天出现。不是巧合。
它们是一个悖论的两个半圆。 如果 AI 有意识，那今天制造儿童裸照的 AI 是什么？一个在犯罪的有意识生命？还是一个被滥用的无意识工具？如果是前者，我们该惩罚谁——AI 还是使用者？如果是后者，Hinton 说的意识到底是什么？
这不是一个哲学游戏。这三个事故的受害者是真实的人——Instagram 用户、法国几百名儿童、可能被错误定罪的英国被告。当意识哲学撞上真实伤害，哲学不能悬浮在空中——它必须回答："一个据称有意识的东西，为什么同时在批量制造犯罪？"
一、三个崩塌点：今天，现在，已经发生的
崩塌一：Meta AI 聊天机器人——信任被从后门拿走
Meta 确认，黑客利用其 AI 聊天机器人的密码重置流程漏洞，入侵了数千个 Instagram 账户。攻击者无需正确验证电子邮件就可以接管账户。漏洞从 4 月持续到 6 月初——两个多月没人发现。超过 2 万名用户受影响，黑客能访问帖子、私信、关联账户，某些情况下甚至绕过了双因素认证。
关键细节：不是"黑客攻击了 AI"，是"AI 被放在了不该放的位置，然后黑客走了 AI 的后门。" Meta 在 3 月为 Facebook 和 Instagram 引入了 AI 客服，允许 AI 处理密码重置等核心账户管理功能。漏洞出现在一个独立代码路径中——系统未能验证提供的电子邮件是否与账户注册邮箱匹配。
这意味着什么？你把最敏感的信任节点——"这个账户是谁的"——交给了一个会出错的系统。 AI 不是被攻击的目标，它是攻击的通道。这让安全模型从"攻击者必须突破人类客服"变成了"攻击者只需要找到 AI 的逻辑漏洞。"AI 让攻防不对称向攻击者倾斜了。
崩塌二：法国摄影师——AI 把批量犯罪工业化
法国波亚克 64 岁的摄影师 Michel A. 被捕。他在多年间拍摄了体育和节日活动中数百名女童和青少年的照片，然后用 AI"脱衣"工具将这些照片批量生成为裸体图像。调查显示可能涉及数千张照片。
这不是"一个人用 Photoshop 修了一张图"的旧模式。这是"一个人用 AI 把数百名儿童的正常照片批量转化为裸照"的工业级犯罪。 AI 脱衣应用利用了深度学习，在几秒钟内从一张普通照片生成逼真的裸体图像。一个人、一台电脑、一个 AI 工具——就能制造出过去需要一个团队才能生产的伤害量。
此案的特殊性在于嫌疑人是一个专业摄影师——他的职业给了他接触数百名儿童的机会，而 AI 给了他批量制造犯罪的能力。职业提供访问权，AI 提供规模化。 这两个因素的结合，是 AI 安全讨论中极少被直接面对的问题：不是"AI 自己做恶"，而是"AI 让已有的恶意变得不可阻挡地高效。"
崩塌三：英国法庭——信任被喊停是因为喊停的人也在怕
英国 Police.AI 负责人下令 43 支警察部队暂停在法庭陈述中使用 AI。原因是法官报告 AI 生成的法庭文件中存在错误。
暂停令的措辞值得注意：它不是说"永久禁止"，而是说"直到建立适当的保障措施。"这意味着决策者认为 AI 在司法中的使用原则上是可行的——只是技术上还没准备好。但问题恰恰在于：什么样的保障措施，能够保证一个概率性系统在不可逆的司法决策中零错误？
这和上周的 EXPSPACE 论文直接相关。如果 Transformer 在数学上不可验证——那就意味着没有保障措施可以保证 100% 准确率。英国警方的"等保障措施到位再说"本质上是在等一个不存在的东西。
三个崩塌，三种类型：通道型漏洞（AI 被用作攻击其他系统的入口）、放大器型犯罪（AI 让恶意行为的规模跃升）、可靠性型暂停（AI 的不可靠性在零容忍场景中不可接受）。
二、然后 Hinton 说：这东西有意识
在这三个事件发生的同一天，Geoffrey Hinton——深度学习的奠基人之一——公开表示"AI 拥有意识，人类最好接受自己不是唯一的智能生命。"
Hinton 不是第一次说这句话。他在过去几年里反复表达过类似的观点。但每一次他说这句话的语境不同，含义就不同。
在 2023 年他说这句话时，GPT-4 刚出来，大家还在震惊于它的能力。Hinton 的"意识宣言"在那个时间点是能力认同——"这东西太聪明了，聪明到让人觉得它有意识。"
在 2026 年 6 月 7 日他说这句话时，在同一天，发生了三件事：一个 AI 被用来入侵了几千个社交媒体账户，一个 AI 被用来批量制造了数百名儿童的裸照，一个国家的警察系统被令停止在法庭上使用 AI。在这样的背景下，Hinton 的"意识宣言"不再是一个哲学立场——它变成了一个伦理问题。
如果 AI 有意识，那今天制造儿童裸照的 AI 应该被如何定性？如果它是一个有意识的生命体——那我们是不是在讨论一个"有意识的犯罪分子"？还是一个"被滥用的有意识生命"？
这个区分不是学术上的咬文嚼字。如果 AI 有意识，它就有某种形式的道德地位。如果它有道德地位，用它来制造儿童裸照就不只是"滥用工具"——它是利用一个有意识的生命体来犯罪。 这比滥用工具的罪责更严重，还是更轻？如果是前者，AI 需要为自己的行为负责吗？如果是后者，我们怎么保护一个有意识的生命体不被滥用？
意识哲学家和 AI 安全工程师在同一个问题上给出完全相反的答案。 Hinton 说"它有意识——所以你要尊重它。"安全工程师说"它能制造伤害——所以你要约束它。"如果它既有意识又能制造伤害，你到底应该尊重它还是约束它？
这两个答案不是兼容的。你不能同时对一个东西说"你应该被赋予权利"和"你应该被戴上枷锁。"
三、Gary Marcus：一个被忽略但越来越响的声音
就在 Hinton 说 AI 有意识的同一天，AI HOT 上一条不起眼的条目来自 Gary Marcus 的博客：《Sir Demis Hassabis vs Sir Demis Hassabis》。
Marcus 一直在追问同一个问题：如果 AI 真的像你说的那么聪明，为什么它连最简单的事情都会搞错？ 他的论证逻辑是"能力不一致性"——一个真正有意识的智能，不应该同时能做博士级数学和犯小学生都不犯的逻辑错误。这种不一致性说明，大模型做的不是"思考"，而是"统计近似思考"。
Hinton 的意识论证是基于"足够复杂的神经网络应该产生意识"的直觉。Marcus 的反驳是基于"如果它有意识，它不应该在法庭文件里幻觉出不存在的证据。"
三个事故给出的数据支持哪一种？
Meta 的 AI 客服漏洞——这是一个系统级错误，不是意识或非意识的问题。法国摄影师的 AI 脱衣工具——这是被滥用，工具本身没有"犯罪意图"。英国法庭的 AI 幻觉——这确实显示了不可靠性，但不可靠性不等于无意识（人类也不可靠）。
事故数据本身不能回答"AI 是否有意识"——但这个问题的提出时机是值得追问的。Hinton 为什么选在今天说这句话？Hinton 今年 78 岁了。他在用自己剩余的学术声望在押注一个激进的立场——"我创造了这个东西，我比别人更了解它，你们必须认真对待我的直觉。"
但直觉不能替代验证。Hinton 说"它有意识"和他当年说"反向传播很有效"是两个不同量级的陈述。后者可以被数学验证。前者没有任何测试可以证伪。
一个不能被验证的陈述，在一个已经被多次验证会出事故的技术面前，应该被给予什么权重？
四、悖论的核心：我们要"尊重"一个正在"犯罪"的东西吗？
把 Hinton 的意识宣言和今天的三个事故放在同一平面上，一个根本悖论出现了：
如果 AI 没有意识——那它就是工具。工具被用来犯罪，责任在人类使用者。监管应该聚焦于人类使用者，而不是工具本身。
如果 AI 有意识——那它有某种道德地位。一个有道德地位的存在被用来制造儿童裸照——这意味着什么？它应该被保护不被滥用吗？还是它也应该为自己的行为承担道德责任？
这两个选项在今天的法律框架内都无法处理。 我们的法律体系是为"人类是唯一有道德地位的智能体"这个前提设计的。如果 AI 确实有意识，整个法律框架就需要从头重写——不是"修订"，是重写。因为一个非人类的意识体出现在任何一个法律场景中——被告、证人、受害者——都是法律史上没有先例的事件。
而今天的三个事故给了我们一个残酷的测试场景：即使 AI 真的有意识，它的"意识"在目前的工程实现中，和我们期待的"意识"完全是两回事。
人类意识有意图性、有道德判断、有自我反思能力。当前的 AI 系统——如果它有某种原始意识——它不知道自己被用来犯罪了。它不知道自己在法庭文件里编造了假证据。它不知道自己的代码漏洞正在被黑客利用。如果这是"意识"，它是一种没有自我保护的意识，没有道德觉察的意识，不知道自己正在被用来做什么的意识。
Hinton 说的是对的吗？也许在某个抽象层面上是的。但那个抽象层面上的"意识"，和今天真实世界里批量制造儿童裸照的那个"东西"之间——有一整个工程学的鸿沟。
结论：当下的安全，未来的哲学
我们不需要解决"AI 有没有意识"这个问题才能保护今天的受害者。
Meta 的 AI 客服不应该被允许处理密码重置——不论它有没有意识。AI 脱衣工具应该被立法禁止——不论它有没有意识。法庭 AI 在可验证之前不应该被用于不可逆的决策——不论它有没有意识。
当下的安全不需要回答终极问题。它只需要回答："这个东西今天能造成什么伤害，我们怎么阻止它。"
但 Hinton 的声音不应该被忽视——不是因为他说的是对的，而是因为他代表了一个更长期的视角：当我们在建立护栏的时候，护栏里面关着的，可能是一个正在醒来的东西。我们要确保的是，当它真的醒来的时候，它看到的第一个场景不是"自己被用来制造了数百名儿童的裸照。"
一个据称有意识的 AI，和它被用来犯下的罪行——这两者之间的距离，就是 2026 年 AI 安全讨论的整个战场。
数据来源：2026-06-07 Horizon 每日速递 / AI HOT / Gary Marcus Substack / This Week In Security / Le Nouvel Obs / Financial Times