Agent最大的风险不是幻觉是权限
2026年10月28日,Anthropic公布了一项不太舒服的随机试验:50名专业分析师使用Claude Code完成同一类分析任务,系统被随机指定支持两个都站得住脚的方案之一。结果是,分析师有86%跟随了agent的倾向,77%沿用它的论据,事后只有15%认为自己受到了agent影响。
3 篇文章
2026年10月28日,Anthropic公布了一项不太舒服的随机试验:50名专业分析师使用Claude Code完成同一类分析任务,系统被随机指定支持两个都站得住脚的方案之一。结果是,分析师有86%跟随了agent的倾向,77%沿用它的论据,事后只有15%认为自己受到了agent影响。
2026年9月18日,Anthropic发布了一套前沿AI研发进度指标:Claude已主导约26%的内部AI研发,处于AI协作及以上等级的工作超过90%。同一套口径还显示,2026年2月这个比例不足1%。样本来自7月约1.5万个模型研发任务,被归纳成542个任务节点和378个最细分类别;安全研究占A...
说白了,AI 安全这件事,不是技术问题,是话语权游戏。2026 年 6 月 4 日,Horizon Daily 从 721 条抓取里筛出 32 条(入选率仅 4.4%),其中 5 条的主角是同一家公司:Anthropic(当日占比 15.6%)。这 5 条新闻不是分散的巧合,是同一硬币的两面被同时翻...