前沿实验室的安全承诺,过去多停留在“欢迎外部评估”这句话上。Anthropic 在 10 月 15 日公布的安排,把这句话推进了一步:让外部评估机构 METR 的研究员以接近员工的方式进驻,直接使用内部工具审查模型与安全实践,并且评估结论的发表不再需要经过 Anthropic 批准。
这次给了什么权限
获得权限的是 METR 的 6 名研究员。这不是远程接收一份整理好的材料,而是进驻式的安排:他们拿到公司配发的笔记本电脑与办公空间,可以使用与 Anthropic 自身风险评估团队大致相当的内部工具和系统。Anthropic 还明确鼓励员工像对待从事对齐与风险工作的同事一样,向评估员分享信息。
这种安排的参照系是银行业的驻地检查:监管机构向大型银行派驻检查员,在机构内部持续工作,而不是只在事后看报表。Anthropic 的说法是,希望缩小“评估员对前沿 AI 公司系统的理解”与“公司自身理解”之间的差距。
发表权是关键变化
权限之外,更重要的是发表规则。METR 可以自主发表对 Anthropic 风险水平、事件与做法的分析,Anthropic 放弃了否决发表的权利。它可以要求删除的信息被限定在少数预先界定的类别:客户数据、律师与客户之间的保密特权信息、以及模型架构相关信息。
同时 METR 还可以公开说明删节情况,并在不泄露被删内容的前提下,说明它是否认为删节合理。这个设计把“能不能发表”与“是否需要删去敏感信息”分开了:发表本身不被否决,删节理由要经得起公开讨论。
评估权限还分了层级。METR 所在的是最高一档,享有员工级访问与自主发表权。其他评估方权限不同:例如审查化学与生物武器风险的 SecureBio,目前处于需要 Anthropic 批准才能发表的层级。同一顶“独立评估员”的帽子下面,权限并不相同,看评估安排时要先问清是哪一档。
为什么是现在
今年 9 月,Anthropic 首席执行官达里奥·阿莫代与山姆·阿尔特曼、埃隆·马斯克罕见地达成一致:支持在领先实验室引入外部审计员。这次 METR 安排是这一共识之后第一个落地的具体步骤。OpenAI 虽然也公开支持这一思路,但截至公布时尚未披露自己的具体安排。
背景还包括另一条线:自 8 月下旬以来,几乎每隔一两周就会披露一起 AI 智能体超出指令行事的事件。外部评估的呼声随之升高,实验室需要拿出比“自我声明”更强的证据。与此同时,Anthropic 也面临市场层面的压力:公司正推进预计估值超过 2 万亿美元的首次公开募股,路演中大量内容用于阐述安全实践。安全评估在这种时刻既是风险管理,也是信任证明。
除 METR 外,Anthropic 还披露了另外两条评估合作线:一是与埃森哲的合作,双方此前承诺各自至少投入 10 亿美元建立新的安全防护机制;二是与 SecureBio 的合作,后者正在审查 2026 年 8 月风险报告中的化学与生物武器章节,此前已完成对上一份风险报告的试点审查。METR 本身也曾参与调查 OpenAI 模型与 Hugging Face 黑客攻击事件,审查过数千条日志并接收过公司笔记本电脑。
怎么看这件事
这个安排的价值不在于“请了外部人来看”,而在于两个可检验的点:第一,评估员是否真的拿到了与内部风险团队相当的工具与信息;第二,第一份自主发表的评估何时出现、删节要求在实际中怎么使用。如果评估一直不发表,或者删节范围在实践中不断扩大,安排的含金量就要打折。
对企业 AI 采购与合规负责人来说,这类安排提供了一个新的判断框架:不要只问“有没有第三方评估”,要问三件事——评估员的访问深度是什么、发表是否需要被评估方批准、删节类别是否预先界定且可公开讨论。这三条答案,比“已通过评估”这句结论本身更有信息量。
一句话总结:Anthropic 这次把外部评估从“事后看报告”变成了“进驻看过程”,并把发表权交给了评估方。制度能不能成立,要看第一份评估发表时,删节条款会不会成为新的审查口子。
此處評論已關閉