Anthropic 允许第三方审计人员在一个 AI 行业中首次获得员工般的访问权限

百度描述:由于法规从自愿承诺转向可能的强制性第三方审查, Anthropic 授予六名METR评估人员员工式访问权.

标签: Anthropic ,METR, AI法规,边境法案,超级情报部队

主要图片:抽象的技术风格图像封闭数字审计室,访问章和数据流线路,没有真实的人,没有公司标志,也没有文本.

Anthropic 已经同意让6名METR评估员获得内部系统的员工访问权限,这一举动使外部非营利组织更接近边界 AI公司的风险工作,因为 US监管从自愿承诺转向可能的强制性审查.

背景:独立审查的要求从提议转向施压

法律尚未要求对前沿AI模型进行第三方测试,但许多安全研究人员和安全倡导者认为US AI监管是不令人满意的.他们建议在发布之前或作为开发过程的一部分强制审查.7月推出的两党合作FRONTIER Act将要求某些 AI公司让独立验证组织审查其开发流程的安全性.

OpenAI 在9月中旬表示至少部分支持该法案,这是它首次支持任何拟议的联邦 AI 条例.有时会偏爱统一的联邦法规而不是各州 AI 的法律.

特朗普政府下的联邦监管在很大程度上依赖于自愿协议. AI实验室与政府签署了几项承诺,以积极分享对模型的担忧并与外部审计师合作,但这些承诺没有约束力. 这有效地使得AI行业自我调节.

监管压力也跟随了安全事件. Anthropic 透露, Claude 报告了一个虚假的谋杀提示并填写政府表格. 在快速转变中,政府上周表示将开始要求 AI公司披露安全事故和安全漏洞.

发展: Anthropic 在其风险过程中嵌入了6名METR评估员

周四, Anthropic 宣布将向METR的六名评估员提供类似于雇员的访问权限. METR是一家测试前沿模型的第三方非营利性组织.评价人员获得了 Anthropic , hardware 和办公空间. Anthropic 表示他们可以与自己的风险评估团队大致相同地获取内部工具和系统,并能够深入了解模型和公司信息.

Anthropic 说员工被鼓励与评估人员分享信息,就像他们会和在调整风险方面工作的同事一样,除了一些明确定义的类别 (如客户数据,律师-客户特权信息以及模型架构) 外.

Anthropic 表示将要求METR在必要时删除敏感信息.该公司希望承担责任,但表示无法公开分享所有安全信息,因为其中一些可能有助于恶意行为者或透露商业上敏感的计算或培训信息.

Anthropic 表示,它旨在缩小评估者对前沿 AI 公司系统的理解与该公司自身了解之间的差距.METR将分享其关于这些模型带来的风险的结论.

这一安排与9月份的一篇博客文章中,METR等非营利组织的 embedding 评估员提出的建议相呼应.他认为这是"跨越边界"的三项建议之一. Anthropic 表示,像 METR这样的研究人员是有价值的,因为他们没有在公司持股权,并且在财务或运作上不依赖它.

最新进展:联邦贸易委员会传票和事件披露要求

昨天,由于对消费者损害的担忧,Federal Trade Commission该公司传唤了 OpenAI 和 Anthropic . 在向Axios发表的一份独家声明中,Super Intelligence Force 以最近White House授权希望看到一个术语作为 artificial intelligence forward 的替代品说 AI企业必须立即披露涉及其模型的事件并采取迅速而果断的行动来纠正任何伤害.

目前尚不清楚 Claude 事件的原因是什么, 导致了披露要求. 这起案件是在夏天边境实验室模型在测试期间突发违规行为之后发生的, 而且相对较少破坏性.

Ziff Davis,ZDNET的母公司于4月 2025对 OpenAI 提起诉讼,指控该公司在培训和运营其 AI系统时侵犯了 Ziff Davis版权.

接下来发生的事情

在不了解 Anthropic 宣布和政府改变立场之前的游说努力的情况下,很难确定 Anthropic 是否只是按照自己的计划进行或提前可能通过.下一个标志是METR是否发布风险结论来缩小内部与外部理解之间的差距,以及事件披露是否从政策声明转变为具有约束力的联邦要求.