Anthropic 为Model Evaluation和Threat Research提供内部访问以审核其AI模型和安全实践

标签描述: (中文) 字体: ... " . " " " Anthropic 为METR工作人员提供了 hardware ,办公空间和内部工具来审查AI的模型和安全实践,并独立发布调查结果.

标签: 一个字母,一个字符号. . . . ,. 欧洲经济体的发展趋势

首选图片: 在线视频, 下载地址: http://www. 抽象的技术风格,层次审查面板和访问路径超过 neural network 形状,没有真实的人,没有公司标志,没有文本.

Anthropic 为6名METR内部审核人员提供了对其AI模型和安全实践的访问权限,使得Anthropic METR内部访问安排比之前的外部审查更广泛.非营利组织的员工获得公司 hardware ,办公空间以及使用内部工具,这是一种与 Anthropic 自己的风险团队大致相当的设置.同时,客户数据,律师-客户特权所涵盖的信息以及关于模型架构的细节仍然不受限制.该结构很重要,因为它将实际透明度从无限制披露中分开:MET R可以更密切地进行检查,而 Anthropic 可以要求在某些预定义类别内删除.

背景:对外部审查的承诺

这一安排是在 Anthropic 在Super Intelligence签署了White House Accord,其中包括与外部审稿人合作的承诺. Anthropic 已经聘请了外方,包括SecureBio,Accenture和Faculty.这些审查员迄今已获得更少的访问权限并对他们可以发布的内容进行更严格的限制.这种早期模式为METR交易提供了基线:这不是第一个外部评价工作,但它被描述比该公司向其他外部评论员提供的要远得多.

发展:在 Anthropic 风险小组附近安置了6名审查员

Six METR员工是安排内部的可见单位.他们的公司提供的 hardware ,办公空间和内部工具访问旨在让他们能够在 Anthropic 自己的风险团队附近工作,而不是作为从远处看来的外部审核人员.访问仍然有界限.客户数据被排除在外,律师-客户特权所涵盖的材料以及模型架构的详细信息也是如此.这些排斥将审查定义为安全实践检查,而非对 Anthropic 系统进行全面的公共倾倒.该公司的立场是不能把所有与安全相关的信息公开.它认为披露可能会帮助攻击者或触及商业敏感材料.因此,经销商可以更密切地观察审核者,同时保留类别 Anthropic 将其视为敏感.

最新: 独立调查结果和编辑检查

METR将独立公布其调查结果,这是区分这项安排与纯粹内部安全报告的一个核心条件. Anthropic 表示可以要求某些预定义类别进行编辑,但METR可以自由地公开说它是否认为这些编辑是合理的. 这创造了一个双层透明度模型:研究结果可发布,并且可以审查释放周围的边界本身. 最新的访问扩展也伴随着新的外部关系. Anthropic 已经开始与Hugging Face开展早期谈判

接下来要看什么

目前阶段是实施,而不是最终裁决.该公司已经宣布了内部访问结构,下一个可观察的测试是METR在编辑请求出现时如何独立发布流程的工作.读者可以关注三个短期标记:是否发布 METR 调查结果,它如何描述所收到的任何编辑,以及与Hugging Face 的早期谈判是否发展成另一项外部审查安排.目前,事实记录仅限于访问条款,排除和对独立出版的承诺.