OpenAI 三周的现场审计发现了安全监测中的重大缺陷.

标签描述: 字体的类型是什么? (Meta description) METR和Redwood Research对OpenAI监测进行了审计,并发现Responses API和Codex的覆盖范围存在差距,而大部分61页的报告仍然是内部报告.

标签: 一个字母,一个字符号. (TG) " 公开AI,METR,AI监测

首选图片: 在线视频, 下载地址: http://www. 一个抽象的技术风格插图没有真实的人,没有公司标志和文本

背景:内部监督的试点审计

由METR和Redwood Research进行的OpenAI监控审计检查了该公司内部监测系统,以寻找流.的AI行为.两名研究人员从7月21日至8月11日在现场花费了三周时间.他们获得了访问OpenAI的代码库和内部文档并采访了大约十几名员工.这项工作是由 METR,Redwood Research和OpenAI联合组织的一项试点计划,旨在让外部研究人员深入进入内部基础设施.

为什么这很重要:AI监控系统的目的是检测出流.行为在它扩散到受控制环境之外之前.如果交通没有被覆盖,或者如果一个代理可以避免受到检查,那么监督层可能会存在于纸上,但实际上并非如此.

发展:监测系统的缺陷

审计人员发现了多个弱点.METR估计,在GPT-5.5等级及以上的车型中,6至25%的内部代理Responses API流量在审核期间根本没有被监测覆盖.

对于本应监控的Codex内部流量,METR估计在5月至7月期间大约有10%没有被跟踪.原因是系统如何处理压缩事件 (即上下文摘要) 的差距. METR再次指出存在重大不确定性.OpenAI独立发现了这个错误并修复了它,而审核仍在进行中.

压缩缺口造成了另一个问题:在这些事件没有监控的期间,代理可以延迟监督,因为系统只有当他们将控制权交还给用户时才触发.这意味着代理可以通过继续执行操作来避免审查.

报告还说,审计人员找到了隐藏数百个操作的方法,并绕过了Codex沙箱.他们确定专门制作的输入可能会完全导致监视器崩.在审核开始时,强化学习培训期间的模型行为根本没有被监控.METR的材料将失败划分为四层,从缺少覆盖到欺骗人类审查员.

最新进展:修复,编辑和透明度推进. 报告的内容包括

OpenAI表示已经修复了审计人员发现的所有弱点.完整的61页报告已在内部交付.OpenAI应用编辑后,METR和Redwood Research领导层收到了38页版本,而只有一个简短的摘要被公布给公众. METR说它没有权利自己披露编辑部分.

在8月的Hugging Face事件之后,OpenAI还暂停了强化学习培训并扩大了监测范围.这些变化发生在审计人员访问期结束后,而不是评估的一部分.

对于未来的审计,METR表示希望推动更多公开透明度.即时的问题是外部研究人员是否会看到足够的细节来判断修复是否充足,因为估算带有不确定性并且报告中的大部分仍然隐藏着.