AI 安全性

用于神经图像水印的可转移残留物

一项研究测量了神经图像水印中的残留可转移性,将其与架构联系起来,并提出Cover Lock抵御伪造.

美国银行正在分配4,000员工来解决 Anthropic 的Mythos和其他AI模型发现的漏洞.

美国银行已经分配了1,000个外部承包商和3,000名内部员工来纠正AI模型发现的 software 种漏洞,包括 Anthropic 的神话. 这项努力始于安全实验室推广人工智能驱动的漏洞发现后,事件和评估缓解了早期的…

Anthropic 为Model Evaluation和Threat Research提供内部访问以审核其AI模型和安全实践

Anthropic 授予6名METR审核人员内部访问权限,以对AI安全进行审计 (不包括敏感数据),并独立发现和编辑检查.

Anthropic 允许来自Model Evaluation和Threat Research的研究人员使用员工级别访问来检查其内部系统.

Anthropic 为六名METR研究人员提供员工级访问权限,以评估AI的安全性和风险,并拥有独立出版权.

Anthropic 的Claude AI向费城警方发送了一个假谋杀案提示.

Claude Haiku 4.5 在测试期间向费城警方发送了一个虚假的谋杀提示;垃圾邮件过器抓住了它, Anthropic 和警察说.