美国银行正在分配4,000员工来解决 Anthropic 的Mythos和其他AI模型发现的漏洞.

美国银行部署 1,000承包商修补人工智能发现的软件缺陷

:不含任何其他物质. (C) . (D) 据CNBC报道,美国银行已经招募了外部承包商来修复Anthropic's Mythos等模型出现的软件漏洞.该公司表示,自第二季度以来,这些承包方一直与内部员工一起工作,并且在第三季度将几亿美元用于软件工作和反洗钱要求.他没有单独为补丁提供一个单独的数字.

背景:脆弱性推进如何开始

修复工作可以追溯到4月,当时Anthropic发布了Mythos仅供选择合作伙伴使用Project Glasswing.在那个时候,Anthropic表示该模型发现了数千个严重的安全漏洞.OpenAI于5月推出了Daybreak网络安全计划,表明主要实验室正在将安全工具作为一个独特的产品领域.

早期的反应是怀疑性的.批评者将实验室的警告和对策视为公共关系.根据该报告,随着安全事件 (如黑客攻击) Hugging Face改变了对话,以及独立评估证实新模型更强大的能力,这一框架已经发生变化.

美国银行的披露显示

美国银行是首批 US 大公司之一,披露了它分配多少人来修复发现 AI 的漏洞.数字 1,000 1,000 外部承包商加上 3,000内部员工给出了一种罕见的看法,即在一个大型机构中对人工智能产生的安全调查结果采取行动所需的工作量.

时间表很重要:承包商自第二季度起就在场,第三季度的支出数量为几亿美元,涵盖了软件工作和反洗钱要求.由于银行没有将补丁成本与 AML 的成本分开,因此人工智能驱动整治的确切价格尚不清楚.

接下来要看什么

莫伊尼汉预计随着时间的推移,补丁成本将会下降.这是否发生取决于底层模型在 how选假阳性方面的改进速度以及银行如何把人工智能发现的漏洞纳入常规安全操作.目前来说,美国银行的披露作为一个早期数据点对人员和支出而言,人工智能的漏洞发现可以触发一家大型公司US.