Google 开发了一种人工智能设计的蛋白质水印方法

基于人工智能的工具几乎每天都成为安全问题的来源,部分原因是识别速度很慢.围绕AI设计的蛋白质的生物安全案例显示了一个更狭窄但重要的例外:该领域有机会保持领先地位,但是用于 it选的工具仍然落后.问题不在于有用的蛋白質设计失败了.它已经成功了.由AI开发的酶可以消化塑料或阻断毒素蛋白质,并且这一进展为DNA选工具无法识别的有害用途开辟了一条道路.在风险被标记近一年之后,核心的问题仍然是如何表征自然中不存在的蛋白 before 在它们出现在错误的人手里之前.

背景:有用的设计创造了新的威胁面

起点是普通的生物研究.科学家设计蛋白质来执行特定任务,从分解污染物到中和有害分子.人工智能改变了该工作的速度和规模.而不是通过自然寻找几乎可以完成这项工作的蛋白质,研究人员可以要求模型生成具有所需属性的序列或结构.

在材料中描述的成功是具体的:人工智能设计的酶可以消化塑料和能够阻断毒素蛋白质的酶.这些不是抽象的能力.它们表明模型可以产生功能性的生物分子.然而,同样的能力也可以转向毒素或改变病毒蛋白.实用性和风险并非单独的技术;他们是从安全线的相反端看的相同的设计能力.

这就是为什么生物安全与许多其他AI风险领域不同.输出不是聊天机器人答案或生成的图像.它是一个分子指令集,原则上可以转化为物理对象.威胁在每种情况下都不立即存在,但从软件到生物学后果的路径比以前更短.

发展:突破超越威胁的特征

下一阶段是可制造和可识别的东西之间的不匹配. Existing DNA个 identify选工具,用于确定编码潜在威胁蛋白质的DNA序列,围绕已知的生物威胁构建. 他们寻找与研究人员已经研究和分类的有机体或分子相关的模式.

人工智能设计的蛋白质不符合这一假设. 一个模型可以创建一个功能性的序列,但与数据库中的任何东西不同. 如果没有人足够好地描述了该蛋白质, software选软件可能不知道它是危险的. 因此问题不仅在于恶意行为者可以使用强大的工具,而且这些工具能够比安全系统更快地产生未知物.

材料中描述的时间表简单而明确.风险被标记了.近一年后,仍然不清楚任何人都能做些什么.这个差距很重要,因为生物安全取决于早期识别.延迟警告往往是没有警告.

最新:目前的阶段是检测滞后

截至报告的最新时刻,该领域仍处于检测滞后阶段.这项技术已经能够产生有用的人工智能设计的酶,理论上的滥用风险足够广泛以包括毒素和病毒蛋白质行为.然而, exact查层在危险出现的地方仍然最弱:由模型生成而不是自然发现的蛋白质.

如果研究人员能够建立更好的合成蛋白质风险概况库,DNA.查可能会变得更加有效.否则,近一年的差距将继续扩大.

超级描述

人工智能设计的蛋白质提升了生物学, 但DNA them查几乎错过了一年. 时间表显示使用者的生物安全差距越来越大.

标签

人工智能设计的蛋白质,生物安全性

首选图片

抽象的蓝色和绿色数字螺旋链与发光蛋白状网络编织在一起,