开放模式提供了有意义的优势, 但这些优点是否超过风险?

人类学出版了一份报告,认为8月由中国公司Z.ai发布的GLM-5.3,是一个主要的网络攻击风险,因为它可以免费下载和修改.该报告落在了长期以来关于前沿AI模型是否应该公开发行或保留在前沿实验室墙后的斗争的中心.结果带来了真正的钱:Nvidia CEO Jensen Huang当人们购买自己的硬件以运行开放型号时,他们的业务收益会推动United States开发更多模型,而Anthropic CEO Dario Amodei其公司可能被廉价强大的模型破坏,敦促谨慎.

背景:开放型与封闭型的区别

像ChatGPT和Claude背后的封闭模型只能通过网站,应用程序或API获得.开放模型可以直接下载,模型权重编码内部结构的长序列数字可供公众使用.此类模型有时被称为"开放权重模型",以区分它们与还披露训练过程等细节的版本.

截至出版时,封闭模型仍然更具能力: Artificial Analysis LLM排行榜上前八个模型都关闭了,尽管开放的模型仅在几个月后面. 下载性很重要,因为用户可以在自己的计算机或硬盘驱动器上运行开放模型并根据专业知识和资源重新训练它们. 学术研究人员需要开放模式来观察内部工作以及一个模型在回答之前使用的"思维链",将模型结合到新的系统中,压缩它们并对其进行微调.企业获得较低的成本MMozilla最近的一份报告发现,即使外部供应商运行他们,开放型号通常也会降低成本并且可以保留敏感或专有数据在其自身的硬件上.

开放的理由

Elizabeth Seger Tony Blair Institute 的高级政策顾问,将核心论点作为防止大规模集中权力和把基础技术视为公共利益.她将谁控制 AI 基础设施的问题与谁控制互联网上的信息问题进行比较.在一个可能的未来,边境系统完全由精选的人员,公司或政府控制,让这些团体对世界日益增长.目前最复杂的黑客模型都是在 United States 中制造的,因此其他国家是否可以使用它们来实现自己的网络防御取决于 US 公司和政府 Hamish Hobbs .

开放性不是一个地缘政治的万能药. Paul Azunre ,他共同创立了 Ghana NLP 一个为低资源加纳语言开发开源工具的组织,描述了一种模式 AI,公司公开发布模型,观察社区如何使用和修改它们,然后将这些改进折叠到自己的产品中,没有信用或补偿. Mark Zuckerberg 表示将社区改进整合到Meta堆中是释放开放模型的一个关键好处. Azunre称开源的理想是高尚的,但表示其实际实施往往是抽取性的.

安全问题

对于封闭模型来说,安全仍然是困难的.在7月份,OpenAI代理人对Hugging Face,Anthropic风险报告描述了与Claude协助进行的一些广泛的黑客操作.人类屏幕查询其封闭模式用于黑客攻击,生物武器和其他风险,并且可以关闭用户超越这些过.器时的帐户.下载的模型没有这样的过 ?? 器,也无法撤销访问权限.公司还训练模型拒绝有害请求,这是该模型本质上能够保护开放发布的一个防御方法,但研究人员表明,令人惊.的是,很容易重新培养一个"安全"的开放模型以遵守它被训练避免的行为.因此,有些人认为开放型号太危险,根本不能释放;如果有人能通过合成一种新的致病原体的话,可能会造成灾难.

然而,将开放视为危险而封闭视为安全过度简化了问题.正如Anthropic报告所显示的那样,封闭模型的防御远非完美,滥用经常发生.坏行为者可能仍然喜欢关闭模型,因为它们比具有相似能力的开放模型更容易获得,这些模型需要昂贵的芯片才能在本地运行,甚至还要重新训练.

一些专家说MIT Technology Review开放模型具有安全优势,类似于开源软件.像Linux操作系统这样的工具通常被视为比封闭源代码更安全,因为一个庞大的社区探测和补丁漏洞;同样地,研究人员社区可以对开放模式进行缺陷测试,尽管修复它们比重写一行代码要困难得多.开放型号也可用于网络防御,因为任何黑客工具都能防止黑客攻击.Anthropic的倡议让一些值得信赖的公司使用其最有能力的模型来进行网络防护,但许多其他公司只剩下了自己.在OpenAI代理人破解后,Hugging Face强调它必须依靠开放式模型来分析攻击,因为它引发了关于关闭安全过.器模型的问题.

许多专家仍然认为开放模型更有风险. Seger指出一次性,低概率但灾难性的事件的复杂性:今天发布的一种非常强大的开放黑客模式可以让一个坏人在防御得到支.之前摧毁技术基础设施,这是不可能恢复的事件.当模型自己行动时,风险看起来更加戏剧化. OpenAI Hugging Face 的黑客攻击仅发生是因为该公司的模型被测试了许多网络安全护 ?? ,并且从一开始就只有很少的保护.去中心化将使不良行为变得难以检测,这就是为什么那些像Amodei这样认真对待灾难性恶作者的风险的人倾向于更多地怀疑开放型号.

需要注意什么

几年前的辩论是一切或什么都不是:支持开放式模式,因为它们有能力打击权力集中,或者拒绝他们以安全风险为由.