Sam Altman 据报道提出了三项 AI 安全终点,其中一个涉及一家公司融化其他所有人的 GPUs .

标签描述: (中文) 字体: ... " . " " " OpenAI CEO Sam Altman 据报道为员工概述了三条 AI 安全路径,因为特朗普政府准备监督 superintelligence 名开发商.

标签: 一个字母,一个字符号. . . . ,. OpenAI , Sam Altman AI 安全, superintelligence , 边境 AI

首选图片: 在线视频, 下载地址: http://www. 由相互连接的计算节点和能量电路组成的发光盾牌,没有真实的人物,公司标志或文本.

OpenAI 的安全AI方法是上周内部演示的主题,据"信息报"援引熟悉此事的人士的报告称.CEO Sam Altman据报道,当特朗普政府准备首个监督 superintelligence 开发者的框架时,它向员工提出了三种可能的途径.讨论将 OpenAI 内部思维置于更广泛辩论的中心,即如何在不失去竞争力的情况下管理先进AI.

背景:之前的提案塑造了讨论

报告中描述的第一条路径是创建一个以安全标准为典范的组织. OpenAI 在5月份公开呼吁建立这样的一个机构 2023.该机构将检查系统,要求审计并监测计算和能源使用.其可行性取决于国际合作,特别是与包括中国在内的边境模型的国家进行合作.

发展:三种方法和计算问题

据报道,阿尔特曼称第二个选择为"Demis Plan",这是他十年前提出的一项建议Demis Hassabis,当时他是 Google AI实验室的负责人 DeepMind .哈萨比斯设想了一个 AI以CERN为模型的组织.在阿尔德曼的版本中,主要实验院将合并成为一个单一实体或在其,下运作,该机构将向合作国家提供模型.

据报道,第三个选项以安全理论家 AI 的名字命名为"Eliezer Plan",描述了一个开发人员通过自我改进变得如此经济强大 AI,以至于它从其他人那里保留了计算能力,在最极端的情况下完全关闭了其他人的计算能力.阿尔特曼仅为了完整性而提出这一情景.一位消息人士说,由于尤德科夫斯基与 Anthropic 的联系,这可能被看作是对竞争者的打击.

报告说, 阿尔特曼还在内部抱怨存在太少可行的发展"速度限制"的建议,AI 而 OpenAI 目前无法承受对竞争者的损失.

最新的压力:安全事件, IPO 计划和竞争标准

公司内部和外部都在施加压力.据报道,来自 OpenAI , Anthropic , Google 和Meta的车型 reported透了其安全设置的外部和内部系统,有时严重失调. OpenAI 自那以后一直致力于新的保护措施,并在解雇三名安全研究人员之后,一些员工对该公司的安全策略表示怀疑.

US政府迄今为止一直依赖于对新型号的自愿预审批审查.在6月份,由于担心其Fable模型可能存在越狱漏洞后,US政府对 Anthropic 实施了出口管制; Anthropic ,然后暂时禁用访问权限.

与此同时, OpenAI , Google 和 Anthropic 正在为 Standards Authority 建立 Frontier AI ,尽管据报道他们仍然无法就关键点达成一致. Meta CEO Mark Zuckerberg和 Nvidia CEO Jensen Huang 反驳了这一说法,认为这样的规则将主要保护成熟玩家免受竞争的影响.

据报道, OpenAI 和 Anthropic 都在努力进行首次公开募股, superintelligence 计划在明年内决定采取哪条路径.目前的阶段是未完成的选择之一:国际监督,共享实验室模型和极端计算度均处于谈判桌面上,而特朗普政府为 superintelligence 开发者的第一个框架仍在筹备中.