NVIDIA 引入新的开放模型,使企业和个人电脑能够运行代理.

模型 0 views

NVIDIA 为企业代理商推出了Nemotron开放模型,而AI PCs则是为了实现本地推理,减少云使用并与前沿实验室竞争.

主要内容

  • NVIDIA 为企业和地方代理商推出了Nemotron 3.5 Super VL和Bolt开放式重量模型 AI PCs.
  • Super VL是一个120亿参数模型,旨在实现高精度的代理任务,工具使用和部署在组织自己的基础设施上.
  • 螺栓模型针对由 Nvidia RTX Spark 和 DGX Spark 驱动的 AI PCs 的本地工作负载,强调隐私和无云执行.
  • NVIDIA 将开放式模型定位为封闭边界实验室的替代品,特别是对于企业和消费者想要控制数据和部署.
  • Super VL 和 Bolt 74B 现在可用,而Bolt E4B将于本月晚些时候推出;早期采用要求包括EY,Crowdstrike,Salesforce等.

NVIDIA 周四推出了为始终在线代理和 edge computing 设计的新开放式重量模型,以Nemotron 3.5 Super VL作为中心.该版本将公司 AI 的堆分成两个连接领域:需要精度的企业代理和必须使工作负载远离云的本地机器.

背景:一个更广泛的开放型比赛

这些开放式模型与专有前沿实验室竞争,而这些实验院也是 NVIDIA 的客户和投资.

竞争框架已经扩大.快速增长的专有 AI实验室现在正在寻找许多其他芯片和 AI系统制造商超越 NVIDIA 来满足他们的需求,包括 AWS 的Trainium和Cerebras,以及构建自己的国内芯片. NVIDIA 在此声明中的回应是向希望运行他们自己开放模型的企业公司倾斜.

"与封闭边界模型不同, 组织可以在自己的数据上进行后期培训 Super VL, 将其部署到自己的基础设施中并拥有他们构建的东西", Kari Briski NVIDIA 公司副总裁 Open Models和 software , 在宣布这些模式的博客文章中写道.

发展:企业代理和地方 AI PC

主要的企业模型是Nemotron 3.5 Super VL,一个大型120亿参数模型,适用于由企业使用的代理. NVIDIA 表示它比Nemotron 3 Ultra模型使用更少的参数,同时在遵循指令和工具使用任务中提供类似的准确性.

在更轻的端, NVIDIA 推出了两个用于本地使用的Bolt模型.Nemotron 3.5 Bolt 74B-A9B 24GB是一款74亿参数型号,旨在处理局部代理任务,目的是平衡速度与推理来处理多步推理,工具调用和网页浏览.最小的BolT E4B面向对话式代理.

这些较小的模型旨在在新的 AI PCs 运行 Nvidia RTX Spark 芯片和工作站 DGX Spark Such PCs上本地运行,面向消费者,程序员和企业知识工人,正在通过 Microsoft 和 Dell 等合作伙伴发布到市场.

"任何希望在 NVIDIA 基础设施上运行代理的组织现在都有一个开放,优化的模型,

最新进展:申请,采用和可用性

NVIDIA 声称 Super VL在特定的代理任务上接受后训练时,比 Anthropic 和 OpenAI (Opus 5,GPT 6.1 SOL ,Luna,Astra) 的竞争型号更快地完成任务.列出的任务包括文档情报,财务会计,科学实验,医疗保险索赔以及安全攻击弹性.

该公司还支持其声称使用重量级公司的名单 Super VL:Skydance,EY,Ramp,Crowdstrike, Perplexity 和Salesforce.此类认可为推出提供了具体的采用信号,但时间要求仍然与所述代理任务的后期培训有关.

消费者角度与AI助手的新兴趋势有关. startups 和 Big Tech 似乎每天都会推出新的 AI助理,而隐私疲ary的消费者的生活可能不希望深入邀请这些代理人,让他们获得关于他们的家庭,健康,财务等信息. NVIDIA 希望通过创建在本地运行模型和代理人的机器来为自己创造一个销售由其芯片驱动的PC的新市场.

PC 用户"可以委托日常项目......而不会将这些工作负载发送到云端",Briski写道.

NVIDIA 表示,Bolt E4B将于本月晚些时候推出. 目前关注的焦点是BoltE4B的到来,而更广泛的问题是通过 Microsoft 和 Dell 发布的AI PCs是否可以把这些本地模型带给消费者,程序员和企业知识工作人员.

标签描述: 字体的类型是什么? (Meta description) NVIDIA 发布了Nemotron 3.5 Super VL,一个120亿参数 open-weight model ,以及用于本地 AI PCs,代理和企业工作负载的Bolt模型.

标签: 一个字母,一个字符号. (TG) " NVIDIA , Nemotron 3.5 Super VL, AI PCs, 开放式重量模型,企业代理

首选图片: 在线视频, 下载地址: http://www. 围绕着发光AI芯片的抽象电路图案,技术风格,没有人,没有标志,没有文本

Tags: AI 代理人开放型号NVIDIA 没有AI 个人电脑edge computing 其他

Comments

No comments yet. Be the first to comment.

Leave a comment