AI个决策模型对内容调节的潜在影响

标签描述: (中文) 字体: ... " . " " " Musubi 发布了开放权重的 PolicyLM-1.7B,一个决策模型,将普通英语政策应用于不到 50毫秒的消息中进行调节.

标签: 一个字母,一个字符号. . . . ,. 穆苏比,政策LM-1.7B,决策模型,AI调节,开放权重

首选图片: 在线视频, 下载地址: http://www. 信息流和政策标签的抽象技术风格网络,没有人,没有logo,没有文本

周二,Musubi宣布了 PolicyLM-1.7B,一个为实时内容调节而构建的开放权重决策模型.此次发布很重要,因为调控系统通常依赖于训练有素的分类器来执行狭窄的任务,而PolicyLM-1.7B则旨在阅读用普通英语编写的内容政策并将其应用于50毫秒以下的传入消息.这给平台团队提供了一种工具,它结合了传统AI分类者的速度和更灵活的语言模式判断风格.

星期二之前:决策模型成为热门 AI类别

自从9月Jev发布以来,决策模型已成为全球热门话题.OpenAI和亚马逊的竞争决策模式不久之后出现了.这些系统与文本生成不同,AI因为它们输出结果概率而不是自由形式散文.在调节设置中,有用的输出可以是二进制:消息是否属于政策类别.

早期的使用案例是对AI代理人的不当行为进行控制.Musubi现在正在将相同架构应用于人类生成的内容.这种转变反映了平台层面的问题:用户消息量不断增加,而规则需要保持可读性,可测试性和可扩展性.

周二:政策LM-1.7B进入调节市场

周二,Musubi发布了具有开放权重的PolicyLM-1.7B,将其定位为实时调节的一种轻量级决策模型.该公司针对大多数社交平台上支持调控的分类器系统,AI旨在实现类似的成本和速度.区别是灵活性:由于该模型采用现代大型语言模型架构,它可以在没有特殊培训的情况下应用复杂的政策.

Filip Jankovic Musubi联合创始人兼首席 AI 官,将目标描述为让平台经理能够主动标记内容. Jankovic说:"产品团队只是希望更好地了解他们的平台上发生的事情,特别是随着内容数量呈指数级增长",Jankovic表示"能够以非常可扩展和可定制的方式标记所有这些是极其有用的".

如何运作:简单的英语政策和快速二元判断

PolicyLM- 1.7B 旨在以普通英语写成的内容策略,并在50毫秒内将其应用于消息. 在这种情况下,一个大型语言模型是一个基于转换器的系统,经过广泛文本模式训练;关键点是它可以解释政策语言,而不是要求每个规则都需要单独的分类符.

该模型的目的是将输出限制在预先确定的选择中,这使其比许多生成系统运行更快和成本更低,同时保持变压器架构的灵活性. 穆苏比说当政策改变时,该模型不需要新的培训. 人类决策者可以尽可能多地代,然后根据更新的规则重复使用相同的模型.

目前阶段:开放权重和新的适度层

开放的权重为团队提供了另一条路径:他们可以下载参数并自己运行模型.产品公告直接指出这一点: PolicyIf Jev引起你的注意,PolicyLM-1.7B是相同类型的模型,专门训练用于内容调节,你可以自动运行",该产品宣布说.

詹科维奇说,他对这种方法的兴趣早于Jev. 它可以追溯到一个 2024名为GLiNER或 Generalist Model用于 Named Entity Recognition的项目,该项目部署了许多相同的技术. 这个历史很重要,因为命名实体识别和调节都需要系统来识别文本中的类型而不产生长时间的答案.

对于平台来说,实际价值可能在于添加一个标签层而不是取代每个调节工作流程. 一个可以应用普通英语策略的系统可在50毫秒以下的延迟时间内标记内容并让团队更清楚地了解其平台上发生的事情.截至周二的公告,PolicyLM- 1.7B处于早期阶段:模型,开放权重和定位是公共的,而下一次测试是平台是否会将它作为大规模内容标签的快速政策解释器使用.