普华永道的调查显示,企业和技术领导人对于谁应该负责工作场所AI风险存在分歧.

简介:普华永道的研究强调了需要明确AI所有权. 这一时间表解释了为什么AI首席执行官可能成为企业治理中的关键角色.

标签: AI公司治理,普华永道研究

首选图片:抽象的技术组合与发光数据节点,层次治理盾和中央命令接口,没有真实的人,没有公司标志,没有文本.

普华永道的研究问及是否需要一个AI首席

普华永道 (PwC) 的研究强调,越来越多的人需要拥有AI,并询问是否应该有一个AI的首席执行官.这个问题很重要,因为AI系统不再是孤立的实验.它们日益涉及 customer service ,代码,财务,合规和内部知识.当责任分散时,故障变得难以追踪,纠正或预防.

背景:AI所有权开始作为一个副业

最早的企业AI努力通常与工程,数据科学或创新团队坐在一起. 一个模型可以由构建它的同一组部署,监控和改进. 当 AI 狭窄时,这种结构工作了低风险,并且仅限于少数的工作流程.

随着AI工具扩展到技术团队之外,所有权模式变得不那么整洁.营销团队开始使用生成的AI内容.法律和风险团队担心隐私,偏见和披露.财务团队评估供应商合同和模型成本.运营团队使用了AI内部服务台和流程自动化.每个组都对AI个结果产生影响力,但没有单一的所有者一定能控制整个情况.

发展:问责差距越来越大

问题不仅是技术性的. AI的决策通常取决于数据质量,模型行为,快速设计,人体审查,供应商配置和业务规则. 当出现错误时,责任可能落在模型提供者,内部开发人员,企业用户和合规功能之间.

这种差距越来越明显,因为AI从试点进入生产. chatbot 给出错误的答案,放大偏见的工作流程或暴露机密背景的助理会造成法律,声誉和运营风险. 如果没有高管拥有端到端生命周期,组织可能会以临时修复而不是持久控制为回应.

一些公司已经开始任命一名首席执行官或创建一个AI治理委员会. 另一些则将责任置于现有的CIO,CTO,CISO或风险领导者手中. 正确的头有所不同,但基本需求是一样的:战略,标准,风险胃口和升级的一个明确的主人.

最新信号:普华永道公司要求AI人

普华永道的研究将问题围绕所有权,而不是 JUST 采用.核心问题是AI治理是否可以在没有人完全承担责任的情况下生存下去.它表明AI首席执行官的缺失可能会使企业控制分散:技术管理系统,法律管理风险,商务团队管理输出,没有人管理整体.

这很重要,因为所有权是一个实际的设计选择,而不是一个标题仪式.如果这个角色存在的话,AI的主管需要协调政策,模型库存,测试,监控,培训,事件响应和供应商治理.没有这种协调,AI可以比监督更快地扩展.

这项研究并不意味着每个组织都需要一个名为AI的首席执行官.它指出了更广泛的需求:有人必须以一种能够生存增长,复杂性和跨职能使用的方式拥有AI.

接下来要看什么

下一阶段可能会测试AI的所有权是否成为正式的C-suite功能,还是继续分布在现有的治理角色中.寻找企业89000程序中的迹象:高风险用途的记录所有者,跨职能审查过程,模型库存和监控实践以及清晰的事件升级路径.

根据行业,AI的主要问题可能会分为不同的结构.受监管的部门可以将角色与风险和合规保持密切联系,而以产品为主导的公司则可以将其置于技术和客户体验附近.共同的信号是AI问责制是否从偶尔关注到永久企业责任.