核心摘要
- 72%的决策者,原因在于数据基础
- 人类曾填补的语境,智能体填补不了
- 需要检查的不是模型,而是定义与权限
- 为AI产出物设定责任人
在AI业务未达预期时,将根本原因归咎于薄弱数据基础的AI决策者占比达72%。这是软件公司Collibra委托Harris Poll对300名数据管理·隐私负责人及AI决策者进行调查后得出的结果,于2026年9月公开。
调查揭示了什么
调查显示,决策者们正因此重新设计运营模式,以使智能与数据治理保持一致。各项数据如下。
- 53%的决策者正将AI功能的汇报线更多地转移到数据组织。
- 58%的企业正致力于明确AI产出物的内部责任归属。
- 87%的决策者表示,其团队会定期检查AI智能体所使用的语境信息是否准确且为最新状态。
- 超过半数的受访者表示,员工需要花费数小时对AI智能体的产出物进行人工审核和修正。
智能体使用数据的方式有何不同
Collibra联合创始人兼CEO Felix Van de Maele表示,企业必须清楚了解目前运行着哪些智能体、这些智能体由谁负责、能够访问哪些数据和系统、以及被授权执行哪些操作。他指出,如果缺乏这种可见性,治理上的漏洞往往要等到事故发生后才会被发现。
他解释说,企业数据此前一直是围绕人工阅读仪表盘、运行分析而构建的。当数据看起来异常时,人会提出质疑,并补充数据本身无法体现的语境信息。而智能体改变了这一前提——即便定义模糊或语境缺失,智能体也会给出答案,并基于该答案自信地采取行动。
因此他指出,需要做的不是进一步清洗数据,而是将“这些数据意味着什么、目前是否可信、可以用这些数据做什么”这类信息,转化为机器能够理解和使用的形式。他提出的具体方法包括:在整个业务范围内统一定义,以及将政策转化为代码,以便在智能体采取行动的那一刻进行核验。
访问范围本身也是一种制约。根据Google Cloud与MIT Technology Review Insights于8月发布的报告,目前AI平均只能访问企业45%的数据,且只有一半的组织信任AI智能体产出物的适当性和准确性。
调查中也涉及了对监管的应对情况。在Collibra与Harris Poll的调查中,十分之九的业务领导者表示正在积极应对美国及全球范围内的AI监管,51%的企业领导者表示正在投资数据血缘(data lineage)和文档记录。
对韩国企业AX的启示
此次调查所指向的瓶颈并非模型性能,而是数据的定义与权限问题。若正在考虑引入智能体,在扩大试点之前,有以下几点需要确认。
- 同一指标名称在各部门间是否采用相同的定义
- 智能体可访问的数据与系统范围是否已形成文档规定
- 当产出物出现错误时,由谁负责修正、由谁承担责任,组织层面是否已明确
不妨先尝试将当前运行中的智能体清单,及各智能体的所有者、访问范围、被授权的操作整理在一页纸上。如果这一页纸无法填满,那么比起数据整备,更应优先厘清的是责任归属。
来源: AI failures often trace back to poor data foundation: survey
