核心摘要
- 82%的企业存在“影子AI代理”
- 仅靠事先对齐远远不够
- 首先要对AI资产进行全面盘点
- MCP、API变更时的复查流程
AimIntelligence首席技术官朴河彦（音译）于2026年9月7日援引云安全联盟（CSA）的统计数据表示，约82%的企业存在自身未能察觉的“影子AI代理”。此番发言是在三星金融园区举行的“2026首尔AI风险大会”上，围绕“AI管控的最前沿：从模型到代理，再到实体AI”这一主题展开的。
披露了哪些内容
朴CTO表示：“约82%的企业存在自身未能掌握的影子AI代理，超过半数企业表示其AI代理曾出现超出权限范围的行为。”谈及管控方式时，他强调：“基于检查清单的传统验证方式，或单纯以输入输出为核心的管控方式已不再适用”“哪怕只是MCP或模型API发生一处变化，风险结构本身就会随之改变，因此必须建立持续的漏洞检测与实时防御体系。”
实体AI领域出现了哪些变化
发言中列举了实体AI环境下可能出现的安全风险案例。
- 在一项自动驾驶实验中，仅通过在画面中插入占总像素0.8%的微小文本，就成功诱导车辆撞向行人。
- 实验还确认了追踪坦克的无人机遭反制而坠毁、以及仅凭音频攻击即可导致家用物联网设备发生误动作等情形。
- 在与美国国家航空航天局（NASA）的合作中，团队发现了搭载于太阳探测器“帕克号”上的AI存在安全漏洞，并因此一度暂停了相关服务。
朴CTO指出，即便是被评价为达到AGI水平的OpenAI“Astra”，也无法仅凭“对齐（alignment）”——即拒绝执行威胁性行为的安全机制——实现完全可控。他解释称，由于仅靠事先对齐存在明显局限，必须结合能够对AI全生命周期进行实时监控与管控的安全层。
AimIntelligence正围绕红队测试解决方案“Stinger”和护栏平台“Starfort”构建一体化安全体系，据悉Stinger已对160余个AI模型进行了诊断，Starfort已应用于超过10万个AI代理。此外，公司还与国内外约20家机构共同启动了“实体AI安全联盟”，并正在推进为LG电子机器人“CLOi”专属开发护栏系统。
对韩国企业AX（企业AI转型）的启示
朴CTO强调：“企业若要强化AI安全，最应优先着手的起点，是对自身拥有的AI资产进行全面盘点”“对内部数据流向、权限范围及潜在风险建立清晰的可视性，是安全运营AI的核心所在。”
若将这一标准套用到自身组织，检查顺序可以这样安排：
- 将各部门实际运行中的代理和自动化流程集中整理成清单。未被列入清单的，就是影子AI。
- 通过日志核实每个代理具体使用何种账户权限、接触何种数据，以及是否存在超出权限范围的行为。
- 预先制定规则，明确当所连接的MCP或模型API发生变化时，需要重新检查哪些内容。
本周不妨确认一件事：看看能否将当前公司内运行的AI代理清单整理成一页文档，如果可以列出，再确认自己是否能说清楚其中每一个代理各自拥有哪些权限。