热闹之后：模型幻觉、接口孤岛与责任划分

这一届展会最值得记住的，可能不是机器人有多炫，而是行业自己开始公开承认「还做不到什么」。对采购方，把供应商的边界写进合同，比把能力写进宣传册更有价值。

展会负责展示可能性，采购负责约束不可能性。这一届最有用的材料，在我们看来是行业自己列出的「还做不到什么」。

行业承认的边界

行业媒体展后复盘明确指出生态扩张的磨合问题：「不同领域厂商的标准、接口、业务语言并不统一，跨品牌智能体协同、数据互通、责任划分，仍是落地过程中绕不开的卡点」；结论列出五项现实挑战——模型幻觉、算法泛化不足、大规模落地成本偏高、人才结构错位、标准滞后。

同一复盘给出一个反 hype 的技术判断：「大模型并没有立刻替代传统算法。在周界、烟火、安全帽识别这类高确定性场景，经过多年打磨的专用小模型依然是性价比首选；大模型更多承担跨模态理解、复杂事件推理、自然语言工单、多系统协同调度的角色，二者形成互补，而非简单替代。」并观察到智能体行为审计、影子 AI 发现、提示注入防护、模型水印与溯源等安全配套同步展出，意味着安防 AI 进入「效果可控、可审计、可追责」的工程化阶段。

论坛上，工信部网络安全产业发展中心原副主任指出，AI 既是「威胁放大器」也是「安全能力倍增器」，智能体失控、数据投毒、深度伪造等 AI 原生安全风险持续凸显，行业还面临安全人才缺口；提出「以 AI 对抗 AI」、安全垂域模型、智能体驱动安全运营与 AI 供应链安全治理等方向。

《「十五五」发展规划》自陈三大挑战：核心技术短板、视频安全防护压力加大、行业内卷加剧。

四条边界，落到车载场景

① 别用大模型替换已经验证的小模型。疲劳、分神、抽烟、车道偏离属于高确定性任务，专用小模型在算力、时延、可预测性上都更划算；大模型该放在跨模态归因、自然语言工单与多系统协同上。上一辑讲「误报率才是胜负手」，这里的补充是：换模型不等于降误报，还可能把可预测的系统换成不可预测的系统。

② 责任划分比准确率更难写。车机、平台、算法供应商、云服务商都在链路上，一次误判或漏报导致事故，谁举证、谁负责？《汽车数据安全要求》强制性国标征求意见稿已把整车厂、智驾方案商、零部件供应商、云服务商纳入全链条责任绑定——方向清楚，但仍是草案、尚未生效。采购合同不能等法规生效才写这一条。

③ 接口孤岛是前装化的最大隐患。上一辑强调「能否接入指挥体系」会成为验收口径，但跨品牌智能体的标准、接口与业务语言不统一，意味着「能接入」在真实项目里往往要逐家联调。要求供应商提供已常态化运营的跨品牌联调报告，比看展台演示可靠得多。

④ AI 原生风险会变成证据可采性的前提。当深度伪造与数据投毒成为现实风险，视频作为事故认定、保险理赔与执法证据，需要模型版本可追溯、行为可审计、水印与防篡改签名。上一辑提到的「可验证的原始性」，在这里从「加分项」升级为「能不能用」。

还有一条成本约束：算力基础设施复盘指出，安防是 7×24 小时持续流式推理而非一次性训练，对稳定性、故障隔离、调度效率的要求高于峰值算力。放到车上，就是功耗、散热与车规可靠性——技术栈公开不等于能装进车里。

风险提示

本辑引用的「模型幻觉、算法泛化不足」等判断来自行业媒体复盘与论坛专家观点，属于定性共识，不是量化故障率统计；不应据此推算具体失效率，也不构成对任何厂商产品的评价。规划中的三大挑战是行业自陈，同样不是针对特定企业。

AI 系统验收六问

• 高确定性任务是否仍由专用小模型承担？

• 误判与漏报的责任归属写进合同了吗？

• 每条告警能否对应到具体模型版本与触发规则？

• 跨品牌接口有没有可复现的联调报告？

• 断网时系统降级到什么程度、还保留哪些能力？

• 模型更新能否灰度、回滚并留下审计日志？

我们的判断

展会负责展示可能性，采购负责约束不可能性。把「供应商做不到什么」写进合同，是这一辑最实用的一句话。把上面六问与上一辑的「误报率七项指标」合并，就得到一套能经得起真实车队检验的验收框架。

可带走的东西

• 把六问做成 AI 系统验收清单，与上一辑的误报率七项指标合并使用。

• 要求供应商同时提交「能力清单」与「边界清单」，后者才决定合同条款。

• 把模型版本、水印、行为审计纳入证据链设计，别等出险后才发现视频不可采。

信源与口径：a&s 传媒《2026 安博会观察：技术、生态与行业未来》（2026-11-10）、2026 中国安防产业发展论坛演讲、《中国安防行业「十五五」发展规划》解读（2026-11-03）。所有边界判断均为定性行业共识，非量化统计。