监控团队常常把自动化理解为“能替代多少人工”。这种思路通常并不准确。更重要的问题是：系统哪些决策可以安全自主完成，哪些决策仍然需要人工判断、责任承担或结合现场语境进行解释。
这就是自动化监控与人在回路监控之间的区别。
全自动层擅长做什么
当任务具有重复性、时间敏感性，并且规则结构清晰时，自动化最有价值。在监控场景中，这通常包括：
- 过滤常规事件，
- 对告警进行优先级排序，
- 关联多个传感器输入，
- 以及进行后台跟踪或健康状态监测。
这些功能之所以重要，是因为它们可以降低操作员负荷，并提升响应速度。
人在回路仍然保护什么
NIST 的 AI 风险管理工作，以及 NASA 关于人在回路自动化的参考资料，都指向同一个实践结论：当自动化系统会影响运行决策时，人的角色和职责必须明确。
这很重要，因为监控决策并不都是同一类问题。有些是常规处理；有些则涉及歧义、升级处置，或者一旦判断错误就会带来高代价的后果。
通常情况下，人工依然在以下方面非常关键：
- 识别和处理歧义目标，
- 判断证据是否足以进入升级处置，
- 验证是否存在偏离正常规则的例外情况，
- 以及在系统置信度不明确时维持责任闭环。
为什么权限边界很重要
最关键的架构问题并不是“是否使用自动化”，而是“决策权在什么地方发生转移”。
一个系统可以是：
- 只自动筛选，不自动升级处置，
- 只自动提示，不自动介入，
- 或者自动完成常规关闭，但把例外情况保留给操作员。
这些区分很重要，因为不同监控动作一旦出错，其代价并不相同。
核心对比
| 决策领域 | 自动化方式 | 人在回路方式 |
|---|---|---|
| 常规筛选 | 优势明显 | 速度较慢 |
| 即时响应速度 | 更强 | 较慢，但更受控 |
| 处理歧义情况 | 更脆弱 | 更强 |
| 责任归属与审计性 | 取决于设计 | 通常更清晰 |
| 操作员负荷 | 常规任务更低 | 更高，但上下文更充分 |
为什么完全自动化可能有风险
全自动监控的问题不只是误报，还包括权限错配。如果系统在缺乏足够上下文的情况下直接行动或升级处置，就可能导致操作员不信任、触发不必要的干预，或者在出现错误后恢复缓慢。
随着时间推移，设计不佳的自动化还会削弱操作员的态势感知，因为人们不再持续参与告警背后的判断逻辑。
为什么人在回路也可能失败
人在回路并不意味着天然更安全。如果操作员接收到太多低质量告警，人工就会从“安全阀”变成“瓶颈”。如果界面无法解释系统为何认为某个事件重要，那么人工复核就会变成猜测，而不是监督。
糟糕的人在回路设计，往往只是“噪声很大的自动化 + 一个手动批准按钮”。
为什么自动化程度必须与后果匹配
并不是所有监控决策的后果都一样。关闭一个常规、低置信度告警，与升级给执法部门、触发现场封控流程，或将某事件标记为已确认威胁，这些动作显然不是同一层级。
动作后果越高，就越需要明确的人为监督、书面的权限定义，以及可见的支撑证据。
因此，许多成熟系统会优先自动化工作流的下层环节，同时将高权限动作保留在操作员控制之下。
更合理的系统架构
对大多数安防系统而言，更强的模式通常是：
- 自动完成检测、优先级排序和事件关联，
- 清晰呈现置信度与证据，
- 在后果显著时，将升级或响应权限保留给操作员，
- 记录覆盖、撤销和反馈，以便后续调优。
这样可以建立起机器速度与人工责任之间的有序关系。
有效的人为监督到底需要什么
只有当操作员拿到的是“可用证据”，而不是无法解释的分数时，人为监督才真正有效。实践中通常需要：
- 清晰的置信度指示，
- 可见的优先级排序依据，
- 快速访问支撑性的传感器证据，
- 以及明确的覆盖/反馈路径。
如果缺少这些要素，人工复核只会更慢，而不会更可靠。
部署前应尽早明确的问题
在部署之前，团队应当明确：
- 哪些动作只是建议性提示，
- 哪些动作是自动执行，
- 哪些动作必须经过人工确认，
- 以及当操作员与模型判断不一致时，如何记录该差异。
如果这些规则没有提前定义，日常运行中的自动化边界就会变得模糊。
更好的设计问题
团队真正应该问的是：哪些决策足够频繁、结构足够清晰，可以安全自动化；哪些决策仍然过于歧义化、后果过大，或者过于依赖现场上下文，不能脱离人工控制。
这个问题通常比“还能加多少自动化”更能导向合理的监控架构。
它也能让自动化回到风险管理，而不是只服务于削减人手。
在实际应用中，最强的系统会把重复性工作交给机器，把高风险错误的责任保留给人工，并把两者之间的交接关系明确化。
这种平衡，通常才是监控自动化真正获得操作员信任的关键。
如果没有这种平衡，要么操作员会变成瓶颈，要么自动化会变成未受控风险的来源。
因此，权限设计和模型质量同样重要。
这既是治理问题，也是技术问题。
同时也是运营问题。
结论
当工作具有重复性且对时效要求极高时，自动化监控最有优势；当需要解释、升级处置和责任归属时，人在回路监控更有价值。多数成熟系统都需要两者并存：用机器承担筛选与关联的速度，用人工保留高后果决策的权责。
官方参考阅读
- NIST AI RMF Appendix C: AI Risk Management and Human-AI Interaction - 对如何定义运行型 AI 系统中的人工角色、职责和监督机制很有参考价值。
- NASA/TM-20230002647 - 对人在回路、人在监控回路中及相关自动化权限配置提供了有用的分类方法。
- NASA/TM-2014-218383 - 有助于理解在安全关键系统中，操作员如何与自动化协同工作的人的回路仿真背景。