质量、安全与可观测性

Demo 能运行不代表系统可靠。评估告诉你效果如何，可观测性还原每一步发生了什么；安全与可靠性则决定工具能不能执行、数据能不能读取，以及失败后什么时候必须停下来。

文章	重点
Agent 评估	结果、过程、成本和安全的综合评测
可观测性	tracing、调试、成本和缓存命中率
Agent 安全边界	身份上下文、工具授权、参数校验、人工审批和审计
Prompt Injection 与工具安全	直接与间接注入、RAG 投毒、MCP 信任和数据外传防护
数据隐私与租户隔离	数据分类、检索过滤、日志脱敏、记忆隔离和删除
Agent 可靠性与故障防护	预算、超时、有限重试、熔断、幂等、降级和人工接管
人机协同的三种运行方式	HITL、HOTL、HOOTL，以及按风险选择和切换人类监督方式