一句话
Google 云平台推出 Agent Anomaly Detection,通过分析智能体日志自动发现异常会话并告警。
要点
- 工作原理
读取智能体已有的调用日志,对比正常任务范围,发现偏离就标记异常会话。
- 测试效果
示例客服智能体因工具未做表名校验被诱导读取薪资表,系统几分钟内标出高危的工具滥用并给出修复建议。
- 告警方式
异常事件同步到 Cloud Monitoring 与 Security Command Center,可设严重程度告警。
登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?