Google 把 AI 代理护栏拆成两层;另一边,黑客正用 AI 盗刷算力
Google 把 AI 代理护栏拆成两层;另一边,黑客正用 AI 盗刷算力
为什么值得关注
2026 年 10 月 24 日,Google Data Agent Kit 达到通用可用性(GA)。该工具集包含 37 个开源技能,可连接超过 15 项 Google Data Cloud 服务。它把权限模型拆成两层:技能护栏负责业务逻辑层面的停止指令,IAM 策略负责拒绝越权调用。
这层拆分改变了 AI 代理的权限默认值。代理越权时,技能层先按业务规则拦截,IAM 层再按身份策略兜底。
据虎嗅转载财联社报道,一起案例显示黑客正用 AI 自动化盗刷算力账户。某初创公司创始人深夜熟睡时,账户被用于购买 Anthropic 和 OpenAI 的算力服务,事后收到 50 封扣款邮件。
报道称,攻击者利用存储在本地配置文件中的凭证发起未授权 API 调用。该案例为单一信源、细节未披露,读者不宜将其外推为普遍趋势。这类案例把攻击面从“防入侵”推到“防凭证滥用”。
关键信息
双护栏机制
- 技能护栏(Skill Guardrails):代理请求不符合预设业务规则时,技能层直接返回停止信号。
- IAM 护栏(IAM Guardrails):请求来源身份令牌无效或权限不足时,调用被立即拒绝。
两层分离解决“过度授权”。开发者可为每个技能定义独立边界,同时为每个身份定义独立访问策略。
假设一个生成代码的代理拥有执行 git push 的技能,但 IAM 策略未明确授权访问特定仓库,该操作仍被拒绝。该示例仅为权限模型示意,实际配置应遵循最小权限原则,勿在示例中暴露真实仓库地址或令牌。
算力盗刷攻击路径
据上述报道,攻击链路可拆为三段:
- 凭证泄露:攻击者取得存储在本地配置文件中的凭证。
- API 滥用:用 AI 自动化脚本高频调用算力服务接口。
- 算力盗刷:账户被持续扣款,当事人收到多笔连续扣款邮件。
报道未给出请求次数与生成速率,防御方需要按“凭证泄露→API 滥用→算力盗刷”逐段设检测点。
Copilot in Teams 工作流
GitHub Changelog 发布在 Teams 中把通知转化为代码的功能更新。团队可在对话流内把问题转为修复代码,缩短从发现到交付的周期。素材未给出量化修复时间,企业评估时应以自身试点数据为准。
21ZHAO 判断
Google 把权限管理从静态粗粒度改成动态细粒度,代价是配置复杂度上升:开发者要重新设计技能与 IAM 策略的映射关系。在跨租户代理调用场景下,双层拦截可降低越权面,但需以实际租户隔离测试验证。谁买单?采纳方承担迁移与配置成本,Google 用 GA 把 Data Cloud 生态的代理开发默认路径拉到自己这边。
这类算力盗刷案例提示攻击路径正在变化。攻击者用 AI 生成脚本、高频调用接口,传统静态防火墙规则挡不住。企业要把凭证管理、令牌轮换、异常流量检测串成一条链,而不是只加一条规则。
Copilot in Teams 把协作平台和代码生成缝在一起,交付更即时,但 AI 生成代码的逻辑漏洞需要独立审计流程兜底。效率提升多少,取决于团队自己的审查纪律。
可复用建议
实施双护栏策略
为每个代理定义独立技能集,配置严格 IAM 策略,确保代理只在授权范围内执行操作。技能层写业务停止条件,身份层写访问边界,两层都配。
建立自动化攻击模拟机制
定期用 AI 工具做红队测试,重点检测凭证泄露、异常流量模式、未授权调用行为,按检测结果调整防御策略。
核对开源技能许可证
复用 37 个开源技能前,逐个核对 LICENSE 类型与合规义务,避免把许可证冲突带进生产环境。37 个开源技能的具体 LICENSE 类型需以官方仓库为准,生产复用前应做许可证兼容性审查。
可延展观察
未来几周,采纳双护栏架构的企业增多后,AI 代理权限管理可能形成新的行业规范。安全厂商可能推出针对 AI 生成请求的检测工具。Copilot in Teams 类工具普及后,代码所有权和知识产权的讨论会跟上。
攻防双方都在用 AI 提升能力。防御方要建自适应威胁变化的检测体系,攻击方会开发更隐蔽的自动化工具。企业保持警惕的方式是持续更新安全策略,而不是一次性采购。
参考来源
- Google’s Data Agent Kit Hits GA, Splitting Agent Guardrails Between Skills and IAM - InfoQ
- “黑色十月”席卷全球互联网,AI 正彻底掀翻网络安全牌桌? - 虎嗅(转载财联社,单一信源)
- Turn notifications into code with GitHub Copilot in Teams - GitHub Changelog