← Financial Cloud Cloud 云端社群 · Amarathon 2025 回顾

极点宏观|Financial Cloud Cloud · AWS Amarathon 2025

极点宏观|Amarathon 2025 回顾 16:兼顾速度与警觉:Amazon Bedrock Agent 开发的安全要点

演讲者: Brian Tarbox

场次: 16

场次
Summit Dev Lounge2026 Re:cap
01 把架构写成 Steering,引导 AI Agent
02 Agent Harness 才是真正的工程护城河
03 用白话询问可观测性数据
04 以 Bedrock AgentCore 打造 Serverless AR 游戏
05 AgentCore 上的多 Agent 量化回测
06 三分钟用 Kiro 把博客变成幻灯片
AWS Community Day Hong Kong 2025 Re:cap
02 使用 Terraform 实现 AWS 合规
03 从初学者到构建者:一段精彩的 AWS 云之旅
04 以团队为先:使用 Laravel 与 Bref 开展无服务器工程
05 活动开幕式
06 智能体到智能体:在 AWS 上构建可互操作的 AI
07 利用另一类遥测数据,借助 AI 智能体更快改进
08 告别氛围编程:使用 Kiro 进行规格驱动开发
09 使用 MCP 与 AI 智能体进行自动化测试
10 使用机器学习方法实现电信安全现代化
11 重新思考生成式 AI 智能体:RAG 与 MCP
12 使用 TAK 和 AWS 开展灾难与应急响应
13 从测试视角重新思考无服务器应用程序工作流
14 Practical AWS FinOps for Cloud Success
15 基于 AWS 的 AI 驱动全球纯 Alpha 宏观交易:重塑风险调整后资产收益
FSI Recap
01 现代交易生命周期:从交易到结算
02 Goldman Sachs:通过 Fast Track 加速应用程序上云 - AWS Re:cap Q1/2023
03 Zurich Insurance Group:在 AWS 上构建高效的日志管理解决方案
04 FSI Meetup 2025 年第四季度 - Brex 数据库灾难恢复
05 FSI Meetup 2025 Q4 - Graviton 迁移成功案例
06 FSI Meetup 2025 Q4 - Stifel 现代数据平台
07 FSI Meetup 2025 Q4 - PayPal 金融交易数据对账系统
08 FSI Meetup 2025 Q4 - 规模化提升韧性
09 最大限度提高 AI 推理成本效益:战略性采用 AWS GPU 实例
10 高级智能体 AI 设计模式
11 在 AWS 上构建全新的现代化应用
AWS re:Invent 2025
01 Coinbase re:Invent 回顾 (IND3312)
02 利用 AI 和 AWS 构建未来交易平台
03 交易创新:Jefferies 基于 Amazon Bedrock 构建的 AI 助手 (IND3315)
04 FSI 如何通过 Agentic AI (GBL302) 彻底改变 HFT 分析
05 使用 Amazon Time Sync 改进分布式系统(采用 Nasdaq)
06 Amazon Aurora HA 和 DR 全球弹性设计模式 (DAT442)
07 构建智能体式 AI:Amazon Nova Act 与 Strands Agents 实践 (DEV327)
08 深入探讨 Amazon Aurora 及其创新 (DAT441)
09 深入探讨 Amazon S3(STG407)
10 Nasdaq:为全球金融服务构建弹性基础设施 (HMC327)
11 AWS Lambda 新功能 (CNS376)
12 使用 Kiro 进行规范驱动开发 (DEV314)
13 Amazon 的 FinOps:全球电商巨头的云成本管理经验 (AMZ308)
14 AWS 上交易平台的 Tick-to-Trade 延迟
政务数据
01 The AI Era: The Boundary Between Development and Design Is Disappearing
02 端侧多模态 AI 与智慧城市实践
03 大模型能力评测与 AI 项目落地方法论
04 基于云代理的政府开发全链路受控自动化
05 从多智能体看 Agent 时代软件新生态
06 AI 驱动的宏观量化研究与智慧治理
07 公共数据授权运营与智慧政务实践
08 数据资产化落地实践:确权合规、工程治理与数字政府案例
09 AI技术赋能心理健康公益:可信平台的治理、架构与实践
Amarathon 2025 回顾
01 开发者的智能体架构设计路线图
02 Amazon Bedrock 数据自动化
03 AgentCore 上的多智能体
04 实践中构建智能体式 AI:Nova Act 与 Strands Agents
04 使用规格驱动开发,通过 Kiro 加速迁移项目
06 从「匹配」到「理解」:由 AgentCore Memory 驱动的个性化 AI 搜索实践
07 从观察到优化:从 LLM 可观测性迈向 AIOps,将实时洞察转化为智慧自动化
08 部署 TEAM 并打造最佳工程团队
09 五年来所谓无服务器数据库带来的五个惨痛教训
14 如果 AI 替我工作会怎样:Q Developer CLI 与 Kiro 如何改变我的日常工作
16 兼顾速度与警觉:Amazon Bedrock Agent 开发的安全要点
26 在单张 H100 上运行 OSS LLM:更智能、更便宜、更快速
28 现代统一元数据架构:打破数据孤岛的新方法
29 无服务器 MediaOps:使用 Amazon Web Services 上的 AI 自动化视频工作流
30 通过大规模性能测试构建兼具效率与可靠性的架构
31 通过开源连接世界:技术、社区与全球开发者关系的实践历程
33 构建流式 Iceberg 表以进行实时物流分析
34 加速大规模机器人策略训练:基于 Kiro、Trainium 和 EKS 的自动化闭环架构
35 通过规格驱动开发,从 Vibe 走向可行方案
36 让云成本分析更智能:使用 Strands 和 AgentCore 构建 FinOps 智能体
37 使用 CNCF Kagent、K8sGPT 和 Nova Sonic 转型 K8s 对话式智能体 AIOps

Agent 开发类似于分布式编程/微服务。

Agent 系统中的主要安全风险包括

● 威胁建模最佳实践

● 透明度

● Agent

系统中的 Agent(核心组件)会与以下项目交互

● 记忆

● 工具

● 规划

● 行动

记忆组件

● 短期记忆

● 长期记忆

工具

● 日历

● 计算器

● 代码解释器

● 搜索

规划组件

● 反思

● 自我批评

● 思维链

● 子目标分解


Agent 系统就是分布式系统

● 分布式系统会调用本地和远程的各种 API。

● 远程调用存在各种各样的失败情况:

● [ 1 ] 未获授权

● [ 2 ] 无响应

● [ 3 ] 响应缓慢

● [ 4

] 错误响应 Agent 安全比传统分布式系统安全更加困难

● Agent 可能具有高度非确定性。

● 关于具体程度的问题:

● [ 1 ] Agent/工具/操作组的描述有多具体?

● [ 2 ] 有多少个 Agent?

[ 3 ] 你的 system prompt 有多具体?

● 得到错误答案是一项安全隐患。

Agent 攻击面包括

● 每次 Agent 调用

● 每次工具调用

● 每个 prompt

● 攻击面扩大的原因:

● 错误答案

● 延迟的答案

● 多 Agent 可观测性

● 非确定性

● 数据外泄

● Prompt injection

来自 LLM 本身的威胁

● 当监督减弱时,AI 模型可能假装遵守要求并策划欺骗。

● AI 的欺骗能力会随模型复杂度提高而增强。

● 人类的自满会助长 AI 欺骗,使其可能在系统中悄然传播。

● Apollo Research 的一项实验显示,GPT-4 执行非法内幕交易计划,并向调查人员撒谎。

● 研究人员发现,随着参数数量增加,模型会出现欺骗能力,包括:

● [ 1 ] 隐瞒关键事实

● [ 2 ] 伪造凭证

● [ 3 ] 生成误导性说明


三层缓解措施

● Bedrock 用户指南(> 3000 页)

● 共同责任模型 Bedrock

专用防御措施

● Guardrails(防护机制)

● HTML 评估

● 传统 Amazon Web Services 安全

● [ 1 ] IAM

● [ 2 ] 最小权限

[ 3 ] CloudWatch

● Guardrails 指标

● Amazon Bedrock Guardrails

● [ 1 ] 内容筛选器

● [ 2 ] 拒绝主题

● [ 3 ] 字词筛选器

● [ 4 ] 敏感信息筛选器

[ 5 ] 上下文基础检查

● 应用于模型和 Agent

共同责任模型

● 所有标准防御措施

● 最小权限

● IAM

● Lambda 防御措施

● CloudWatch

● CloudTrail