极点宏观|Financial Cloud Cloud · AWS Amarathon 2025
极点宏观|Amarathon 2025 回顾 36:让云成本分析更智能:使用 Strands 和 AgentCore 构建 FinOps 智能体
2025 年被称为“AI 智能体元年”,距离现在只剩两个月。
● 用户已经开发出自己的 AI 智能体。
● 编程智能体是 AI 智能体的一种类型。
● AI 智能体是各种利用 AI、且“看起来很智能的应用”。
● 示例包括:会议纪要智能体、面试准备智能体和编程智能体。
LLM 时代“AI 智能体”的特征
● 角色设定:可以定义角色或个性,实现个性化的行为和响应。
● 规划与反思:为了实现目标,智能体可以制定计划,并根据执行结果进行调整。
● 长期记忆:可以像人类一样保留长期交互信息或经验。
● 工具执行:不仅可以生成文本,还可以调用各种外部工具或 API 来执行操作。
● AI 智能体可以帮助解决实际问题,例如成本分析智能体。
● 如何使用 Amazon Web Services 开发成本分析智能体。
如何构建 AI 智能体
● Bedrock Agents
● AgentCore:以无服务器方式部署自行开发的智能体,并提供身份验证、工具、可观测性及其他功能。
● Strands Agents:一个 Python 框架,只需最少 3 行极其精简的代码即可实现 AI 智能体。
● 使用 Strands Agents 构建 FinOps 智能体。
开源 AI 智能体框架——Strands Agents
● 只需 3 行 Python 代码即可创建 AI 智能体
● 优点:简单、轻量,开发体验良好
● 应用于 Amazon Web Services,例如 Amazon Q Developer
● Strands 核心概念:结合“模型”和“工具”
● 随着 LLM 能力的提升,构建 AI 智能体只需指定模型和工具
● 创建智能体:设置 LLM 和系统提示词,并通过提供提示词进行调用
● 为智能体配备工具能力:Strands 提供内置工具,例如计算和文件操作
● 可以通过为 Python 函数添加 @tool 来编写自己的工具
● 获取 MCP 服务器提供的工具,兼容本地和远程 MCP 服务器
● 构建多个智能体:Agent as Tools、Swarm、Graphs、Workflows
● Agent as Tools 示例:主管—下属模型,由主管智能体分配子任务、调用子智能体执行并汇总结果
● MCP 之后的热门趋势:支持 A2A(Agent to Agent)
● 在 Strands 上构建 A2A 的示例:有专用类可以使用 Tool Use 调用远程智能体
● 智能体部署:通过 Bedrock AgentCore 快速部署
AI 智能体部署的难题
● 部署过程复杂
● 身份验证和授权问题
● 维护和监控方面的挑战
● 运行成本问题
● 是否支持流式输出
什么是 Bedrock AgentCore?
● 它是专为 AI 智能体打造的“便捷组件集”
● 包括 Runtime(无服务器基础设施)、Memory(记忆管理)、Gateway(工具集成)、Identity(身份验证/授权)和 Observability(维护和监控)等功能
● 可以与任何偏好的智能体框架搭配使用,按需选择功能,并通过 API 轻松集成
整个系统的核心是 Runtime
● 无论使用何种框架开发 AI 智能体,都可以轻松部署到无服务器环境
● 类似于专为 AI 智能体准备的容器化 Lambda
● 借助专用 CLI 工具包,可以轻松完成部署操作
● 后端部分已经完成,下一步是考虑前端的实现方案。
前端页面的可选技术
● 对初学者友好
● 生产级开发套件
● 可以使用 Python 轻松编写美观的界面
● 只需关联 Next.js 或 React 等代码仓库,即可实现自动部署
● 对不熟悉 JavaScript 的后端工程师来说,这是一个不错的选择
● Gen2 版本实现了显著演进和性能提升。
关键要点
● 云成本分析对企业和个人都至关重要。在 AI 智能体元年,可以使用 Amazon Web Services 的技术栈快速构建帮助分析云成本的 AI 智能体。
● Strands Agents 是一个可灵活构建多智能体系统的框架,只需 3 行 Python 代码即可设置 AI 智能体,具有极致的简洁性和高度可扩展性。
● Strands Agents 支持 MCP 和 A2A 协议,让智能体之间能够协作和共享工具。
● Strands Agents 可以与 Bedrock AgentCore 无缝集成,实现生产级部署。
● 使用 AgentCore 可以简化部署和维护过程。Runtime 组件提供可自动扩缩的无服务器运行时环境。
● Memory、Identity、Gateway 和 Observability 等组件提供记忆、身份验证、工具集成和监控的一体化能力。
● 通过 CLI 自动打包和部署,可以快速进入生产环境。
Amazon Bedrock AgentCore
架构 核心服务
● AgentCore Runtime:用于托管 AI 智能体或工具代码的安全无服务器执行环境。它提供完整的会话隔离以确保安全,并支持最长 8 小时的长时间异步任务。
● 框架:支持热门开源智能体框架(例如 LangGraph、CrewAI)以及任何基础模型。
● 智能体指令:定义智能体的行为和能力。
● 智能体本地工具:特定智能体用于执行任务的本地工具。
● 智能体上下文:管理对话中临时的、会话特定的状态。
● AgentCore Gateway:为智能体发现并连接工具和资源提供安全方式。它可以将现有 API(例如 Lambda 函数或 OpenAPI 规范)转换为智能体兼容工具,最大限度减少自定义集成工作。
● AgentCore Memory:通过管理短期和长期记忆,让智能体能够进行上下文感知对话。它会存储对话上下文,并提取跨会话的用户偏好等持久性知识。
● AgentCore Identity:为智能体提供安全、可扩展的身份和访问管理。它负责身份验证和授权,让智能体能够代表用户安全访问 AWS 资源和第三方服务。
● CloudWatch GenAI Observability(AgentCore Observability):为生产环境中的智能体性能提供全面的监控、跟踪和调试功能。
它由 Amazon CloudWatch 和 OpenTelemetry 兼容的遥测技术提供支持,能够深入洞察智能体工作流的运行情况。内置工具
● AgentCore Code Interpreter:让智能体能够在隔离的沙箱环境中安全地编写和执行代码,以完成数据分析或计算等复杂任务。
● AgentCore Browser:提供快速、安全、基于云的浏览器运行时,让智能体能够大规模与网站交互并提取信息。
外部交互
● 应用和模型:智能体系统与用户应用以及 Amazon Bedrock 或其他提供商提供的各种基础模型(FM)交互,以执行任务。
Amazon Bedrock AgentCore 入门工具包
● 代码:流程从 AI 智能体的源代码开始。
● 构建:工具包中的“agentcore launch”命令会自动触发 AWS CodeBuild 项目。
● 容器:CodeBuild 将智能体代码编译为针对环境优化的容器镜像(例如 ARM64 架构)。
● ECR(Elastic Container Registry):构建完成的容器镜像会被“推送”到 Amazon ECR 仓库,该仓库作为镜像的持久存储。
● AgentCore Runtime:随后将镜像部署到安全、无服务器的 Amazon Bedrock AgentCore Runtime,即 AI 智能体的执行环境。
● X-Ray:系统与 AWS X-Ray 集成以提供可观测性,并为生产环境中的智能体性能提供跟踪和调试功能。
● 自动化:底部文字表示 agentcore-starter-toolkit 会自动处理这些配置和部署步骤。