極點宏觀｜Financial Cloud Cloud · AWS Amarathon 2025
極點宏觀｜Amarathon 2025 回顧 36：讓雲端成本分析更智慧：使用 Strands 與 AgentCore 建置 FinOps 智慧 Agent
2025 年被稱為「AI Agent 元年」，距離現在只剩兩個月。
● 使用者已經開發出自己的 AI Agent。
● 程式設計 agent 是 AI agent 的一種類型。
● AI agent 是各種運用 AI、且「看起來很聰明的應用程式」。
● 範例包括：會議記錄 agent、面試準備 agent，以及程式設計 agent。
LLM 時代「AI Agent」的特性
● 角色設定：可定義角色或人格，實現個人化的行為與回應。
● 規劃與反思：為了達成目標，agent 可制定計畫，並根據執行結果進行調整。
● 長期記憶：可像人類一樣保留長期互動資訊或經驗。
● 工具執行：不只能產生文字，也能呼叫各種外部工具或 API 來執行操作。
● AI Agent 可協助解決實際問題，例如成本分析 agent。
● 如何使用 Amazon Web Services 開發成本分析 agent。
如何建置 AI Agent
● Bedrock Agents
● AgentCore：以 serverless 方式部署自行開發的 agent，並提供身分驗證、工具、可觀測性及其他功能。
● Strands Agents：Python 框架，只需要至少 3 行極為精簡的程式碼即可實作 AI agent。
● 使用 Strands Agents 建置 FinOps agent。
開放原始碼 AI Agent 框架 Strands Agents
● 只需 3 行 Python 程式碼即可建立 AI agent
● 優點：簡單、輕量，且開發體驗良好
● 應用於 Amazon Web Services，例如 Amazon Q Developer
● Strands 核心概念：結合「模型」與「工具」
● 隨著 LLM 能力提升，建置 AI agent 只需指定模型與工具
● 建立 agent：設定 LLM 與 system prompt，並透過提供 prompt 進行呼叫
● 為 agent 配備工具能力：Strands 提供內建工具，例如計算與檔案操作
● 可透過在 Python function 加上 @tool 來撰寫自己的工具
● 取得 MCP server 提供的工具，並與本機及遠端 MCP server 相容
● 建置多個 agent：Agent as Tools、Swarm、Graphs、Workflows
● Agent as Tools 範例：主管—部屬模型，由主管 agent 指派子工作、呼叫子 agent 執行，並彙整結果
● MCP 之後的熱門趨勢：支援 A2A（Agent to Agent）
● 在 Strands 上建構 A2A 的範例：有專用 class 可使用 Tool Use 呼叫遠端 agent
● Agent 部署：透過 Bedrock AgentCore 快速部署
部署 AI Agent 的難題
● 部署程序複雜
● 身分驗證與授權問題
● 維護與監控方面的挑戰
● 執行成本問題
● 是否支援串流輸出
什麼是 Bedrock AgentCore？
● 它是專為 AI agent 打造的「便利元件組」
● 包含 Runtime（serverless 基礎架構）、Memory（記憶體管理）、Gateway（工具整合）、Identity（身分驗證／授權），以及 Observability（維護與監控）等功能
● 可搭配任何偏好的 agent 框架使用、視需要選擇功能，並透過 API 輕鬆整合
整個系統的核心是 runtime
● 無論使用哪種框架開發 AI agent，都能輕鬆部署至 serverless 環境
● 類似於專為 AI agent 準備的容器化 Lambda
● 藉助專用 CLI toolkit，即可輕鬆完成部署操作
● 後端部分已完成，下一步是考量前端的實作方案
前端頁面的選用技術
● 適合初學者
● 正式環境等級的開發套件
● 可使用 Python 輕鬆撰寫美觀的介面
● 只要連結 Next.js 或 React 等程式碼儲存庫，即可實現自動部署
● 對不熟悉 JavaScript 的後端工程師而言，這是很好的選擇
● Gen2 版本已實現大幅演進與效能提升。
重點摘要
● 雲端成本分析對企業與個人都至關重要。在 AI Agent 元年，可使用 Amazon Web Services 的技術堆疊快速建置協助分析雲端成本的 AI agent。
● Strands Agents 是可靈活建置多 agent 系統的框架，只需 3 行 Python 程式碼即可設定 AI agent，兼具極致簡潔與高度擴充性。
● Strands Agents 支援 MCP 與 A2A protocol，讓 agent 之間能夠協作及共用工具。
● Strands Agents 可與 Bedrock AgentCore 無縫整合，實現正式環境等級的部署。
● 使用 AgentCore 可簡化部署與維護程序。Runtime 元件提供可自動擴充的 serverless runtime 環境。
● Memory、Identity、Gateway 與 Observability 等元件分別提供記憶、身分驗證、工具整合與監控的整合能力。
● 透過 CLI 自動封裝及部署，可快速進入正式環境。
Amazon Bedrock AgentCore
架構 核心服務
● AgentCore Runtime：用來託管 AI agent 或工具程式碼的安全 serverless 執行環境。它提供完整的工作階段隔離以確保安全，並支援最長 8 小時的長時間非同步工作。
● Framework：支援熱門的開放原始碼 agent 框架（例如 LangGraph、CrewAI）及任何基礎模型。
● Agent Instructions：定義 agent 的行為與能力。
● Agent Local Tools：特定 agent 用於執行工作的本機工具。
● Agent Context：管理對話中暫時且為特定工作階段專用的狀態。
● AgentCore Gateway：提供安全的方式，讓 agent 探索並連線至工具與資源。它可將現有 API（例如 Lambda function 或 OpenAPI spec）轉換為 agent 相容工具，盡可能減少自訂整合工作。
● AgentCore Memory：透過管理短期與長期記憶，讓 agent 能進行具備 context 感知能力的對話。它會儲存對話 context，並擷取跨工作階段的使用者偏好等持久性知識。
● AgentCore Identity：為 agent 提供安全且可擴充的身分與存取權管理。它會處理身分驗證與授權，讓 agent 能代表使用者安全地存取 AWS 資源及第三方服務。
● CloudWatch GenAI Observability（AgentCore Observability）：為正式環境中的 agent 效能提供完整的監控、追蹤與偵錯功能。
它由 Amazon CloudWatch 與 OpenTelemetry 相容遙測技術支援，能深入掌握 agent 工作流程的營運狀況。內建工具
● AgentCore Code Interpreter：讓 agent 能在隔離的 sandbox 環境中安全地撰寫及執行程式碼，以完成資料分析或計算等複雜工作。
● AgentCore Browser：提供快速、安全且以雲端為基礎的瀏覽器 runtime，讓 agent 能大規模地與網站互動並擷取資訊。
外部互動
● App & Models：agent 系統會與使用者應用程式，以及 Amazon Bedrock 或其他供應商提供的各種基礎模型（FM）互動，以執行工作。
Amazon Bedrock AgentCore starter toolkit
● Code：程序從 AI agent 的原始程式碼開始。
● Build：toolkit 中的「agentcore launch」指令會自動觸發 AWS CodeBuild 專案。
● Container：CodeBuild 將 agent 程式碼編譯成針對環境最佳化的 container image（例如 ARM64 架構）。
● ECR（Elastic Container Registry）：建置完成的 container image 會「推送」至 Amazon ECR 儲存庫，作為映像檔的持久性儲存空間。
● AgentCore Runtime：接著將映像檔部署至安全、serverless 的 Amazon Bedrock AgentCore Runtime，也就是 AI agent 的執行環境。
● X-Ray：系統與 AWS X-Ray 整合以提供可觀測性，並為正式環境中的 agent 效能提供追蹤與偵錯功能。
● Automation：底部文字表示 agentcore-starter-toolkit 會自動處理這些設定與部署步驟。