← Financial Cloud Cloud 雲端社群 · Amarathon 2025 回顧

極點宏觀|Financial Cloud Cloud · AWS Amarathon 2025

極點宏觀|Amarathon 2025 回顧 06:從「比對」到「理解」:由 AgentCore Memory 驅動的個人化 AI 搜尋實踐

講者: Liu Cao

場次: 06

場次
Summit Dev Lounge2026 Re:cap
01 把架構寫成 Steering,引導 AI Agent
02 Agent Harness 才是真正的工程護城河
03 用白話詢問可觀測性資料
04 以 Bedrock AgentCore 打造 Serverless AR 遊戲
05 AgentCore 上的多 Agent 量化回測
06 三分鐘用 Kiro 把部落格變簡報
AWS Community Day Hong Kong 2025 Re:cap
02 使用 Terraform 實現 AWS 合規
03 從新手到開發者:一段精彩的 AWS 雲端旅程
04 以團隊為優先:使用 Laravel 與 Bref 進行無伺服器工程
05 活動開幕
06 Agent-to-Agent:在 AWS 上打造可互通的 AI
07 運用另一種遙測資料,透過 AI Agent 加速改善
08 告別 Vibe Coding:運用 Kiro 實踐規格驅動開發(Spec-Driven Development)
09 運用 MCP 與 AI 代理進行自動化測試
10 以 ML 驅動的方法實現電信安全現代化
11 重新思考 GenAI Agent:RAG 與 MCP
12 運用 TAK 與 AWS 進行災害及緊急應變
13 從測試角度重新思考 Serverless 應用程式工作流程
14 運用實務 AWS FinOps 邁向雲端成功
15 運用 AWS 打造 AI 驅動的全球 Pure-Alpha 宏觀交易:革新風險調整後資產報酬
FSI Recap
01 現代交易生命週期:從交易到結算
02 Goldman Sachs:透過 Fast Track 將應用程式移至雲端 - AWS Re:cap Q1/2023
03 Zurich Insurance Group:在 AWS 上建置有效的日誌管理解決方案
04 FSI Meetup 2025 Q4 - Brex 資料庫災難復原
05 FSI Meetup 2025 Q4 - Graviton 遷移成功案例
06 FSI Meetup 2025 Q4 - Stifel 現代化資料平台
07 FSI Meetup 2025 Q4 - PayPal 金融交易資料對帳器
08 FSI Meetup 2025 Q4 - 擴展韌性
09 最大化 AI 推論成本效益:策略性採用 AWS GPU 執行個體
10 進階代理式 AI 設計模式
11 在 AWS 上建置全新現代化應用程式
AWS re:Invent 2025
01 Coinbase re:Invent 回顧 (IND3312)
02 利用 AI 和 AWS 構建未來交易平臺
03 交易創新:Jefferies 在 Amazon Bedrock 上的 AI 助理 (IND3315)
04 FSI 如何運用代理式 AI 徹底改造 HFT 分析 (GBL302)
05 透過 Amazon Time Sync 改善分散式系統,Nasdaq 專題分享
06 Amazon Aurora HA 與 DR 的全球韌性設計模式 (DAT442)
07 建構代理式 AI:Amazon Nova Act 與 Strands Agents 實務應用 (DEV327)
08 深入探討 Amazon Aurora 及其創新 (DAT441)
09 深入探討 Amazon S3 (STG407)
10 Nasdaq:為全球金融服務打造具彈性的基礎設施(HMC327)
11 AWS Lambda 的最新功能 (CNS376)
12 使用 Kiro 進行規格驅動開發 (DEV314)
13 Amazon 的 FinOps:全球電子商務巨擘的雲端成本經驗 (AMZ308)
14 AWS 上的 Tick-to-trade 延遲交易平台
政務資料
01 The AI Era: The Boundary Between Development and Design Is Disappearing
02 裝置端多模態 AI 與智慧城市實踐
03 大模型能力評測與 AI 專案落地方法論
04 基於雲端代理的政府開發全鏈路受控自動化
05 從多智能體看 Agent 時代軟體新生態
06 AI 驅動的宏觀量化研究與智慧治理
07 公共數據授權營運與智慧政務實踐
08 数据资产化落地实践:确权合规、工程治理与数字政府案例
09 AI技術賦能心理健康公益:可信平台的治理、架構與實踐
Amarathon 2025 回顧
01 開發人員的代理架構設計路線圖
02 Amazon Bedrock 資料自動化
03 AgentCore 上的多代理
04 實務建置代理式 AI:Nova Act 與 Strands Agents
04 運用規格驅動開發,以 Kiro 加速移轉專案
06 從「比對」到「理解」:由 AgentCore Memory 驅動的個人化 AI 搜尋實踐
07 從觀察到最佳化:從 LLM 可觀測性邁向 AIOps,將即時洞察轉化為智慧自動化
08 部署 TEAM 並打造最佳工程團隊
09 五年來所謂無伺服器資料庫帶來的五個慘痛教訓
14 如果 AI 替我工作會怎樣:Q Developer CLI 與 Kiro 如何改變我的日常工作
16 兼顧速度與警覺:Amazon Bedrock Agent 開發的安全要點
26 在單張 H100 上執行 OSS LLM:更聰明、更便宜、更快速
28 現代化統一中繼資料架構:打破資料孤島的新方法
29 無伺服器 MediaOps:運用 Amazon Web Services 上的 AI 自動化影片工作流程
30 透過大規模效能測試建構兼具效率與可靠性的架構
31 透過開放原始碼連結世界:技術、社群與全球開發者關係的實踐歷程
33 建置串流 Iceberg 資料表以進行即時物流分析
34 加速大規模機器人策略訓練:以 Kiro、Trainium 與 EKS 為基礎的自動化閉環架構
35 透過規格驅動開發,從 Vibe 走向可行方案
36 讓雲端成本分析更智慧:使用 Strands 與 AgentCore 建置 FinOps 智慧 Agent
37 使用 CNCF Kagent、K8sGPT 與 Nova Sonic,轉型 K8s 對話式 Agentic AIOps

搜尋

● 搜尋引擎架構流程

輸入

● 查詢檢索方法(來自

Query)

● 以倒排索引為基礎的詞彙比對

● 以項目為基礎的協同過濾

● 以

Embedding 為基礎的檢索 合併階段:將三種檢索方法的輸出合併為

● 不重複的無序產品集合

排序階段

● 預排序

● 相關性排序

● 排序

混合排序(Mix-Ranking)的其他輸入

● 廣告

● 內容媒體

最終排序階段

● 混合排序


使用語意比對強化產品比對的系統架構

輸入

● 查

詢比對元件

● 行為資料

● 關鍵字比對

● 語意比對

資料流程

● Query 會輸入至關鍵字比對與語意比對

● 行為資料會向排序提供行為訊號

● 關鍵字比對與行為資料會形成無序的比對集合

● 語意比對會向排序處理階段提供語意相似

度分數

● 排序輸

出

● 有序產品清單 LLM


Agent

工作流程

● Query -->LLM -->計畫

● 計畫 -->LLM -->動作

● 動作 -->「計畫是否完成?」(決策點)

● 若為「是」-->LLM -->完成答案

● 若為「否」-->返回「動作」(經由一個 LLM 步驟)

決策邏輯

● 使用 LLM 判斷計畫是否完成。 差異

● 01

傳統搜尋

● 依賴關鍵字比對

● 網頁連結權重排序

● 目標是快速檢索大量資訊 02 AI

搜尋

● 語意理解

● 將相關資訊注入向量 + 關鍵字

● 大型模型彙整資訊

● 目標是準確回答使用者問題


記憶

● 具備脈絡儲存空間的 LLM 架構

主要元件

● 使用者

● 聊天 APP

● LLM(無狀態)

● 脈絡儲存工

作流程

● 傳送訊息(從使用者至聊天 APP)

● 攜帶完整脈絡(從聊天 APP 至 LLM)

● 傳回回應(從 LLM 至聊天 APP)

● 儲存歷程記錄(從聊天 APP 至脈絡儲存空間)

● 傳回結果(從聊天 APP 至使用者)

脈絡儲存內容

● System Prompt

● 第 1 輪:使用者問題

● 第 1 輪:AI 回答

● 第 2 輪:使用者問題

● 第 2 輪


AI 回答 Agentic 系統架構

● 使用 LLM 管理對話中的記憶與知識圖譜

資料流程與擷取

● 輸入:將對話(訊息)輸入系統。

● 擷取 LLM:大型語言模型處理訊息以產生結構化資料。

● 輸出:「新記憶」與「新實體及關係」。

儲存元件

● 向量資料庫:儲存「既有 + 新記憶」,以供檢索與更新。

● 圖形資料庫:儲存「既有 + 新實體及關係」,以供更新。

更新與管理

● 更新 LLM:第二個 LLM 負責管理將資料更新回資料庫的作業。

● 功能:管理兩個資料庫的「儲存更新」。

● 作業:包含對儲存資料執行明確的「新增」、「刪除」與「更新」動作。

整體目標

● 記憶新增:整個系統可持續儲存與管理對話脈絡及擷取出的知識。


強化型脈絡儲

存系統的元件與定義

● System Prompt:系統指示或設定。

● 對話歷程:對話記錄。

● 工具定義:AI agent 可用的函式。

● weather_api():需要 location、date

● calculator():需要 expression

● 思考:agent 的推理過程。

記憶互動

● 擷取(從思考至記憶)

● 回填(從記憶至思考)

● 記憶:長期或短期知識庫。

工作流程範例:「查詢天氣(華氏)」

● 使用者:查詢天氣(華氏)

● AI:需要呼叫 weather API

● 工具使用歷程:

● 呼叫:weather_api(location='Beijing', date='today')

● 傳回:{'temperature': 25, 'condition': 'sunny'}

● 呼叫:calculator(expression='25*1.8+32')

● 傳回:77

優點

● 長期保留與高效率管理

● 持續更新知識

● 個人化服務

● 支援複雜任務

● 改善互動品質

● 從無狀態轉為有狀態


AgentCore Memory

Amazon Bedrock AgentCore

● 無須管理基礎設施即可使用任何框架與模型,安全地大規模建置、部署及營運高效能 Agents。

元件

● Runtime

● Memory

● Identity

● Gateway

● Code Interpreter

● Browser Tool

● Observability

簡化的記憶系統管理

● 將記憶基礎設施抽象化

● 以 serverless 架構為基礎,可自動擴展

● 自動儲存及管理 Agents 跨多個工作階段的脈絡資訊

企業級服務

● 為每位客戶提供專屬儲存空間,充分保障資料隱私

● 提供加密保護與區域化資料儲存,以滿足企業級安全需求

深度客製化

● 依特定應用情境客製化記憶模式

● 設定長期記憶擷取規則

● 選擇合適的模型並自訂提示詞,以最佳化長期記憶擷取效果 Agent 記憶元件


Agent

Core

● Agent 推理

● Agent 狀態

● 知識元件

● 工具呼叫

● 政策定義

短期記憶

● 脈絡視窗

● 對話歷程

● 工具呼叫歷程

長期記憶

● 事件摘要

● 使用者個人檔案資訊

● 文件資訊

連線

● 儲存-位於 Agent Core 與 Memory 元件之間

● 檢索-位於 Memory 元件與自動記憶檢索模組之間

● 自動記憶檢索模組


使用 Amazon Bedrock AgentCore Memory 的 Agent 架構與優點

Agent 功能

● 智慧 agent 會自動將複雜的使用者需求(例如:「為需要執行設計軟體的大學生推薦一台 5000 元人民幣以下的筆記型電腦」)拆解成多個平行子任務。

● 子任務範例:「大學生使用情境分析」、「預算篩選」、「軟體執行需求比對」。

AgentCore Memory 的優點

● 運用 AgentCore Memory 長期記憶的技術優勢。

● 大幅加快 Agent 開發流程。

● 實現多項實際應用價值:

● 大幅降低依使用者個人檔案進行智慧搜尋所需的 Token 使用量。

● 有效提升搜尋結果的準確率。

● 在技術競爭力與成本效益方面帶來重大突破。

系統圖流程

● User Query 會進入 Agent Runtime Environment(Strands Agents)。

Strands Agents 會與下列項目互動

● 工具(使用者偏好檢索)

● Amazon Bedrock LLM(處理輸出)

● AgentCore Memory

AgentCore Memory 管理

● 短期記憶(互動事件)

● 自動記憶擷取

● 長期記憶(使用者偏好)

● 此流程會產生 Agent Response 並回傳給使用者。