← Financial Cloud Cloud 雲端社群 · Amarathon 2025 回顧

極點宏觀|Financial Cloud Cloud · AWS Amarathon 2025

極點宏觀|Amarathon 2025 回顧 37:使用 CNCF Kagent、K8sGPT 與 Nova Sonic,轉型 K8s 對話式 Agentic AIOps

講者: Shaoyi Li

場次: 37

場次
Summit Dev Lounge2026 Re:cap
01 把架構寫成 Steering,引導 AI Agent
02 Agent Harness 才是真正的工程護城河
03 用白話詢問可觀測性資料
04 以 Bedrock AgentCore 打造 Serverless AR 遊戲
05 AgentCore 上的多 Agent 量化回測
06 三分鐘用 Kiro 把部落格變簡報
AWS Community Day Hong Kong 2025 Re:cap
02 使用 Terraform 實現 AWS 合規
03 從新手到開發者:一段精彩的 AWS 雲端旅程
04 以團隊為優先:使用 Laravel 與 Bref 進行無伺服器工程
05 活動開幕
06 Agent-to-Agent:在 AWS 上打造可互通的 AI
07 運用另一種遙測資料,透過 AI Agent 加速改善
08 告別 Vibe Coding:運用 Kiro 實踐規格驅動開發(Spec-Driven Development)
09 運用 MCP 與 AI 代理進行自動化測試
10 以 ML 驅動的方法實現電信安全現代化
11 重新思考 GenAI Agent:RAG 與 MCP
12 運用 TAK 與 AWS 進行災害及緊急應變
13 從測試角度重新思考 Serverless 應用程式工作流程
14 運用實務 AWS FinOps 邁向雲端成功
15 運用 AWS 打造 AI 驅動的全球 Pure-Alpha 宏觀交易:革新風險調整後資產報酬
FSI Recap
01 現代交易生命週期:從交易到結算
02 Goldman Sachs:透過 Fast Track 將應用程式移至雲端 - AWS Re:cap Q1/2023
03 Zurich Insurance Group:在 AWS 上建置有效的日誌管理解決方案
04 FSI Meetup 2025 Q4 - Brex 資料庫災難復原
05 FSI Meetup 2025 Q4 - Graviton 遷移成功案例
06 FSI Meetup 2025 Q4 - Stifel 現代化資料平台
07 FSI Meetup 2025 Q4 - PayPal 金融交易資料對帳器
08 FSI Meetup 2025 Q4 - 擴展韌性
09 最大化 AI 推論成本效益:策略性採用 AWS GPU 執行個體
10 進階代理式 AI 設計模式
11 在 AWS 上建置全新現代化應用程式
AWS re:Invent 2025
01 Coinbase re:Invent 回顧 (IND3312)
02 利用 AI 和 AWS 構建未來交易平臺
03 交易創新:Jefferies 在 Amazon Bedrock 上的 AI 助理 (IND3315)
04 FSI 如何運用代理式 AI 徹底改造 HFT 分析 (GBL302)
05 透過 Amazon Time Sync 改善分散式系統,Nasdaq 專題分享
06 Amazon Aurora HA 與 DR 的全球韌性設計模式 (DAT442)
07 建構代理式 AI:Amazon Nova Act 與 Strands Agents 實務應用 (DEV327)
08 深入探討 Amazon Aurora 及其創新 (DAT441)
09 深入探討 Amazon S3 (STG407)
10 Nasdaq:為全球金融服務打造具彈性的基礎設施(HMC327)
11 AWS Lambda 的最新功能 (CNS376)
12 使用 Kiro 進行規格驅動開發 (DEV314)
13 Amazon 的 FinOps:全球電子商務巨擘的雲端成本經驗 (AMZ308)
14 AWS 上的 Tick-to-trade 延遲交易平台
政務資料
01 The AI Era: The Boundary Between Development and Design Is Disappearing
02 裝置端多模態 AI 與智慧城市實踐
03 大模型能力評測與 AI 專案落地方法論
04 基於雲端代理的政府開發全鏈路受控自動化
05 從多智能體看 Agent 時代軟體新生態
06 AI 驅動的宏觀量化研究與智慧治理
07 公共數據授權營運與智慧政務實踐
08 数据资产化落地实践:确权合规、工程治理与数字政府案例
09 AI技術賦能心理健康公益:可信平台的治理、架構與實踐
Amarathon 2025 回顧
01 開發人員的代理架構設計路線圖
02 Amazon Bedrock 資料自動化
03 AgentCore 上的多代理
04 實務建置代理式 AI:Nova Act 與 Strands Agents
04 運用規格驅動開發,以 Kiro 加速移轉專案
06 從「比對」到「理解」:由 AgentCore Memory 驅動的個人化 AI 搜尋實踐
07 從觀察到最佳化:從 LLM 可觀測性邁向 AIOps,將即時洞察轉化為智慧自動化
08 部署 TEAM 並打造最佳工程團隊
09 五年來所謂無伺服器資料庫帶來的五個慘痛教訓
14 如果 AI 替我工作會怎樣:Q Developer CLI 與 Kiro 如何改變我的日常工作
16 兼顧速度與警覺:Amazon Bedrock Agent 開發的安全要點
26 在單張 H100 上執行 OSS LLM:更聰明、更便宜、更快速
28 現代化統一中繼資料架構:打破資料孤島的新方法
29 無伺服器 MediaOps:運用 Amazon Web Services 上的 AI 自動化影片工作流程
30 透過大規模效能測試建構兼具效率與可靠性的架構
31 透過開放原始碼連結世界:技術、社群與全球開發者關係的實踐歷程
33 建置串流 Iceberg 資料表以進行即時物流分析
34 加速大規模機器人策略訓練:以 Kiro、Trainium 與 EKS 為基礎的自動化閉環架構
35 透過規格驅動開發,從 Vibe 走向可行方案
36 讓雲端成本分析更智慧:使用 Strands 與 AgentCore 建置 FinOps 智慧 Agent
37 使用 CNCF Kagent、K8sGPT 與 Nova Sonic,轉型 K8s 對話式 Agentic AIOps

Kubernetes 維運挑戰

維運資料量龐大,疑難排解耗時

● 平均 MTTR 超過 4 小時,其中人工分析占 65%

● 分析資料量可達 TB 等級

資源類型繁多、關聯複雜

● 大量叢集物件、事件與日誌資料

在多種工具之間切換複雜

● SRE 每天在 8 種以上的工具之間切換,context switching 成本高

針對警示進行疑難排解既複雜又耗時

● 自動化能力有限

● 只有 30% 的常見故障能自動修復,複雜情境仍仰賴人工決策

K8s 的學習成本與門檻高

● 維運效率比較

● 採用 AIOps 的企業,其平均故障復原時間(MTTR)比傳統模式縮短 90%,維運成本降低 50%

核心價值

● 1. 故障自我修復:透過 AI 預測與自動化 script,實現部分故障的無人值守修復。

● 2. 智慧監控:從大量日誌與指標中精準找出問題根本原因,告別大海撈針式搜尋。

● 3. 釋放人力資源:讓 SRE 團隊擺脫重複性工作,專注於更有價值的創新工作。


Kagent 驅動的 AIOps 解決方案

Kagent:雲端原生 Agentic AI 框架

● CNCF 2025 開放原始碼 sandbox 專案,是專為 K8s 雲端原生情境打造的 Agent 框架。

● 透過整合多個模型平台(Amazon Bedrock、Anthropic、OpenAI 等),建置以 K8s 為基礎的智慧 agent 系統。

核心優勢

● K8s 雲端原生:與 K8s 生態系原生整合,自然融入現有叢集

● 豐富的使用案例:適用於任何 AI Agent 使用案例

● 豐富的工具整合:支援自訂 MCP 工具、內建多樣化 K8s 工具,以及預先設定的 Agent

● 視覺化介面:UI 介面演進為多 agent 工作流程協調,更直覺、更有效率

● 完整的可觀測性:內建追蹤、日誌記錄與監控能力,支援整合常用的可觀測性工具

使用案例

● 雲端原生維運自動化、多叢集管理、任何多 agent 協作系統、AIOps 實務等。


Amazon Nova Sonic:推動語音式對話 AIOps

● Amazon Nova Sonic 是 Amazon Bedrock 提供的語音對話模型。

● 它整合了傳統上分離的語音理解與語音產生模型,能進行貼近真實生活、類似人類的語音對話,支援多種語言與語調,並具備低延遲與高效能。

使用案例

● AI 智慧客服:全年無休回應客戶詢問

● 企業語音助理:整合知識庫、智慧 agent 與外部工具,提供客製化服務

● 多語言學習工具:支援多種語言

● 跨產業應用:Fintech、醫療照護、智慧家庭等。

與維運情境結合的核心價值

● 將傳統複雜的人工疑難排解 + 修復簡化為語音對話,將 AIOps 智慧維運發揮到最大,降低 MTTR


K8sGPT:開放原始碼 K8s 故障診斷專家

● CNCF 開放原始碼 sandbox 專案,為 Kubernetes 維護提供 AI 驅動的可觀測性與自動化維運

● 支援 CLI 與 Operator 雙模式,可進行即時分析與持續監控

● 掃描叢集資源、事件、日誌與指標,整合 Amazon Bedrock 上的 AI 模型,以產生文字洞察與說明,亦可與 Kiro 的 MCP 功能整合,以自然語言觀察及維護叢集

● 解決傳統維運被動回應的問題,採用主動式 AI 智慧維運

● 支援多種自訂 analyzer 與可觀測性工具,可與 Prometheus、Alertmanager、Grafana 等整合。


示範叢集

● 部署於 Amazon Web Services 上的 EKS 受管叢集,叢集名稱:eks-cluster

● 叢集資源概觀:該叢集透過 ArgoCD 的 application,部署從 GitHub 讀取的多項 K8s 資源。包含 2 個 pod、1 個 service 與 1 個 Deployment

● Pod 問題:記憶體限制設為 200Mi,但執行的 process 需要 205Mi,因而造成 CrashLoopBackOff

實驗性修復情境

● K8sGPT 找出 Pod 問題,並提供說明與修復建議。

● 最後,透過 ArgoCD 調整 application 內 Helm Chart 的記憶體限制參數,觸發 ArgoCD 修改 pod 設定,讓 pod 成功啟動。


摘要

● 瞭解如何以 Amazon Bedrock AgentCore 為基礎,並由 AI 多 agent 協作系統賦能,從零開始建置 K8s 智慧維運解決方案。

● 只需一個簡單句子,即可完成從問題識別、診斷到全自動修復的整個流程,大幅簡化大量維運資料的分析與人工修復作業,降低人工作業錯誤的風險。

● 相較於 K8sGPT 原本有限的自動修復能力,此解決方案加入更多以業務為基礎的自動修復功能,使其更靈活且更具擴充性。

● 對於自動化修復情境,我們導入 HITL(Human-in-the-Loop)流程,以確保自動修復的可靠性與可控性。

● 運用 ArgoCD 的原生能力,所有修復操作皆可稽核且可回復,降低維護風險。

● 維運工程師可直接透過語音將 AIOps 智慧維運發揮到最大,顯著降低 MTTI 與 MTTR。

● 未來計畫:整合 CloudWatch Anomaly Detection(AD)與 DevOps Guru,根據歷史資料分析預測潛在的 K8s 叢集故障。