極點宏觀｜Financial Cloud Cloud · AWS Amarathon 2025
極點宏觀｜Amarathon 2025 回顧 37：使用 CNCF Kagent、K8sGPT 與 Nova Sonic，轉型 K8s 對話式 Agentic AIOps
Kubernetes 維運挑戰
維運資料量龐大，疑難排解耗時
● 平均 MTTR 超過 4 小時，其中人工分析占 65%
● 分析資料量可達 TB 等級
資源類型繁多、關聯複雜
● 大量叢集物件、事件與日誌資料
在多種工具之間切換複雜
● SRE 每天在 8 種以上的工具之間切換，context switching 成本高
針對警示進行疑難排解既複雜又耗時
● 自動化能力有限
● 只有 30% 的常見故障能自動修復，複雜情境仍仰賴人工決策
K8s 的學習成本與門檻高
● 維運效率比較
● 採用 AIOps 的企業，其平均故障復原時間（MTTR）比傳統模式縮短 90%，維運成本降低 50%
核心價值
● 1. 故障自我修復：透過 AI 預測與自動化 script，實現部分故障的無人值守修復。
● 2. 智慧監控：從大量日誌與指標中精準找出問題根本原因，告別大海撈針式搜尋。
● 3. 釋放人力資源：讓 SRE 團隊擺脫重複性工作，專注於更有價值的創新工作。
Kagent 驅動的 AIOps 解決方案
Kagent：雲端原生 Agentic AI 框架
● CNCF 2025 開放原始碼 sandbox 專案，是專為 K8s 雲端原生情境打造的 Agent 框架。
● 透過整合多個模型平台（Amazon Bedrock、Anthropic、OpenAI 等），建置以 K8s 為基礎的智慧 agent 系統。
核心優勢
● K8s 雲端原生：與 K8s 生態系原生整合，自然融入現有叢集
● 豐富的使用案例：適用於任何 AI Agent 使用案例
● 豐富的工具整合：支援自訂 MCP 工具、內建多樣化 K8s 工具，以及預先設定的 Agent
● 視覺化介面：UI 介面演進為多 agent 工作流程協調，更直覺、更有效率
● 完整的可觀測性：內建追蹤、日誌記錄與監控能力，支援整合常用的可觀測性工具
使用案例
● 雲端原生維運自動化、多叢集管理、任何多 agent 協作系統、AIOps 實務等。
Amazon Nova Sonic：推動語音式對話 AIOps
● Amazon Nova Sonic 是 Amazon Bedrock 提供的語音對話模型。
● 它整合了傳統上分離的語音理解與語音產生模型，能進行貼近真實生活、類似人類的語音對話，支援多種語言與語調，並具備低延遲與高效能。
使用案例
● AI 智慧客服：全年無休回應客戶詢問
● 企業語音助理：整合知識庫、智慧 agent 與外部工具，提供客製化服務
● 多語言學習工具：支援多種語言
● 跨產業應用：Fintech、醫療照護、智慧家庭等。
與維運情境結合的核心價值
● 將傳統複雜的人工疑難排解 + 修復簡化為語音對話，將 AIOps 智慧維運發揮到最大，降低 MTTR
K8sGPT：開放原始碼 K8s 故障診斷專家
● CNCF 開放原始碼 sandbox 專案，為 Kubernetes 維護提供 AI 驅動的可觀測性與自動化維運
● 支援 CLI 與 Operator 雙模式，可進行即時分析與持續監控
● 掃描叢集資源、事件、日誌與指標，整合 Amazon Bedrock 上的 AI 模型，以產生文字洞察與說明，亦可與 Kiro 的 MCP 功能整合，以自然語言觀察及維護叢集
● 解決傳統維運被動回應的問題，採用主動式 AI 智慧維運
● 支援多種自訂 analyzer 與可觀測性工具，可與 Prometheus、Alertmanager、Grafana 等整合。
示範叢集
● 部署於 Amazon Web Services 上的 EKS 受管叢集，叢集名稱：eks-cluster
● 叢集資源概觀：該叢集透過 ArgoCD 的 application，部署從 GitHub 讀取的多項 K8s 資源。包含 2 個 pod、1 個 service 與 1 個 Deployment
● Pod 問題：記憶體限制設為 200Mi，但執行的 process 需要 205Mi，因而造成 CrashLoopBackOff
實驗性修復情境
● K8sGPT 找出 Pod 問題，並提供說明與修復建議。
● 最後，透過 ArgoCD 調整 application 內 Helm Chart 的記憶體限制參數，觸發 ArgoCD 修改 pod 設定，讓 pod 成功啟動。
摘要
● 瞭解如何以 Amazon Bedrock AgentCore 為基礎，並由 AI 多 agent 協作系統賦能，從零開始建置 K8s 智慧維運解決方案。
● 只需一個簡單句子，即可完成從問題識別、診斷到全自動修復的整個流程，大幅簡化大量維運資料的分析與人工修復作業，降低人工作業錯誤的風險。
● 相較於 K8sGPT 原本有限的自動修復能力，此解決方案加入更多以業務為基礎的自動修復功能，使其更靈活且更具擴充性。
● 對於自動化修復情境，我們導入 HITL（Human-in-the-Loop）流程，以確保自動修復的可靠性與可控性。
● 運用 ArgoCD 的原生能力，所有修復操作皆可稽核且可回復，降低維護風險。
● 維運工程師可直接透過語音將 AIOps 智慧維運發揮到最大，顯著降低 MTTI 與 MTTR。
● 未來計畫：整合 CloudWatch Anomaly Detection（AD）與 DevOps Guru，根據歷史資料分析預測潛在的 K8s 叢集故障。