極点マクロ|Financial Cloud Cloud · AWS Amarathon 2025
極点マクロ|Amarathon 2025 振り返り 37:CNCF Kagent、K8sGPT、Nova Sonicを使用したK8s向け対話型エージェントAIOpsの変革
Kubernetes運用の課題
大量の運用データと時間のかかるトラブルシューティング
● 平均MTTRは4時間を超え、手作業による分析が65%を占める
● 分析データ量はTB規模に達する可能性がある
多様なリソースタイプと複雑な関連性
● 大量のクラスターオブジェクト、イベント、ログデータ
複数ツール間の複雑な切り替え
● SREは毎日8+個のツールを切り替えており、コンテキスト切り替えのコストが高い
アラート対応時の複雑で時間のかかるトラブルシューティング
● 自動化機能の限界
● 一般的な障害のうち自動修復できるのは30%にすぎず、複雑なシナリオでは人間の意思決定に依存する
K8sの学習コストと導入のハードルが高い
● 運用効率の比較
● AIOpsを導入した企業では、平均障害復旧時間(MTTR)が従来モデルより90%短くなり、運用コストが50%削減される
コアバリュー
● 1. 障害の自己修復: AIによる予測と自動化スクリプトを通じ、一部の障害を無人で修復する。
● 2. インテリジェントモニタリング: 膨大なログとメトリクスから問題の根本原因を正確に特定し、干し草の山から針を探すような作業から脱却する。
● 3. 人的リソースの解放: SREチームを反復作業から解放し、より価値の高いイノベーション業務に集中させる。
Kagent駆動のAIOpsソリューション
Kagent: クラウドネイティブなエージェント型AIフレームワーク
● CNCF 2025オープンソースサンドボックスプロジェクトであり、K8sクラウドネイティブシナリオ専用のAgentフレームワーク。
● 複数のモデルプラットフォーム(Amazon Bedrock、Anthropic、OpenAIなど)と統合し、K8sを基盤とするインテリジェントエージェントシステムを構築する。
主な利点
● K8sクラウドネイティブ: K8sエコシステムとネイティブに統合され、既存のクラスターに自然に溶け込む
● 豊富なユースケース: あらゆるAIエージェントのユースケースに適用可能
● 豊富なツール統合: カスタムMCPツール、多様な組み込みK8sツール、事前設定済みAgentsをサポート
● 可視化インターフェース: UIインターフェースによってマルチエージェントワークフローのオーケストレーションが進化し、より直感的かつ効率的になる
● 包括的なオブザーバビリティ: トレース、ロギング、モニタリング機能を内蔵し、一般的なオブザーバビリティツールとの統合をサポート
ユースケース
● クラウドネイティブ運用の自動化、マルチクラスター管理、あらゆるマルチエージェント協調システム、AIOpsの実践など
Amazon Nova Sonic: 音声ベースの対話型AIOpsを推進
● Amazon Nova Sonicは、Amazon Bedrockで提供される音声対話モデルである。
● 従来は別々だった音声理解モデルと音声生成モデルを統合し、現実の人間のような音声会話を実現する。複数の言語と声調をサポートし、低レイテンシーかつ高性能である。
ユースケース
● AIインテリジェントカスタマーサービス: 顧客からの問い合わせに24/7で対応
● エンタープライズ音声アシスタント: ナレッジベース、インテリジェントエージェント、外部ツールを統合してカスタマイズされたサービスを提供
● 多言語学習ツール: 複数言語をサポート
● 複数業界での応用: Fintech、ヘルスケア、スマートホームなど
運用シナリオと組み合わせる中核的価値
● 従来の複雑な手作業によるトラブルシューティング + 修復を音声会話へ簡素化し、インテリジェント運用AIOpsを最大限に活用してMTTRを短縮
K8sGPT: オープンソースのK8s障害診断エキスパート
● CNCFオープンソースサンドボックスプロジェクトで、Kubernetesの保守向けにAI駆動のオブザーバビリティと運用自動化を提供
● CLIとOperatorの二つのモードをサポートし、即時分析と継続的なモニタリングを実現
● クラスターのリソース、イベント、ログ、メトリクスをスキャンし、Amazon Bedrock上のAIモデルと統合してテキストによるインサイトと説明を生成する。また、KiroのMCP機能と統合し、自然言語でクラスターを監視、保守できる
● 従来の運用における受動的な対応の問題を解決し、能動的なAIインテリジェント運用を採用
● 多様なカスタムアナライザーとオブザーバビリティツールをサポートし、Prometheus、Alertmanager、Grafanaなどと統合可能
デモクラスター
● Amazon Web ServicesにデプロイされたEKSマネージドクラスター。クラスター名: eks-cluster
● クラスターリソースの概要: クラスターには、ArgoCDのapplicationを介してGitHubから読み込まれた複数のK8sリソースがデプロイされている。2個のpod、一つのservice、一つのDeploymentを含む
● Podの問題: メモリ上限は200Miに設定されているが、205Miのプロセスを実行しているためCrashLoopBackOffが発生
実験的な修復シナリオ
● K8sGPTがPodの問題を特定し、説明と修復案を提示する。
● 最後にArgoCDを通じて、application内のHelm Chartのメモリ上限パラメーターを調整し、ArgoCDによるpod設定の変更をトリガーして、podを正常に起動できるようにする。
まとめ
● Amazon Bedrock AgentCoreを基盤とし、AIマルチエージェント協調システムを活用して、K8sのインテリジェント運用ソリューションをゼロから構築する方法を学ぶ。
● 簡単な一文だけで、問題の特定、診断から完全自動修復までの全プロセスを完了できる。大量の運用データの分析と手作業による修復作業を大幅に簡素化し、人的ミスのリスクを低減する。
● K8sGPT本来の限定的な自動修復機能と比較して、このソリューションはビジネスに基づく自動修復機能をさらに追加し、柔軟性と拡張性を高めている。
● 自動修復シナリオにはHITL(Human-in-the-Loop)プロセスを導入し、自動修復の信頼性と制御可能性を確保する。
● ArgoCDのネイティブ機能を活用することで、すべての修復操作を監査およびロールバック可能にし、保守リスクを低減する。
● 運用エンジニアは音声から直接AIOpsインテリジェント運用を最大限に活用でき、MTTIとMTTRを大幅に短縮できる。
● 今後の計画: CloudWatch Anomaly Detection(AD)とDevOps Guruを統合し、過去のデータ分析に基づいてK8sクラスターで発生する可能性のある障害を予測する。