극점매크로｜Financial Cloud Cloud · AWS Amarathon 2025
극점매크로｜Amarathon 2025 정리 37：CNCF Kagent, K8sGPT, Nova Sonic을 사용하여 K8s용 대화형 에이전틱 AIOps 혁신하기
Kubernetes 운영의 과제
방대한 운영 데이터, 많은 시간이 소요되는 문제 해결
● 평균 MTTR은 4시간을 초과하며 수동 분석이 65%를 차지
● 분석 데이터 규모가 TB 수준에 도달할 수 있음
다양한 리소스 유형, 복잡한 연관 관계
● 방대한 클러스터 객체, 이벤트 및 로그 데이터
여러 도구 간의 복잡한 전환
● SRE는 매일 8개 이상의 도구를 오가며 컨텍스트 전환 비용이 높음
알림 대응 시 복잡하고 많은 시간이 소요되는 문제 해결
● 제한적인 자동화 기능
● 일반적인 장애 중 30%만 자동 복구할 수 있으며 복잡한 시나리오는 사람의 의사 결정에 의존
K8s의 높은 학습 비용과 진입 장벽
● 운영 효율성 비교
● AIOps를 도입한 기업은 평균 장애 복구 시간(MTTR)이 기존 모델보다 90% 짧고 운영 비용은 50% 절감
핵심 가치
● 1. 장애 자가 복구: AI 예측과 자동화 스크립트를 통해 일부 장애의 무인 복구를 구현합니다.
● 2. 지능형 모니터링: 방대한 로그와 메트릭에서 문제의 근본 원인을 정확히 찾아내어 건초 더미에서 바늘 찾기와 같은 검색에서 벗어납니다.
● 3. 인적 자원 확보: SRE 팀을 반복 작업에서 해방하여 더 가치 있는 혁신 업무에 집중하게 합니다.
Kagent 기반 AIOps 솔루션
Kagent: 클라우드 네이티브 에이전틱 AI 프레임워크
● CNCF 2025 오픈 소스 샌드박스 프로젝트로, K8s 클라우드 네이티브 시나리오를 위한 전문 에이전트 프레임워크입니다.
● 여러 모델 플랫폼(Amazon Bedrock, Anthropic, OpenAI 등)과 통합하여 K8s 기반의 지능형 에이전트 시스템을 구축합니다.
핵심 장점
● K8s 클라우드 네이티브: K8s 생태계에 네이티브로 통합되어 기존 클러스터에 자연스럽게 융합
● 풍부한 사용 사례: 모든 AI 에이전트 사용 사례에 적용 가능
● 풍부한 도구 통합: 사용자 지정 MCP 도구, 다양한 K8s 기본 제공 도구 및 사전 구성된 에이전트 지원
● 시각화 인터페이스: UI 인터페이스가 다중 에이전트 워크플로 오케스트레이션을 발전시켜 더 직관적이고 효율적
● 포괄적인 관찰성: 기본 제공 추적, 로깅 및 모니터링 기능과 일반적인 관찰성 도구 통합 지원
사용 사례
● 클라우드 네이티브 운영 자동화, 다중 클러스터 관리, 모든 다중 에이전트 협업 시스템, AIOps 실무 등
Amazon Nova Sonic: 음성 기반 대화형 AIOps 추진
● Amazon Nova Sonic은 Amazon Bedrock에서 제공하는 음성 대화 모델입니다.
● 기존에 분리되어 있던 음성 이해 및 음성 생성 모델을 통합하여 실제와 같은 인간 수준의 음성 대화가 가능하고 여러 언어와 어조를 지원하며 지연 시간이 짧고 성능이 높습니다.
사용 사례
● AI 지능형 고객 서비스: 고객 문의에 24/7 응답
● 엔터프라이즈 음성 어시스턴트: 지식 베이스, 지능형 에이전트 및 외부 도구를 통합하여 맞춤형 서비스 제공
● 다국어 학습 도구: 여러 언어 지원
● 다양한 산업 분야의 애플리케이션: 핀테크, 의료, 스마트 홈 등
운영 시나리오와 결합할 때의 핵심 가치
● 기존의 복잡한 수동 문제 해결 + 복구를 음성 대화로 간소화하여 지능형 운영 AIOps를 극대화하고 MTTR을 단축
K8sGPT: 오픈 소스 K8s 장애 진단 전문가
● Kubernetes 유지 관리를 위한 AI 기반 관찰성과 자동화된 운영을 제공하는 CNCF 오픈 소스 샌드박스 프로젝트
● CLI와 Operator의 이중 모드를 지원하여 즉각적인 분석과 지속적인 모니터링 지원
● 클러스터 리소스, 이벤트, 로그 및 메트릭을 스캔하고 Amazon Bedrock의 AI 모델을 통합하여 텍스트 인사이트와 설명을 생성하며 Kiro의 MCP 기능과 통합하여 자연어로 클러스터를 관찰하고 유지 관리할 수 있음
● 기존 운영의 수동적 대응 문제를 해결하고 선제적인 AI 지능형 운영을 도입
● 다양한 사용자 지정 분석기와 관찰성 도구를 지원하며 Prometheus, Alertmanager, Grafana 등과 통합 가능
데모 클러스터
● Amazon Web Services에 배포된 EKS 관리형 클러스터, 클러스터 이름: eks-cluster
● 클러스터 리소스 개요: 클러스터는 ArgoCD의 애플리케이션을 통해 GitHub에서 읽어 온 여러 K8s 리소스를 배포합니다. pod 2개, service 하나, Deployment 하나 포함
● Pod 문제: 메모리 제한이 200Mi로 설정되어 있으나 205Mi 프로세스가 실행되어 CrashLoopBackOff 발생
실험적 복구 시나리오
● K8sGPT가 Pod 문제를 식별하고 설명과 복구 제안을 제공합니다.
● 마지막으로 ArgoCD를 통해 애플리케이션 내 Helm Chart의 메모리 제한 매개변수를 조정하여 ArgoCD가 pod 구성을 수정하도록 하고 pod가 성공적으로 시작되게 합니다.
요약
● AI 다중 에이전트 협업 시스템을 활용하여 Amazon Bedrock AgentCore 기반의 K8s 지능형 운영 솔루션을 처음부터 구축하는 방법을 알아봅니다.
● 간단한 문장 하나만으로 문제 식별과 진단부터 완전 자동 복구까지 전체 프로세스를 완료할 수 있어 방대한 운영 데이터 분석과 수동 복구 작업을 크게 간소화하고 인적 오류 위험을 줄입니다.
● K8sGPT의 기존 제한적인 자동 복구 기능과 비교해 이 솔루션은 비즈니스 기반의 자동 복구 기능을 더 많이 추가하여 유연성과 확장성을 높였습니다.
● 자동 복구 시나리오에는 HITL (Human-in-the-Loop) 프로세스를 도입하여 자동 복구의 신뢰성과 제어 가능성을 보장합니다.
● ArgoCD의 네이티브 기능을 활용하여 모든 복구 작업을 감사하고 롤백할 수 있으므로 유지 관리 위험을 줄입니다.
● 운영 엔지니어는 음성을 통해 AIOps 지능형 운영을 직접 극대화하여 MTTI와 MTTR을 크게 단축할 수 있습니다.
● 향후 계획: CloudWatch Anomaly Detection (AD)과 DevOps Guru를 통합하여 과거 데이터 분석을 기반으로 잠재적인 K8s 클러스터 장애를 예측합니다.