← Financial Cloud Cloud 클라우드 클럽 · Amarathon 2025 정리

극점매크로|Financial Cloud Cloud · AWS Amarathon 2025

극점매크로|Amarathon 2025 정리 07:관찰을 통한 최적화 – LLM 관찰 가능성에서 AIOps까지, 실시간 인사이트를 지능형 자동화로 전환

발표자: Jimmy Soh

세션: 07

세션
Summit Dev Lounge2026 Re:cap
01 아키텍처를 Steering으로 인코딩해 AI Agent를 이끌다
02 Agent Harness가 진짜 엔지니어링 해자다
03 일상 언어로 관찰 가능성 데이터에 묻다
04 Bedrock AgentCore로 만드는 Serverless AR 게임
05 AgentCore 위의 Multi-Agent Quant Backtesting
06 Kiro로 3분 만에 블로그를 슬라이드로
AWS Community Day Hong Kong 2025 Re:cap
02 Terraform을 활용한 AWS 컴플라이언스
03 초보자에서 빌더로: 멋진 클라우드 여정
04 Laravel와 Bref를 활용한 팀 우선 서버리스 엔지니어링
05 행사 개회
06 Agent-to-Agent: AWS에서 상호 운용 가능한 AI 구축하기
07 AI 에이전트와 추가 텔레메트리 데이터를 활용한 신속한 개선
08 바이브 코딩을 넘어서: Kiro를 활용한 사양 주도 개발
09 MCP 및 AI 에이전트를 활용한 자동화 테스트
10 통신 보안 현대화: ML 기반 접근 방식
11 GenAI 에이전트 재고찰: RAG와 MCP
12 TAK와 AWS를 활용한 재난 및 긴급 대응
13 테스트 관점에서 서버리스 애플리케이션 워크플로 재고찰
14 클라우드 성공을 위한 실용적인 AWS FinOps
15 AWS에서 AI로 구현하는 글로벌 Pure-Alpha 매크로 트레이딩: 위험 조정 자산 수익의 혁신
FSI Recap
01 Modern Trade Lifecycle: Trading to Settlement
02 Goldman Sachs: Fast Track your applications onto Cloud - AWS Re:cap Q1/2023
03 Zurich Insurance Group: Building an Effective Log Management Solution on AWS
04 FSI Meetup 2025 Q4 - Brex Database Disaster Recovery
05 FSI Meetup 2025 Q4 - A Graviton Migration Success Story
06 FSI Meetup 2025 Q4 - Stifel Modern Data Platform
07 FSI Meetup 2025 Q4 - Financial Transaction Data Reconciler PayPal
08 FSI Meetup 2025 Q4 - Scaling Resilience
09 Maximizing AI Inference Cost Efficiency: Strategic Adoption of AWS GPU Instances
10 Advanced Agentic AI Design Patterns
11 Build New Modern Apps on AWS
AWS re:Invent 2025
01 Coinbase re:Invent 요약 (IND3312)
02 AI 및 AWS를 활용한 미래 거래 플랫폼 구축
03 거래 혁신: Amazon Bedrock 기반 Jefferies AI 어시스턴트(IND3315)
04 FSI가 에이전틱 AI로 HFT 분석을 혁신한 방법(GBL302)
05 Nasdaq 사례로 살펴보는 Amazon Time Sync 기반 분산 시스템 개선
06 글로벌 복원력을 위한 Amazon Aurora HA 및 DR 설계 패턴 (DAT442)
07 에이전틱 AI 구축: Amazon Nova Act와 Strands Agents 실전 활용 (DEV327)
08 Amazon Aurora와 주요 혁신 심층 분석 (DAT441)
09 Amazon S3 심층 분석(STG407)
10 Nasdaq: 글로벌 금융 서비스를 위한 복원력 있는 인프라 구축(HMC327)
11 AWS Lambda의 새로운 기능(CNS376)
12 Kiro를 활용한 스펙 주도 개발(DEV314)
13 Amazon의 FinOps: 글로벌 전자상거래 대기업이 전하는 클라우드 비용 교훈(AMZ308)
14 AWS에서 지연 시간 거래 플랫폼을 거래하려면 선택하세요.
Government data
01 The AI Era: The Boundary Between Development and Design Is Disappearing
02 On-Device Multimodal AI and Smart-City Practice
03 Large-Model Capability Evaluation and a Method for Landing AI Projects
04 Controlled End-to-End Automation of Government Development with Cloud Agents
05 A New Software Ecosystem for the Agent Era, Seen Through Multi-Agent Systems
06 AI-Driven Macro Quantitative Research and Smart Governance
07 Authorized Operation of Public Data and Smart-Government Practice
08 Putting Data Assetization into Practice: Rights, Compliance, Engineering Governance, and Digital-Government Cases
09 AI for Mental-Health Public Welfare: Governance, Architecture, and Practice of a Trustworthy Platform
Amarathon 2025 정리
01 에이전트 아키텍처 설계를 위한 개발자 로드맵
02 Amazon Bedrock Data Automation
03 AgentCore의 멀티 에이전트
04 에이전틱 AI 구축 Nova Act와 Strands Agents 실전 활용
04 사양 주도 개발로 Kiro를 활용하여 마이그레이션 프로젝트 가속화
06 "매칭"에서 "이해"로: AgentCore Memory가 주도하는 개인화 AI 검색 실습
07 관찰을 통한 최적화 – LLM 관찰 가능성에서 AIOps까지, 실시간 인사이트를 지능형 자동화로 전환
08 TEAM 배포와 최고의 엔지니어링 팀 구축
09 소위 서버리스 데이터베이스를 5년간 사용하며 얻은 다섯 가지 뼈아픈 교훈
14 AI가 내 일을 한다면? Q Developer CLI와 Kiro가 내 일상을 어떻게 바꾸었는가
16 경계심을 갖춘 속도: Amazon Bedrock 에이전트 개발을 위한 필수 보안 사항
26 단일 H100에서 OSS LLM을 더 스마트하고, 저렴하고, 빠르게 실행하기
28 현대적인 통합 메타데이터 아키텍처: 데이터 사일로를 허무는 새로운 접근 방식
29 서버리스 MediaOps: Amazon Web Services에서 AI로 비디오 워크플로 자동화
30 대규모 성능 테스트로 효율성과 안정성을 고려한 아키텍처 설계
31 오픈 소스로 세계를 연결하기: 기술, 커뮤니티 및 글로벌 개발자 관계의 실전 여정
33 실시간 물류 분석을 위한 스트리밍 Iceberg 테이블 구축
34 대규모 로봇 전략 훈련 가속화: Kiro, Trainium 및 EKS 기반 자동화 폐쇄 루프 아키텍처
35 사양 주도 개발로 감각적 코딩에서 실용적 개발로
36 클라우드 비용 분석을 더 스마트하게: Strands와 AgentCore로 FinOps 지능형 에이전트 구축하기
37 CNCF Kagent, K8sGPT, Nova Sonic을 사용하여 K8s용 대화형 에이전틱 AIOps 혁신하기

LLM 운영의 주요 과제

● 테넌트와 모델 전반의 사용량 추적

● 악용과 프롬프트 인젝션 방지

● SLA를 희생하지 않는 비용 최적화

● 사용량, 보안 및 비용의 사각지대는 LLM 확장을 좌초시킬 수 있음.

AIOps 의사 결정을 이끄는 실시간 인사이트

● 모든 프롬프트, 토큰 및 지연 시간 모니터링

● 이상 징후와 악용 패턴 탐지

● 지능형 자동화 추진

● 실시간 지표가 이상 징후를 즉각적인 자동 수정으로 전환.

스마트 관찰 가능성을 통한 공정한 가격 책정

● 클라우드 지출을 실제 LLM 사용량에 맞춤

● 활용도가 낮은 리소스를 식별하고 자동으로 적정 규모 조정

● 비용 절감 작업 트리거(제로 스케일링, 버스트 용량)

● 가치에 대해서만 지불 — 사용량 기반 측정으로 자체 적정 규모 조정.

관찰 가능성에서 AIOps를 활용한 최적화로

● 더 스마트한 자동화로 인시던트 해결 가속화

● 수동 튜닝 없이 지속적인 비용 효율성 달성

● 고성능 AI 워크로드

● LLM 관찰 가능성을 지능형 AIOps 작업으로 전환.


아키텍처

1 Toby AI를 사용하는 고객의 채팅/AI 서비스 사용

● SaaS 클러스터

● Toby AI Services

● 애플리케이션 성능

● 모니터링

● 실제 사용자 모니터링

● 로그 및 지표 분석

● 합성 모니터링

● 모니터링 규칙 및 알림

2 텔레메트리 데이터 SaaS(자체 모니터링 클러스터)

● Toby AI Services

● 애플리케이션 성능

● 모니터링

● 실제 사용자 모니터링

● 로그 및 지표 분석

● 합성 모니터링

● 모니터링 규칙 및 알림

3 AIOps 오케스트레이터를 통한 구독 확인

● 컨텍스트 보강

● 정책 결정

● 작업 트리거

4 DevOps 오케스트레이터를 통한 런북, 확장, 조절, 최적화

● GitOps 런북