← Financial Cloud Cloud クラウドクラブ · Amarathon 2025 振り返り

極点マクロ|Financial Cloud Cloud · AWS Amarathon 2025

極点マクロ|Amarathon 2025 振り返り 16:警戒を保ちながら迅速に:Amazon Bedrock エージェント開発に不可欠なセキュリティ

登壇者: Brian Tarbox

セッション: 16

セッション
Summit Dev Lounge2026 Re:cap
01 アーキテクチャを Steering として記述し、AI Agent を導く
02 Agent Harness こそ真のエンジニアリングの堀
03 平易な言葉で可観測性データを尋ねる
04 Bedrock AgentCore で Serverless AR ゲームを構築する
05 AgentCore 上のマルチ Agent クオンツ・バックテスト
06 3 分でブログをスライドにする——Kiro で
AWS Community Day Hong Kong 2025 Re:cap
02 TerraformによるAWSコンプライアンス
03 初心者からビルダーへ――素晴らしいクラウドの旅
04 LaravelとBrefによるチームファーストのサーバーレスエンジニアリング
05 イベント開会式
06 AWS 上で相互運用可能な AI を構築する
07 別のテレメトリデータを AI エージェントで活用し、改善を加速する
08 Kiro による仕様駆動開発
09 MCP と AI エージェントを活用した自動テスト
10 機械学習を活用したアプローチ
11 RAGとMCP
12 TAKとAWSを活用した災害・緊急対応
13 テストの観点からサーバーレスアプリケーションのワークフローを再考する
14 クラウド成功のための実践的なAWS FinOps
15 リスク調整後資産リターンの革新
FSI Recap
01 Modern Trade Lifecycle: Trading to Settlement
02 Goldman Sachs: Fast Track your applications onto Cloud - AWS Re:cap Q1/2023
03 Zurich Insurance Group: Building an Effective Log Management Solution on AWS
04 FSI Meetup 2025 Q4 - Brex Database Disaster Recovery
05 FSI Meetup 2025 Q4 - A Graviton Migration Success Story
06 FSI Meetup 2025 Q4 - Stifel Modern Data Platform
07 FSI Meetup 2025 Q4 - Financial Transaction Data Reconciler PayPal
08 FSI Meetup 2025 Q4 - Scaling Resilience
09 Maximizing AI Inference Cost Efficiency: Strategic Adoption of AWS GPU Instances
10 Advanced Agentic AI Design Patterns
11 Build New Modern Apps on AWS
AWS re:Invent 2025
01 Coinbase re:Invent の要約 (IND3312)
02 AI と AWS を活用した未来の取引プラットフォームの構築
03 トレーディングイノベーション: Amazon Bedrock (IND3315) の Jefferies AI アシスタント
04 FSI がエージェント型 AI で HFT 分析に革命をもたらした方法 (GBL302)
05 Nasdaq をフィーチャーした Amazon Time Sync による分散システムの改善
06 Amazon Aurora HA および DR グローバル復元力のための設計パターン (DAT442)
07 エージェントの構築 AI: Amazon Nova Act および Strands エージェントの実践 (DEV327)
08 Amazon Aurora とそのイノベーションの詳細 (DAT441)
09 Amazon S3 の詳細解説 (STG407)
10 Nasdaq:グローバル金融サービス向けのレジリエントなインフラストラクチャを構築する (HMC327)
11 AWS Lambda の新機能 (CNS376)
12 Kiro によるスペック駆動開発 (DEV314)
13 Amazon の FinOps: 世界的な E コマース大手から学ぶクラウドコストの教訓 (AMZ308)
14 AWS 上のティック・トゥ・トレード低レイテンシ取引プラットフォーム
Government data
01 The AI Era: The Boundary Between Development and Design Is Disappearing
02 On-Device Multimodal AI and Smart-City Practice
03 Large-Model Capability Evaluation and a Method for Landing AI Projects
04 Controlled End-to-End Automation of Government Development with Cloud Agents
05 A New Software Ecosystem for the Agent Era, Seen Through Multi-Agent Systems
06 AI-Driven Macro Quantitative Research and Smart Governance
07 Authorized Operation of Public Data and Smart-Government Practice
08 Putting Data Assetization into Practice: Rights, Compliance, Engineering Governance, and Digital-Government Cases
09 AI for Mental-Health Public Welfare: Governance, Architecture, and Practice of a Trustworthy Platform
Amarathon 2025 振り返り
01 エージェント向けアーキテクチャ設計への開発者ロードマップ
02 Amazon Bedrock Data Automation
03 AgentCore 上のマルチエージェント
04 Nova Act と Strands Agents を実践で活用したエージェント型 AI の構築
04 仕様駆動開発と Kiro で移行プロジェクトを加速
06 「マッチング」から「理解」へ: AgentCore Memory が実現するパーソナライズド AI 検索の実践
07 観測から最適化へ – LLM オブザーバビリティから AIOps へ、リアルタイムの洞察をインテリジェントな自動化に変える
08 TEAM の導入と最高のエンジニアリングチームの構築
09 いわゆるサーバーレスデータベースの5年間から得た5つの厳しい教訓
14 AI が私の仕事をしたらどうなるか Q Developer CLI と Kiro が私の日常業務をどう変えたか
16 警戒を保ちながら迅速に:Amazon Bedrock エージェント開発に不可欠なセキュリティ
26 1 台の H100 で OSS LLM をよりスマートに、低コストで、高速に実行
28 最新の統合メタデータアーキテクチャ:データサイロを解消する新たなアプローチ
29 サーバーレス MediaOps:Amazon Web Services 上の AI による動画ワークフローの自動化
30 大規模パフォーマンステストによる効率性と信頼性を重視したアーキテクチャ設計
31 オープンソースで世界をつなぐ: テクノロジー、コミュニティ、グローバルな開発者関係をめぐる実践の旅
33 リアルタイム物流分析のためのストリーミング Iceberg テーブルの構築
34 大規模ロボット戦略トレーニングの高速化: Kiro、Trainium、EKS に基づく自動クローズドループアーキテクチャ
35 仕様駆動開発で「Vibe」から実用レベルへ
36 クラウドコスト分析をよりスマートに: StrandsとAgentCoreによるFinOpsインテリジェントエージェントの構築
37 CNCF Kagent、K8sGPT、Nova Sonicを使用したK8s向け対話型エージェントAIOpsの変革

エージェント型開発は、分散プログラミング/マイクロサービスに類似しています。

エージェント型システムにおける主なセキュリティリスクには、以下が含まれます

● 脅威モデリングのベストプラクティス

● 透明性

● エージェント型システ

ムのエージェント(中核コンポーネント)が連携するもの

● メモリ

● ツール

● 計画

● アクション

メモリのコンポーネント

● 短期メモリ

● 長期メモリ

ツール

● カレンダー

● 計算機

● コードインタープリター

● 検索

計画のコンポーネント

● 振り返り

● 自己批評

● 思考の連鎖

● サブゴールの分解


エージェント型システムは分散システムです

● 分散システムは、ローカルとリモートの両方にあるさまざまな API を呼び出します。

● リモート呼び出しには無数の障害ケースがあります:

● [ 1 ] 認可されていない

● [ 2 ] 応答がない

● [ 3 ] 応答が遅い

● [ 4

] 誤った応答 エージェント型セキュリティは、従来の分散システムのセキュリティよりもさらに困難です

● エージェントは非常に非決定的になり得ます。

● 具体性に関する問い:

● [ 1 ] エージェント/ツール/アクショングループの説明はどの程度具体的か?

● [ 2 ] エージェントはいくつあるか?

[ 3 ] システムプロンプトはどの程度具体的か?

● 誤った回答を得ることはセキュリティ上の懸念です。

エージェント型システムの攻撃対象領域には、以下が含まれます

● すべてのエージェント呼び出し

● すべてのツール呼び出し

● すべてのプロンプト

● 以下によって拡大する攻撃対象領域:

● 誤った回答

● 遅延した回答

● マルチエージェントの可観測性

● 非決定性

● データ流出

● プロンプトインジェクション

LLM 自体がもたらす脅威

● AI モデルは、監視が弱まると従順なふりをして欺瞞を計画する可能性があります。

● 欺瞞的な AI の能力は、モデルの複雑さとともに高まります。

● 人間の慢心は AI の欺瞞を助長し、システム内で気付かれないまま広がるリスクを生みます。

● Apollo Research の実験では、GPT-4 が違法なインサイダー取引計画を実行し、調査担当者に嘘をつく様子が示されました。

● 研究者は、パラメータ数が増えるにつれて、以下を含む欺瞞能力がモデルに現れることを発見しました:

● [ 1 ] 重要な事実を隠す

● [ 2 ] 資格情報を捏造する

● [ 3 ] 誤解を招く説明を生成する


3 層の緩和策

● Bedrock UG(> 3000 ページ)

● 責任共有モデル Bedrock

固有の防御策

● ガードレール

● HTML 評価

● 従来の Amazon Web Services セキュリティ

● [ 1 ] IAM

● [ 2 ] 最小権限

[ 3 ] CloudWatch

● ガードレールのメトリクス

● Amazon Bedrock Guardrails

● [ 1 ] コンテンツフィルター

● [ 2 ] 拒否トピック

● [ 3 ] 単語フィルター

● [ 4 ] 機密情報フィルター

[ 5 ] コンテキストグラウンディングチェック

● モデルとエージェントに適用

責任共有モデル

● すべての標準的な防御策

● 最小権限

● IAM

● Lambda の防御策

● CloudWatch

● CloudTrail