HAQM CloudWatch Application Signals が HAQM Bedrock のサポートを開始

投稿日: 2024年8月7日

HAQM CloudWatch Application Signals が HAQM Bedrock をサポートするようになり、ユーザーは生成 AI アプリケーションのエラーやパフォーマンスの低下をトラブルシューティングできるようになりました。HAQM Bedrock は、Anthropic、Meta、HAQM などの大手 AI 企業が構築した基盤モデル (FM) と、生成 AI アプリケーションを構築するためのその他のツールを提供するフルマネージドサービスです。Bedrock FM に依存する生成 AI アプリケーションを使用するユーザーにとって、この拡張機能により、モデル検証の例外などの障害や、さまざまなモデルのレイテンシーがエンドユーザーのエクスペリエンスにどのように影響するかをより深く理解できるようになります。

Application Signals は、メトリクス、トレース、ログ、リアルユーザーモニタリング、およびアプリケーションとその依存関係 (HAQM Simple Queue Service (SQS)、HAQM S3、または HAQM Bedrock など) の合成モニタリングにわたって、テレメトリを関連付けるための、すぐに使用できるダッシュボードを提供しており、アプリケーションの中断のトラブルシューティングを高速化します。たとえば、Bedrock FM を呼び出す LLM (Large Language Model) アプリケーションを運用しているアプリケーション開発者は、カスタマーサポート API に問題が発生しているかどうかを追跡できます。その後、エラーの原因となっている正確な相関トレースと相関ログを掘り下げて、エンドユーザーエクスペリエンスの低下につながる、無効なモデル入力や LLM モデルからの応答時間が長いなどの根本原因を突き止めることができます。アプリケーション内のモデルパフォーマンスを追跡することで、さまざまなモデルを評価してユースケースに最適なモデルを選択することができ、コストとカスタマーエクスペリエンスを最適化できます。

詳細については、HAQM Bedrock モデルとやり取りするアプリケーションで HAQM CloudWatch Application Signals を有効にするためのドキュメントを参照してください。サンプルのアプリケーションで Application Signals を試すには、AWS One Observability Workshop をご覧ください。