HAQM Bedrock の HAQM Nova Pro 基盤モデルでのレイテンシー最適化推論を発表

投稿日: 2025年3月5日

HAQM Nova Pro の基盤モデルが、HAQM Bedrock のプレビューでレイテンシー最適化推論をサポートするようになりました。これにより、生成 AI アプリケーションにおける応答時間が短縮され、応答性が向上しました。レイテンシー最適化推論を使用すると、レイテンシーの影響を受けやすいアプリケーションの応答時間が短縮され、エンドユーザーエクスペリエンスが向上し、デベロッパーはユースケースに合わせてパフォーマンスをより柔軟に最適化できるようになります。これらの機能に利用するために追加の設定やモデルの微調整は必要なく、既存のアプリケーションをすぐに強化し、応答時間を短縮できます。

HAQM Nova Pro のレイテンシー最適化推論は、米国西部 (オレゴン)、米国東部 (バージニア)、米国東部 (オハイオ) リージョンにおいて、クロスリージョン推論によってご利用いただけます。HAQM Nova 基盤モデルの詳細については、AWS ニュースブログ、HAQM Nova 製品ページ、または HAQM Nova ユーザーガイドをご覧ください。Bedrock でのレイテンシー最適化推論の詳細については、ドキュメントをご覧ください。HAQM Bedrock の HAQM Nova 基盤モデルは、HAQM Bedrock コンソールから使用を開始できます。