HAQM Bedrock ガードレール、業界をリードする画像コンテンツフィルターの一般提供を発表
HAQM Bedrock ガードレールでは、画像コンテンツフィルターの一般提供を発表しました。これはテキストと画像を対象とした業界をリードするコンテンツ保護機能により、お客様が有害なマルチモーダルコンテンツの最大 88% をブロックできるように支援するものです。この新機能により、お客様は、画像コンテンツに対する独自の保護手段を構築したり、エラーが発生しやすく煩雑な手動によるコンテンツモデレーションの繰り返し作業に時間を費やしたりする必要がなくなります。Bedrock ガードレールでは、設定可能な保護機能を利用でき、有害なコンテンツやプロンプト攻撃を検出してブロックできます。また、拒否するトピックを定義し、特定のトピックを許可しないようにできます。個人データのような個人を特定できる情報 (PII) を編集し、特定の単語をブロックする機能も利用できます。さらに、モデルのハルシネーションを検出してブロックし、モデルの応答や主張の関連性を識別するためのコンテキストを踏まえたグラウンディングチェックを行い、自動推論チェックを利用してモデルの応答における事実の主張を特定、修正、説明することもできます。ガードレールは、HAQM Bedrock でホストされているモデル、セルフホストモデル、ApplyGuardrail API を使用する Bedrock の外部のサードパーティーモデルなど、あらゆる基盤モデルに適用できるため、ユーザーエクスペリエンスを一貫させて、安全とプライバシーの管理を標準化できます。
画像コンテンツフィルターは、憎悪、侮辱、性的表現、暴力、不正行為、プロンプト攻撃など、Bedrock ガードレールのコンテンツフィルターポリシー内のすべてのカテゴリに適用できます。この新機能により、お客様は画像コンテンツまたはテキストコンテンツ、あるいはその両方を柔軟に選択し、責任ある AI ポリシーに従って安全な生成 AI アプリケーションを構築できます。
この新機能は、米国東部 (バージニア北部)、米国西部 (オレゴン)、欧州 (フランクフルト)、アジアパシフィック (東京) の AWS リージョンで一般提供されています。
詳細については、ブログ記事、技術ドキュメント、Bedrock ガードレールの製品ページをご覧ください。