HAQM Web Services ブログ

Category: HAQM SageMaker

AWS Weekly Roundup: HAQM S3 Access Grants、AWS Lambda、European Sovereign Cloud リージョンなど (2024 年 7 月 8 日)

7月1日週の月曜日以来の AWS ニュースは 21 件しかなく、そのほとんどは既存のサービスと機能のリージョン […]

LLM の埋め込み情報ドリフトを HAQM SageMaker JumpStart から監視する

生成 AI のワークロードで最も有用なアプリケーションパターンの 1 つが Retrieval Augmented Generation (RAG) パターンです。 RAG パターンでは、入力プロンプトに関連する参照コンテンツを探すために、埋め込みベクトル (テキスト文字列の数値表現) に対して類似検索を実行します。埋め込みはテキストの情報内容を捉え、自然言語処理 (NLP) モデルが言語を数値的に処理できるようにします。埋め込みは浮動小数点ベクトルであるため、3 つの重要な質問を用いて分析することができます。参照データは時間とともに変化するか、ユーザーが尋ねる質問は時間とともに変化するか、そして最後に、参照データが尋ねられている質問をどの程度カバーできているかです。

AWS Marketplace に初掲載の日本語 LLM ! オルツの LHTM-OPT を利用する手順解説

株式会社オルツは、軽量型大規模言語モデル LHTM-OPT (ラートム・オプト) を 2023 年 10 月にリリースし、2024年3月に、AWS Marketplace 上における日本語 LLM として世界初公開しました。本記事では、AWS Marketplace に出品されている LHTM-OPT を HAQM SageMaker にデプロイして推論を実行する方法を紹介します。

← Older posts
Newer posts →