HAQM Bedrock + Claude でインサイト抽出。HAQM Nova 導入も見据える IVRy 社の挑戦

対話型音声AI SaaS「IVRy」は、2025年1月より、通話データの AI 解析を可能にする新機能「AI 解析ダッシュボード」の提供を開始しました。「AI 解析ダッシュボード」は、AI による通話内容の定量分析を通じて、顧客満足度や予約・申込といった事業成果をモニタリングできる機能です。さらに、通話内容の分岐分析や深掘りによって、顧客対応の改善に役立つ示唆を提供し、業務や経営の支援につなげます。

この分析機能の開発には、生成 AI サービスの HAQM Bedrock と大規模言語モデル Claude 3.5 Sonnet を活用しています。これにより、インフラ管理不要の環境で開発効率を向上させつつ、高い精度の自然言語処理を実現しました。さらに、将来的には HAQM Nova Pro の導入も見据えています。

今回は、アマゾン ウェブ サービス ジャパン合同会社 スタートアップ事業本部 シニアアカウントマネージャーの植本 宰壮とシニアソリューションアーキテクトの柳 佳音が、株式会社IVRy BizDev の水上 悠太 氏とエンジニアの町田 雄一郎 氏に、新機能の詳細や開発の背景について伺いました。

コミュニケーションを解析し、事業インサイトを提供する

植本：御社の事業概要についてお聞かせください。

水上：私たちは、最短 5 分・月額 2,980 円から利用できる対話型音声 AI SaaS「IVRy」を提供しています。電話応対を自動化・効率化できるサービスで、自動応答や電話転送、SMS 送信、AI 自動文字起こしなどの機能を備えています。

今回のインタビューでは、通話音声を AI で解析する IVRy Analytics に関連する機能をご紹介します。IVRy Analytics は、ビジネスにおけるコミュニケーションを解析し、事業インサイトを提供することを目的としています。主な機能として、「AI 解析ダッシュボード」や「コールトラッキング（電話効果測定）」などがあり、今後さらに機能を拡充していく予定です。

株式会社IVRy BizDev 水上 悠太 氏

柳：IVRy 社は「優秀なエンジニアが多く集まっている企業」という印象があります。特に AI・ML 領域を扱うエンジニアにとって、御社の魅力はどのような点にあるのでしょうか。

町田：まず、IVRy の提供する事業は LLM との親和性が非常に高いと考えています。LLM が特に力を発揮するのは非構造化データの処理であり、代表的なものがテキストや音声です。IVRy は電話応対に関連するサービスを展開しているため、LLM の技術を有効活用できる強みがあります。

また、私たちはもともとプッシュ型の自動応答から事業を展開し、市場に広く受け入れられました。そのうえで、自動応答だけでは解決できなかった課題を AI・ML 技術で解決する方針を選択しています。すでに顕在化している課題に対して開発を進め、それらの技術を PoC 段階に留めることなく、社会実装できる点が、他のスタートアップとは異なる魅力です。さらに、元エンジニアである CEO の奥西亮賀など、経営層が技術に対する深い理解を持っており、それがエンジニアにとって働きやすい環境につながっています。

他のモデルと比べて、Claude 3.5 Sonnet の精度は頭ひとつ抜けていた

植本：もともと、既存機能で LLM を使用している箇所は、他社製のクラウドで構築していたと伺っています。「AI 解析ダッシュボード」で HAQM Bedrock + Claude 3.5 Sonnet を採用した経緯について、お聞かせください。

町田：弊社が事業を開始した数年前の段階では、まだ AWS の生成 AI 関連サービスが登場しておらず、他社製クラウドしか選択肢がない状況でした。その後、HAQM Bedrock が登場し、モニタリング機能も充実したことで、本番環境での運用がしやすくなった点が大きな要因です。

IVRy では、本体のアプリケーションを AWS 上で動かしているため、インフラをできる限り AWS に統一したいと考えています。複数のクラウドを利用すると、システム間の接続や権限管理が複雑になるためです。また、複数のモデルを比較した結果、検証をした 2025 年 1 月時点で Claude 3.5 Sonnet は性能が頭ひとつ抜けていました。

株式会社IVRy エンジニア 町田 雄一郎 氏

柳：HAQM Bedrock + Claude 3.5 Sonnet を導入するにあたり、AWS のサポートで役立った点はありますか。

町田：HAQM Bedrock がリリースされてすぐに招待制ワークショップ HAQM Bedrock Prototyping Camp へ参加させていただき、体系的に技術を学べたほか、AWS の方々から他社の活用事例を聞くこともできました。私は、それまで OpenAI 系以外のモデルを使ったことがなかったのですが、Claude は 使い方や調整のコツが異なっていました。そのため、AWS のソリューションアーキテクト から詳しく教えていただけたのは非常に助かりました。もし知らずに使っていたら、精度を 向上させることができず、Claude を採用しなかったかもしれません。加えて、困ったことがあれば Slack ですぐに質問できる点も大きな利点です。新しい技術が登場した際に情報を共有してもらえるのも、非常にありがたいですね。さらに、これは特殊なケースでしたが、Claude を開発する Anthropic との接点も作っていただけたのは貴重な経験でした。

アマゾン ウェブ サービス ジャパン合同会社 シニアソリューションアーキテクト 柳 佳音

柳：「AI 解析ダッシュボード」のリリース後、ユーザーからの反応はいかがでしょうか。

水上：この機能を業務改善に役立てているお客さまが数多くいらっしゃいます。たとえば、ホテル業界のように通話業務がビジネスの重要なチャネルとなっている業態では、電話応対の改善に向けた試行錯誤が続けられています。

中には、1 時間かけて通話の文字起こしを読み、インサイトを抽出していた方もいました。しかし、「AI 解析ダッシュボード」によって、それをわずか 1 分で確認できる仕組みを提供できました。弊社の営業担当が機能について説明した際、お客さまは身震いするほど驚いたそうです。また、この機能は弊社が提供する他のサービスとの橋渡しの役割も担っており、さまざまな点で価値を提供できていると感じています。

システムのさらなるスケールのため HAQM Nova Pro を検討

植本：AI 活用の次のステップとして、検討されていることはありますか。

町田：今回のインタビューでは Claude 3.5 Sonnet の活用事例についてお話ししましたが、実は現在は HAQM Nova Pro をメインに活用しようとしています。Claude 3.5 Sonnet は、PoC 段階での評価において定量・定性の両面で最も高い精度を示し、特にテキスト解析タスクにおいて 卓越した性能を発揮しました。その結果、プロダクトの品質が広く認められ、現在では多く のクライアントへの導入が見込まれる段階まで進展しています。 しかし、大規模展開に向けて、いくつかの重要な課題が浮上しました。その一つが API 呼 び出しのレート制限と処理速度です。これらの課題を解決するため、当社は HAQM Bedrock 上で利用できる HAQM Nova Pro の導入可能性を検討し、実装を進めています。

モデルの移行にあたり、Claude 3.5 Sonnet 相当の出力品質を確保するため、プロンプトエンジニアリングによる最適化を重ねました。その結果、同等の品質を維持しながら、大幅なパフォーマンス向上を実現できる見通しが立っています。具体的には、処理速度は 2 倍以上に向上し、コストは約 1/10 に削減できる可能性があります。これは request per minute の上限値が高いことが大きく寄与しています。

ただし、これらの数値はあくまで入出力トークンベースの評価データに基づく試算段階であり、本格稼働後の実績値については今後の検証が必要です。インフラ面では、現在北米リージョンでサービスを利用していますが、顕著な遅延は発生していません。それでも、日本リージョンでの展開には大いに期待しています。

柳：HAQM Nova はコストが低いだけでなく、レイテンシーを抑えられるのが特徴です。御社のようにリアルタイムの応答が重要な領域では、非常に適していますね。また、HAQM Nova は 2025 年 4 月までに Speech-to-Speech モデルがリリースされる予定で、年内には Any-to-Any モデルも登場する計画があります。

水上：その機能はぜひ試してみたいですね。現在の「IVRy」では、音声をテキストに変換してから後続の処理を行っているため、抑揚やデモグラフィックといった「音にしか含まれない情報」をそぎ落としてしまっています。そうした要素を活用できるかもしれません。

アマゾン ウェブ サービス ジャパン合同会社 スタートアップ事業本部 シニアアカウントマネージャー 植本 宰壮

植本：最後に、AWS の生成 AI 系サービスを活用する方々に向けて、メッセージをお願いします。

町田：多くの企業が AWS を基盤としてシステムを構築しています。その中で新たに別のクラウドを導入すると、システム運用が複雑になる可能性があります。だからこそ、すべてのインフラを AWS に統一できるのは大きな魅力です。そうした点でも、HAQM Bedrock は良い選択肢だと感じています。

水上：私は事業開発を行う立場から話すと、AWS の生成 AI 系サービスを活用することで、プロトタイピングのスピードが飛躍的に向上したことが大きなポイントです。さまざまな検証を迅速に行える環境が整い、それによって業界全体のレベルアップにもつながると感じています。今後、複数の企業での活用が進むことで、より多くのイノベーションが生まれることを期待しています。