支援事例
CASE
生成AI活用基盤構築（RAGチャットボット）
Challenge
背景・課題
クライアント組織内には、長年にわたり蓄積された独自のナレッジ（業務マニュアル、FAQ、過去の問い合わせ対応履歴、専門文書等）が存在していたが、これらは複数のシステム・フォルダに散在し、検索性が低い状態だった。担当者への問い合わせや資料探索に多大な時間がかかり、属人化した知識が組織全体で共有・活用されていなかった。汎用的な LLM を単純に導入しても、組織固有の文脈や専門用語を理解できず、実用的な回答が得られない。機密情報を扱うため、外部 SaaS への送信を避けセキュアな環境での構築が必須要件だった。
Solution
アプローチ
RAG（Retrieval-Augmented Generation）アーキテクチャを採用。AWS / Amazon Bedrock 経由の Claude + Amazon OpenSearch Serverless を組み合わせ、VPC 内のセキュアな環境で構築。ナレッジ整備、Embedding チューニング、プロンプトエンジニアリングを反復し、運用に耐える回答精度を実現した。
プロジェクト背景
組織固有のナレッジを活用した業務支援チャットボットを RAG アーキテクチャで設計・構築。属人化していた知識を組織全体で活用できる状態にすることを目標とした。
アプローチ
アーキテクチャ設計
RAG（Retrieval-Augmented Generation）パターンを採用し、「検索」と「生成」を組み合わせたアーキテクチャを設計。ユーザーの質問に対し、まず関連するドキュメントをベクトル検索で取得し、そのコンテキストを付与した上で LLM が回答を生成する仕組みを構築。組織固有のナレッジに基づいた、ハルシネーションを抑制した回答生成を実現した。
技術スタック
クラウド基盤に AWS を採用し、VPC 内のセキュアな環境で構築。LLM には Amazon Bedrock 経由で Anthropic 社の Claude を採用し、高い日本語性能と推論能力を活用。ベクトルデータベースには Amazon OpenSearch Serverless を使用し、スケーラビリティと運用負荷軽減を両立。
ナレッジ整備・チューニング
既存ドキュメントの棚卸し、クレンジング、チャンク分割戦略の設計を実施。Embedding モデルの選定・評価、検索精度のチューニング、プロンプトエンジニアリングによる回答品質の最適化を反復的に実施した。
成果
業務支援チャットボットの本番稼働により、社内問い合わせ対応工数が大幅に削減。従来、担当者が1件あたり15〜30分かけて対応していた定型的な問い合わせの約 70% がチャットボットで自己解決可能に。
ナレッジの民主化が進み、新人教育期間の短縮、業務引き継ぎの効率化にも貢献。回答精度は継続的にモニタリングされ、ユーザーフィードバックに基づくナレッジベースの拡充・プロンプト改善の PDCA サイクルが確立。組織全体の生産性向上とともに、AI 活用のファーストステップとして、後続の AI 施策への布石となった。