blog

RAG(検索拡張生成)とは?仕組み・メリットをわかりやすく解説【2026年版】

RAGとは何か――仕組み・アーキテクチャ・限界を体系的に解説する概念図
RAGとは何か――仕組み・アーキテクチャ・限界を体系的に解説

RAG(検索拡張生成)とは、AIが答える前に関係する資料を検索し、その資料をもとに回答させる仕組みです。手元の資料を根拠に、出典つきで答えられるようになります。

「RAGって言葉はよく聞くけど、結局なにをする技術?」「ChatGPTがあるのに、なぜわざわざ必要なの?」——この記事は、そんな方のための入口です。専門用語はできるだけかみくだいて、RAGとは何か・何が変わるか・どんな場面で効くか・つまずきやすい点はどこか、を一通り分かる状態にします。

クリスタルメソッドは、上場企業の実データを使ったRAGシステムを実際に構築・運用している会社です。後半では、その実体験から見えた「RAGの品質を決めるもの」もお話しします。

目次

関連記事RAG導入事例から学ぶ設計判断の核心【2026年版】 / RAG比較2026年版——タイプ別の選び方とサービス比較・技術アーキテクチャ完全ガイド / RAGツール無料で使える選択肢と構築手順【2026年版】

RAGとは?ひとことで言うと

RAG(Retrieval-Augmented Generation:検索拡張生成)をひとことで言うと、「AIに”カンペ(資料)”を渡してから答えさせる仕組み」です。質問が来たら、まず関係する資料を検索して見つけ、それをAI(LLM)に渡して「この資料をもとに答えて」と頼む——それだけのシンプルな発想です。

これだけのことで、AIは「知らないことを聞かれると、もっともらしく間違える」存在から、「手元の資料を根拠に、出典つきで答える」存在に変わります。

RAGの概念図:ユーザーの質問に対して外部文書を検索し、LLMが根拠付きで回答を生成するフロー
RAGの概念:外部文書を検索してLLMの回答根拠とする

RAGを使うべきか、別の手法にすべきか——課題から選ぶ

RAGは万能ではありません。「LLMに何をさせたいか」で最適な手法は変わります。まず、自分の課題がRAGに向くのか・向かないのかを切り分けてから検討すると、遠回りを避けられます。

RAGが向く3つの場面

  • 知識が頻繁に更新される——社内マニュアル・規程・商品情報など、内容が変わり続ける知識に基づいて答えさせたいとき。元データを差し替えるだけで回答も追随できます。
  • 出典の明示・検証可能性が要る——「どの文書を根拠にしたか」を示す必要があるとき。監査やコンプライアンスが絡む用途で効きます。
  • 汎用LLMが知らない自社固有の事実に答えさせたい——非公開データや最新情報など、モデルが学習していない事柄をグラウンディングしたいとき。

RAGが向かない(別手法が適する)3つの場面

  • 欲しいのが「知識」でなく「振る舞い」のとき——口調・書式・出力フォーマットを固定したいだけなら、プロンプト設計やファインチューニングのほうが素直です。
  • 参照する情報が少量で毎回同じとき——プロンプトに全文を貼れる規模なら、検索を挟まずロングコンテキストで足りることが多く、構成もシンプルになります。
  • 本質が推論・計算・多段の操作のとき——正しい文書を引けても解けない課題は、検索ではなくエージェント(ツール実行)や推論強化の領域です。

手法の1行使い分け

手法 こういう課題に
プロンプト設計 参照データが少量・固定的。まず試す最軽量の手段。
ロングコンテキスト 対象文書が毎回同じで小さい。全文を渡すだけで済む。
ファインチューニング 文体・形式・分類を安定させたい。知識の鮮度更新には不向き。
RAG 大量・更新される・出典が要る知識に基づかせたい。
エージェント(ツール実行) 検索だけでなく操作・計算・多段手順が必要。

迷ったら、この4軸で決める

  1. 知識の更新頻度は高いか——高いほどRAG向き(再学習不要で差し替えられる)。
  2. 出典の明示は必要か——必要ならRAG(根拠文書を提示できる)。
  3. 対象データ量はどれくらいか——小さく固定的ならロングコンテキストで十分なことが多い。
  4. 求めるのは「知識」か「振る舞い」か——振る舞い(文体・形式)の固定はファインチューニングやプロンプト設計の担当。

これらは排他ではなく組み合わせられます。実運用では「RAGで根拠を引きつつ、プロンプトで出力形式を整え、必要な操作はツール実行に回す」といった併用が現実的な着地点になります。

🔥 RAGでこんなに変わる(before → after)

  • 社内の問い合わせ対応:今まで=ChatGPTは自社の規定や製品仕様を知らないので答えられない → RAGなら=社内文書を根拠に「この製品の保証期間は◯◯です(出典:製品仕様書)」と答えられる。
  • 最新情報への対応:今まで=AIの知識は学習した時点で止まっている → 資料を差し替えるだけで、今日の情報にもとづいて答えられる。再学習は不要。
  • 回答の信頼性:今まで=それらしい間違い(ハルシネーション)を見抜けない → どの資料を根拠にしたかが示されるので、人が検証できる。
  • 新人教育・ナレッジ共有:今まで=「詳しい人に聞かないと分からない」が属人化 → 蓄積したマニュアル・議事録がそのまま「答えてくれる先輩」になる。

つまりRAGは、生成AIを「自社の事情を知っている即戦力」に変えるための技術です。生成AIの基礎から知りたい方は生成AIの解説、頭脳にあたるLLMは大規模言語モデルの解説をどうぞ。

なぜRAGが必要か:LLMの4つの弱点

LLM(ChatGPTなどの頭脳部分)は非常に優秀ですが、構造的な弱点が4つあります。①知識が学習時点で止まっている ②社内情報など「学習していないこと」は知らない ③知らなくても、もっともらしく答えてしまう ④答えの根拠を示せない——です。この4つを、モデルを作り直さずにまとめて補うのがRAGです。反対に言うと、この4つに困っていないなら、RAGは要りません。

RAGを導入する4つのメリット

  • 最新情報・社内情報に答えられる:LLMの学習時点に関係なく、今日更新した資料をもとに回答できます。
  • ハルシネーションを減らせる:根拠となる資料を渡したうえで答えさせるため、知らないことをもっともらしく作る余地が小さくなります。資料に無いことは「不明」と答えさせる設計も可能です。
  • 再学習が不要で安い:ファインチューニングのようにモデルを作り直す必要がなく、資料の追加・差し替えだけで知識を更新できます。
  • 根拠を示せる:回答がどの文書のどの部分に基づいたかを提示できるため、利用者が確認でき、業務での説明責任を果たしやすくなります。

仕組みをざっくり:本棚づくりと司書の仕事

RAGの動きは2つのフェーズに分かれます。図書館にたとえると分かりやすいです。

  • フェーズ1:本棚づくり(インデックス構築)。社内文書を読みやすい単位に切り分け(チャンキング)、「意味で探せる索引」(ベクトルデータベース)に登録しておきます。
  • フェーズ2:司書の仕事(検索して答える)。質問が来たら、意味の近い資料を本棚から取り出し、LLMに渡して回答を作らせます。多くのシステムでは、キーワード検索も併用して取りこぼしを防ぎます(ハイブリッド検索)。
①クエリ入力 自然言語の質問 ②ベクトル化 埋め込み生成 ③類似検索 ベクトルDB照合 ④コンテキスト プロンプト結合 ⑤LLM生成 根拠付き回答を出力
RAGの処理フロー(検索・生成フェーズ)

意味で探す仕組み(埋め込み・ベクトル検索)を深掘りしたい方はベクトルデータベースの基礎へ。実際に手を動かしたい方はOllamaでのローカル構築ガイドが入口になります。

RAGの処理の流れ:5つのステップ

本棚と司書のたとえを、実際のシステムの手順に置き換えると次の5段階になります。

  1. 資料を分割する(チャンキング):社内マニュアルやFAQなどの文書を、数百字程度の「チャンク」に切り分けます。切り方が検索精度を大きく左右します。
  2. 数値化して保存する(埋め込み・ベクトルDB):各チャンクを埋め込みモデルで意味を表す数値(ベクトル)に変換し、ベクトルデータベースに登録します。これが「本棚づくり」に当たります。
  3. 質問を数値化して検索する:利用者の質問も同じ方法でベクトルにし、意味が近いチャンクを上位から取り出します。キーワードが一致しなくても言い換えを拾えるのが特徴です。
  4. プロンプトに差し込む:取り出したチャンクを「この資料に基づいて答えてください」という指示とともにLLMへ渡します。
  5. 根拠つきで生成する:LLMは渡された資料を参照して回答を作り、どの資料に基づいたかを出典として示せます。

ポイントは、LLM自体は何も学習し直していないことです。資料を更新すれば翌日から回答が変わり、再学習の費用も時間もかかりません。各ステップの作り込み(チャンクの切り方・検索精度・評価)は後述の「RAG実装の要」で詳しく解説します。

実例:実データでグラウンディングする――企業情報DBから「企業特化の模擬面接」をRAGで生成する

RAGの価値は「実データに基づいて、汎用でなく特化した回答を返す」ことに尽きます。これをクリスタルメソッドは、自社の取り組みで実際に形にしています。

クリスタルメソッドは上場企業 約4,400社の基本情報(業種・市場・規模など)と、約3.8万件の財務データ、各社の公式ドメイン情報を集めた企業情報データベースを構築しました。そのうえで、対象企業を選ぶとその企業の実データを取得してRAGのコーパス(参照資料)を組み立て、「その企業に特化した模擬面接の質問」を生成する仕組みを動かしています。一般的な「志望動機を教えてください」のような汎用質問ではなく、対象企業の業種や事業の文脈をふまえた質問になる点が、実データでグラウンディングする効果です。

この構築・運用を通じてわかった、RAGの導入で本当に効くポイントは次の3つです。机上の解説ではなく、実際に手を動かしてわかった勘所です。

  • ① RAGの回答品質は、結局「投入データの質・網羅性」でほぼ決まる。 モデルを高性能なものに変えるより、参照させるデータを正確で網羅的に整える方が、回答の的確さに直結します。クリスタルメソッドも企業の公式ドメインを正しく特定する作業に相当の手間をかけました(自動取得には誤りも多く、品質チェックと手直しが不可欠でした)。「ゴミを入れればゴミが出る」はRAGでこそ顕著です。
  • ② データの「鮮度」を保つ仕組みが要る。 財務情報のように更新されるデータは、取り込んだまま放置すると古い回答の原因になります。いつのデータを参照しているかを管理し、更新する設計が前提になります。
  • ③ 何を、どう切り分けて渡すかで検索精度が変わる。 大量の資料をそのまま入れても、関連箇所がうまく検索されなければ意味がありません。情報を適切な単位に分け、質問に対して的確な部分が引ける状態にしておくことが、体感品質を大きく左右します。

逆に言えば、RAGは「高性能なAIを用意すれば終わり」ではなく、参照させるデータの整備と運用が成否を分ける取り組みです。導入を検討する際は、まず「自社に、AIに参照させるだけの整ったデータがあるか」から考えることをおすすめします。

どんな業務で効くか(ダイジェスト)

  • 社内ヘルプデスク:規定・手順書・FAQを根拠にした自動回答。もっとも定番の適用先です。
  • カスタマーサポート:製品マニュアル・過去の対応履歴にもとづく回答案の作成。
  • 専門文書の調査:契約書・技術文書・論文などの「探して読む」時間の短縮。
  • 対話型サービスの知識源:クリスタルメソッドの模擬面接のように、対話AIに「その企業・その場面の知識」を持たせる用途。

具体的な事例をもっと見たい方はRAG活用事例の記事へどうぞ。

業務別のユースケース

業務 RAGに渡す資料 できること
カスタマーサポート 製品マニュアル、FAQ、過去の問い合わせ履歴 一次回答の自動生成、オペレーター向けの回答候補提示
社内ヘルプデスク 就業規則、経費規程、IT手順書 「出張の精算はどうする?」など社内ルールへの即答
営業 提案書、事例集、価格表 顧客の業種に合わせた提案の下書き、過去事例の検索
法務・契約 契約書ひな形、審査基準、過去の修正履歴 条項の確認、リスク箇所の指摘の補助
開発 設計書、API仕様、障害対応記録 仕様の問い合わせ対応、過去の障害との照合
人事・採用 企業情報、職種要件、面接評価基準 企業ごとに特化した模擬面接の生成(本記事の実例)

RAGにも「進化形」がある

基本形(質問→検索→回答)だけでも動きますが、精度を上げるための発展形がいくつもあります。名前だけでも知っておくと、製品資料が読みやすくなります。

アーキテクチャ 概要 得意な場面 主な限界
Naive RAG クエリ→ベクトル検索→プロンプト注入→生成の基本フロー シンプルなFAQ・社内Q&A 検索漏れ・Lost in the Middle問題
Advanced RAG クエリ変換・ハイブリッド検索・Re-rankingを追加 曖昧なクエリ・大規模文書コーパス パイプライン複雑化・レイテンシ増
Modular RAG 検索・生成・評価コンポーネントを柔軟に組み替え 要件が多様・段階的な追加検索が必要な場合 設計・運用コストが高い
Graph RAG エンティティ間の関係をグラフ構造で表現・検索 複数文書にまたがる関係性の分析 グラフ構築コスト・ドメイン知識が必要
Agentic RAG LLMが自律的に複数回の検索・ツール呼び出しを実行 多段推論・複雑なタスク分解が必要な場合 制御が難しく誤推論が連鎖するリスク

2026年時点では、ベクトル検索とキーワード検索を組み合わせるハイブリッド検索が事実上の標準になりつつあります。クリスタルメソッドの企業情報RAGでも、企業名・製品名のような固有名詞の取りこぼしを防ぐにはキーワード検索の併用が不可欠でした。

RAGを支える技術要素——埋め込みモデルとベクトルDBの選び方(実装の視点)

RAGを実際に構築するときの中核部品は、大きく「埋め込みモデル」と「ベクトルデータベース」の2つです。ここは記事だけでは分かりにくい部分なので、実務の視点で整理します。

  • 埋め込みモデル(Embedding):文章を「意味のベクトル」に変換する部品です。OpenAIのtext-embedding系や、オープンソースの日本語対応モデルなどが選択肢になります。日本語主体のデータでは、日本語に強いモデルを選べるかどうかが検索精度を大きく左右します。
  • ベクトルデータベース:変換したベクトルを保存し、高速に類似検索する部品です。小〜中規模ならPostgreSQLの拡張であるpgvectorが導入しやすく、大規模・高速性を重視するならFAISS・Pinecone・Weaviateなどが候補になります。

クリスタルメソッドが上場企業の実データでRAGを構築・運用してきた実感では、最初から大規模向けの構成を組むより、pgvectorなどで小さく始め、「狙った文書がちゃんとヒットするか(検索精度)」を測りながら、チャンク分割や再ランクを調整していく方が失敗が少ないです。ツール選定の華やかさより、「自社データで狙ったヒットが出るか」を早い段階で測ることが、RAG導入の成否を分ける実務上のポイントになります。

ローカルLLMの導入やRAG構築をご検討の方は、AI開発会社クリスタルメソッドの無料相談をご利用ください。


RAG実装の要:チャンキング・検索精度・評価をどう作り込むか

ここからは、RAGを「動くだけ」から「業務で使える精度」まで引き上げるための実装レベルの勘所を、クリスタルメソッドが上場企業の実データでRAGを構築・運用してきた経験を交えて整理します。RAGの品質は、派手なモデル選定よりもチャンク分割・検索方式・評価の作り込みで決まります。

チャンキング戦略:精度を最も左右する前処理

文書をどう分割してベクトル化するかで、検索ヒット率は大きく変わります。代表的な方式は次の3つです。

  • 固定長チャンク:一定トークン数(例:300〜800トークン)で機械的に分割。実装は容易だが、文の途中で切れて文脈が欠ける弱点がある。オーバーラップ(前後に50〜100トークンを重ねる)で緩和する。
  • セマンティックチャンク:見出し・段落・文の意味的なまとまりで区切る。文脈が保たれ検索精度が上がりやすいが、前処理が重い。
  • 親子チャンク(Parent-Child):検索は小さいチャンクで行い、LLMに渡すときは親(前後を含む大きい単位)を渡す。「ヒット精度」と「回答に必要な文脈量」を両立できる実務的な定番。

クリスタルメソッドの実装では、社内規程やFAQのように構造が明確な文書はセマンティック/親子チャンク、非構造なテキストはオーバーラップ付き固定長から始め、後述の評価指標を見ながらチャンクサイズを調整する進め方が失敗が少なめでした。

埋め込みモデルの選定(実装比較の観点)

埋め込みモデルは「次元数・多言語性能・コスト・レイテンシ」で選びます。選定時に見るべき観点を整理します。

  • 日本語性能:日本語主体のデータでは、日本語・多言語に最適化されたモデルかどうかが検索精度を大きく左右する。英語中心のモデルをそのまま使うと日本語で取りこぼしが増える。
  • 次元数:次元が大きいほど表現力は上がるが、ベクトルDBの保存量と検索コストも増える。用途に対して過剰な次元は費用対効果を下げる。
  • API型かローカル型か:機密データを外部APIに出せない場合は、オープンソースの埋め込みモデルをローカルで動かす構成になる。この判断はデータの機微性で決まる。

「最高性能のモデル」を探すより、自社データで狙った文書がヒットするかを早期に測り、コストと精度のバランスで選ぶのが実務では有効です。

検索精度を上げる実装:ハイブリッド検索とリランキング

ベクトル検索(意味の近さ)だけでは、固有名詞・型番・略語などの完全一致に弱いという既知の弱点があります。実務では次の2段構えで精度を底上げします。

  • ハイブリッド検索:ベクトル検索(dense)と、BM25などのキーワード検索(sparse)を組み合わせる。意味の近さと語の一致を両取りでき、固有名詞の取りこぼしを減らせる。
  • リランキング(再ランク):一次検索で候補を多め(例:上位20〜50件)に取り、クロスエンコーダ型のリランカーで「本当に関連が高い順」に並べ替えてから上位数件だけをLLMへ渡す。回答の的中率が上がりやすい定番手法。

クリスタルメソッドの運用でも、単純なベクトル検索のみの構成からハイブリッド+リランクに変えた段階で「狙った文書がちゃんとヒットする」感触が明確に改善しました。

RAGの評価:何を測れば「効いている」と言えるか

RAGは「なんとなく良くなった」で運用すると劣化に気づけません。最低限、次の観点を数値で追うと改善の当たりが付けやすくなります。

  • 検索の再現率(Recall@k):正解を含む文書が上位k件に入っている割合。チャンキングや検索方式の良し悪しはここに出る。
  • 忠実性(Faithfulness):生成された回答が、取ってきた文書の内容に基づいているか(ハルシネーションしていないか)。
  • 回答の関連性(Answer Relevance):回答が質問の意図に答えているか。

これらは RAGAS など評価フレームワークでも定式化されています。クリスタルメソッドでは、まず「検索が正解を拾えているか(Recall)」を先に固め、その後で生成側(Faithfulness)を詰める順序で改善すると、原因の切り分けがしやすいと考えています。検索が外していれば生成をいくら調整しても効かないためです。

実装の進め方(つまずかない順序)

まとめると、RAG実装は次の順で「小さく作って測る」のが堅実です。

  1. pgvector など導入容易な構成で最小のRAGを動かす
  2. Recall@k を測り、チャンク分割・オーバーラップ・埋め込みモデルを調整
  3. 固有名詞の取りこぼしがあればハイブリッド検索を追加
  4. 上位の並びが甘ければリランキングを追加
  5. 生成側のFaithfulnessを評価し、プロンプト・渡す文脈量を調整

ツール選定の華やかさより、「自社データで狙ったヒットが出るか」を早い段階で測ることが、RAG導入の成否を分ける実務上の分岐点になります。

最小構成のコード例(LangChain Agentic RAG)

2026年時点で主流になりつつある「Agentic RAG」(検索するかどうかの判断をLLM自身に任せる方式)の最小構成は、LangChain公式ドキュメントに沿うと次のようになります。

from langchain.tools import tool
from langchain.chat_models import init_chat_model
from langchain.agents import create_agent

@tool
def search_docs(query: str) -> str:
    """社内文書ベクトルストアから関連文書を検索して返す"""
    docs = vectorstore.similarity_search(query, k=4)
    return "

".join(d.page_content for d in docs)

agent = create_agent(
    model=init_chat_model("claude-sonnet-4-6"),
    tools=[search_docs],  # 検索を1つの「ツール」としてエージェントに渡す
    system_prompt="関連文書が必要なときは search_docs を使って根拠を確認してから回答してください。",
)

response = agent.invoke({"messages": [{"role": "user", "content": "自社の返品ポリシーは?"}]})
print(response["messages"][-1].content)

ポイントは、検索処理を1つの「ツール」としてエージェントに渡すだけでよく、いつ検索するかの判断はLLM自身に任せる点です(LangChain公式の「Agentic RAG」パターン)。vectorstoreの作り方(文書の読み込み・チャンキング・埋め込み)は前段の「本棚づくり」の手順と同じです。

ファインチューニングとの違い・使い分け

「AIに自社の知識を持たせる」もう一つの方法が、モデル自体を追加学習させるファインチューニングです。ざっくり言うと、「知識を渡したい」ならRAG、「話し方や作法を身につけさせたい」ならファインチューニングが向いています。

比較項目 RAG ファインチューニング ロングコンテキスト(全文入力)
知識の更新性 ◎ 文書差し替えで即時反映 △ 再学習が必要 ○ ファイル差し替えで対応
初期コスト ○ 比較的低い △ GPU・時間コスト大 △ トークン課金が高額になりやすい
根拠・出典の提示 ◎ 取得元文書を明示可 ✗ 根拠が不透明 ○ 原文を含む
大量文書への対応 ◎ 数百万文書規模でも可 ○ 学習データに取り込める ✗ コンテキスト長に制限
ハルシネーション抑制 ◎ 根拠文書が制約として機能 △ 効果は限定的 ○ 原文参照で抑制しやすい
文体・挙動のカスタマイズ △ システムプロンプトで対応 ◎ 深くカスタマイズ可能 △ 限定的

まず低コストで始められて、資料の差し替えだけで最新化でき、根拠も示せる——という理由で、企業の知識活用はRAGから始めるのが定石です。ファインチューニングの詳細はファインチューニングの解説へ。

セマンティック検索・キーワード検索との違い

RAGと混同されやすいのが「セマンティック検索」です。両者の関係は部品と仕組みにあたります。

方式 やること 出力 向く場面
キーワード検索 単語の一致で文書を探す 文書の一覧 固有名詞や型番など、言葉が決まっている検索
セマンティック検索 意味の近さ(ベクトルの類似度)で文書を探す 文書の一覧 言い回しが違う質問、曖昧な問い合わせ
RAG セマンティック検索(やキーワード検索)で取り出した文書をLLMに渡し、回答文を生成する 根拠つきの回答文 「探す」だけでなく「答えてほしい」場面

つまりセマンティック検索は「該当しそうな資料を見つける」までで、RAGはその先の「資料を読んで答える」までを自動化します。逆に言えば、RAGの回答品質は検索の質で頭打ちになるため、実務では意味検索とキーワード検索を組み合わせるハイブリッド検索を採用するのが定石です。

RAGの限界とデメリット

万能ではありません。導入前に知っておくべき弱点を整理します。

  • 検索に失敗すると答えも失敗する:必要な資料を取り出せなければ、LLMは資料無しで答えるか「不明」と返すしかありません。チャンクの切り方や検索方式の設計が品質を決めます。
  • 資料の質に依存する:古い版や矛盾する文書が混在していると、誤った根拠で正しそうな回答を作ります。資料の棚卸しと版管理が前提になります。
  • 推論に時間とコストがかかる:検索と長いプロンプトが毎回発生するため、応答時間とトークン費用は通常の対話より増えます。
  • 権限管理が難しい:誰に見せてよい資料かを検索段階で制御しないと、本来見られない情報が回答に混ざります。
  • 評価が難しい:「検索は正しかったか」「回答は資料に忠実か」を分けて測る仕組みが要ります。
  • 文体や振る舞いは変えられない:口調や出力形式を根本から変えたい場合は、ファインチューニングの領域です。

うまくいかないときは、どこを見るか

RAGの答えがいまいちなとき、原因は大きく「探す側(検索)の失敗」か「答える側(生成)の失敗」に分かれます。切り分けて見るのが改善の近道です。

評価指標 評価対象 意味
Context Precision 検索層 取得チャンクのうち質問と関連するものの割合
Context Recall 検索層 正解に必要な情報がどれだけ取得されているか
Faithfulness(忠実性) 生成層 生成された回答が取得文書の内容から逸脱していないか
Answer Relevancy 生成層 生成された回答がユーザーの質問に対してどれだけ的確か

実務では、①資料の切り方(チャンキング)が悪くて文脈が途切れる ②似た用語が多くて違う資料を取ってくる ③資料は正しいのに要約で歪む——あたりが定番のつまずきポイントです。まず「検索で正しい資料が取れているか」から確認してください。

RAGにおけるセマンティック検索:文書の意味空間上での類似度により関連チャンクを取得する仕組みを示す図
意味空間上の近さで関連チャンクを取得するセマンティック検索

クリスタルメソッドは自社サービスのヘルプ機能にRAG(検索拡張生成)を実装しており、ヘルプ記事をベクトル化してAIの回答精度を高める仕組みを実際に運用している。

RAGの費用は何で決まるか:公式の単価を使った試算例

RAGの費用は、大きく4つの要素で決まります。

費用の要素 何にかかるか 増える要因
文書のベクトル化(埋め込み) 資料を検索できる形に変換する処理。最初にまとめて行い、資料を更新したときに追加で行う 資料の量、更新の頻度
ベクトルデータベース 変換したデータの保存と検索 保存する件数、検索の回数。既存のデータベースに拡張機能を足す構成なら、追加費用を抑えられる
回答の生成(LLMの利用料) 質問と、検索で見つけた資料をLLMに渡して回答を作る処理 質問の回数、1回に渡す資料の量、選ぶモデル
構築・運用 資料の整備、精度の確認、改善の作業 対象業務の広さ、求める精度

このうち、使い方で大きく変わるのが「回答の生成」です。RAGでは検索で見つけた資料をプロンプトに入れるため、ふつうのチャットより入力が長くなります。

試算例:月1万回の質問に答える場合

次の仮定で、LLMの利用料だけを計算してみます(仮定を置いた計算例であり、実測値ではありません)。

  • 質問は月10,000回
  • 1回あたりの入力は4,000トークン(質問+検索で見つけた資料の抜粋)、出力は500トークン
  • 単価はAnthropic公式の料金(2026年10月10日確認・100万トークンあたり)
モデル 入力(月4,000万トークン) 出力(月500万トークン) 合計(月額)
Claude Sonnet 5.5(入力$2/出力$10) $80 $50 $130
Claude Haiku 5.5(入力$0.10/出力$0.50) $4 $2.5 $6.5

同じ使い方でも、モデルの選び方で月額は20倍ほど変わります。また、1回に渡す資料を半分にすれば、入力の費用も半分になります。費用を抑える基本は、①検索の精度を上げて渡す資料を絞る、②簡単な質問は軽いモデルに回す、③同じ前置き(指示文)はプロンプトキャッシュを使う、の3つです。埋め込みとベクトルデータベースの費用は、使うサービスの料金ページで別途確認してください(出典:Anthropic公式 Pricing)。

RAGに関するよくある質問

RAGは何の略ですか?

Retrieval-Augmented Generation(検索拡張生成)の略です。「検索(Retrieval)で見つけた資料で、生成(Generation)を強化(Augmented)する」という名前のとおりの仕組みです。

ChatGPTをそのまま使うのと何が違うのですか?

ChatGPT単体は、あなたの会社の文書を知りません。RAGは回答の前に自社の資料を検索して渡すので、「社内のことに、根拠つきで答えられる」ようになります。汎用知識で足りる用途なら、RAGなしでも十分です。

導入は何から始めればよいですか?

「対象の文書」と「想定する質問」を絞ることからです。よくある質問トップ20と、その根拠になる文書を揃えて小さく検証するのが定石です。検証だけなら、ローカル環境での構築や無料で試す方法から始められます。

RAGを使えば、ハルシネーション(もっともらしい誤り)はなくなりますか?

なくなりはしませんが、減らせます。RAGは回答の根拠になる資料をAIに渡す仕組みなので、資料に書かれている内容については誤りが出にくくなります。一方、検索で的外れな資料を拾った場合や、資料に答えが無い場合は誤ることがあります。「資料に無ければ『わからない』と答える」と指示し、回答に出典を付けさせるのが基本の対策です。

RAGとファインチューニングは、どちらを選べばよいですか?

社内の資料や最新の情報にもとづいて答えさせたいならRAG、文体や出力の形式など「答え方」を変えたいならファインチューニングが向いています。資料が頻繁に変わる場合は、資料を差し替えるだけで済むRAGのほうが運用しやすくなります。

RAGの費用は何で決まりますか?

文書のベクトル化、ベクトルデータベース、回答を作るLLMの利用料、構築・運用の4つです。使い方で大きく変わるのはLLMの利用料で、質問の回数、1回に渡す資料の量、選ぶモデルで決まります。

社内の資料をRAGで使うと、情報が外に漏れませんか?

資料の内容は、回答を作るときにLLMへ送られます。クラウドのLLMを使う場合は、送ったデータが学習に使われるか、どこに保存されるかを契約と設定で確認します。外に出せない資料は、自社で動かすLLM(ローカルLLM)と組み合わせる方法があります。あわせて、閲覧権限のない人に資料の内容が答えとして出ないよう、検索の段階で権限による絞り込みを入れます。

まとめ:資料を持たせれば、AIは自社の即戦力になる

RAGは、「AIにカンペを渡してから答えさせる」というシンプルな発想で、生成AIの弱点(古い・知らない・間違える・根拠がない)をまとめて補う技術です。難しい理論より先に、「この文書群に、この質問」という小さな組み合わせで一度動かしてみるのがおすすめです。関連記事に、構築手順・事例・無料での試し方をまとめています。


参考文献

監修

河合 継(クリスタルメソッド株式会社 代表取締役)

AI・ディープラーニングに関する特許16件の発明者。過去、国立がん研究センターとの共同研究や、テレビ番組でのAI解説実績を持つAI研究者として、AIの研究開発を主導している。
運営会社について | 編集方針


関連記事(rag 詳細ガイド)


LLM・ローカルLLMの業務導入をご検討の方へ

クリスタルメソッドは、オープンモデル・ローカルLLMの選定からRAG構築・PoC・本番導入までのAI開発を支援しています。「機密データを外部に出さずにLLMを使いたい」「自社の業務に合うモデルを選びたい」といったご相談を承っています。

AIブログ購読

 
クリスタルメソッドがお届けする
AIブログの更新通知を受け取る

Read next

あわせて読みたい

  • RAG・AI開発のイメージ

    RAG導入事例から学ぶ設計判断の核心【2026年版】

    RAG(Retrieval-Augmented Generation:検索拡張生成)の導入事例は、2026年時点で国内外を問わず急増している。しかし公開されてい...

  • RAG・AI開発のイメージ

    RAG比較2026年版——タイプ別の選び方とサービス比較・技術アーキテクチャ完全ガイド

    「RAGを導入したいが、どのサービスを選べばよいか分からない」——多くの企業担当者が最初にぶつかるのはこの疑問だ。RAG(Retrieval-Augmented...

  • RAG・AI開発のイメージ

    RAGツール無料で使える選択肢と構築手順【2026年版】

    RAGツールを無料で選ぶ前に押さえるべき構造的な前提 RAG(Retrieval-Augmented Generation)は、ユーザーの質問に対して外部ドキュ...

View more