DX Suite | AI-OCR市場シェアNO.1のDX Suite

RAG(検索拡張生成)とは?仕組みと導入時の注意点を解説 

AI・生成AIの基礎
生成AIなどLLM(大規模言語モデル)の活用が進む一方で、「社内の情報には対応してもらえない」「もっともらしい誤情報を返されてしまう」といった声も少なくありません。こうしたLLMの弱点を補う技術として注目されているのがRAG(検索拡張生成)です。 この記事では、RAGの仕組みやファインチューニングとの違い、導入時の注意点などについて解説します。 <この記事でわかること> ・RAG(検索拡張生成)とは、外部の情報を検索し、その内容をもとにLLM(大規模言語モデル)が回答を生成する技術のこと ・RAGは、「検索フェーズ」「拡張フェーズ」「生成フェーズ」という3つの工程を経て、LLM単体では出せない根拠のある回答を作り出すことができる ・RAGを導入するにあたっては、検索対象となる文書の整備やセキュリティ対策のほか、情報を更新し続ける体制の構築が大切
DX Suiteサービス紹介資料

1. RAG(検索拡張生成)とは? 

RAG(検索拡張生成)とは、外部の情報を検索し、その内容をもとにLLM(大規模言語モデル)が回答を生成する技術のことです。RAGの動作は、次の3つのフェーズに分けられます。 

<RAGの動作> 

  • 検索:ユーザーの質問に関連する情報をデータベースから探す 
  • 拡張:検索結果をユーザーの質問に加えてプロンプトを作る 
  • 生成:LLMがそのプロンプトをもとに回答を作る 

通常のLLMは、あらかじめ学習したデータの範囲内でしか回答できません。しかしRAGを組み込むことで、LLMは学習していない社内文書や最新のデータも参照しながら回答を作れるようになります。モデルそのものを作り替える必要がなく、既存のLLMに検索の仕組みを組み合わせるだけで導入できる点もRAGの特徴です。 

2. RAGが必要とされる理由 

LLMの活用にあたっては、主に「社内情報を知らない」「ハルシネーションを起こす」「情報が古くなる」といった3つの課題があります。RAGは、これらの課題を解決する手段として活用されています。 

LLMが社内情報を把握していない 

LLMの導入を検討する企業の多くは、LLMが社内情報を参照できないという課題に直面します。LLMはインターネット上の公開情報をもとに学習しているため、自社の就業規則や稟議の決裁ルール、独自の製品仕様といった非公開情報については答えられません。 

例えば「500万円の発注をする場合、誰の決裁が必要か」という質問をしても、LLMだけでは該当する社内規程を把握していないため、正しく回答できないのです。そこで、LLMにRAGを組み込むことで、質問のたびに就業規則や決裁権限表といった社内文書を検索して回答に反映できるため、こうした社内固有の質問にも対応できるようになります。 

ハルシネーションのリスクがある 

LLMをビジネスで活用するうえで見逃せないのが、ハルシネーションのリスクです。LLMは、学習データにもとづき確率的に「それらしい」単語を組み合わせて文章を生成します。そのため、事実と異なる情報を生成してしまう「ハルシネーション」と呼ばれる現象が起こることもあります。 

例えば、LLMが誤った税法解釈にもとづいて申告内容を案内すれば、それが原因で法令違反につながることも考えられますし、存在しない割引条件を顧客に案内すればクレームや契約トラブルに発展しかねません。RAGはデータベース内での検索で得た実在の文書を根拠として回答を組み立てるため、事実にもとづかない情報を生成するリスクを抑えられます。 

古い情報で生成してしまう 

LLMの学習データには最終更新日があり、それ以降に発生した法改正や新製品の情報、最新の統計データなどは学習していません。そのため、時間が経つほど回答の内容が古くなっていきます。学習データを更新するには、モデルに新しい知識を追加で学習させる「追加事前学習(継続事前学習)」などの再学習の工程が必要ですが、高スペックなGPU環境で長時間の処理が必要になりコストがかさむため、頻繁には行いにくいのが実情です。 

RAGなら検索対象の文書を最新版に差し替えるだけで済み、モデルを再学習させることなく常に最新の情報にもとづいた回答を得られます。 

3. RAGの仕組み 

RAGは、「検索フェーズ」「拡張フェーズ」「生成フェーズ」という3つの工程を経て、LLM単体では出せない根拠のある回答を作り出します。それぞれのフェーズで何が行われているのか、具体的な質問例をもとに見ていきましょう。 

検索フェーズ 

検索フェーズは、ユーザーの質問に関連する情報を探し出す工程です。例えば、ユーザーが「年次休暇は何日あるか」と質問すると、システムはその質問文を数値化(ベクトル化)し、あらかじめ同じ形式で数値化しておいた社内文書(休暇規程やFAQなど)と照合して、関連度の高い文書を探し出します。 

この検索には、キーワードの一致だけでなく文章の意味的な近さで探す「ベクトル検索(セマンティック検索)」という方式が使われることが一般的です。検索の精度が低いと、この後の生成フェーズでどれだけ優れたLLMを使っても、的外れな回答になってしまいます。 

拡張フェーズ 

拡張フェーズは、検索フェーズで得た情報をユーザーの質問と組み合わせる工程です。検索によって取得した「休暇規程の該当条文」や「過去の申請記録」といった情報を、ユーザーの質問文と組み合わせ、「以下の情報を参考に質問に答えてください」という形式のプロンプトを組み立てます。 

この工程を経ることで、LLMは自身が学習していない情報も踏まえたうえで回答を作れるようになります。プロンプトの組み立て方次第で回答の質は変わるため、どのような情報をどのような形式で渡すかも、RAGの精度を左右する重要な要素です。 

生成フェーズ 

生成フェーズは、拡張されたプロンプトをもとにLLMが回答を作る工程です。LLMは拡張されたプロンプトを受け取ると、自身が事前に学習した一般知識と、検索によって新たに提供された社内情報の両方を踏まえて回答を生成します。 

「有給休暇は何日付与されるか」という質問であれば、「有給休暇は入社1年目で10日付与されます」といったように、社内規程にもとづいた具体的な回答が返ってきます。学習データだけに頼らず、実在する社内文書を根拠にできる点が、RAGならではの強みです。 

<RAGの3つのフェーズ> 

フェーズ 役割 具体的に行うこと 
検索フェーズ ユーザの質問に関連する情報を探す 質問文を数値化し、同じ形式で数値化された社内文書と照合して、関連度の高い文書を検索する 
拡張フェーズ 検索結果を質問に組み込む 取得した文書や該当情報をユーザの質問文と組み合わせ、LLMに渡すプロンプトを組み立てる 
生成フェーズ 根拠にもとづいて回答を作る LLMが、事前に学習した一般知識と検索で取得した社内情報を踏まえて回答を生成する 

4. RAGとファインチューニングとの違い 

RAGと混同されやすい技術に、「ファインチューニング」があります。ファインチューニングとは、特定のデータセットを使ってLLM自体に追加学習をさせ、特定のタスクや分野に特化させる手法のことです。RAGとファインチューニングは、「モデルを変えるか、外部情報を検索するか」という点で根本的に異なります。 

ファインチューニングは、モデルのパラメータそのものを書き換えて知識を「内部化」する手法です。一方でRAGは、モデルには一切手を加えず、質問のたびに外部情報を検索して「外付け」する手法だといえます。 

ファインチューニングでLLMに新しい知識を持たせるには、大量の学習用データを準備し、GPUを使った再学習の工程を経なければなりません。対してRAGは、検索対象の文書を用意するだけで済むため、専門的な機械学習の知識がなくても着手しやすいという違いがあります。 

5. RAGの活用例 

RAGは、ビジネスにおいてさまざまな業務シーンで活用されています。ここでは、代表的な3つの例を紹介します。 

社内規程・マニュアル検索 

社内規程やマニュアルの検索は、RAGの代表的な活用例のひとつです。「海外出張手当について教えてほしい」という質問に対し、RAGを組み込んだLLMが社内規程を検索し、「交通費は実費、出張費は出張先の地域に応じて金額が異なる」といったように回答する使い方が可能になります。 

総務や人事の担当者に問い合わせなくても、従業員が自分で必要な情報にたどり着けるようになるため、問い合わせ対応の工数削減にもつながります。 

カスタマーサポート対応 

コールセンターの人手不足が課題となっている状況において、カスタマーサポートでの一次対応の自動化は多くの企業にとって現実的な選択肢のひとつです。製品のFAQや過去の問い合わせ履歴を検索対象とすることで、顧客からの「返品条件を教えてほしい」といった質問に対し、担当者を介さずその場で精度の高い回答が可能なチャットボットを構築できます。 

よくある質問への一次対応をRAGに任せることで、オペレーターはより複雑な問い合わせ対応に集中できるようになります。 

医療・法務分野の支援 

専門性の高い分野でも、RAGが活用されるようになってきています。最新の治療ガイドラインや臨床データを検索対象にすれば、患者の症状に応じた治療法の提案を医師が検討する際の参考情報として提示できます。 

また、法令データを検索対象にすれば、契約書の条項が最新の法改正に抵触していないかを確認することも可能です。専門知識を持つ担当者が最終判断を下すことに変わりはありませんが、調査にかかる時間を大きく短縮できる点がRAGの強みです。 

6. RAGの導入前に押さえておきたい注意点 

RAGは、導入すればすぐに効果を発揮する技術ではありません。RAGの導入前に押さえておきたい注意点を確認しておきましょう。 

検索精度を高めるデータ整備 

RAGの回答精度は、検索対象となる文書の整備状況に大きく左右されるため、精度を高めるためのデータ整備が必要です。 

検索対象の文書をどのくらいの単位(チャンク)で区切って登録するかによって、検索結果の精度は大きく変わります。区切りが大きすぎると無関係な情報まで拾ってしまい、逆に小さすぎると文脈が失われて誤った回答につながります。導入前には、どのような単位で文書を区切るかを十分に検証しておきましょう。 

セキュリティ対策 

社内情報を扱う以上、閲覧権限の設計などのセキュリティ対策も欠かせません。人事情報や経営情報など閲覧権限が制限された文書を誰でも検索できる状態にしてしまうと、本来閲覧権限のない社員が機密情報を含む回答を得てしまう可能性があります。 

こうした事態を防ぐためには、利用者の権限に応じて検索結果を絞り込む設計が必要です。誰がどの情報にアクセスできるのかを事前に整理しておくことが、安全にRAGを運用するための前提条件になります。 

情報を更新し続ける体制 

RAGは、検索対象の文書を最新の状態に保って初めて、その強みを発揮します。規程の改定や新商品リリースのたびに、検索対象の文書とその数値表現(埋め込みデータ)を更新する担当者・仕組みを準備しておかなければ、半年後には検索結果が古い規程のままになってしまいます。 

導入時だけでなく、運用フェーズでどのように情報を更新し続けるかまで見据えて設計することが大切です。 

7. RAGを活用して社内データを知識化しよう 

RAGとは、外部の情報を検索し、その内容をもとにLLMが回答を生成する技術です。LLM単体の課題を、モデルの再学習なしに解決できる点に強みがあります。ただし、検索精度・閲覧権限・情報更新の運用体制を整えて初めて効果を発揮する技術であるため、導入にあたってはこれらのポイントを事前に確認しておかなければなりません。 

RAGの回答精度は、検索対象となる社内文書をいかに正確にデータ化できるかに大きく左右されます。紙やPDF、FAX、手書きなど多様な帳票を高精度にデータ化し、RAGで活用しやすい形へ構造化する手段として、AI-OCRの「DX Suite」が有効です。 

「DX Suite」 は、帳票を高精度にデータ化し、情報を構造化して業務とシステムをつなぐAI基盤です。独自開発の「PolySphere-4」によって世界最高水準の読取精度を実現し、定型・非定型を問わず安定した読取処理に対応します。RAGの土台となる社内データの整備・構造化を検討している場合は、ぜひ導入をご検討ください。 

「DX Suite」について詳しくは下記をご覧ください。