この記事のポイント
- LLMを自分の業務に合わせる方法はプロンプト設計・RAG・ファインチューニングの3段階
- 手軽さ・コスト・効果がそれぞれ大きく異なる
- ほとんどの場合、プロンプト設計とRAGで十分。ファインチューニングは最終手段
はじめに
「ChatGPTに自社の情報を覚えさせたいんだけど、どうすればいいの？」
LLMを業務に活用しようとすると、真っ先にぶつかるのがこの疑問です。AIは賢いけれど、自社の製品情報や社内ルールは知りません。では、どうやってAIを「自分仕様」にすればよいのでしょうか。
実は、LLMを調整する方法は大きく3段階あります。手軽なものから順に、プロンプト設計、RAG、ファインチューニングです。この記事では、それぞれの仕組みと使いどころを比較しながら、「結局どれを選べばいいのか」を解説します。
3つの方法を一覧で比較
| プロンプト設計 | RAG | ファインチューニング | |
|---|---|---|---|
| 難易度 | 低い | 中くらい | 高い |
| コスト | ほぼ無料 | 低〜中 | 高い |
| 必要な技術 | なし | 少しの技術知識 | 機械学習の知識 |
| 効果が出るまで | 即座に | 数日〜 | 数週間〜 |
| 最新情報への対応 | 都度指示に含める | データ更新で対応可 | 再学習が必要 |
| 身近な例え | 「料理の注文を工夫する」 | 「レシピ本を渡す」 | 「料理人を育てる」 |
第1段階：プロンプト設計
どういうもの？
プロンプト設計とは、AIへの指示文（プロンプト）を工夫することで回答の質を上げる方法です。LLMそのものには手を加えず、「聞き方」を変えるだけで結果が大きく変わります。
レストランで例えるなら、「料理をください」とだけ言うのではなく、「辛くない和食で、魚を使った料理を小さめのお皿でお願いします」と具体的に注文するようなイメージです。
代表的なテクニック
| テクニック | やり方 | 効果 |
|---|---|---|
| 役割の指定 | 「あなたは○○の専門家です」と前置きする | 回答のトーンや専門性が変わる |
| 具体的な指示 | 出力形式・文字数・条件を明示する | 期待通りのフォーマットで返ってくる |
| Few-shot | 入力と出力の例を2〜3個示す | AIが「こういう形式で答えればいい」と理解する |
| 段階的に考えさせる | 「ステップごとに考えてください」と指示する | 複雑な問題での正答率が上がる |
向いているケース
- AIを試しに使ってみたい段階
- 定型的な文章生成（メール、要約、翻訳など）
- 社内データを扱わなくてよい汎用的なタスク
限界
プロンプトに含められる情報量には上限（コンテキストウィンドウ）があります。数十ページの社内資料をまるごと貼り付けるのは現実的ではありません。また、AIが持っていない知識（自社の最新製品情報など）はプロンプトだけでは補えません。
第2段階：RAG（検索拡張生成）
どういうもの？
RAG（Retrieval-Augmented Generation）は、AIが回答を生成する際に、外部のデータベースから関連情報を検索して参照させる仕組みです。
レストランの例えで言えば、料理人（LLM）にレシピ本（外部データ）を渡して、「このレシピを見ながら作ってください」とお願いするイメージです。料理人のスキルそのものは変えずに、参考資料を追加する方法です。
仕組み
1. ユーザーが質問する
2. 質問に関連する文書を、あらかじめ用意したデータベースから検索する
3. 検索結果をプロンプトに添付してLLMに渡す
4. LLMが検索結果を参考にして回答を生成するポイントは、LLM自体は書き換えていないことです。「質問のたびに関連資料を添付する」という仕組みを外側に作るだけなので、LLMのバージョンアップにも影響されません。
向いているケース
- 社内文書やFAQをもとにAIに回答させたい
- 最新の情報を常に反映させたい（データベースを更新するだけでOK）
- 回答の根拠（出典）を明示したい
身近なツールの例
実は、RAGの仕組みを手軽に使えるサービスはすでにあります。
- Google NotebookLM：PDFやWebページをアップロードして、その内容について質問できる
- ChatGPT（ファイル添付）：PDFやExcelを添付して、その内容をもとに回答させる
- Microsoft Copilot：社内のSharePointやOneDriveの文書を自動参照
第3段階：ファインチューニング
どういうもの？
ファインチューニングは、LLMそのものを追加のデータで再学習させて、特定の分野や業務に特化させる方法です。
レストランの例えで言えば、料理人そのものを修業に出して、新しいジャンルの料理を習得させるイメージです。時間もコストもかかりますが、根本的にスキルが変わります。
仕組み
1. 業務に関する質問と回答のペアを大量に用意する（数百〜数千件）
2. そのデータでLLMを追加学習させる
3. 特定分野に特化した新しいモデルが完成する向いているケース
- 特定業界の専門用語やトーンをAIに完全に覚えさせたい
- プロンプト設計やRAGでは精度が足りない高度なタスク
- 自社専用のAIアシスタントを作りたい
ハードルが高い理由
| 課題 | 内容 |
|---|---|
| データ準備 | 質の高い学習データ（Q&Aペア）を数百〜数千件作る必要がある |
| 技術力 | 機械学習の知識、GPUサーバーの運用スキルが必要 |
| コスト | GPUの利用料だけで数万〜数十万円かかることも |
| メンテナンス | ベースモデルが更新されたら再学習が必要になる場合がある |
結局、どれを選べばいい？
以下のフローチャートで判断できます。
AIを業務に使いたい
│
├── 社内データを扱う必要がない → プロンプト設計
│
├── 社内データを参照させたい → RAG
│
└── 業界特化の専門性が必要 → まずRAGを試す
│
└── RAGで精度が足りない → ファインチューニング大切なのは、いきなりファインチューニングに飛びつかないことです。多くの場合、プロンプト設計の工夫だけで回答の質は大幅に改善しますし、社内データの活用もRAGで十分対応できます。
実際に、企業のAI活用の8〜9割はプロンプト設計とRAGの組み合わせでカバーできるとされています。ファインチューニングは「それでもまだ足りない」場合の最終手段と考えるのがおすすめです。
3つを組み合わせることもできる
これら3つの方法は排他的ではなく、組み合わせて使うこともできます。
ファインチューニング済みモデル（専門知識を持つ）
＋ RAG（最新の社内データを参照）
＋ プロンプト設計（出力形式や条件を指示）例えば、医療分野に特化してファインチューニングしたモデルに、患者の最新データをRAGで参照させ、プロンプトで「箇条書きで要約してください」と指示する、というような使い方です。
ただし、まずはプロンプト設計から始めて、必要に応じてRAG、最後にファインチューニングと段階的に進めるのが、コストと効果のバランスが良いアプローチです。
まとめ
| 方法 | 難易度 | コスト | 例え |
|---|---|---|---|
| プロンプト設計 | 低い | ほぼ無料 | 注文の仕方を工夫する |
| RAG | 中くらい | 低〜中 | レシピ本を渡す |
| ファインチューニング | 高い | 高い | 料理人を修業に出す |
- まずはプロンプト設計から始める。それだけで回答の質は大きく変わる
- 社内データを扱いたいならRAGを検討。NotebookLMなら今すぐ試せる
- ファインチューニングは最終手段。プロンプトとRAGで足りない場合に検討
- 3つは組み合わせ可能。段階的にステップアップするのがおすすめ
関連記事
- プロンプトエンジニアリング実践ガイド：AIの回答精度を劇的に上げる技術
- 自分のPDFやメモをAIに読ませる方法 ― RAGを知らなくてもできる実践入門
- Swallowプロジェクトとは？日本語に強いオープンLLMを大学が作る理由
- Hugging Face入門：プログラミング不要でAIを試せる無料プラットフォーム
AI導入でお困りですか？
「プロンプトの工夫だけでどこまでできる？」「うちの社内資料をAIに読ませるにはどうすれば？」――そんなご相談をよくいただきます。AI DARUMAでは、プロンプト設計からRAGの導入まで、段階に合わせたサポートをいたします。
〒723-0062 広島県三原市本町 1丁目7-29 2階 コワーキングスペースarica内