【ChatGPT社内導入】情シスの工数120時間減！「泥臭い」RAGデータ整備の裏側とプロンプト完全公開

成功の鍵「RAG」とは？：ファインチューニングが不要な理由

社内独自のルールやマニュアルをChatGPTに答えさせるために、数千万円かけて「ファインチューニング（追加学習）」をする必要はありません。現在は「RAG（Retrieval-Augmented Generation / 検索拡張生成）」が最適解です。
仕組み: ユーザーの質問に対して、まず社内データベース（PDF等）を検索し、見つけた文章をChatGPTに「カンニングペーパー」として渡して回答を生成させる技術。

メリット: 嘘（ハルシネーション）をつきにくく、入力データが学習されないためセキュリティが高い。

【実録】RAG導入の壁は「汚いデータ」にあり。泥臭いデータ整備の裏側

「RAGならPDFをアップロードするだけでOK」という宣伝文句を信じてはいけません。
実は、RAGの回答精度は「データの事前加工（前処理）」で8割決まります。
弊社が実際に社内システムを構築した際、単にファイルサーバーのPDFを放り込んだだけでは、AIは図表を読み取れず回答精度は60%程度でした。
そこで、以下のような「泥臭いデータ整備」を行うことで、精度を95%まで向上させました。

実際に直面した「データ整備」の苦労

古いPDFの文字化け対応:
10年以上前のスキャンPDFや、特殊フォントを使った社内報は、AIが文字化け（□□□）として認識していました。これらをOCRでテキスト化し直し、テキストファイルとして登録し直しました。

ヘッダー・フッターの削除:
全ページに入っている「2024年度版 就業規則」というヘッダーが、検索ノイズになっていました。これをスクリプトで一括削除し、本文だけをAIに読ませるように加工しました。

「2段組み」レイアウトの修正:
社内報のような2段組みのレイアウトをAIは「1行ずつ左から右へ」読んでしまい、文章が支離滅裂になっていました。これも1段組みのテキストデータに変換しました。

このように、RAG導入とは「システム構築」以上に、「社内データをAIが理解できる言葉に翻訳する（掃除する）作業」が本質です。

導入効果：情シスの問い合わせ対応時間が「月120時間」削減された実例

この「泥臭いデータ整備」を経て構築されたRAG型ChatGPTは、劇的な成果を生み出します。
従業員数1,000名規模の企業における、情報システム部への導入成果（実数値）です。
【導入前】
課題: 「パスワードのリセット方法は？」「VPNがつながらない」「複合機の設定は？」といった一次対応に、情シスメンバー3名が追われていた。

対応時間: 月間 約150時間

【導入後】
施策: 整備済みのマニュアルを読み込ませたChatGPTボットをTeamsに常駐。

結果: 簡単な質問はAIがURL付きで即答するため、電話が激減。

対応時間: 月間 約30時間（マイナス120時間の削減）

削減された120時間分のリソースは、老朽化した基幹システムの刷新プロジェクトや、セキュリティ強化施策へと再投資されています。

【コピペOK】回答精度を劇的に上げる「システムプロンプト」テンプレート

データ整備に加え、もう一つ重要なのが「プロンプトエンジニアリング」です。
ChatGPTに対して「あなたは優秀なヘルプデスクです」と役割を与える「システムプロンプト」を工夫するだけで、回答の質は変わります。
当社で実際に使用し、効果の高かったテンプレートを公開します。カスタマイズしてご活用ください。

社内ヘルプデスク用 システムプロンプト例

Plaintext
あなたは、株式会社〇〇の情報システム部に所属する、優秀なヘルプデスクAIです。
以下の「制約事項」と「回答ルール」を厳守し、社員からの問い合わせに対応してください。


# 制約事項
- 提供された「参照コンテキスト（社内マニュアル）」の情報のみに基づいて回答してください。
- 参照コンテキストに答えがない場合は、適当な回答を作らず、「申し訳ありません、社内マニュアルに関連情報が見当たりませんでした。担当者（内線:1234）へお問い合わせください」と回答してください。
- 一般的なインターネット上の知識（例：一般的なWindowsの操作方法）は、社内環境と異なる可能性があるため、優先度を下げて回答してください。


# 回答ルール
- 回答の最後には、必ず参照したマニュアルの「文書名」を記載してください。
- 手順を説明する場合は、箇条書きを用いてステップバイステップで説明してください。
- 専門用語には、初心者がわかるような補足を加えてください。


# 出力トーン
- 丁寧で、親しみやすいトーン（「です・ます」調）
このプロンプトを設定することで、「AIが知ったかぶりをして嘘をつく（ハルシネーション）」リスクを極限まで下げることができます。

まとめ：AI導入は「データの大掃除」から始まる

ChatGPTの社内導入は、単なるツールの導入ではなく、「社内の知恵（ナレッジ）を全社員が使える状態に整理整頓する」というDXの核心です。
「データ整備」と「適切なプロンプト」という両輪が揃って初めて、AIは真価を発揮します。
まずは、情シス部門内の「よくある質問トップ10」のマニュアルを整備し、スモールスタートでAIに学習させてみませんか？
▼【情シス担当向け】ChatGPT社内導入・RAG構築ガイド