セ【自治体 生成AI セキュリティ】LGWANで守る。情報漏洩と誤回答（ハルシネーション）を防ぐ「3つの鉄壁」

自治体が直面する生成AIの「3大リスク」

生成AI（ChatGPT等）を自治体業務に導入する際、以下のリスクへの対策が不可欠です。
情報漏洩（入力リスク）: 職員が誤って「非公開の住民データ」や「入札情報」を入力し、それがAIの学習データとして外部に流出する。

ハルシネーション（出力リスク）: AIがもっともらしい嘘をつき、誤った申請手続きや助成金情報を案内してしまう。

著作権侵害: 生成されたポスター画像などが、既存の著作物に酷似しており、権利侵害となる。

これらを「職員の注意」だけで防ぐのは不可能です。システム側で物理的に防ぐ仕組みが必要です。

技術的根拠：インフラ品質のAIなら「誤回答」と「漏洩」を防げる（阪急電鉄事例）

「AIが嘘をつかない保証はあるのか？」
その懸念に対し、技術的な信頼性の根拠となるのが阪急電鉄様の実証実験です。

鉄道インフラと行政サービスの共通点：「ミス許容度ゼロ」

鉄道の運行案内や約款は、行政の「条例」や「窓口業務」と同様に、正確性が命です。 阪急電鉄様では、複雑なデータを正確に処理するRAG（検索拡張生成）技術と、セキュアなオプトアウト（データ非学習）環境を導入しています。
「鉄道特有の内容をご案内する必要がありましたが、貴社のノウハウを活かしてスムーズに対応していただけたと感じています」
この技術を自治体に応用すれば、「庁内ネットワーク（LGWAN）から出ずに、登録された条例・マニュアルのみを根拠に回答する」という、安全な環境が構築可能です。

情報セキュリティ責任者が実装すべき「3つの鉄壁」

自治体が導入すべきセキュリティ対策は、精神論ではなく「技術的な制御」です。

① LGWAN-ASPとオプトアウト（漏洩対策）

インターネット上の無料版ChatGPTを使用するのは危険です。
必ず「LGWAN-ASP」に対応したサービスを選定し、LGWAN端末から直接利用できる環境を整えます。さらに、契約時には「入力データをAIモデルの学習に利用しない（オプトアウト）」旨が規約に含まれているかを必ず確認してください。

② RAGと参照元明示（ハルシネーション対策）

AIに自由作文をさせるのではなく、「庁内の例規集・マニュアル」を検索させるRAG技術を採用します。
AIは「〇〇市条例 第3条に基づき回答します」と根拠を提示するため、職員は必ず原典（ソース）を確認でき、誤った情報の拡散を防げます。

③ PIIフィルタリング（入力制御）

うっかりミスを防ぐため、入力プロンプトに含まれる「マイナンバー」「電話番号」「メールアドレス」などの個人情報（PII）を自動検知し、マスキングする機能を実装します。これにより、AIサーバーへの個人情報送信を水際で阻止します。

著作権とガイドライン策定のポイント

生成物の著作権は誰のものか？

現時点での一般的な法的解釈では、AIが生成したものに著作権は発生しにくいとされていますが、「既存の著作物に依拠していないか」の確認は必須です。
特に広報画像などを生成する場合は、画像検索ツールで類似画像がないか確認するフローをガイドラインに盛り込みましょう。

ガイドラインの策定

総務省等のガイドラインを参考にしつつ、以下のルールを明確化します。
入力禁止事項: 個人情報、機密性2以上の情報。

利用範囲: 議事録要約、アイデア出し、翻訳の下書きなど。

最終確認: 生成物は必ず職員が事実確認を行うこと。

まとめ：セキュリティは「禁止」から「環境整備」へ

生成AIのリスクは、適切なシステム構成によってコントロール可能です。
「リスクがあるから禁止」するのではなく、LGWAN対応のRAG型AIのような「安全なサンドボックス（砂場）」を提供することで、自治体DXは加速します。
まずは、インターネット分離環境でも安全に使える「自治体専用AI」の導入検討から始めてみませんか？
▼【自治体向け】生成AIセキュリティ・LGWAN対応ガイド