データの置き場所を設計する
モデルの実行場所だけでなく、文書の保存、検索、ログ、外部通信まで確認。社内サーバーなど、お客様の管理要件に合う構成を検討します。
03 / LOCAL LLM
Local LLM
社内の知識を、社内の力に。
蓄積された資料を、必要な答えへ。
データの取り扱いと権限を考え、
自社の管理下で使うAIを設計します。
図中の製品・セキュリティ・費用は、構成と利用条件に応じて確認します。
YOUR KNOWLEDGE. YOUR ENVIRONMENT.
モデルの導入から、
業務で使える仕組みへ。
社内文書、利用者、運用ルール。
AIを使う環境を、まとめて整えます。
社内文書を、回答の根拠にする
関連する資料を検索して回答に活用するRAGを検討。文書の整理、検索の精度、出典の表示を含め、元の情報に戻って確認できる仕組みを設計します。
利用者ごとの権限を守る
誰がどの文書を参照できるかを整理。検索対象、回答、履歴まで含めてアクセス制御を検証し、運用時の更新・削除ルールを整えます。
KNOWLEDGE IN PRACTICE
探す時間を、考える時間へ。
回答だけで終わらず、
根拠となる文書まで確認する。
架空の文書による回答例 / 実際のAI応答ではありません
QUESTION
社内ツールの利用申請は、
どこから進めればいい？
回答例
社内ポータルの「ITサービス申請」から申請します。利用するツール、業務目的、利用予定人数を記入し、所属長の承認後に情報システム部が確認します。
承認までの日数は資料に記載がありません。情報システム部への確認が必要です。
参照した文書
ITサービス利用ガイドサンプル文書 / 第2章
ツールの利用申請は、社内ポータルの「ITサービス申請」から行う。ツール名、業務目的、利用予定人数を記載し、所属長の承認を受けたうえで情報システム部が確認する。
SUHOの支援範囲
規程・マニュアルの整理、検索対象の設計、回答と根拠の一致確認。資料にない内容を断定しないための評価も行います。
QUESTION
この会議の決定事項と、
次の対応をまとめて。
回答例
- 決定事項検証対象は、社内の操作マニュアルに限定します。
- 次の対応業務担当が対象文書を整理し、情報システム部がアクセス権限を確認します。
- 未決事項検証の開始日と評価担当者は、次回の会議で決めます。
参照した文書
AI活用検討ミーティングサンプル文書 / 議事メモ
今回は社内の操作マニュアルを使って検証する。業務担当は対象文書を整理し、情報システム部は各文書のアクセス権限を確認する。検証の開始日と評価担当者は次回決定する。
SUHOの支援範囲
文書の取り込み、要約形式の設計、抜け漏れや誤った補完の評価。担当者による原文確認を前提に業務へ組み込みます。
QUESTION
アプリに接続できないとき、
最初に確認することは？
回答例
- 社内ネットワークへの接続状態を確認します。
- 運用ポータルでメンテナンス情報を確認します。
- 解消しない場合は、発生時刻と画面のエラー内容を添えて窓口へ連絡します。
この手順書には、サービスの再起動や設定変更の指示はありません。
参照した文書
業務アプリ接続確認手順サンプル文書 / 一次確認
接続できない場合は、社内ネットワークの接続状態と運用ポータルのメンテナンス情報を確認する。解消しない場合は、発生時刻および画面のエラー内容を窓口へ連絡する。
SUHOの支援範囲
手順書の版管理、適用条件を踏まえた検索、回答の評価。作業の実行や承認は人が行う運用を設計します。
回答の正確性は保証されません。文書の品質、検索方法、モデル、設定を評価し、重要な判断には人による確認を組み込みます。
FROM DOCUMENTS TO ANSWERS
知識をつなぐ、4つの工程。
検索から回答までを、
自社の管理要件に合わせて設計。
- 01 / INGEST
文書を整える
対象資料を選び、文字の抽出、分割、更新・削除の方法を整理します。
- 02 / RETRIEVE
根拠を探す
質問に関連する資料を検索。利用者が閲覧できる情報に対象を限定します。
- 03 / GENERATE
回答を組み立てる
検索した内容をモデルへ渡し、回答と参照元を提示する構成を検討します。
- 04 / REVIEW
確認し、改善する
根拠との一致や回答できない質問を評価し、文書と設定を見直します。
「ローカル」だけで、閉域になるわけではありません。
モデル、埋め込み処理、文書解析、認証、ログ、更新の通信先まで確認します。外部APIを使わない構成や通信制御を含め、必要な分離条件を検証します。
START SMALL. BUILD WITH CONFIDENCE.
小さく確かめて、業務へ広げる。
対象業務と条件の整理
解決したい質問、文書の種類・権限、利用人数、応答時間の目標を確認。モデルの利用条件と既存機器の仕様も整理します。
対象業務 / データ条件 / 評価基準限定した資料で検証
代表的な質問と正解の根拠を用意し、回答品質、検索結果、権限、処理時間を確認。検索拡張とモデル調整の必要性を分けて検討します。
検証環境 / 評価結果 / 改善方針運用ルールを整えて展開
利用範囲と担当者を定め、文書更新、権限変更、ログ管理、障害時の対応を整備。実際の利用状況に合わせて改善を続けます。
運用手順 / 利用ガイド / 見直し計画QUESTIONS & ANSWERS
よくあるご質問
インターネットに接続せずに利用できますか？
モデルの取得や初期構築、更新の方法を含めて検討します。推論だけでなく、文書解析、検索、認証などの依存先もローカルで動作する構成を選び、外部通信の有無を確認します。実現可否は対象機能と製品により異なります。
社内文書を使うには、追加学習が必要ですか？
必ずしも必要ではありません。RAGは、関連文書を検索してモデルへ渡す構成です。まず文書の整備と検索・回答の評価を行い、業務固有の表現や出力形式などに応じて、モデル調整の必要性を別途検討します。
どの程度のGPUやサーバーが必要ですか？
モデルの規模、量子化、入力の長さ、同時利用数、応答時間の目標によって変わります。既存機器の活用も含め、対象モデルと想定業務で検証してから構成を判断します。
閲覧権限のない文書が回答に含まれませんか？
検索前の権限確認や文書単位の制御を設計し、権限の異なる利用者で検証します。共有履歴やキャッシュ、権限変更の反映も確認が必要です。モデルの指示文だけにアクセス制御を任せる構成にはしません。
費用と導入期間を教えてください。
文書の量と形式、同時利用数、機器構成、システム連携、検証範囲により異なります。まず対象業務と条件を整理し、初期検証と本番展開を分けて支援範囲・お見積もりをご案内します。
LET'S PUT YOUR KNOWLEDGE TO WORK
社内の知識から、はじめませんか。
活用したい文書と、解決したい業務をお聞かせください。
データの取り扱いに合わせた進め方をご提案します。