「社内にAIを置けば漏れません」と言われて見積を取りました — 下期の設備投資でローカルLLMを発注する前の5つの質問

この記事の事例は、実際にいただくご相談をもとにした想定ケースです。特定の企業を指すものではありません。

「クラウドに貼るから漏れるのです。社内にAIを置けば漏れません」。展示会でそう説明を受けて、下期の設備投資枠でローカルLLMの見積を取った、というご相談が続いています。総額だけを見て稟議に回す前に、発注の手前で必ず出てくる質問を順に見ていきます。

「社内にAIを置けば漏れません」という説明は、どこまで正しいですか

正しいのは「入力した文章が事業者のサーバーを通らなくなる」という一点だけです。そこから先の、誰が見られるか、誰が持ち出せるか、退職時に権限をどう外すかは、社内に置いても一つも変わりません。個人情報保護委員会のガイドライン（通則編）が求める安全管理措置は、組織的・人的・物理的・技術的の四つで構成されていて、設置場所はそのうちのごく一部にすぎません。社内サーバーに置いた直後に起きやすいのも、権限を作り込まないまま全社に開いてしまい、部門をまたいで文書が読めてしまう事故です。これは共有フォルダの権限棚卸しと同じ話で、置き場所では解けません。

あわせて読みたいCopilotに聞いたら他部署の給与表が出てきました — 従業員94名の医療機器商社が下期の全社展開前にやり直した共有フォルダの権限棚卸し

見積の本体価格に入っていない費用は、どこにありますか

見積書で一番大きい行はサーバー本体ですが、後から効いてくるのは右の列です。

項目	見積書に載っている費用	見積書の外に残る費用
サーバー	本体とGPUの購入費用	電源増設と空調の工事費用
モデル	導入時の初期設定の費用	更新のたびに再検証する費用
運用	初年度のハード保守の費用	社内担当者が張り付く人件費用
更新	保証期間に含まれる修理費用	4〜5年後に入れ替える費用

特に見落とされるのが電源です。ラックに空きがあっても消費電力が足りず、分電盤から引き直しになる場合があります。もう一つは償却期間とモデルの世代交代のずれです。5年で落とす前提の設備が、2年後に「今の型では業務に合いません」と言われる可能性を、稟議書に先に書いておいてください。金額の大小より整合が問われる点は、稟議が現場で止まる会社と同じ構図です。

あわせて読みたいAI導入の稟議は「金額」では決まらない — 役員会に諮る会社と現場で止める会社を分けた4つの判断ミス

ローカルのモデルは、今使っているChatGPTと同じように答えてくれますか

同じではありません。ただ、これは期待の問題ではなく、発注前に測れる話です。デモで見せられるのはたいてい一般的な質問への回答ですので、検証環境を借りて、貴社の実物で比べてください。

あなたは当社の書類作成を手伝う担当者です。
直近3か月に実際に作った見積書・報告書10件について、
同じ指示をクラウド版とローカル版の両方に出し、結果を記録します。

【指示】この文書を200字で要約し、金額の根拠を3点挙げてください
【記録する項目】
1. 金額を1円でも取り違えたか（はい／いいえ）
2. 文書にない条件を足したか（はい／いいえ）
3. 回答が返るまでの秒数
4. 担当者が手直しに使った時間（分）

10件の結果を表にまとめ、差が大きかった項目を上から並べてください。

止まったとき、社内の誰が直すのですか

保守契約の範囲を「ハードウェアの故障」までとしている見積が多く、応答が遅い、出力がおかしいといった症状は対象外に置かれがちです。契約書では、一次対応の窓口はどこか、駆けつけまで何時間か、モデルの更新作業は誰の負担かの三点を確かめてください。担当者が一人だけの体制で始めると、その方が異動した時点で誰も触れない設備が残ります。

クラウドのままで「持ち出さない」状態は作れませんか

作れる部分はあります。法人向けの契約では入力内容を学習に使わない扱いが明示されていて、OpenAIもエンタープライズ向けのプライバシー方針で規定しています。そのうえで、社内に置くしかない業務が本当にどれだけあるかを数えます。

次の業務リストを、AIに渡すデータの中身で3つに仕分けてください。
A: 社外に出しても支障のない情報だけで済む業務
B: 取引先名や個人名を含むが、伏せ字にすれば足りる業務
C: 伏せると意味が残らず、社内に置くしかない業務

【業務リスト】（部署ごとの業務名をここに貼ります）
仕分けの理由を1行ずつ添え、Cは件数と月あたりの頻度も書いてください。

Cが月に数件しか出てこないなら、その数件を人手に残し、残りをクラウドで回すほうが安く早く済みます。仕分けの結果は、そのまま社内ガイドラインの「AIに入れてよい情報」の章になります。

えらびの道では、ローカルLLMを入れるかどうかという判断そのものを、半日の研修で扱っています。上の仕分けを貴社の実際の業務リストで行い、社内に置くしかない業務の件数を出すところまでをその場で進めます。導入を決めた後の定着はコーチングで実業務に伴走し、入力してよい情報の線引きを部署ごとに決めていきます。人材開発支援助成金や自治体の補助金を使う場合の手続きにも対応しています。

発注を決める前の見極めから、えらびの道でお手伝いできること

合同会社えらびの道は、大分県の中小企業に向けて生成AIの業務活用研修を行っています。研修を専門にしている会社ではなく、普段はシステムの受託開発と自社サービスの運用をしていて、サーバーの調達も生成AIの利用も、その現場で日々扱っているものです。そのため、カタログの比較ではなく、入れたあとに何が残るかをお話しできます。

研修では、貴社が実際にお使いの書類をそのまま題材にします。記事に出てきた見積書や報告書の要約、金額の根拠出しといった作業を持ち込んでいただき、クラウド版とローカル版で同じ指示を出して結果を並べるところまで、実物を前に一緒に手を動かします。権限をどこまで整えてから広げるかも、同じ場で整理できます。

進め方としては、機器の選定より先に、貴社のどの業務で何を確かめたいのかを決めるところからご一緒します。事前のヒアリングに伺うのも研修当日に立つのも同じ人間（代表の喜多）ですので、現場でうかがった事情がそのまま当日の題材になります。

見積を前に判断がつきかねている段階でも構いません。今の使い方をうかがったうえで、発注の前に確かめておく点を一緒に洗い出します。えらびの道までお声がけください。オンラインで30分ほど、費用はかかりません。

よくある質問

ローカルLLMの導入費用はいくらぐらいですか

構成によって大きく変わるため一律には言えませんが、サーバー本体だけで比べないでください。電源工事、空調、モデルの再検証、担当者の工数を足したうえで、クラウドの年額と並べます。本体価格だけで決めると、運用が始まってから予算が足りなくなります。

ローカルLLMなら個人情報を入力しても問題ありませんか

設置場所を社内に移しても、安全管理措置を講じる義務はそのまま残ります。誰が閲覧できるか、ログをどう残すか、退職時に権限をどう外すかを決めていなければ、クラウドで起きる事故と同じことが社内サーバーでも起きます。

社内サーバーとクラウド、どちらを選ぶべきですか

まず、伏せ字にすると意味が残らない業務が月に何件あるかを数えてください。数件であれば、法人向けの契約で足りることがほとんどです。件数が多く、外部に出せないと社内規程や取引先との契約で定められている場合に、社内設置を検討します。