社内データをAIに渡す前に読む話——Palantir・Azure・オンプレLLM、正解はどれか

ChatGPTは確かに賢い。だが、あなたの会社のことは何も知らない。

「弊社の2019年モデルの設計不具合を教えて」と聞いても、答えられない。「過去10年の顧客クレームから、最も多い問題点を分析して」と頼んでも、データがなければ不可能だ。

汎用LLM（大規模言語モデル）は、インターネット上の公開情報で訓練されている。あなたの会社の内部文書、実験データ、設計図面、議事録——これらは学習データに含まれていない。当然だ。公開されていないのだから。

この差は、実務において天と地ほどの違いを生む。

ある自動車部品メーカーを想像してほしい。

新人エンジニアが「この部品の熱処理条件を決めたい」と思った時、従来なら先輩に聞くか、過去の報告書を何時間もかけて探すしかなかった。

だが、過去20年分の実験データと報告書をAIに学習させていれば、こう聞くだけでいい：

これが「自社データ × AI」の威力だ。

ベテランの頭の中にしかなかった「経験則」が、誰でもアクセスできる知識として組織に定着する。

「自社データをAIに活用したい」と考えた時、現在の市場には大きく4つの選択肢がある。

どれを選ぶべきか。それは「守るべきデータの機密度」と「投資できるリソース」のバランスで決まる。

順に見ていこう。

Palantir Technologies。その名前は、『指輪物語』に登場する「見通す石（パランティーア）」に由来する。

2003年、PayPalの共同創業者ピーター・ティールがCIAの投資部門（In-Q-Tel）の支援を受けて創業。当初はテロ対策のためのデータ分析プラットフォームを開発していた。その後、軍事、諜報、そして民間企業へと領域を広げ、今やエンタープライズAI市場の最前線に立っている。

2023年に発表された「AIP（Artificial Intelligence Platform）」は、Palantirの既存プラットフォーム「Foundry」にLLMを統合したものだ。

その特徴は、「AIを野放しにしない」という思想にある。

2025年10月に開催された「AIPCon 8」では、宇宙産業のUrsa Major TechnologiesがPalantir AIPを活用した事例を発表した。

従来のMES（製造実行システム）をAIPで再構築し、製造工程のリアルタイム監視、異常検知、在庫最適化を統合。「レガシーな紙とExcelのプロセス」から「AI-nativeな生産管理」への変革を実現したという。

Palantirの強みは「セキュリティとガバナンス」だ。データの出どころ、アクセス権限、AIの判断根拠——すべてを厳密に管理できる。

しかし、その代償は「コストと導入期間」だ。

結論：Palantirは、「データが国家機密レベルに重要」かつ「投資余力のある大企業・政府機関」のための選択肢だ。

「既にAWSを使っている」「Microsoft 365が社内標準」——そんな企業にとって、最も現実的な選択肢がクラウドベンダーのエンタープライズAIサービスだ。

OpenAIの技術を、Microsoftのエンタープライズインフラに載せたサービス。GPT-4やGPT-4oを、自社のAzureテナント内で利用できる。

最大の強みは「Microsoft 365との統合」だ。SharePointの文書、Teamsの会話、Outlookのメール——これらを横断してAIが検索・要約できる「Copilot for Microsoft 365」は、既にMicrosoft環境を使っている企業にとって、最も導入障壁が低い選択肢と言える。

AWSのアプローチは「マルチモデル」だ。Claude（Anthropic）、Llama（Meta）、Mistral、Amazonの自社モデル「Titan」など、複数のLLMを選択・切り替えできる。

「特定ベンダーにロックインされたくない」「タスクによってモデルを使い分けたい」という企業に向いている。

また、AWS上で既に稼働しているデータベース（RDS, DynamoDB等）やデータレイク（S3）との連携がスムーズで、「既存のAWSインフラをAI対応させる」という文脈では最有力候補だ。

Googleの強みは「Gemini」という自社モデルと、BigQueryを中心としたデータ分析エコシステムだ。

特に、構造化データ（売上データ、センサーログ等）の分析においては、BigQuery MLとの連携が強力。「AIで自然言語クエリを投げて、データベースから答えを引き出す」というユースケースでは、Googleが一歩リードしている。

結論：「既に使っているクラウドに乗る」のが、最もコスパの良い選択肢だ。

「クラウドすら信用できない」——そんな企業のための選択肢がある。

自社のサーバールームに、自前のLLMを構築する。データは一切、外部ネットワークに出ない。完全なる「鎖国」だ。

これを可能にしたのが、Metaの「Llama」シリーズや、フランス発の「Mistral」といったオープンソース（またはオープンウェイト）LLMの台頭だ。

2024年にリリースされたLlama 3は、特定のベンチマークでGPT-3.5を上回る性能を示し、「商用利用可能なオープンモデル」として一気に注目を集めた。

オンプレミスLLMを運用するには、以下が必要になる：

特にGPUの調達がボトルネックになりやすい。70Bパラメータのモデルを快適に動かすには、NVIDIA A100やH100クラスのGPUが複数枚必要だ。初期投資は数百万円〜数千万円規模になる。

ただし、「量子化（Quantization）」という技術を使えば、モデルサイズを1/4程度に圧縮できる。これにより、コンシューマー向けGPU（RTX 4090等）でも動作可能になるケースがある。

オンプレミスLLMは、以下のようなケースで検討に値する：

• データを絶対に外部に出せない（防衛、医療、金融の一部）
• エアギャップ環境（インターネット非接続）で運用する必要がある
• クラウドの従量課金が、利用規模的に割高になる（1日100万トークン以上など）
• 自社でモデルをファインチューニング（追加学習）したい

結論：オンプレミスLLMは「最高レベルのデータ保護」と「運用負荷」のトレードオフ。覚悟を持って選ぶべき選択肢だ。

ここまで読んで、一つの疑問が浮かんだかもしれない。

「AIに自社データを『学習』させると、そのデータが漏洩するリスクがあるのでは？」

その懸念は正しい。だが、実は「学習させない」方法がある。

それが「RAG（Retrieval-Augmented Generation / 検索拡張生成）」だ。

この方式のメリットは大きい：

• データがモデルに「入らない」：LLMの重み（パラメータ）は変わらない。データは「その場で読んで、その場で忘れる」。
• 常に最新：文書DBを更新すれば、AIの回答も即座に最新化される。再学習不要。
• 根拠を示せる：「この回答は、〇〇報告書の△ページに基づいています」と出典を明示できる。ハルシネーション対策。
• アクセス制御が効く：ユーザーの権限に応じて、検索対象の文書を制限できる。

RAGは今、エンタープライズAI導入の「デファクトスタンダード」になりつつある。Azure OpenAI On Your Data、AWS Bedrock Knowledge Bases、Google Vertex AI Search——すべてRAGベースのアーキテクチャだ。

技術的な選択肢は揃った。だが、もう一つ、見落とせない論点がある。

「AIに何をさせて、何をさせないか」というガバナンスの問題だ。

2025年、Forresterは「データガバナンスは『エージェンティック時代』に入った」と宣言した。AIエージェント——人間の指示なしに自律的に動くAI——が普及する中、従来の「人間がデータを操作する」前提のガバナンスでは追いつかなくなっているのだ。

2024年、ある大手SNSプラットフォームが、欧州ユーザーのデータを明示的な同意なくAI学習に使用していたとして、数十億ドル規模の訴訟を起こされた。

これは他人事ではない。

自社のAIが、うっかり顧客の個人情報を社外に漏洩したら？ 競合他社の機密情報（取引先から入手した見積書など）をAIが学習し、別の顧客への提案に使ってしまったら？

「知らなかった」では済まされない。

結論：AIの導入は「技術」だけでなく「ルール」の整備とセットで考えるべきだ。

長い旅路だった。最後に、選択のフレームワークを整理しよう。

エンタープライズAIの導入は、単なるIT投資ではない。

それは、「自社の知識をどう資産化し、競争力に変えるか」という経営戦略そのものだ。

20年分の実験データ。ベテランの頭の中にしかなかったノウハウ。散逸していた顧客対応の知見。これらを、誰もがアクセスできる「組織の知性」へと昇華させる。

それができた企業と、できなかった企業の差は、5年後、10年後に決定的なものになるだろう。