オープンソースLLMは本当に安いか：中小企業が知るべき選択基準と導入の現実
「Llamaは無料だからChatGPTより安い」という話を聞いて、オープンソースLLMの導入を検討し始める会社が増えている。だが、この判断は半分しか正しくない。モデルは確かに無料だ。しかし、本番環境で動かし続けるためのコストは、その外側にある。
Deloitteの調査によると、オープンソースLLMを導入した企業はコストを平均40%削減している。一方で、最小規模のオンプレミス構成でも年間1,700万〜2,800万円のインフラ・人件費がかかるという試算もある（AISuperior, 2026）。この数字の差は、比較の前提が異なるからだ。
オープンソースLLMを正しく評価するには、「コストが安いか」ではなく「どの軸で優位性があるか」を問い直す必要がある。その答えは、コストよりもデータ主権とカスタマイズ性にある。
2026年のオープンソースLLM：何ができるようになったか
2024〜2026年の進化を一言で言えば、「能力格差の消滅」だ。
MetaのLlama 3.3（70Bパラメータ）は、同社のLlama 3.1（405Bパラメータ）と同等の性能を、パラメータ数6分の1で実現した。要約、文書解析、コード生成、Q&Aの分野でGPT-4oと同水準のベンチマークスコアを記録している（2025年実測）。
Qwen 3.5（Alibaba）はApache 2.0ライセンスで商用利用が可能、201言語対応。DeepSeekはMITライセンスで数学・推論に強い。いずれも「ChatGPTの代替として業務に使えるか」という問いに対して、肯定的な答えが出始めている。
日本語特化モデルも実用域に入った。東京工業大学と東北大学が開発したSwallowシリーズ（LlamaとQwenをベースにした日本語最適化モデル）、KDDIのELYZAは、デジタル庁が2026年3月に選定した7ベンダーに含まれ、約18万人の政府職員への展開が始まっている。
この流れを見ると「オープンソースが商用LLMを追い越した」と言いたくなるが、ここに落とし穴がある。ベンチマークスコアは実際の業務品質を保証しない。特に日本語のニッチな業界用語、敬語の使い分け、日本の法令や慣習への対応は、グローバルモデルでは依然として個別評価が必要だ。
図1: 主要オープンソースLLMの比較。ライセンスと日本語対応を最初に確認する
「無料」が幻想になる瞬間
オープンソースLLMの最大の誤解は、「モデルが無料＝コストが安い」という等式だ。本番環境で運用するためのコスト構造は、モデルの外側にある。
Llama 3.3の70BパラメータモデルをVRAM最小構成（4bit量子化）で動かすには、40GB以上のGPUメモリが必要だ。NVIDIA A6000（約170万円）が最低でも1枚必要になる。ここに電気代、冷却、監視体制、セキュリティ対応が積み重なる。
あるいはクラウドGPUインスタンスを使うとする。AWS、Azure、GCPのGPUインスタンスの相場は、小規模構成でも月額100万〜300万円規模になる。さらに、本番環境を安定させるためのMLOps（機械学習の運用技術）担当者が必要だ。Ollamaでローカル検証した知識だけでは、複数ユーザーが同時アクセスする本番環境は運用できない。
最小規模のオンプレミス構成の年間総コストは、インフラと人件費を合わせると1,700万〜2,800万円になる試算がある（AISuperior, 2026）。ChatGPT APIを月間500万トークン使用した場合の年間コストは60万〜80万円程度だ。月間トークン消費量が3,000万を超えない限り、「コスト削減」の目的でオープンソースを選ぶのは逆効果になりやすい。
では、何のためにオープンソースを使うのか
コスト以外の理由が3つある。
第一はデータ主権だ。顧客情報、患者記録、技術仕様書、価格情報など、外部のAPIに送れないデータを処理したい場合、オンプレミスのオープンソースLLM以外に選択肢がない。日本の医療機関や金融機関では、このニーズが急増している。デジタル庁が国産モデルを選んだのも、政府情報を外部クラウドに送らないためだ。
第二はカスタマイズ性だ。特定の業界用語、自社の商品仕様、独自のトーン・スタイルに最適化したい場合、ファインチューニング（追加学習）が有効だ。ChatGPT APIではこれができない。ある北米の製造業では、Llama 3.1にQLoRAでCRMクエリ専用のファインチューニングを施し、月間コストをGPT-4o API比で80%削減した（月額$50,000超 → $8,000〜$12,000）。ここでのコスト削減は、月間トークン消費量が数千万規模だったために生じた。
第三はベンダーロックイン回避だ。OpenAIやAnthropicがAPIの価格を変更した場合、または利用規約を変更した場合、APIに依存したサービスはそのリスクをそのまま受ける。オープンソースなら、インフラの移行コストさえかければ依存関係を持たない。
見落とされるリスク：ライセンスとMLOps
オープンソースLLMには「開放性の罠」がある。商用利用の可否とスケール制限は、モデルごとに異なる。
Llamaの「Llama Community License」は、月間アクティブユーザーが7億人を超える事業者には別途契約が必要という条件がある。日本の中小企業ではまず該当しないが、成長したSaaSプロダクトに組み込んだ場合に問題が顕在化するリスクがある。安全なのはApache 2.0またはMITライセンスのモデルだ（Qwen 3.5、DeepSeek、Swallowシリーズなど）。
EU AI Actも注意が必要だ。2026年8月から施行される高リスクAIシステムの規定では、訓練データのソースとライセンス、監査ログの文書化が義務付けられる。欧州市場向けにサービス展開する会社は、オープンソースモデルの「透明性」が逆に監査負担になりうる点を把握しておく必要がある。
もう一つの見えにくいリスクがMLOpsスキルの欠如だ。OllamaでローカルPCに立ち上げることは、開発経験のあるエンジニアならすぐできる。しかし本番環境での並行処理（複数ユーザーの同時アクセス）、高可用性（24時間止めない）、バージョン管理、セキュリティパッチには、vLLMやKubernetesの知識が必要になる。50名が同時アクセスする環境でのスループット比較では、vLLMはOllamaの約6倍の処理能力を持つ（920 tok/s vs 150 tok/s、SitePoint 2026年計測）。社内にこのスキルがなければ、外部SIerへの依頼コストも見積もりに含める必要がある。
図2: オープンソースLLM採用可否の判断フレームワーク。データ主権の要件から確認する
実際の導入パターン：3つの始め方
検討する価値があると判断した会社には、3段階の始め方を勧めている。
最初はコストゼロの検証だ。開発者が使うMacBook ProまたはLinuxサーバー（VRAM 16GB以上推奨）にOllamaをインストールし、Qwen3.5かLlama 3.3を動かしてみる。`ollama run qwen3:8b`のコマンド1行で起動する。社内文書の要約、FAQ応答、メール草稿の品質を2〜4週間実際に評価する。目的は「このユースケースでは使えるか」を予算ゼロで判断することだ。
次は小規模クラウドGPUでの試験運用だ。AWSやGCPのGPUインスタンスでvLLMを立ち上げ、日本語業務ユースケース（社内Q&A、文書要約）で3ヶ月間試す。月額コストは30万〜100万円程度。ChatGPT APIとのコスト比較を実測し、品質と照らし合わせて判断する。
ファインチューニングは最後に検討する。最初はRAG（検索拡張生成）から始めるのが正解だ。自社のナレッジベースをベクトルDBに格納し、オープンソースLLMが参照して回答する構成なら、モデルの再訓練なしに自社情報を活用できる。LangChainやLlamaIndexを使えば、OpenAI APIの呼び出しコードをほぼそのままオープンソースモデルに差し替えられる。
2028年の展望：今から備えるべきこと
Gartnerは2025年末までに企業の60%以上がAIアプリケーションの少なくとも1つでオープンソースLLMを採用すると予測した。IBMの調査（2024年12月）では、オープンソースAIツール利用企業の51%が正のROIを報告している。
2年後には、オープンソースとクローズドLLMの性能差はさらに縮まる。モデル自体の選択よりも、自社データの整備とMLOpsの体制構築が競争優位の源泉になっていく。今から始めるなら、Ollamaでの検証と社内データの棚卸しを並行して進めることが、2028年に備える最善の一手だ。
よくある疑問に答える
「ChatGPTより賢いオープンソースはあるか？」
特定の領域では上回るケースがある。Qwen 3.5の多言語推論、DeepSeekの数学、Swallowの日本語処理はそれぞれの専門領域で競争力がある。ただし「全般的に賢い」という意味ではClaude 4やGPT-5が依然として優位だ。
「日本語のビジネス文書にそのまま使えるか？」
Swallow系やELYZAはかなりの水準に達しているが、業界用語や社内固有の表現は個別評価が必要だ。「使えるか使えないか」は、自社の具体的なユースケースで試さなければ判断できない。
まとめ
- オープンソースLLMの優位性はコストではなく、データ主権・カスタマイズ性・ベンダーロックイン回避にある
- 月間3,000万トークン以下の規模ではChatGPT/Claude APIの方がコスト効率が高い場合がほとんど
- ライセンスはApache 2.0またはMITを選ぶとリスクが低い（Llama Licenseは条件付き）
- 本番運用にはMLOpsスキルが必要。社内スキルがなければTCO込みで外部SIerに相談する
- まずOllamaで検証、次にクラウドGPUで試験運用、その後RAG構成が現実的な順序だ
Lat91では、オープンソースLLMの選定から導入設計まで、技術的な評価を含めて支援しています。
「自社に合ったLLM戦略を考えたい」という段階からご相談ください。