オンプレミスとは？
オンプレミスとは、サーバーやソフトウェアを自社の施設内に設置し、機器の調達から運用・保守までを自社で行う形態のことです。 インターネット経由で外部事業者のリソースを利用する「クラウド」とは対になる考え方で、自社でシステムを完結させたい場合に選ばれます。
クラウドとの違い
| クラウド | オンプレミス | |
|---|---|---|
| 初期費用 | 低い（月額課金が中心） | 高い（機器の購入が必要） |
| 保守・運用 | 提供事業者が対応 | 自社で対応 |
| データの保管場所 | 外部事業者のデータセンター | 自社内・自社契約の設備 |
| カスタマイズ性 | 提供範囲内に限定されやすい | 自由度が高い |
AI活用における使い分け
企業が生成AIを利用する場合、多くはLLMを提供する事業者のクラウドサービスやAPIを通じて利用します。一方、外部に出せない機密情報を扱う業務や、業界固有の規制がある業務では、自社環境で動かせるローカルLLMを使い、オンプレミスで完結させる選択肢が検討されます。ただしオンプレミスは、モデルの実行に必要なサーバー機器の調達・保守を自社で担う必要があり、クラウド利用に比べて導入・運用の負荷が大きくなる点が判断材料になります。社内文書を扱うRAGを構築する際も、検索対象の文書やデータベースをオンプレミスに置くか、クラウドに置くかは、扱う情報の機密性に応じて検討されます。