【AI開発用】RAG・長文処理向けメモリ構成の選び方

文書保存と生成時の入力を分けて考える

RAGは文書を検索し、関連する部分をLLMへ渡す方式です。保存している文書の総量が、そのまま一回の入力長になるわけではありません。検索する件数とチャンクの長さを決め、LLMへ渡す量を把握します。

PC構成は文書取り込み、埋め込み生成、検索、回答生成の処理を分けて考えます。検索索引はRAMやSSDを使い、GPUで実行する埋め込みモデルや再ランキングモデルはVRAMも使います。各処理を同時に動かすかを先に決めてください。

処理段階別の構成の出発点

表は比較の出発点です。32Kや64Kの入力に必要なVRAMを一律に定めるものではありません。同じ入力長でも、モデル構造、キャッシュ形式、実行環境によってメモリ使用量が変わります。

同時に保持する領域を見積もる

生成時の入力には、検索結果だけでなく、指示文、質問、会話履歴、ツール結果も含まれます。モデルの上限まで検索結果で埋めず、回答を生成する領域を残してください。文書の取得数を増やす前に、検索結果の関連性も確認します。

GPUにはLLMの重み、会話キャッシュ、実行用領域が必要です。埋め込みモデルや再ランキングモデルを同時に保持する場合は、その領域も加わります。メモリ不足なら、処理を順番に実行する設計も選択肢になります。

見積もりを確認するときは、モデルファイル、アプリのバージョン、入力長、同時実行数を記録します。読み込み前の推定値と、実際に使ったときの使用量は区別してください。条件を変更した後は、待ち時間も含めて確認します。

公式情報の確認日: 2026-10-11。出典: Ollamaのコンテキスト設定、LM Studioのメモリ見積もり。

VRAMだけでなくRAM・SSDもそろえて比較する

AI開発用プリセットでモデルに必要なVRAMを指定し、RAMとSSDを文書量に合わせます。検索用の索引や原本、モデルを保存する容量も含めてください。GPUだけをそろえた価格では、必要な作業環境の費用を比べられません。

下の商品例は、記事の比較条件に該当する取得データの一部です。特定の文書量やコンテキスト長で動作を保証する商品ではありません。実行条件を決めたうえで、必要容量へ変更した総額をショップ横断で比較します。

条件に該当する製品例

各VRAM帯の目安RAM・SSD 1TBにそろえた製品例です。販売可能と確認できた商品を、最新の掲載データから表示します。SSD 2TB以上が必要なら、比較画面で容量を変更してください。

商品は入れ替わります。最新の販売状況・構成は公式商品ページでご確認ください。