ローカルLLMに必要なメモリは何GB?32GB・64GB・128GBの目安【2026年版】

AI・テクノロジー

ローカルLLMに必要なメモリは何GB?32GB・64GB・128GBの目安【2026年版】

ローカルLLM用PCのメモリは32GB・64GB・128GBのどれを選ぶべき?モデルサイズ、量子化、コンテキスト長、共有メモリを基に用途別の目安を解説します。

公開 更新 執筆・編集: ポイ活Pay太郎 編集・検証方針
PR

本記事にはA8.netのアフィリエイト広告が含まれます。記事内のメモリ目安は特定製品の動作を保証するものではありません。モデル、量子化、コンテキスト長、使用ソフトによって必要量は変わります。

ローカルLLM用のPCを買うなら、メモリは32GBで足りる?それとも64GB、128GBまで必要?

これは、ローカルLLM用PCを選ぶときに一番迷いやすいポイントです。普通のパソコンなら16GBや32GBでも十分なことが多いのに、AI向けPCでは64GB、128GBという構成が普通に出てきます。

先に結論を言うと、軽量モデル中心なら32GB、ローカルLLMを趣味や開発でしっかり使うなら64GB、大規模モデルまで試すなら128GBが基本線です。

" ただし、メモリ容量だけで「このモデルが快適に動く」とは決まりません。量子化、コンテキスト長、GPUへの割り当て、OSや他のアプリが使う分まで含めて考える必要があります。
ENTRY

32GB

軽量モデル中心

まず試したい人、文章の要約や簡単なチャットを中心に使う人。

BALANCE

64GB

迷ったらここ

中規模モデル、コーディング支援、画像対応モデルも試したい人。

LARGE

128GB

大規模モデル向け

70B級以上や長いコンテキスト、複数モデルを本格的に試したい人。


先に結論:迷ったら64GB、本格運用なら128GB

Scroll
メモリ向いている使い方モデル規模の考え方注意点
16GB入門・軽いチャット小型モデル中心OSと共用すると余裕が少ない
32GB要約・翻訳・日常チャット小~中規模の量子化モデル大きなコンテキストで不足しやすい
64GB開発・画像対応・中規模モデル27B~32B前後も候補70B級は形式・設定を選ぶ
128GB大規模モデル・長文・研究用途70B級以上も候補価格が高く、速度は別問題
スクロールして全体を表示

※モデル規模は4bit前後の量子化を中心にした大まかな目安です。同じパラメータ数でも、アーキテクチャ、ファイル形式、量子化方式、コンテキスト長によって必要量は異なります。

QUICK RULE

軽く試すだけなら32GB。PCを買い替えて数年使うなら64GB。大規模モデルを動かす目的が明確なら128GB。この順番で考えると、必要以上に高価な構成を買いにくくなります。


なぜローカルLLMは大量のメモリを使うのか

LM Studioの公式ドキュメントでは、モデルを読み込むとは、モデルの重みやその他のパラメータを収められるようにPCのRAMを確保することだと説明されています。

ダウンロードしたモデルファイルが20GBだから、メモリも20GBちょうどあればよい、というわけではありません。実際には次の領域も必要です。

MODEL WEIGHTS

モデル本体

AIが学習した重み。モデル規模と量子化方式で大きさが変わります。

KV CACHE

会話を覚える領域

コンテキストを長くするほど増えます。長文処理で効いてくる部分です。

RUNTIME

推論処理の作業領域

LM Studioやllama.cppなどが推論するときに使う一時領域です。

SYSTEM

OSと他のアプリ

Windows、ブラウザ、VSCodeなども同じメモリを使います。

MEMORY IS NOT ONLY THE MODEL
モデル本体
KVキャッシュ
処理
OS

概念図。実際の割合はモデルと設定により変わります。

そのため、モデルをぎりぎり載せられる容量ではなく、少なくともOSやKVキャッシュの分を残して選ぶ必要があります。普段使いと兼用するPCなら、さらに余裕を見た方が快適です。


量子化で必要メモリが大きく変わる

量子化とは、モデルの数値精度を下げて、容量と計算負荷を小さくする技術です。Hugging Faceの公式ドキュメントでも、8bit量子化はメモリ使用量をおおむね半分にし、4bitではさらに圧縮できると説明されています。

Scroll
形式容量品質向く使い方
FP16非常に大きい元の精度に近い研究・検証、十分なメモリがある環境
8bit / Q8大きめ比較的保ちやすい品質と容量のバランス重視
4bit / Q4小さい一定の劣化あり家庭用PCで大きなモデルを試す
スクロールして全体を表示

家庭用PCでローカルLLMを始める場合、GGUFのQ4系がよく選ばれるのはこのためです。ただし、「4bitならパラメータ数×0.5バイトだけで済む」と完全には計算できません。量子化の付加情報や実行時の領域があるため、実際のファイル容量とLM Studioの見積もりを確認する方が確実です。

LM Studioなら読み込む前に見積もれる

LM StudioのCLIには、モデルを実際に読み込まずメモリ使用量を見積もる lms load --estimate-only があります。コンテキスト長、GPUオフロード、Flash Attention、画像対応モデルかどうかも考慮されます。購入後の確認だけでなく、現在のPCでどこまで狙えるか調べるときにも便利です。


コンテキスト長を伸ばすとKVキャッシュが増える

コンテキスト長は、AIが一度に参照できる文章量の目安です。短いやり取りだけなら小さくても困りませんが、長いPDF、ソースコード一式、長時間の会話を扱うと大きくしたくなります。

4K

短い質問・要約

8K

日常的な会話

32K

長文・コード

100K+

大きな文書・長い履歴

コンテキストを増やすほどKVキャッシュの使用量も増えます。LM StudioではKVキャッシュをGPUメモリへオフロードするか、CPU側のRAMへ置くかを設定できます。モデル本体は載ったのに、コンテキストを増やすと読み込みに失敗する場合は、ここが原因かもしれません。


32GB:入門には十分。ただし余裕は大きくない

32GBは、ローカルLLMを初めて試すには現実的です。AMDは32GBのRyzen AI 300シリーズについて、LM StudioでGemma 3 12B QATを使う例を紹介しています。小~中規模の量子化モデルで、文章作成、翻訳、要約、軽いコード補助を試すなら候補になります。

32GBが向く人

  • まずLM Studioを体験したい
  • 小~中規模モデルが中心
  • 長い文書を頻繁に扱わない
  • 価格を抑えたい

32GBが苦しくなる場面

  • ブラウザや開発環境を同時に開く
  • コンテキストを大きくする
  • 画像対応モデルを使う
  • 複数モデルを同時に読み込む

特に内蔵GPUがシステムメモリを共有するPCでは、32GB全部をモデルに使えるわけではありません。PCを数年間使い、モデルの大型化にも備えたいなら、64GBとの差額を確認する価値があります。


64GB:ローカルLLM用PCのバランス帯

64GBは、2026年時点でローカルLLM用PCを新しく買うなら、最もバランスを取りやすい容量です。AMDはRyzen AI Max+シリーズの64GB構成について、最大48GBをVGMとして割り当て、Gemma 3 27B QATなどを動かす例を示しています。

32GBより大きな量子化モデルを選べるだけでなく、OS、ブラウザ、VSCode、WSLなどを同時に使う余裕も増えます。ローカルLLMを単体で動かすのではなく、日常の作業へ組み込みたい人には重要な差です。

64GB IS THE SWEET SPOT

モデルを試す楽しさと、PCとしての使いやすさを両立しやすい。

大規模モデルだけが目的ではないなら、128GBへ予算を伸ばす前に、CPU・GPU・メモリ帯域・SSD容量へ配分した方が満足度が上がる場合があります。

一方、70B級を高い量子化品質や長いコンテキストで常用したい場合、64GBではぎりぎりになりやすいです。「読み込める」と「他のアプリも使いながら快適に動かせる」は分けて考えましょう。


128GB:大規模モデルを試す余地が大きい

128GBは、70B級以上、大きなMoE、画像対応モデル、高精度な量子化、長いコンテキストを試したい人向けです。AMDはRyzen AI Max+ 395の128GB構成で最大96GBをVGMへ割り当て、条件によって内蔵GPUが合計112GBのグラフィックスメモリへアクセスできると説明しています。

公式のモデル対応表では、4bitのLLM・VLMで最大128B級、FP16で最大32B級を例示しています。ただし、これはRyzen AI Max+ 395を前提にしたメーカー側の案内であり、すべての128GB PCに当てはまるわけではありません。

LARGE MODEL

70B級以上を候補にしやすい

LONG CONTEXT

KVキャッシュの余裕を確保しやすい

MULTI MODEL

複数のモデルや処理を組み合わせやすい

注意点は、メモリを増やしても生成速度が自動的に上がるわけではないことです。大きなモデルが載るようになっても、GPU性能とメモリ帯域が足りなければ、回答を待つ時間は長くなります。128GBを選ぶときは、Ryzen AI Max+ 395やRadeon 8060Sのように、共有メモリを活かせる構成か確認したいところです。


用途別:32GB・64GB・128GBの選び方

DECISION FLOW
1

まず試すだけ?

小型モデル、短い会話、価格重視なら32GB

2

仕事や開発にも組み込む?

中規模モデル、VSCode、WSL、画像対応も使うなら64GB

3

大規模モデルが目的?

70B級以上、長いコンテキスト、複数モデルなら128GB

Scroll
用途おすすめ容量理由
日常チャット・要約32GB~軽量な量子化モデルで始めやすい
コーディング支援64GB開発環境とモデルを同時に動かしやすい
ローカル文書検索・RAG64GB~LLM以外の処理にも余裕を残せる
画像対応モデル・生成AI64GB / 128GBモデルと作業領域が大きくなりやすい
70B級以上を本格利用128GB量子化・KVキャッシュ・OSの余裕を確保
スクロールして全体を表示

具体的なミニPCも比較したい人へ

GMKtec EVO-X1 Proの64GB、EVO-X2の64GB・128GB、EVO-X3の128GBを、CPU・GPU・価格・拡張性まで比較しています。

GMKtecのローカルLLM向けミニPC比較を見る →

よくある質問

ローカルLLMは16GBでも動きますか?
動くモデルはあります。AMDも16GB環境でGemma 3 4B QATを使う例を紹介しています。ただしOSと共有すると余裕が少なく、モデルの選択肢やコンテキスト長は制限されやすくなります。
32GBで32Bモデルは動きますか?
低い量子化と小さめのコンテキストなら読み込める場合がありますが、OSや作業領域を含めると余裕は小さくなります。モデルファイルの容量だけで判断せず、LM Studioのメモリ見積もりを確認してください。
64GBなら70Bモデルを動かせますか?
4bit前後のモデルで読み込める場合はありますが、量子化方式やコンテキスト長によっては不足します。常用する目的なら128GBの方が余裕を持ちやすいです。
メモリを128GBにすれば生成速度も速くなりますか?
容量を増やす主な効果は、大きなモデルを載せられることです。速度はGPU、メモリ帯域、CPU、ソフトウェア最適化にも左右されます。大きなモデルへ変えると、128GBでも生成が遅くなる場合があります。
内蔵GPUの共有メモリと普通のRAMは別ですか?
多くの内蔵GPUでは同じシステムメモリを共有します。VGMとしてGPU用に予約した分は、CPUやOSが自由に使える領域から差し引かれるため、総容量に余裕が必要です。

まとめ:モデルを載せる容量と、作業する余裕を分けて考える

FINAL ANSWER

  • 32GB:軽量モデルを中心にローカルLLMを始めたい
  • 64GB:開発や日常作業と組み合わせ、幅広いモデルを試したい
  • 128GB:70B級以上、長いコンテキスト、複数モデルを本格利用したい
  • 共通:量子化、KVキャッシュ、OSの使用量を忘れない

メモリ選びで大切なのは、「そのモデルが読み込める最低容量」だけを見るのではなく、モデルを使いながら他の作業もできる余裕を残すことです。購入前には使いたいモデルをいくつか決め、LM Studioの見積もりとPCの共有メモリ仕様を確認しましょう。

ローカルLLM向けミニPCを探す

64GB・128GB構成を選べるGMKtecのミニPCは、公式ストアで現在の価格と在庫を確認できます。

>>RELATED ISSUES