【第2回】新しい自作PC|必要スペックを考える

※当記事にはアフィリエイト広告を含みます。リンクを経由して商品・サービスが購入・契約された場合、SHUMI BASEが紹介料を受け取ることがあります。

どうもこんにちは。

早く新しいPCが欲しいogawaです!

早くオリジナルキャラをデスクトップにウロチョロさせたくてうずうずしてます(笑)

前回なんとなく予算が決まった?ので今回は必要スペックについて考えていこうと思います。

目次

新しいPCでやりたいこと(おさらい)

先ずは前回のおさらいでやりたいことは下記の通りです。

やりたいこと

1,ゲーム

2,ローカルLLM

3,オリジナルの動いて会話できるキャラを作成

今回PCを組むにあたり1番やりたいのは、ローカルAIです。

ゲームはついでにできれば程度の気持ちです。

ということで、ローカルAI基準で考えていきます。

GPUの必要スペック

最初に、AIをローカルで動かすにはGPUが超大事です。

ゲーム目的ならFPSやベンチマークを見ることが多いですが、ローカルAIでは少し違った視点が必要になります。

LLMでは「VRAM」がかなり重要

ローカルAI用GPUを調べていて、まず重要なのがVRAM(ビデオメモリ)の容量です。

以下、ChatGPT先生からの説明です。


ゲームの場合はGPUそのものの処理性能が注目されがちですが、AIでは「使いたいモデルをVRAM上に載せられるか」が大きな問題になります。

特にLLMでは、モデル本体だけでなく会話履歴などに使われるKVキャッシュや処理用の領域も必要です。

モデルを4bit程度に量子化した場合の大まかな目安を見ると、

VRAMローカルLLMの目安
8GB7〜8Bクラス
12GB7〜8Bは余裕、14B級も視野
16GB14Bクラスを比較的扱いやすい
24GB30B前後のモデルも現実的
32GB以上より大規模なモデルを扱いやすい

といったイメージになります。

もちろん量子化方式やコンテキスト長によって必要な容量は変わるので、単純に「○GBなら○Bまで」と決まるわけではありません。

ただ、ローカルAI目的ではGPU性能が高くてもVRAMが足りなければ使いたいモデルを載せられないという点は、グラボ選びでかなり重要になりそうです。


今のところはRTX5080あたりを狙っていますが、このVRAM16GBというのがなかなかネックになりそうです。

ちなみに○○Bとはパラメーターの値です。(B=Billion=10億)

大きいほうが複雑な処理ができて、高性能なモデルを作りやすくなるらしいです。

画像生成でもVRAMは重要

ローカルAIというとLLMだけではありません。画像生成もGPUをかなり使います。

比較的少ないVRAMでも動かかせるものもあれば、高解像度生成やLoRAなどを組み合わせていくとVRAM使用量は増えていきます。

現在のローカル画像生成環境を考えるなら、個人的には最低でも16GB以上は確保しておきたいところです。

さらにキャラクターを固定するためのLoRA学習など、「生成する」だけではなく「学習させる」ことまで考えると、VRAMには余裕があった方が安心です。やばいですね。

RTX 5080の16GBは足りるのか?

そして今回、候補にしているのがGeForce RTX 5080。

RTX 5080はBlackwell世代のGPUで、VRAMは16GB GDDR7です。

16GBもあればゲーム用途としてはかなり強力ですし、ローカルAIでも決して少ない容量ではありません。

14B前後の量子化LLMやStable Diffusion系の画像生成など、個人でローカルAIを試す用途ならそれなりに遊べそうです。

ただ、AI目的だけで考えると少し気になるところもあります。

それが、「GPU性能はかなり高いのに、VRAMは16GB」という点。

上位のRTX 5090になるとVRAMは一気に32GB GDDR7になります。

RTX 5080が16GBなのに対してRTX 5090は32GB。

ゲーム性能だけを見るのであれば単純な容量比較はできませんが、ローカルAIではこの16GBの差が「動かせるモデルそのもの」の差になる可能性があります。

30BクラスのLLMをGPU上にできるだけ載せたい、巨大な画像生成モデルを使いたい、AI学習も本格的にやってみたい……となってくると、32GBの魅力はかなり大きそうです。

じゃあRTX 5090を買えばいいのでは?

……と言いたいところですが、当然ながら問題は価格です。

ローカルAIのためだけにRTX 5090へ上げるとなると、PC全体の予算が一気に膨らみます。

ざっくり調べた感じだと、RTX5080は20~40万くらいに対し、RTX5090は100万前後くらい。

買えるわけねぇ…

グラボ1枚で予算オーバーです…

なのでRTX5080を第1候補にします。

現時点では「16GB」が現実的な落としどころ?

16GBでも小〜中規模LLMであれば十分遊べますし、画像生成もかなり本格的にできます。

一方で、

「将来的に70B級のLLMを快適に動かしたい」

「大規模モデルの学習までやりたい」

というところまで考えると16GBでは明らかに足りなくなってきます。

つまり、

ローカルAIを始めるためのGPU

として考えるのか、

ローカルAIを本格的に研究するためのGPU

として考えるのかで、必要なスペックは大きく変わりそうです。

ただ、私の場合は前者。

まずはローカルLLMや画像生成、オリジナルキャラクター、音声AIなどを色々触ってみたい。

その意味ではRTX 5080の16GBでも十分スタートできそうです。

ただ、数年使うPCと考えると……

「あとでVRAM 16GBを後悔しないか?」

ここが今回のグラボ選びで一番悩んでいるところです。

買った直後に新しくRTX6080 32GBが30万とかで出たら泣きます。

メモリとストレージも重要

ちなみにローカルAIではGPUだけ用意すればいいわけではありません。

システムメモリ(RAM)も重要です。

特にVRAMに収まりきらないモデルを扱ったり、複数のAIツールを同時に動かしたりすることを考えると、

32GBよりも64GB程度積んでおいた方が余裕がありそうです。

ストレージについても同様です。

AIモデルは1つで数GB〜数十GBになることもあり、色々試しているとSSD容量をかなり使うらしいです。

そのためローカルAIを使用するなら、

GPU:VRAM 16GB以上
メモリ:64GB
SSD:2TB以上

あたりを個人的な目標にしてPCを構成してみようと思っています。

まとめ

というわけで今回決まった内容をまとめると、

スペックまとめ

GPU:VRAM 16GB以上
メモリ:64GB
SSD:2TB以上

という結果になりました。

それにしてもGPUもRAMも値段上がりすぎ!

次回はCPUあたりの検討をしたいと思います。

ではまた!

この記事が気に入ったら
フォローしてね!

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

キャンプ・ガジェット・自作PC・車など、多趣味を楽しむSHUMI BASE運営者。実際に使ってよかったモノや、趣味を楽しむ中で得た経験を発信しています。「好きなことで、もっと自由に。」

コメント

コメントする

目次