AI開発用PCの選び方 — GPU・メモリ・OSを用途から逆算する

AI開発用PCを探すと、比較はすぐにGPUの型番とベンチマークへ向かいます。しかし、日常の開発時間を奪うのは、GPU演算の遅さだけではありません。モデルがメモリに入らない、データセットの展開でSSDが埋まる、CUDAとドライバの組み合わせが崩れる、といった問題もあります。

さらに、生成AIのAPIを呼ぶアプリ開発と、画像モデルの学習と、ローカルLLMの推論では必要な構成が違います。この記事では、製品名からではなく「何をローカルで行うか」から、GPU・メモリ・SSD・OSを逆算します。

最初に用途を4つへ分ける

同じ「AI開発」でも、計算を行う場所によってPCの役割は変わります。

主な用途	PCで重視するもの	GPUの優先度
LLM APIを使うアプリ開発	CPU、メモリ、コンテナ、静音性	低い
ローカルLLMの推論	GPUメモリまたは共有メモリ、メインメモリ	高い
画像・音声モデルの学習	CUDA/ROCm対応、VRAM、冷却	高い
データ前処理・分析	CPUコア、メインメモリ、SSD速度	中程度

API中心の開発では、推論計算はクラウド側にあります。ローカルPCはエディタ、コンテナ、DB、ブラウザを同時に動かせればよく、GPUへ予算を集中させる理由は薄くなります。一方、MVTec ADの異常検知のような画像モデルを繰り返し学習するなら、GPU環境の待ち時間がそのまま試行回数を制限します。

まず「ローカルで学習するのか」「推論だけか」「APIを使うのか」を決めます。この分岐を飛ばしてスペック表を見ると、使わない計算性能を買い、必要なメモリやストレージを削りがちです。

GPUは演算性能より先にVRAMを見る

AI用途では、GPUが速くてもモデルやバッチがVRAMに収まらなければ、CPU側への退避やバッチサイズの縮小が必要です。Hugging Faceの公式資料も、大規模モデルでは重みをGPU、CPU、ディスクへ順に配置する仕組みを案内しています[4]。ディスクへのオフロードは「動かす」助けにはなりますが、毎回の転送で速度は落ちます。

経験則として、購入時は次の順で考えると整理しやすくなります。

1. 動かしたいモデルの重みと実行時メモリが収まるか
2. 学習時のバッチ、勾配、オプティマイザ状態まで収まるか
3. 利用するフレームワークがGPUを正式に支援しているか
4. そのうえで演算性能と消費電力を比べる

LLM推論では量子化により重みを小さくできますが、コンテキストを保持するKVキャッシュなども必要です。モデルファイルのサイズと必要メモリを同一視せず、余裕を残します。画像学習では解像度とバッチサイズがVRAM使用量に大きく効くため、現在のノートブックやクラウド実行時のピーク値を測ってから選ぶのが確実です。

NVIDIA・AMD・Apple siliconをどう考えるか

NVIDIAは対応範囲を取りやすい

PyTorchはローカル導入時にCUDA環境を公式の選択肢として提供し[1]、NVIDIAは対応OS、コンパイラ、ツールキットの要件を公開しています[2]。研究コードやOSSがCUDA前提で書かれていることも多いため、幅広いサンプルをそのまま試すことを優先するなら、NVIDIA GPUとLinuxの組み合わせは判断しやすい構成です。

ただし、GPUだけを見てはいけません。電源容量、ケースに入る寸法、長時間負荷時の冷却、ドライバ更新後の検証までが開発環境です。小型筐体へ高性能GPUを詰め込むほど、騒音と温度の制約が表面化します。

AMDは利用ソフトの対応表を先に確認する

PyTorchはROCmも選択肢として案内しています[1]。ただし、OS・GPU・フレームワークの対応範囲は組み合わせで決まります。「AMD GPUだから動く」ではなく、購入候補のGPUが使いたいソフトの公式対応表にあるかを個別に確認します。

価格性能だけで選ぶと、後から未対応の演算やコンテナイメージに遭遇することがあります。すでに動かすリポジトリが決まっているなら、そのREADMEとIssueを先に読む方がベンチマーク比較より有効です。

Apple siliconは共有メモリが特徴

Apple siliconでは、PyTorchがMetal Performance ShadersのMPSバックエンドを利用します[3]。CPUとGPUが共有メモリを使うため、メモリ容量を大きくした構成はローカル推論で扱いやすい一方、CUDA専用コードをそのまま実行できるわけではありません。

持ち運び、静音性、通常のソフトウェア開発とローカル推論の両立を優先するなら有力です。CUDA前提の学習コードを再現することが主目的なら、クラウドGPUを併用する設計が現実的です。

メインメモリは「GPU以外全部」の作業場

AI開発では、エディタだけでなく、Docker、ブラウザ、データベース、Jupyter、モデルサーバーを同時に動かします。GPUへ載せきれないモデルをCPUへオフロードする場合も、メインメモリを使います[4]。

経験則として、APIアプリ開発だけなら32GBを基準にし、ローカルLLM、大きな表データ、複数コンテナを常用するなら64GB以上を検討します。これは全員に必要な最低値ではなく、スワップ待ちを減らすための予算配分です。現在のPCで、普段の作業一式を開いたときの使用量を測り、そのピークへ余裕を足すのが最も確実です。

Apple siliconのように後から増設できない構成では、購入時の判断がそのまま寿命になります。デスクトップで増設可能なら、最初は必要量を積み、空きスロットを残す手もあります。

SSDは容量だけでなく役割を分ける

モデル、データセット、コンテナイメージ、仮想環境は、想像以上の速度で容量を使います。1つのモデルを別の量子化形式で試すだけでも複数ファイルが残り、画像データは展開後に配布アーカイブより大きくなります。

おすすめは、次の3層を分ける考え方です。

• 内蔵NVMe SSD: 実行中のコード、仮想環境、頻繁に使うモデル
• 大容量SSDまたはNAS: 原本データ、使用頻度の低いモデル、実験成果物
• 別媒体またはオブジェクトストレージ: 復旧用バックアップ

高速なSSDは学習そのものより、モデルのロード、データローダ、環境の作り直しを短くします。ただしNASはネットワーク遅延があるため、学習時はローカルへキャッシュし、原本と履歴をNAS側で管理する方が扱いやすい場合があります。詳しくはAI開発のSSD・NAS設計で整理しています。

OSは「慣れ」だけでなく再現先に合わせる

CUDAを使うLinuxでは、対応ディストリビューションだけでなく、gccなどのツールチェーンも要件に入ります[2]。本番がLinuxコンテナなら、ローカルもLinuxに寄せると差分を減らせます。WindowsではWSL2によりLinux開発環境を作れますが、GPU、ファイルシステム、Dockerの境界を理解する必要があります。

macOSは一般的な開発体験とApple silicon向けのGPU利用を両立できますが、CUDAの再現環境にはなりません。結局のところ、最適なOSは「本番または共同開発者が使う環境」と「必要なGPUバックエンド」の交点で決まります。

環境を固定する際は、OSだけでなく、Python、フレームワーク、GPUドライバ、コンテナイメージの版も記録します。AI開発用PCは速い計算機である前に、実験を再現する道具です。

予算配分の3パターン

開発スタイル	優先する構成	避けたい偏り
API・Webアプリ中心	CPU、32GB以上のメモリ、SSD、静音性	使わない上位GPU
ローカル推論中心	VRAMまたは共有メモリ、64GB級メモリ、大容量SSD	演算性能だけの比較
学習・研究コード中心	対応GPU、VRAM、冷却、Linux再現性	小型筐体と容量不足

大規模学習を月に数回だけ行うなら、日常用PCを過剰に大型化せず、クラウドGPUとローカルPCを使い分ける方が総コストを抑えられる場合があります。反対に、毎日短い実験を繰り返すなら、起動待ちや転送時間まで含めてローカルの価値が高まります。

まとめ

• AI開発用PCは、API開発・ローカル推論・学習・前処理のどれを行うかで必要構成が変わる
• GPUは演算性能より先に、モデルと実行時データがVRAMへ収まるかを見る
• NVIDIA・AMD・Apple siliconは、利用するフレームワークの公式対応から選ぶ
• メインメモリはコンテナ、前処理、CPUオフロードを含む作業全体へ効く
• SSD、NAS、バックアップは別の役割として設計する
• 大きな計算を時々行う用途では、クラウドGPUとの併用も購入判断に含める

最初の一台を決める前に、まず今の環境でメモリ、ディスク、GPU使用量を測ってください。測定値があれば、スペック表は「高い順の一覧」から「自分のボトルネックを解く候補」へ変わります。