GPUマシンの購入を検討してみた

『GPUマシンを』～シリーズ第１回～

ということで第１回目の投稿です。
まずは手っ取り早く購入を検討します。
さてどうなるか。よ～く考えよう～。お金はないですよ～。

背景

今まで初期コスト０で始められるクラウドのGPUインスタンスを使用していました。しかし開発中はコーディング／デバック／休憩／ご飯／犬の散歩／雑用etcで何かとアイドル時間が長く、インスタンス上で開発するのはコスト的に効率が悪いという結論に至りました（まあ初めから分っていた事ですが）。こまめにインスタントを起動／終了して節約するのも悪くないですが何しろ面倒くさいです。なので今後は手元にGPUマシンを置き、時間課金を気にすることなく開発／デバック／犬の散歩を行い、GPUパワーが必要な時は割安な（GCPのプリエンプティブインスタンス や AWSのスポットインスタンス）でトレーニングを行うというスタイルで行きたいと思います。これはそのための環境構築作業を記録したシリーズ投稿です。

※ちなみにGPUのIaaSとして特徴的で割安なサービスを『GPUEater』が提供してます。ここのインスタンスは起動しっぱなし型（インスタント停止しても課金される。削除すると課金されない。またネットワークトラフィック課金等がない。）です。24時間365日の運用で比べると大手より大分割安です。特にAMDのGPUインスタンスがあるのが特徴的です。公式サイトにあるように低予算で推論サービスが運用できそう・・・

購入候補

欲をいうと青天井なので、NVIDIAのコンシューマ向けのGPU(GerForceシリーズ)が対象です。また、電気代や騒音を考えて、GPU1枚構成で考えています。GPUメモリはコンシューマ向けだと１１GBがMAXなのでこれは必須条件です。GPUメモリ不足だと計算時間の問題ではなく計算自体ができません。また注目のtensorコア搭載のものが欲しいです。そうなると現時点では 『NVIDIA TITAN V』しかありません。 大体のフレームワークがCUDAを前提としてるので基本的にNVIDIA一択ですが、AMDのROCm/MIOpenを使うことでAMD社製GPU上にCUDA互換環境を構築できるのでコスパはよさそうです。が、tensorコアはやっぱり魅力的です。

候補１ PC工房

自分はよくここでPC買います。PC工房にもディープラーニングマシンが他社と比べると大分リーズナブルにラインナップされています。

PC工房 - NVIDIA TITAN V 搭載パソコン ラインナップ

TITAN V 1つ搭載した一番安いやつで、699,980円(税別) ～　
Core i9-7900X /インテル X299 Express [ASUS X299-A]
32GB(8GB×4) 240GB
Serial-ATA SSD 1TB Serial-ATA HDD DVDスーパーマルチ
TITAN V x1
ミドルタワー / ATX 700W 80PLUS BRONZE認証 ATX電源

候補２ アプライド

エントリーモデルで 1,098,000円（税別）～
BTOパソコンのアプライドHPC＆BTO
Core i9 7900X / 64GB DDR4-2666
SSD 500GB / HDD 2T
NVIDIA TITAN V x 1

候 補３　その他

いろいろあるけどどれも高い。 PCというかワークステーションとかの名前でラックマウント式のものが各社からでてますが１００万単位の費用がかかります。とても手に出せない・・・
あとディープラーニング向けとして売られていいるものより、ゲーミングPCとかで売りだされているものの方が、同スペックでも相場的に安そうな印象です。でもよくみると電源とかマザボとかSSDとかがディープラーニング向けのほうが良いものを使ってたりします。購入する際は詳細スペックまでよくチェックしたほうがよさそう・・・

結論

各社、OSやフレームワークなどをプリインストールして販売しており購入すればすぐ使えそう、またサポート体制もよさそうです。が、やっぱり高いです。とても手が出せそうにありません。かろうじてPC工房の一番安いやつで迷ったけど・・・。
結局、自作することにしました。GPUメモリさえあれば型落のGPUでもとりあえず実行はできるし、今後の相場（ヤフオクとかで中古）をみながらアップグレード等も柔軟に行えるので。

かつてPCが高価だった時代（自作PCが流行っていた時代）に自作した経験はありますが、まさか今頃になってまた自作するとは思ってもみませんでした。ということで２０年ぶりぐらいに自作PCを行います。

－続く－