[ トップページ ]
数学・計算・情報学・プログラミング:人工知能・複雑系と人工生命, 数学・計算・情報学・プログラミング

深層学習の環境とくにそれに必須の GPU

最近は深層学習 (deep learning) の研究の進展によって人工知能に注目があつまっているが,それが可能になったおおきな要因は NVIDIA の GPU によるニューラルネットの高速化だ.

深層学習が成功したひとつの理由は多層のニューラルネットを学習させるためのあたらしい技術 (autoencoder など) が開発されたことだ. しかし,画像認識によくつかわれている「たたみこみニューラルネット (convolutional neural network, CNN)」にはかならずしもそういう技術は必要ない. CNN が最近成功している最大の要因は GPU によって学習が高速化されたことだ.

私がつかっている環境では深層学習のチュートリアルにある例題が 特別なくふうなしに 40 倍高速化された. 深層学習のための環境としては Caffe, Theano, Torch7 などがあるが,私は最近 Theano をつかっている. 上記のチュートリアルも Theano の使用を前提としている. 深層学習のための GPU としてはほとんど NVIDIA のものがつかわれているが,私は この分野に参入したときにさっそく GeForce TITAN X という GPU を入手した (いろいろな製品がでているが,Gigabyte のものを買った. この GPU で 40 倍の高速化が実現された. ただし,このプログラムを CPU で実行すると 1 個のコアしかつかわれないので, 8 個の CPU コアをうまくつかってやれば 8 倍ちかくに高速化されるはずだから, それとくらべると 5 倍くらいでしかない. この例題ではまだ 3072 個の GPU コアをつかいきっていないとかんがえられるので,うまくやればもっと高速化されるはずだ.

TITAN X という GPU はコスト・パフォーマンスは最善とはいえないが,つかいやすいわりにはやすいということができる. この GPU はこの 4 月に製品化された最新のものであり,製品価格が 10 数万円する . 2 月くらいには GeForce 980, 960 という GPU が登場しているが,こちらは製品価格が 2 〜 4 万円くらいだ. GPU 数では TITAN X が 3072 個,980 が 2048 個,960 が 1024 個だから,コスト・パフォーマンスでは後者のほうがよい. しかし,TITAN X はメモリがおおきいのでつかいやすい. その点ではさらに高価なワークステーション用の GPU (Tesla K40 など) に匹敵している. Tesla K40 などはさらに倍精度の計算が高速だが,深層学習のためには短精度でよいので TITAN X で十分だ.

Theano は Python の使用を前提にしているが,これらをうまくうごかすには Linux をつかうのがよい. 最初は Windows でやろうとしたが,Theano をはじめ上記の環境はいずれも Windows をサポートしていないので,うまくいかなかった. Windows でうごかしているひともいないわけではないが,やめたほうがよいだろう. Linux のなかでも Utuntu 14.04 LTS が適切だ.

Linux がよいといっても,NVIDIA の環境をインストールするにはくふうがいる. なにもかんがえずにいきなり Ubuntu をインストールして失敗した. インストール時にはグラフィック・ドライバをインストールしないようにする必要がある. そうしておいて,グラフィクスが動作していない状態で NVIDIA 環境をインストールする. インストール方法についてはちかいうちに Web に書こうとおもう.

キーワード: 機械学習, 深層学習, ディープ・ラーニング, Deep learning, コンピュータ・ビジョン, Computer vision, 画像認識, GPU, 並列計算, たたみこみニューラルネット, Convolutional nerural network, Theano

トラックバック

このエントリーのトラックバックURL:
http://www.kanadas.com/mt/mt-tb.cgi/7009

コメントを投稿

Google でブログを検索:

メインページアーカイブページも見てください.
Creative Commons License
このブログはつぎのライセンスで保護されています. クリエイティブ・コモンズ・ライセンス.
Powered by
Movable Type