汎目的計算のための ＧＰＵ の仮想化と信頼性向上

2016 Fiscal Year Annual Research Report

• Project/Area Number: 15J09761
• Research Institution: Keio University
• Principal Investigator: 鈴木 勇介 慶應義塾大学, 理工学研究科, 特別研究員(DC1)
• Project Period (FY): 2015-04-24 – 2018-03-31
• Keywords: GPU / Virtualization / Multi-tenancy / GPGPU

Outline of Annual Research Achievements

GPU の仮想化における研究の進展は，GPU を共有し，計算資源として利用することを可能とする．しかしながら，現在の GPU におけるノンプリエンプティブな性質が GPU の計算資源としての利用を大きく妨げ，バグのある，もしくは悪意のある GPU アプリケーションのみならず，近年研究において用いられているデザインに則った正当なアプリケーションですら GPU を占有してしまいうる．このような状況下では，レイテンシに制約を持つようなアプリケーションにおいて信頼できる計算資源とは言えず，また，容易に占有がなされてしまう状態では信頼性を求めるアプリケーションを動作させることは出来ない．そこで GPU の状態を保存し回復する手法を用いた GPU アプリケーションのスケジューリングのデザインを検討しフレームワーク， GLoop を実装した．このフレームワークは GPU アプリケーションに新しいプログラミング・モデルを導入し，細粒度でのスケジューリングを可能にする．そしてデザイン，実装及び事前実験を論文にまとめ，昨年度末ワークショップに投稿し，今年度発表を行った．この際の評価は事前実験に留まったが，その後さまざまな実際のアプリケーションを調査し，GPU を占有するアプリケーションについて GPU eater と名付けその性質や種類を調査した．そして GPU の占有の仕方にも複数存在することを発見し，それら幅広い GPU eater に対して GLoop が適用できるように GLoop のデザインを改良した．そして改良したデザインに基づいて実装を進め，8 つの GPU eater を実際に GLoop ランタイム上に移植することによって GLoop のプログラミング・モデルが実際に適用でき，アプリケーションのコンソリデーションに用いることができることを実験によって示した．

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

前年度の成果を踏まえて，詳細に実際のアプリケーションを調査し，GPU を占有するアプリケーションについて GPU eater と名付け，その性質や種類を調査した．そして GPU の占有の仕方にも複数存在することを発見し，幅広い GPU eater に対して GLoop が適用できるように GLoop のデザインを改良した．改良したデザインのもと， 8 つの GPU eater を実際に GLoop ランタイム上に移植することによって GLoop のプログラミング・モデルが実際に適用できることを示した．
そして移植前と移植後のアプリケーションを用いて詳細な実験を実施した． GPU の利用をスケジュールし，マルチテナントで共有することが可能になることで， GPU 利用率の低い複数の GPU eaters を同一の共有 GPU 上にコンソリデーションし，GPU クラウド環境の効率を改善することができる．これは従来サーバーの仮想化の際に有用とされた利用法であり，GLoop はこれを GPU アプリケーションに対して適用することができる．この目的が実際に GLoop によって達成できているかを実験によって評価した．実験の結果， GLoop のオーバーヘッドは十分に小さく，GLoop はスケジューリングによって GPU eater の GPU 利用率をコントロールすることができていること，そしてそれによって GPU 利用率の低い GPU eaters を一つの共有 GPU にコンソリデーションできていることが明らかになった．
論文としてこれらをまとめ，国際学会に投稿を行なっている．

Strategy for Future Research Activity

今後の予定としては，論文のリバイズをすすめ，国際学会に投稿し成果を発表することを目指している．また，このフレームワークを用いてさらなる研究を行うことを予定している．本研究ではコンソリデーションに対して焦点を当てたが，計算機資源の仮想化という観点で着目した場合，マイグレーションといった機能が仮想化環境では求められる．これらを達成することによって GPU の信頼性のある計算機資源としての仮想化を達成することが可能である．
また，近年の GPU の利用用途の主なものとして機械学習などが挙げられる．これら大規模なアプリケーションに対して GLoop フレームワークを適用することで，GPU を機械学習においてより効率的に用いることができると考えられ，デザインを行う予定である．