2018 Fiscal Year Research-status Report
Development of Innovative Auto-tuning Middleware With Deep Learning
| Project/Area Number |
18K19782
|
|---|
| Research Institution | Nagoya University |
|---|
Principal Investigator |
片桐 孝洋 名古屋大学, 情報基盤センター, 教授 (40345434)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
大島 聡史 九州大学, 情報基盤研究開発センター, 助教 (40570081)
田中 輝雄 工学院大学, 情報学部(情報工学部), 教授 (90622837)
|
|---|
| Project Period (FY) |
2018-06-29 – 2020-03-31
|
| Keywords | ディープラーニング / 自動チューニング / 前処理方式選択 / 疎行列反復解法 / Xabclib / GpGPU / FIBER方式 / 実行時最適化 |
|---|
| Outline of Annual Research Achievements |
先進計算機アーキテクチャがもたらすチューニング作業の困難性の爆発的増大から、ソフトウェア性能を人手を介さず最大限に引き出す仕組みが求められている。このような状況のもと、利便性の向上と多様な入力や計算機環境での高性能化のため、ソフトウェア自動チューニング（AT）の方式研究を行う。本研究では、ATに関連する方式開発、特に、ディープラーニング（DL）を用いたAT方式の開発を行うことを目的とする。特に疎行列反復解法へのAT適用についてDLを用いた方式を提案することにより、実用性の高いAT方式の構築を目指す。本年度の成果は、以下にまとめられる。
（1）DLを用いた自動チューニング方式開発：数値計算ライブラリには多数の性能パラメタがあるが、収束性に影響し実行時間に大きな影響を及ぼすものに前処理選択がある。そこで本研究では、この前処理選択のAT方式へ活用できるDLを用いたAT方式を開発し予備評価を行った。
（2）先進計算機環境への適用：GPUやメニーコア環境における数値計算コードの最適化に関する研究を進め、ATDL方式の開発に必要な最新のGPUやメニーコア環境における最適化と、性能評価のためのコードやデータを集めた。また、具体的なATDL方式開発のための検討を行った。
（3）通信方式の最適化：AT方式の評価対象のコードとして、京コンピュータ／FX100に搭載されている機能であるRDMAを用いノード間のデータ通信の高速化を実現する方式を提案した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の目的は、（1）自動チューニング（AT）に寄与する要素技術の開発と、（2）ディープラーニング(DL)を用いたAT方式の開発である。
（1）については、先進計算機環境であるGPU環境における高速化手法の開発、および通信最適化方式において研究発表の成果を創出した。また、主目的である(2)についても、学会口頭発表などの学術成果を創出することができた。
以上の（1）および（2）の事由により、おおむね順調に進展していると判断される。
|
| Strategy for Future Research Activity |
本年度においても、（1）自動チューニング（AT）に寄与する要素技術の開発と、（2）ディープラーニング(DL)を用いたAT方式の開発を中心とした研究進捗を行う。
特に、（2）のDLを用いたAT方式の開発のめどが立ったため、(1)を中心に、AT方式への適用のための要素技術開発を中心に研究開発を進める。
|
| Causes of Carryover |
本研究は、自動チューニング(AT)における方式開発において、ディープラーニング(DL)を活用したAT方式を開発することであるが、研究開始時までに、前年度までに開発したDLを用いたAT方式の知見を活用することができた。そのため本年度、研究開発費の一部を利用せず、研究進展を行うことができた。
しかしながら、当初計画した目的を達成するためには、最終年度である次年度に予算を繰り越し、当初の目標、および可能であれば、それ以上の成果を達成することが必要であり、かつ、研究の進展に資する理由のため、繰越利用を計画し実施を行う。
|
