Approximateネットワークによる高速性と計算精度の自動チューニング基盤

2022 Fiscal Year Research-status Report

• Project/Area Number: 18K11285
• Research Institution: National Institute of Informatics
• Principal Investigator: 平澤 将一 国立情報学研究所, アーキテクチャ科学研究系, 特任助教 (30436737)
• Project Period (FY): 2018-04-01 – 2024-03-31
• Keywords: Approximateネットワーク / 自動チューニング手法 / 性能揺らぎ

Outline of Annual Research Achievements

本研究では、ノイズ耐性の低い多値変調を用いることで広帯域を実現し、かつビット化けを訂正せずに放置することで低遅延を達成するApproximateネットワークの最適化基盤を探求している。
具体的には、Approximateネットワークを用いてアプリケーションを実行する環境において、正しく動作することを保証した上で高速に実行できるパラメータセットを発見する自動チューニング手法を提案している。
自動チューニングにおける各試行には一般に性能揺らぎが存在し、揺らぎを含む試行性能を使用してチューニング結果を決定すると、チューニング結果に正しくない揺らぎが発生する。ここから必然的に、本来求める最適なパラメータセットを発見できない問題が生じる。
実際NPBベンチマークのCGおよびFTにおいて、探索を打ち切るまで試行を行っても、手動で発見した最適なパラメータセットを発見する割合が高々40%程度となる状況が存在することがわかっている。
従って本研究では、性能揺らぎの問題に対応するために、一定数の試行を行うことで標本平均を取得し、取得した標本平均を用いて、母平均を予測する区間推定を用いた探索手法を提案した。2個のパラメータセットによる実行性能の比較には、取得した標本値ではなく、複数回試行することにより計算された信頼区間同士を用いて比較する。
これまでにおいて、提案している最適化手法を用いてアプリケーションの最適化を行った結果について性能評価を行った結果、4アプリに対して平均で約26%の性能向上を得られることがわかった。

Current Status of Research Progress

4: Progress in research has been delayed.

Reason

当初計画の通り、提案する自動チューニング手法の研究開発を進めた結果、NPBベンチマークなど著名アプリに対して、性能揺らぎに対応できる探索手法を開発し、性能向上を得られた。
一方で、COVID-19の影響による遅延が生じており、補助事業期間の再延長を行った。

Strategy for Future Research Activity

今後は、当初計画の通りに、開発した探索手法を自動チューニング基盤に統合する。
以上により、Approximateネットワークにおいて、アプリケーションが許容範囲内の精度で実行することを保証する極めて重要な技術である自動チューニング手法を完成させる．

Causes of Carryover

COVID-19の影響により、学会への参加および成果発表のための旅費支出が減少し、また世界的な半導体製品不足の影響により、導入予定の機材の納入が不可能となり断念した。
令和5年度において、自動チューニング基盤の統合を行うために、導入が遅延している探索システムと最適化探索装置を導入し、これらを使用して評価実験を完成させ、成果発表を行う。