| Project/Area Number |
23K11126
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 60090:High performance computing-related
|
|---|
| Research Institution | Kogakuin University |
|---|
Principal Investigator |
田中 輝雄 工学院大学, 情報学部(情報工学部), 教授 (90622837)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
片桐 孝洋 名古屋大学, 情報基盤センター, 教授 (40345434)
|
|---|
| Project Period (FY) |
2023-04-01 – 2027-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,810,000 (Direct Cost: ¥3,700,000、Indirect Cost: ¥1,110,000)
Fiscal Year 2026: ¥520,000 (Direct Cost: ¥400,000、Indirect Cost: ¥120,000)
Fiscal Year 2025: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2024: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2023: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
|
|---|
| Keywords | 自動チューニング / 高性能計算 / パラメタチューニング / 並列計算 / 機械学習 |
|---|
| Outline of Research at the Start |
本研究は、自動チューニングにおけるユーザプログラムの性能を決める複数性能パラメタの最適な組合せの探索に関する。我々は、これまで多くの成果およびノウハウについて報告・発表している．本研究では、この成果をもとに、この複数の性能パラメタの最適組合せ探索機能のツール化を行う。
ツールとして、主に次の２つを目的とする。（１）実行時自動チューニングを可能とするために、チューニングに要する時間が無視できる軽量ツールとする。（２）特に、時間を要する機械学習における複数のハイパーパラメタ群の自動チューニングを可能とするために、スーパーコンピュータの多数のノードを同時に並列利用可能とする並列実行制御を実現する。
|
| Outline of Annual Research Achievements |
本研究の目的は、自動チューニングにおける複数の性能パラメタの最適な組合せの探索を行うツールの開発である。主に次の２つの開発を行う。（１）実行時自動チューニングを可能とするために、チューニングに要する時間が無視できる軽量ツールを実現する。（２）特に、時間を要する機械学習における複数のハイパーパラメタ群の自動チューニングを可能とするために、スーパーコンピュータの多数のノードを同時に並列利用可能とする並列実行制御を実現する。目的を達成するために、次の３つの計画を推進する。
[計画１]性能パラメタ最適化ツールの開発：(1)実行時自動チューニングを可能とする軽量ツールを開発する。(2)機械学習のハイパーパラメタチューニングを対象とし、スーパーコンピュータの環境での並列実行制御環境を開発する。前者については、プロトタイプにより数々の機能を試行している。後者については、名古屋大学の不老TypeIIの環境で実現済であり、この手法を他のスーパーコンピュータの環境でも実行できるように汎用化する。[計画２]事例蓄積：ユーザプログラムを調査、入手し、実問題などの実例を積み上げてフィードバックを行うことにより、使い勝手の良いツールの開発を推進する。[計画３]ユーザへのβ版ツール提供とフィードバック：実際にユーザが使えるツールとするために、開発フェーズごとにβ版をユーザに提供し、実際に使用してもらうことにより使い勝手、課題を明確化し、フィードバックをかける。
2023年度は、[計画１](1)に対しては、５つの関数の仕様を定義、(2)に対しては、名大スーパーコンピュータ上で試作したツールを九大スーパーコンピュータ上での動作を確認した。[計画２]に対しては、学習型ゲームプログラムの最適化に試作ツールを適用し、自動的最適化を確認した。[計画３]については、試作ツールの提供先を調査した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
[計画１](1)に対しては、ユーザプログラムに試作ツールを組み込むことができるような関数とその利用仕様をまとめた。(2)に対しては、機会学習プログラムのハイパーパラメタはそのプログラムの外側から設定できることが多いので、そのインターフェースを利用して、学習プログラム全体を制御し、スーパーコンピュータの複数ノード（ここではGPUノードが前提）を有効に活用し、我々が開発している自動チューニングのアルゴリズムに適用させることを実現した。この開発は、名大スーパーコンピュータ上で行った。さらに、この試作したツールの汎用性を確かめるために、このツールを九大スーパーコンピュータ上で実行し、その動作を確認した。
[計画２]に対しては、学習型ゲームプログラムの最適化に試作ツールを適用し、自動的最適化を確認した。
[計画３]については、試作ツールの提供先を調査した。
前者については、プロトタイプにより数々の機能を試行している。後者については、名古屋大学の不老TypeIIの環境で実現済であり、この手法を他のスーパーコンピュータの環境でも実行できるように汎用化する。性能パラメタ最適化ツール開発は各フェーズを分けて行う。
これらはおおむね計画通りに進められている。
|
| Strategy for Future Research Activity |
当初の研究計画をもとに、状況に応じて修正を加えながら、研究を推進する。
[計画１]試作ツールを試用することによって判明した、ツールの能力の向上、ツールの使い勝手について、検討を進める。特に、(2)に対しては、ツールを実現するパラメタ最適化アルゴリズムにより、まだ、スーパーコンピュータのノードの利用効率が十分でないことが分かったので、アルゴリズム自体を変更し、ノードの利用効率を上げることにより、トータルで、パラメタ最適化の時間を短縮する方策を検討中であり、これを実装し、評価することを推進する。
[計画２]に対しては、さらに、実用レベルの問題を調査し、適用することを試みる。
[計画３]については、試作ツールの提供先を探していく。
|
