2023 Fiscal Year Research-status Report
畳み込みニューラルネットワークのGPU上での学習時間の予測
| Project/Area Number |
21K11834
|
|---|
| Research Institution | Chiba Institute of Technology |
|---|
Principal Investigator |
BRYZGALOV PETR 千葉工業大学, 人工知能・ソフトウェア技術研究センター, 主任研究員 (70709691)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | 畳み込みニューラルネットワーク / CNN / GPU性能 / 性能予測 / ミニバッチサイズ / PyTorch / ベンチマーク / 畳み込み層 |
|---|
| Outline of Annual Research Achievements |
1.昨年度に開発した未知のCNNの学習時間予測アプローチを使用して、25個のCNNを使用した6台のマシンでの予測を評価した。このアプローチは畳み込み層のベンチマークと機械学習的な予測モデルを組み合わせて使用し、機械学習のみを使用する既存のアプローチより高い予測精度を実現できた。
2.研究成果を取りまとめた論文を国際会議に投稿した（採択は令和６年度）。
3.このアプローチを使用して、GPUを搭載したクラウド計算機上でのCNN学習時間を予測するWebアプリケーションを作成した。このアプリケーションは、与えられた CNN とクラウド計算機の種類に対して、CNN学習にかかる時間とコストを予測できる。このアプリケーションは現在、31のCNNと3つのクラウド計算機に対応している。このアプリケーションは、CNNの訓練時間を最短にするためのミニバッチサイズの選択や、予測精度と学習時間の最適なバランスを持つCNNの選択や、CNNの学習時間とコストの最適なバランスを持つクラウド計算機の選択に役立つ。これにより、CNN学習にかかる時間、予算、エネルギー消費の大幅な節約が期待できる。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2023年度において、当該研究プロジェクトの計画をすべて完了した。しかし、研究成果を取りまとめた論文の学会での発表が年度末までに間に合わなかった。更に、Webアプリケーションの運用と拡張には、次年度に資金が必要となるため、プロジェクトを1年間延長することにした。
|
| Strategy for Future Research Activity |
次年度では、研究成果の適用範囲をより多くの種類の計算機やCNNに広げることを計画している。
助成金残額は、論文発表関連費用やWebアプリケーションの維持と拡張に関連する費用に充てる予定である。具体的には、アプリケーションの予測対象を拡大するため、新たなクラウド計算機の種類でデータを収集し、新しい予測モデルを構築する。
当アプローチでは畳み込み層のベンチマークを利用するため、予測時に追加のベンチマークを実行する必要があることがある。AWSという1つのクラウド計算機を提供する事業者に対しては追加ベンチマークを実行する仕組みは実装済みだが、次年度では、他の主要なクラウド計算機を提供する事業者であるGoogle Compute PlatformとAzureに対しても追加ベンチマーク実行の仕組みを実装する予定である。
|
| Causes of Carryover |
GPU価格の高騰で、予定していた予算内でGPUカードを購入できなかった。
また、論文発表は2023年度内にできなかったので、旅費を使用せず、次年度使用額が生じた。論文発表関連費用やWebアプリケーションの維持と拡張に関連する費用に充てる予定である。
|
