| Project/Area Number |
21K11834
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 60050:Software-related
|
|---|
| Research Institution | Chiba Institute of Technology |
|---|
Principal Investigator |
BRYZGALOV PETR 千葉工業大学, 人工知能・ソフトウェア技術研究センター, 主任研究員 (70709691)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥520,000 (Direct Cost: ¥400,000、Indirect Cost: ¥120,000)
Fiscal Year 2022: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2021: ¥2,730,000 (Direct Cost: ¥2,100,000、Indirect Cost: ¥630,000)
|
|---|
| Keywords | 畳み込みニューラルネットワーク / CNN / GPU性能 / 性能予測 / ミニバッチサイズ / PyTorch / ベンチマーク / 畳み込み層 / ソフトウェア性能解析と予測 / 機械学習 / GPGPU |
|---|
| Outline of Research at the Start |
畳み込みニューラルネットワーク(CNN) の学習は大量の計算が必要となるため、GPU を用いて高速化するのが常識となっている。ところが、学習に要する時間は GPU タイプや学習パラメータなどによって複雑に変化するため、場合によっては高価でピーク性能の高い GPU を使うよりも安価な GPU を使ったほうが高速に学習できる場合もある。このように、コスト・学習時間の観点から最適な学習環境を見つけることは困難であった。これに対し本研究では、様々な学習パラメータや GPU タイプにおいて CNN の学習時間を予測する仕組みを実現することを目指す。
|
| Outline of Annual Research Achievements |
1.昨年度に開発した未知のCNNの学習時間予測アプローチを使用して、25個のCNNを使用した6台のマシンでの予測を評価した。このアプローチは畳み込み層のベンチマークと機械学習的な予測モデルを組み合わせて使用し、機械学習のみを使用する既存のアプローチより高い予測精度を実現できた。
2.研究成果を取りまとめた論文を国際会議に投稿した（採択は令和６年度）。
3.このアプローチを使用して、GPUを搭載したクラウド計算機上でのCNN学習時間を予測するWebアプリケーションを作成した。このアプリケーションは、与えられた CNN とクラウド計算機の種類に対して、CNN学習にかかる時間とコストを予測できる。このアプリケーションは現在、31のCNNと3つのクラウド計算機に対応している。このアプリケーションは、CNNの訓練時間を最短にするためのミニバッチサイズの選択や、予測精度と学習時間の最適なバランスを持つCNNの選択や、CNNの学習時間とコストの最適なバランスを持つクラウド計算機の選択に役立つ。これにより、CNN学習にかかる時間、予算、エネルギー消費の大幅な節約が期待できる。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2023年度において、当該研究プロジェクトの計画をすべて完了した。しかし、研究成果を取りまとめた論文の学会での発表が年度末までに間に合わなかった。更に、Webアプリケーションの運用と拡張には、次年度に資金が必要となるため、プロジェクトを1年間延長することにした。
|
| Strategy for Future Research Activity |
次年度では、研究成果の適用範囲をより多くの種類の計算機やCNNに広げることを計画している。
助成金残額は、論文発表関連費用やWebアプリケーションの維持と拡張に関連する費用に充てる予定である。具体的には、アプリケーションの予測対象を拡大するため、新たなクラウド計算機の種類でデータを収集し、新しい予測モデルを構築する。
当アプローチでは畳み込み層のベンチマークを利用するため、予測時に追加のベンチマークを実行する必要があることがある。AWSという1つのクラウド計算機を提供する事業者に対しては追加ベンチマークを実行する仕組みは実装済みだが、次年度では、他の主要なクラウド計算機を提供する事業者であるGoogle Compute PlatformとAzureに対しても追加ベンチマーク実行の仕組みを実装する予定である。
|
