2019 Fiscal Year Annual Research Report
| Project/Area Number |
19H01134
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
片岡 裕雄 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70784883)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中村 明生 東京電機大学, 未来科学部, 教授 (00334152)
前田 英作 東京電機大学, システムデザイン工学部, 教授 (90396143)
井上 中順 東京工業大学, 情報理工学院, 助教 (10733397)
|
|---|
| Project Period (FY) |
2019-04-01 – 2022-03-31
|
| Keywords | Deep Learning / Pre-training / Transfer Learning / Fractal Geometry |
|---|
| Outline of Annual Research Achievements |
自然の形成原理に基づく深層学習の事前学習を実施した。具体的には、自然の形状パターンの背後に内在すると言われているフラクタル幾何（Fractal Geometry）を用いて画像のパターンを生成することで大規模データセットを構築する方法について検討した。2019年度の研究ではまずフラクタル幾何により画像パターンを生成するためにIterated Function System（IFS）を用いた。画像を生成するためのパラメータ区間により画像カテゴリを分類することに成功し、深層畳み込みニューラルネットワークの学習を実施したところ、事前学習なしのベースラインより高い精度が出ることを確認した。さらに、フラクタル幾何のみならず、他の法則や関数で生成した画像データセットにおいても同様の事前学習効果を得られることを発見した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
フラクタル幾何学を用いて画像パターンと画像カテゴリを自動生成しつつも大規模画像データセットFractalDBを構築する方式を検討した。画像カテゴリ数、画像カテゴリ内のインスタンス数などの基本的なパラメータから、生成時の確率計算、画像パッチサイズ、生成の繰り返し数、画像サイズなどのパラメータを緻密に調整し、精度向上に寄与することを明らかにした。ここで「フラクタル幾何でなくても深層学習の事前学習に効果があるのではないか」と思いつき、パーリンノイズ、ベジェ曲線、再起的タイリングによる画像パターンで構成した画像データセットを学習させて見たところ、どの方式においても事前学習効果が見られた。これらの調査を行うため、予算繰越を行い2020年4月から2020年7月まで計算機を使用してパラメータ調整実験を試みた。
|
| Strategy for Future Research Activity |
大きく分けて二つの方針を進めていくことにする。
（１）フラクタル幾何学による研究成果を論文化するとともに、誰もが再現可能な形でデータセット、学習・画像生成コード、畳み込みニューラルネットワークの学習済みモデルを公開する。データセット及び学習・画像生成コードの整理を行うとともに、FractalDB自体のさらなるパラメータ調整や生成関数の改良についても検討する。
（２）パーリンノイズ、ベジェ曲線、再起的タイリングによるデータセットを大規模化させるとともに、フラクタル幾何による方式との比較を実施することで、自動生成データセットの可能性と限界について追求する。各データセットの性質についても明らかにすることで、転移学習先のタスクに合わせた学習方式も検討できると考える。
|
