2022 Fiscal Year Research-status Report
回路計算量理論に基づく視覚探索を実現するニューラルネットワークの計算原理の解明
| Project/Area Number |
22K11897
|
|---|
| Research Institution | Yamagata University |
|---|
Principal Investigator |
内沢 啓 山形大学, 大学院理工学研究科, 准教授 (90510248)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | 回路計算量 / ニューラルネットワーク / 計算複雑さ |
|---|
| Outline of Annual Research Achievements |
本年度は視覚探索にかかわる論理関数の中でも特に、Conjunction Search 関数と呼ばれる論理関数（Conj関数）に着目し、Conj関数を計算するしきい値回路について、素子数がどれほど必要になるのかを理論的に調査することにより、Conj関数がしきい値回路にとってどれほど難しい情報処理タスクであるかについて評価を行った。その主結果として、ニューラルネットワークの理論モデルとしてしきい値回路を捉えた際に重要なパラメータとなる段数、エネルギー、重みについて、段数とエネルギーがともに準線形に制限されおり、かつ重みが準指数に制限されていた場合、Conj関数を計算するためにしきい値回路が必要とする素子数が指数的に大きいことを明らかにした。Conj関数は定数段数、線形エネルギーかつ定数重みのしきい値回路で計算可能であることから、この結果は段数とエネルギーに対する制限が、しきい値回路の計算能力に非常に大きな影響を与えることを示唆している。また、実際のニューラルネットワークでも段数、エネルギー、重みといったパラメータに対して、計算資源として制限があると考えられるため、Conj関数に類する情報処理タスクが、ニューラルネットワークにとって計算困難であることも示唆する結果と言える。加えて、この素子数が指数個必要となることを示す結果が、特定の条件下の下ではほぼ最適なものであることも、具体的にConj関数を計算するしきい値回路を設計することにより同時に示した。
本研究の結果は、Conj関数を計算するしきい値回路だけでなく、行列の階数に関連するある条件を満たす論理関数であれば適用できるものとなっており、幅広い情報処理タスクについて、ニューラルネットワークが同様の困難性に直面している可能性を示唆する結果となっている。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本年度は、視覚探索をモデル化したある特定の条件を満たす論理関数について、その計算困難性を示す結果を得ることができた。その結果を得るにあたっては、既存の研究で使用されたテクニックとは異なる新しい証明手法が用いられており、来年度以降に別の論理関数について研究を展開するにあたっても活用できると考えられる。一方で、視覚探索をモデル化したConj関数について、当初計画した通りの直接的な関係性を主張できないことが研究の過程で明らかになっており、この点について計画の修正が必要と考えている。
|
| Strategy for Future Research Activity |
本年度に得た成果は、段数、エネルギー、重みという３つのパラメータが制限された状況について、必要な素子数を理論的に評価したものであった。この３つのパラメータのうち、重みについては、仮に制限がなかったとしても、Conj関数を計算するためにはは本年度の結果と同様に指数的に素子数が必要となると予想している。本年度得た結果を改良することにより、重みに制限がない場合でも同様の結果を得ることを目指す。また、視覚探索とConj関数について、直接的な関係性が主張できないことが明らかになったことから、本年度に開発した証明の手法を活用することにより、来年度以降は視覚探索に係わる別の論理関数を対象として研究を展開する。具体的には、入力として長い文字列および短い文字列が与えられたときに、長い文字列の中に、短い文字列が現れるかを判定するパターンマッチングに相当する論理関数を対象に研究を行う。
|
| Causes of Carryover |
本年度に得られた成果を海外にて発表予定であったが、投稿した国際会議に受理されず、旅費として使用できなかった。そのため、残額を次年度の旅費として使用する。
|
