パラメータの定まったニューラルネットワークの性質を調べるアルゴリズム基盤の構築

2021 Fiscal Year Annual Research Report

• Project/Area Number: 19K11817
• Research Institution: Yamagata University
• Principal Investigator: 内沢 啓 山形大学, 大学院理工学研究科, 准教授 (90510248)
• Project Period (FY): 2019-04-01 – 2022-03-31
• Keywords: ニューラルネットワーク / しきい値回路 / 計算複雑さ

Outline of Annual Research Achievements

本年度は特に，入力として与えられるパラメータの定まったニューラルネットワークとして，神経細胞の理論モデルとして古くから研究がなされているしきい値素子によって構成されるニューラルネットワークであるしきい値回路を考え，さらにそのしきい値回路に対して問う性質として，グラフの簡略表現と呼ばれる枠組みに基づいて定義される決定問題を対象として研究を展開した．その結果，同じ性質を問う決定問題を対象とした場合でも，入力として１段のしきい値回路（すなわち，１つのしきい値素子）を与えた場合は多項式時間でその性質の有無を判定できるアルゴリズムが設計できるのに対し，入力として２段のしきい値回路を与えた場合はその決定問題の難しさがNP完全，あるいはNEXP完全など，多項式時間で解くことができないと考えられているものになってしまうことを明らかにした．これらの結果は，パラメータの定まったニューラルネットワークから情報を取り出すことが，非常に単純な計算モデルでは可能な一方で，一般的には非常に難しいタスクとなることを示唆している．さらに付随する計算量理論の結果として，入力として与えられる計算モデルによって，グラフの簡略表現に基づいた同じ決定問題の複雑さが異なるならば，その違いが計算モデルの計算能力の違いにつながることを示す数学的な命題を得ることができた．
またしきい値素子によって構成される別の計算モデルである線形決定リスト，線形決定木の計算能力についても研究を行った．線形決定リストと線形決定木はどちらもしきい値素子を処理の基礎とする計算モデルであるが，計算の過程において分岐処理が許されるか否かが異なる．本研究では，この２つの計算モデルの計算能力に違いがあることも明らかにした．