| 研究課題/領域番号 |
16K00006
|
|---|
| 研究機関 | 山形大学 |
|---|
研究代表者 |
内沢 啓 山形大学, 大学院理工学研究科, 准教授 (90510248)
|
|---|
| 研究期間 (年度) |
2016-04-01 – 2019-03-31
|
| キーワード | しきい値回路 / ニューラルネットワーク / 段数 / マージン / 深層学習 |
|---|
| 研究実績の概要 |
本研究は，脳の神経回路網の理論モデルであるしきい値回路を，機械学習を実現するアルゴズムの指標であるマージンに基づいた評価尺度を用いて調査することにより，しきい値回路が実現する計算に機械学習の視点から新たな知見を与えることを目的とする．本年度は主に，マージンに基づいてしきい値回路を評価する本研究の枠組みを，（１）対称関数と呼ばれる論理関数の学習，（２）1ケタの数字を判別する学習，の２つのタスクに適用して研究を行い，それぞれに対して以下に示す結果を得た．
（１）に対してはまず，段数の増大がマージンの増大につながるしきい値回路の設計手法を具体的に与える理論的成果を得た．この回路の設計は，しきい値回路の段数とマージンの間に正の相関関係がある可能性を示している．また，この理論的成果に加えて，しきい値回路を特定の条件の下でランダムに生成し，そのマージンを調査する計算機実験も行なった．その実験結果においても，しきい値回路の段数とマージンの間に正の相関関係が見られた．これらの成果は，しきい値回路の段数を増やすことが，対称関数の学習に対して有効となりうることを示唆している．
（２）に対しても，しきい値回路を特定の条件の下でランダムに生成し，そのマージンを計測する計算機実験を行った．その結果，（１）とは異なり，しきい値回路の段数とマージンの間に負の相関関係があることを示唆する結果が得られた．
これらの成果により，実際に段数とマージンの間になんらかの関係があることを理論的にも実験的にも確認することできた．またこの成果に加えて，特定の情報処理タスクを実現する段数の大きなしきい値回路の設計も与えた．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
本年度の成果により，実際に段数とマージンの間になんらかの関係があることを理論的にも実験的にも確認することできた．対称関数を学習するタスクに対しては，しきい値回路の段数とマージンの間の関係を示唆する回路設計の手法を与えることができたことから，次年度以降はこの手法をもとに研究を展開することができると考えらる．また，ランダムに生成したしきい値回路の段数とマージンを調査する実験においては，対称関数の学習に対しては段数とマージンの間に正の相関関係が見られる一方で，1ケタの数字を判別する学習に対しては，負の相関関係が現れた．この結果は，学習に利用するしきい値回路の構造的な特徴や，学習対象とするタスクの性質によって，段数とマージンの間に現れる関係が異なるという可能性を示唆している．この異なる２つの結果を解析し，その原因を明らかにすることができれば，次年度以降に実施予定である，しきい値回路を学習に利用した際のマージンの向上につながる要因の特定に寄与すると考えられる．
|
| 今後の研究の推進方策 |
本年度に得られた成果は，しきい値回路の段数とマージンの間に正の相関関係（あるいは負の相関関係）がある可能性を示唆しているものの，真にそうした相関関係があることを理論的に保証する結果が得られているわけではない．次年度は，本年度に得られた成果をもとに，現段階では得られていない，相関関係に対する理論的な保証を与えること目指す．また，本年度得られた，２つの学習タスクに対する異なる２つの実験結果を解析し，しきい値回路を学習に利用した際のマージンの向上につながる要因の特定に目指す．
また，本年度に研究の対象とした２つの学習タスク以外の他の学習タスクに対しても，本年度得られた研究成果に基づいて研究を展開し，段数とマージンの間になんらかの相関関係が現れないか調査を行う．
|
| 次年度使用額が生じた理由 |
物品費においては，学外の研究活動に使用するラップトップパソコン購入を次年度に行うことにしたため，次年度使用額が生じた．また旅費においては，想定より少ない数の国際会議，国内会において十分な情報収集が完了したため，次年度使用額が生じた．
|
| 次年度使用額の使用計画 |
物品費の次年度使用額により，ラップトップパソコンを購入する．旅費の次年度使用額は，次年度の成果公表，情報収集に用いる．
|
