2017 Fiscal Year Annual Research Report
A Study on Combinatorial Construction of Digital Fingerprint Code
| Project/Area Number |
26400186
|
|---|
| Research Institution | University of Tsukuba |
|---|
Principal Investigator |
藤原 良叔 筑波大学, システム情報系(名誉教授), 名誉教授 (30165443)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
繆 いん 筑波大学, システム情報系, 教授 (10302382)
|
|---|
| Project Period (FY) |
2014-04-01 – 2018-03-31
|
| Keywords | 組合せ理論 / frameproof code / デジタル指紋 / 深層学習 / 過剰学習 / ドロップアウト |
|---|
| Outline of Annual Research Achievements |
研究の中心は 2-separable code からより強力な 2-frameproof code の性質や構成に移った. 特に線形 2-frameproof code の場合， 射影空間 PG(n,2) の中のフラット(線形部分空間)で i-line を含まない k-flat の存在と k-1次元線形 2-frameproof code の存 在が同値であることがわかった. そのような k-flat を i-line free k-flat と呼ぶことにする.
今年度は，人工知能の中心的な方法である，深層学習への応用の研究を行った．深層学習で使われる多層型ニューラルネットワークにおいては，基本的には入力層から出力層へは重み行列に入力ベクトルを掛けることによって出力を得る．この膨大な数の重みパラメーターは初期値を乱数で与えて，出力が教師データに近ずくように，微調整することによって学習する．しかし統計学の回帰における過適合(overfitting)と同様のことがあ起こる．つまり，訓練データに関しては期待通りの出力をするが，世の中に出してみたらさっぱり，という現象である．これを過適合または過学習(overlearning)という． これを避けるために，経験的にノードをある確率（30~50%と言われている）でランダムに休ませる方法（ドロップアウト法）が良い結果が得られているため，現在広く使われている．２つの層の間において，それぞれの層のノードをある確率でドロップアウトしたとした時，各ノードの使用頻度は一様分布になるが，使われる重み（完全2部グラフの辺）には大きな偏りができ，必ずしも一様分布とはならない．そこでフィッシャーの実験計画的発想で，重みの使用頻度を一定にするような組み合せ的デザインを利用する事を思いついた．過学習の緩和に役立つドロップアウト計画に関して，過去に別目的で提案された利用できそうなデザインも合わせて研究を行った．この問題にframeproof code が利用できないかを検討した．
|
