2011 Fiscal Year Research-status Report
Project/Area Number |
23500280
|
Research Institution | Kyushu Institute of Technology |
Principal Investigator |
古川 徹生 九州工業大学, 生命体工学研究科(研究院), 教授 (50219101)
|
Project Period (FY) |
2011-04-28 – 2014-03-31
|
Keywords | ニューラルネットワーク / 機械学習 / 多様体 / テンソル / 自己組織化 / 自己言及 |
Research Abstract |
本研究の目的は,経験の集合から普遍性を抽出して高次の知識を自己組織化する,中核となる学習理論の確立である.その中核となるのが位相保存写像とその高階化である.平成23年度の研究計画では,位相保存写像の正準的な学習理論を構築し,それを元に高階化の学習理論を確立することであった.この計画に基づき,以下の研究を実施した.(1)位相保存写像の正準的学習理論の確立.まず位相保存写像の正準的な生成モデルを構築し,ベイズ的アプローチによる学習理論構築を行った.これにより以下の成果が得られた.(a) 正準的生成モデルに変分ベイズ法を適用し,普遍性の高い学習アルゴリズムの導出を行った.(b) さらに変分ベイズ法自体を見直し,より精度の高いアルゴリズムの導出も行った.(c) 以上の成果より,正準的生成モデルとアルゴリズムの関係が次第に明らかになってきた.単なるアルゴリズム開発にとどまらず,位相保存写像のアルゴリズム群を統一的に理解可能となる学習原理が見えてきた.(2)高階化位相保存写像を非線形テンソル分解という形でアルゴリズム化することができた.これは知的情報処理という観点にとどまらず,インターネット上の大規模データ解析などの基盤となるアルゴリズムが得られたことになる.(3)さらに翌年度の研究計画を前倒しして,自己言及に関する実験を進めた.人間同士のコミュニケーションモデルの代用としてプロ野球の対戦成績を用い,「野球の試合結果を通じた相互理解・自己理解」を自己組織的に得ることができた.これはソーシャルネットにおけるユーザー解析ツールとしても応用可能な新しいアルゴリズムができたと考えられる.
|
Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
本年度は,当初の予定を超えて3つの点で進展が見られた.(1)位相保存写像の正準的学習理論の確立において,広く使われている変分ベイズ法やEM法の限界が明らかになった.これらはあくまで近似解法に過ぎず,より精度の高い近似法を考慮することにより,位相保存写像のアルゴリズム群が実はひとつの大きな理論で統一的に説明できるという可能性が見えてきた.また従来の枠組みではうまく説明できなかった位相保存写像の諸問題についても解決できる糸口が得られたと思われる.(2)位相保存写像の高階化という観点では,非線形テンソル分解型のアルゴリズムを確立できた点が非常に大きな成果である.これはインターネット上の大規模データ解析をはじめ,オンラインショップにおける商品推薦システム,脳波などの時空間的データ解析など応用可能な分野は非常に多岐にわたる.次世代型のアルゴリズムへの突破口が確立できたと考えている.(3)自己言及・自己認識に関しては,翌年度の研究計画を前倒し的に実施,一定の成果を収めることができた.以上に加え,当初の研究計画も予定通り進行しており,計画以上の進展が得られた.
|
Strategy for Future Research Activity |
当初の計画以上に研究が進展したことにより,その先の課題がより明確に見えてきた.こうした課題は当初の計画時点では見えなかったものである.これらの課題に対する取り組みが今後の研究発展の中に織り込まれる.(1)位相保存写像の正準的学習理論確立においては,変分ベイズ法やEM法の限界が見えてきたこと,そして統一的な理解を得るにはその先まで考えなければならないことがわかった.これは自己組織化マップ SOM のアルゴリズムの背景を知るにはさらにその先 まで考える必要があることを意味する.この部分だけでもひとつの研究課題となる問題であるが,本研究にとっても不可分であるため,計画全体の遂行が可能な範囲で織り込んで実施する.(2)位相保存写像の高階化を非線形テンソル分解の形で理解することができた.そのため,従来の線形テンソル分解法との関連性を示す必要性が急速に浮上してきた.これは実応用化の立場で見ても重要な課題である.この点も研究計画に織り込んで推進する.
|
Expenditure Plans for the Next FY Research Funding |
平成23年度は主として2つの研究活動に専念した.第一は位相保存写像の正準的学習理論の確立であり,第二は非線形テンソル分解としての高階化位相保存写像の理論確立である.どちらも典型的な「紙と鉛筆とコンピュータ」のみで行う研究であり,物品費の利用が少なかった.またどちらの研究も基礎的な段階からスタートしたため,旅費を使用することがなかった.そのため次年度に使用する研究費が発生した.平成24年度には23年度の成果をふまえ,より大規模な実用データへの適用や対外的な発表を積極的に行う予定である.そのための物品費(計算機)や旅費(国際会議)として使用する計画である.
|
Research Products
(15 results)