• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2011 年度 実施状況報告書

経験から高次知識を自己組織化する学習理論

研究課題

研究課題/領域番号 23500280
研究機関九州工業大学

研究代表者

古川 徹生  九州工業大学, 生命体工学研究科(研究院), 教授 (50219101)

研究期間 (年度) 2011-04-28 – 2014-03-31
キーワードニューラルネットワーク / 機械学習 / 多様体 / テンソル / 自己組織化 / 自己言及
研究概要

本研究の目的は,経験の集合から普遍性を抽出して高次の知識を自己組織化する,中核となる学習理論の確立である.その中核となるのが位相保存写像とその高階化である.平成23年度の研究計画では,位相保存写像の正準的な学習理論を構築し,それを元に高階化の学習理論を確立することであった.この計画に基づき,以下の研究を実施した.(1)位相保存写像の正準的学習理論の確立.まず位相保存写像の正準的な生成モデルを構築し,ベイズ的アプローチによる学習理論構築を行った.これにより以下の成果が得られた.(a) 正準的生成モデルに変分ベイズ法を適用し,普遍性の高い学習アルゴリズムの導出を行った.(b) さらに変分ベイズ法自体を見直し,より精度の高いアルゴリズムの導出も行った.(c) 以上の成果より,正準的生成モデルとアルゴリズムの関係が次第に明らかになってきた.単なるアルゴリズム開発にとどまらず,位相保存写像のアルゴリズム群を統一的に理解可能となる学習原理が見えてきた.(2)高階化位相保存写像を非線形テンソル分解という形でアルゴリズム化することができた.これは知的情報処理という観点にとどまらず,インターネット上の大規模データ解析などの基盤となるアルゴリズムが得られたことになる.(3)さらに翌年度の研究計画を前倒しして,自己言及に関する実験を進めた.人間同士のコミュニケーションモデルの代用としてプロ野球の対戦成績を用い,「野球の試合結果を通じた相互理解・自己理解」を自己組織的に得ることができた.これはソーシャルネットにおけるユーザー解析ツールとしても応用可能な新しいアルゴリズムができたと考えられる.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

本年度は,当初の予定を超えて3つの点で進展が見られた.(1)位相保存写像の正準的学習理論の確立において,広く使われている変分ベイズ法やEM法の限界が明らかになった.これらはあくまで近似解法に過ぎず,より精度の高い近似法を考慮することにより,位相保存写像のアルゴリズム群が実はひとつの大きな理論で統一的に説明できるという可能性が見えてきた.また従来の枠組みではうまく説明できなかった位相保存写像の諸問題についても解決できる糸口が得られたと思われる.(2)位相保存写像の高階化という観点では,非線形テンソル分解型のアルゴリズムを確立できた点が非常に大きな成果である.これはインターネット上の大規模データ解析をはじめ,オンラインショップにおける商品推薦システム,脳波などの時空間的データ解析など応用可能な分野は非常に多岐にわたる.次世代型のアルゴリズムへの突破口が確立できたと考えている.(3)自己言及・自己認識に関しては,翌年度の研究計画を前倒し的に実施,一定の成果を収めることができた.以上に加え,当初の研究計画も予定通り進行しており,計画以上の進展が得られた.

今後の研究の推進方策

当初の計画以上に研究が進展したことにより,その先の課題がより明確に見えてきた.こうした課題は当初の計画時点では見えなかったものである.これらの課題に対する取り組みが今後の研究発展の中に織り込まれる.(1)位相保存写像の正準的学習理論確立においては,変分ベイズ法やEM法の限界が見えてきたこと,そして統一的な理解を得るにはその先まで考えなければならないことがわかった.これは自己組織化マップ SOM のアルゴリズムの背景を知るにはさらにその先 まで考える必要があることを意味する.この部分だけでもひとつの研究課題となる問題であるが,本研究にとっても不可分であるため,計画全体の遂行が可能な範囲で織り込んで実施する.(2)位相保存写像の高階化を非線形テンソル分解の形で理解することができた.そのため,従来の線形テンソル分解法との関連性を示す必要性が急速に浮上してきた.これは実応用化の立場で見ても重要な課題である.この点も研究計画に織り込んで推進する.

次年度の研究費の使用計画

平成23年度は主として2つの研究活動に専念した.第一は位相保存写像の正準的学習理論の確立であり,第二は非線形テンソル分解としての高階化位相保存写像の理論確立である.どちらも典型的な「紙と鉛筆とコンピュータ」のみで行う研究であり,物品費の利用が少なかった.またどちらの研究も基礎的な段階からスタートしたため,旅費を使用することがなかった.そのため次年度に使用する研究費が発生した.平成24年度には23年度の成果をふまえ,より大規模な実用データへの適用や対外的な発表を積極的に行う予定である.そのための物品費(計算機)や旅費(国際会議)として使用する計画である.

  • 研究成果

    (15件)

すべて 2012 2011

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (13件) 産業財産権 (1件)

  • [雑誌論文] 高階化SOMによる形状表現マップ2012

    • 著者名/発表者名
      薬師寺 翔,古川 徹生
    • 雑誌名

      知能と情報(日本知能情報ファジィ学会誌)

      巻: vol.24 ページ: in press

    • 査読あり
  • [学会発表] 変分近似を見直すとSOMとGTMは一元的に理解できる2012

    • 著者名/発表者名
      松下 聡史,古川 徹生
    • 学会等名
      ニューロコンピューティング研究会
    • 発表場所
      玉川大学(東京都)
    • 年月日
      2012年3月15日
  • [学会発表] 潜在変数分布で評価する高階自己組織化マップ ~ ヘテロなデータ集合体の可視化ツール ~2012

    • 著者名/発表者名
      石橋 英朗,古川 徹生
    • 学会等名
      ニューロコンピューティング研究会
    • 発表場所
      玉川大学(東京都)
    • 年月日
      2012年3月14日
  • [学会発表] テンソル分解型自己組織化マップの開発 ~ 非線形テンソル分解の実現 ~2012

    • 著者名/発表者名
      岩崎 亘,和田 沙織,古川 徹生
    • 学会等名
      ニューロコンピューティング研究会
    • 発表場所
      公立はこだて未来大学(北海道)
    • 年月日
      2012年1月27日
  • [学会発表] Bayesian optimization makes GTM resemble to SOM2011

    • 著者名/発表者名
      Satoshi Matsushita and Tetsuo Furukawa
    • 学会等名
      日本神経回路学会 第21回全国大会(JNNS2011)
    • 発表場所
      沖縄科学技術大学(沖縄県)
    • 年月日
      2011年12月17日
  • [学会発表] Som Canonica: Establishing A Standard Algorithm of Self-Organizing Maps2011

    • 著者名/発表者名
      Masahide Nakano, Takashi Ohkubo and Tetsuo Furukawa
    • 学会等名
      日本神経回路学会 第21回全国大会(JNNS2011)
    • 発表場所
      沖縄科学技術大学(沖縄県)
    • 年月日
      2011年12月17日
  • [学会発表] What is Required for a Multi-Dynamical System Learning Task?2011

    • 著者名/発表者名
      Takashi Ohkubo and Tetsuo Furukawa
    • 学会等名
      日本神経回路学会 第21回全国大会(JNNS2011)
    • 発表場所
      沖縄科学技術大学(沖縄県)
    • 年月日
      2011年12月16日
  • [学会発表] トポロジー分類のための高階処理の開発2011

    • 著者名/発表者名
      東 祐介,古川 徹生
    • 学会等名
      第13回日本知能情報ファジィ学会九州支部学術講演会
    • 発表場所
      佐賀大本庄キャンパス(佐賀県)
    • 年月日
      2011年12月10日
  • [学会発表] 混合ガウスモデルと自己組織化マップによる階層情報処理2011

    • 著者名/発表者名
      一ノ瀬 裕介,古川 徹生
    • 学会等名
      第13回日本知能情報ファジィ学会九州支部学術講演会
    • 発表場所
      佐賀大本庄キャンパス(佐賀県)
    • 年月日
      2011年12月10日
  • [学会発表] 教師ありSOMによるメトリクス学習2011

    • 著者名/発表者名
      渡邉 隆之,古川 徹生
    • 学会等名
      第13回日本知能情報ファジィ学会九州支部学術講演会
    • 発表場所
      佐賀大本庄キャンパス(佐賀県)
    • 年月日
      2011年12月10日
  • [学会発表] Shape Space Estimation by SOM22011

    • 著者名/発表者名
      Sho Yakushiji, Tetsuo Furukawa
    • 学会等名
      2011 International Conference on Neural Information Processing (ICONIP 2011)
    • 発表場所
      上海 MajestyPlaza(上海)
    • 年月日
      2011年11月1日
  • [学会発表] 確率的生成モデルによる位相保存写像のアルゴリズム導出2011

    • 著者名/発表者名
      松下 聡史,中野 将秀,古川 徹生
    • 学会等名
      IBIS2011. 第14回情報論的学習理論ワークショップ
    • 発表場所
      奈良女子大(奈良県)
    • 年月日
      2011年11月10日
  • [学会発表] 位相保存写像を用いた関係データの非線形テンソル分解2011

    • 著者名/発表者名
      岩崎 亘,和田 沙織,古川 徹生
    • 学会等名
      IBIS2011. 第14回情報論的学習理論ワークショップ
    • 発表場所
      奈良女子大(奈良県)
    • 年月日
      2011年11月10日
  • [学会発表] 位相保存写像の標準理論確立の試み2011

    • 著者名/発表者名
      古川 徹生
    • 学会等名
      ニューロコンピューティング研究会
    • 発表場所
      九大大橋キャンパス(福岡県)
    • 年月日
      2011年10月20日
  • [産業財産権] マップ生成装置、その方法およびプログラム2011

    • 発明者名
      古川 徹生
    • 権利者名
      古川 徹生
    • 産業財産権番号
      特許: 特願2011-186140
    • 出願年月日
      2011年08月29日

URL: 

公開日: 2013-07-10  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi