離散的多重解析法における可解モデルの実現

1997 Fiscal Year Annual Research Report

• Project/Area Number: 09680362
• Research Category: Grant-in-Aid for Scientific Research (C)
• Research Institution: Tokyo Institute of Technology
• Principal Investigator: 渡邊 澄夫 東京工業大学, 精密工学研究所, 助教授 (80273118)
• Co-Investigator(Kenkyū-buntansha): 渡邊 澄夫 東京工業大学, 精密工学研究所, 助教授 (80273118)
• Keywords: 多重度解析 / ウェーブレット / ニューラルネットワーク / 汎関数測度 / 自由エネルギー / 可解モデル

Research Abstract

画像や音声などの多様な形を取りうる信号の情報圧縮や知能的なデータ解析を行うための手段として、高次元上の関数を適応的に表現できる基底系を見いだす方法(可解モデル)を与え、その有効性を数理的に明らかにし、計算機科学への応用を確立することが本研究の目的である。平成9年度は、次の2点に関する研究と開発を行った。(1)雑音を含む信号を表現する基底系のうち、予測誤差を最小とする組を見いだすことは非正則な統計モデルの設計と等価であって未だに解決されていない問題である。本研究では、局所自由エネルギーが予測誤差と対応することから、この量を規準とすることで信号の真の情報を獲得するための最良な設計法を与え、この設計法によって正則な統計モデルよりも予測に優れる信号推定が実現できることを明らかにした。(2)適応的な基底系を可解モデルによって最適化した場合、どの程度、固定された基底系よりも有用であるかについては、これまで明らかにされて来なかった。本研究では、信号全体の作る空間上に確率測度を導入し、信号の情報構造と適応的な基底系の近似精度との関係について数理的な解析を行うことにより、以下の事柄を明らかにした。もし信号がウイナ-型の自由場に従うなら、適応的な基底系選択は固定系とほぼ同程度の性能であるが、もし信号が強い相互作用を持つ場に従うなら(すなわち実世界の情報環境では)、適応的な基底系選択は固定系に対して遥かに有用であって信号が表現されている空間の次元に依存しない情報圧縮が可能である。以上の(1)(2)を要するに、本研究で提案している離散的多重解析における可解モデルは、統計的推定と関数近似とにおいて、従来の正則モデルよりも情報処理および知能系設計の基礎として有用であることが明らかになった。次に取り組むべき課題は、画像音声などの実世界の情報が従う確率測度を解明し、その測度に対して最適なモデル設計を行うことである。

Research Products

• [Publications] 渡邊澄夫: "A finite wavelet decomposition method" Electronics and Communication in Japan. 80巻7号. 1-10 (1997)
• [Publications] 渡邊澄夫: "局所自由エネルギーと予測誤差の関係について" 日本神経回路学会第8回全国大会講演論文集. 8巻. 180-181 (1997)
• [Publications] 渡邊澄夫: "Realizable approximation bounds for a solvable neural network" Approximation Theory. 9巻(掲載予定). (1998)
• [Publications] 渡邊澄夫: "階層型モデルにおける知識獲得と予測向上の非両立性" 統計数理研究所共同研究リポート「逆問題とその周辺」. 4巻(掲載予定). (1998)
• [Publications] 渡邊澄夫: "大自由度認知機構における隠れ系の統計的役割について" 物性研究. 69巻(掲載予定). (1998)
• [Publications] 渡邊澄夫: "関数空間上の測度による関数近似系の平均評価について" 電子情報通信学会技術報告. NC97巻(掲載予定). (1998)
• [Publications] 渡邊澄夫, 福永健次: "Neural network systems techniques and applicaitons" Academic Press, 300 (1997)