| 研究概要 |
本研究では多層パーセプトロンなどに代表される非線形写像モデルの性質をそれに含まれるパラメータ数との関連で明らかにし,非線形な枠組みにおけるデータ解折の基本的方法論を構築することを目標とした。そのために写像自体の微分幾何学的特微量を一般のニューラルネットに定義し,この特微量を用いて多変量解折での重回帰分析の基礎となる関数近似問題ならひに判別分析問題への応用を試みた。またこの調査の過程で,写像に関する微分幾何の観点のみでなく他の種々の幾何学的観点を取り入れて拡張した結果,写像特微密度なる概念を導出するに至った。
以下ではこの過程を整理した成果を大系的に述べる。
1.写像特微密度の概念の導入とその性質 非線形写像において,その出力空間に張られる多様体の幾何学的性質を表す示性数を考え,これを写像に含まれる母数空間全体で算出したものを密度分布化すれば写像モデルに関する"容量"を定義できる。また2個以上の写像モデルどうしで,その容量の比較,類似性の考察などが可能となる。
2.関数近似における写像特微密度の性質 上記の示性数として大域的曲率を用いる。すなわち,一入力一出力のニューラルネットでの出力多様体全体にわたる絶対曲率の積分値を採用した場合,中間層素子数の増加に伴い「写像の容量」がどのように増大するかが評価できる。またべき多項式関数における次数の増加に伴う同様の評価も可能であることから,べき多項式とニューラルネットの"写像容量"を比較することも可能であろう。
3.非線形判別における写像特微密度 特微空間において各々が正規分布に従う複数のクラスタが存在し,各々にW_1またはW_2のいずれかのラベルが付された条件で、ラベルW_1のデータとW_2のデータのみによりそれらの真の境界を解折する問題の複雑さを,クラスタの総数との関連において評価するために上記の大域的曲率による写像特微密度を用いた。これによりクラスタ数の増加に伴う境界の複雑さの変化を中間層nの増加に伴うニューラルネットの同様な変化との関連で評価することが可能となった。これはクラスタ数が予測できる場合の分類問題等で,モデル推定に応用し得る。
|
