開発した機械学習による力学系の次元削減の方法を、セルオートマトン系に続いてスピン系の非平衡緩和ダイナミクスへ適用した。時間発展はメトロポリス法による状態更新を採用した。この時間発展は確率的なものであるが、縮約変数に示量性を課すことによって、その時間発展は熱力学極限(サイズ無限大)において決定論的なものとなる。3状態Potts模型を採用することにより、3種類の対称性を持つランダムな初期状態を用意することができる。それぞれについて次元縮約を行うと縮約変数の次元がある閾値より上で、熱力学極限で厳密に閉じた力学系が得られることを示唆する結果を得た。この閾次元は初期状態の対称性が高いほど小さくなることがわかった。また、この閾次元より上では、縮約変数は閾値の次元の多様体上に貼りついており、次元を拡張することに意味がないこともわかった。 これまで学習するデータの中で、縮約対象の力学系には可変パラメータはないものとしてきたが、力学系のパラメータが分布を持つデータの場合を扱えるように拡張を行った。先のPotts模型に適用したところ、単一パラメータの場合とほとんど変わらない結果が得られた。これは縮約変数は頑健で、各パラメータに過剰に適応する必要のないことを意味している。 さらに、縮約変数を構成するフィッティングパラメータの人為的削減(ドロップアウト)を行うことによって得られた縮約変数の意味が、人間にとってわかりやすくなる枠組みも実装した。同じくPotts模型に適用したところ、この系は大胆な削減を行っても学習の損失関数にほとんど影響が与えないケースであることが判明した。
|