2020 Fiscal Year Research-status Report
単純再帰型ニューラルネットワーク向け光コンピューティングシステム基盤の研究
| Project/Area Number |
20K19771
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
川上 哲志 九州大学, システム情報科学研究院, 助教 (20845523)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 再帰型光回路 / 再帰型ニューラルネットワーク / 光活性化関数 |
|---|
| Outline of Annual Research Achievements |
本研究は，記憶機能を有する単純再帰型ニューラルネットワーク向け光演算回路を基本とすした高性能・低電力な光計算機システムを確立するを目的としている．
2020年度は，その中核となる再帰経路を有する光行列-ベクトル演算回路の設計と動作検証を行った．光再帰経路の導入に際し，光を情報媒体として循環させるためニューラルネットワークにおける全ての演算を光回路で実現する必要がある．つまり，従来回路とは異なり(1)光回路による活性化関数の実現が必要となる．さらに，(2)再帰経路による光の減衰，ならびに，(3)再帰経路と順方向経路の経路差による演算誤差の問題が明らかとなった．そこで，コヒーレントレシーバーと高性能OEOを組み合わせた光ReLU関数を考案することで(1),(2)の課題に対応し，再帰経路内に挿入した移相器により(3)の問題を補償する光再帰回路を設計した．これらを光行列-ベクトル演算回路と統合することで単純再帰型ニューラルネットワーク向け光演算回路を実現した．当該回路を光回路シミュレーター上で実装し，任意の入力値に対し演算が問題なく実行可能であることを確認した．また，学習済みの再帰型ニューラルネットワークアプリケーションである8bitのシリアル加算器も動作可能であることを確認した．本アプリケーションは現時刻の推論のために過去の情報が必要となるものであり，当該光回路が再帰経路の中で（弱）メモリー機能を有することを立証した結果といえる．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究においては，核となる単純再帰型ニューラルネットワーク向け光演算回路の確立が最重要である．当初予想していなかった経路差に起因する演算誤差の問題も発生したが，補正機能を導入することで演算回路としては正しく機能していることが検証できた．また，実アプリケーションの動作も確認していることからる単純再帰型ニューラルネットワーク向けの光演算回路の最低要件を満たすことが確認できた．ただし，現段階におけるシミュレーションはノイズのない理想環境を想定した機能検証にとどまっているため，精度劣化を考慮した学習アルゴリズムや補正機能の検討が重要となる．そこで，ショットノイズ・熱雑音による影響を取り入れた実アプリケーションの精度評価については現在実験を進めているところである．さらに，演算回路のみならずAD/DA変換やメモリーインタフェースを含めた性能・電力評価も必要となる．そのための光電融合回路シミュレーション環境の構築も着手している．以上から，本研究は概ね順調に進展していると考えられる．
|
| Strategy for Future Research Activity |
再帰型の光演算回路を基本とし，(1)ノイズに対する精度評価，(2)光回路向けの処理分配法の確立，(3)受光器・ADC/DAC・メモリを含めた性能・電力評価の3つの項目に対し以下の方に進める．
項目(1)については，ショットノイズ・熱雑音による影響を取り入れた実アプリケーションの精度評価を実施する．再帰回数により精度が劣化してゆくことが想定されるため，補正・復元手法も検討する．
項目(2)については，メモリ容量・バンド幅・レイテンシを考慮したシミュレータによって光回路がどの程度の使用率で動作可能か分析する．とくに，大量の演算を同時に行える光回路では使用率の低下が予想されるため，その緩和としてデータアロケーションについても検討する．
項目(3)については，周辺回路やメモリも含めた光計算機システムとしての性能・電力評価環境の整備を進める．
|
