2020 Fiscal Year Annual Research Report
クラウド側とエッジ側機器の動的な協調に基づく自律分散共進化AI基盤技術の研究開発
| Project/Area Number |
19H04099
|
|---|
| Research Institution | Keio University |
|---|
Principal Investigator |
中澤 仁 慶應義塾大学, 環境情報学部(藤沢), 教授 (80365486)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
須山 敬之 日本電信電話株式会社NTTコミュニケーション科学基礎研究所, その他部局等, 主幹研究員 (80396134)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | エッジコンピューティング / 機械学習 / 動的更新 / 継続学習 |
|---|
| Outline of Annual Research Achievements |
深層学習の物体検出アルゴリズムを改良し、物体周辺に関する文脈を画像とともに入力して、物体とそれを取り巻く状況の双方を検出可能にするために以下の研究開発を実施した。まず研究開発項目（以下、項目とする）1では状況適応的物体検出技術として、時事刻々と変化する実世界の様相を継続的に学習し、かつ過去に学習した結果の忘却を抑制し、また予測精度を高く維持するために、償却推論にもとづいた継続学習技術を構築した。同技術では、タスク固有の重みの算出部と入力の特徴量抽出の二つのニューラルネットを構築し、それらを組み合わせる。これによって、タスクごとにネットワークの重みやrehearsal学習に加えるためのデータを保存することなく、少量の記憶点および正則化のための一つ前のタスクのパラメータ情報のみ記憶することで破滅的忘却を回避する。同研究の成果を人工知能学会第34回全国大会(2020)にて発表し、学生奨励賞を受賞した。次に項目2では、環境の変化やユーザのニーズに基づき新たなイベントなどの収集を行うことを可能とするエッジノード上の機械学習モデル動的更新技術及びリアルタイム知的センシング処理を最適化する技術を確立するため、エッジノード上の機械学習モデルの動的更新技術について検討を行った。オートエンコーダをベースとした複数種類の異常検出技術について検討を進め、そのうち、センサノード内で異常検出を行う手法については2021年６月に開催される情報処理学会マルチメディア、分散、協調とモバイルDICOMO2021シンポジウムにおいて発表を行う予定である。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
項目1エッジ側でのリアルタイム知的センシング技術については、項目1-2状況適応的物体検出技術として、NeuralProcessを基にしたあらたな継続学習手法CALMを実現した。CALMではタスク固有の重みの算出部と入力の特徴量抽出の二つのニューラルネットを構築し、それらを組み合わせる。これによって、タスクごとにネットワークの重みやrehearsal学習に加えるためのデータを保存することなく、少量の記憶点および正則化のための一つ前のタスクのパラメータ情報のみ記憶することで破滅的忘却を回避する。実験ではSplit-MNISTのタスク増分学習に取り組み、提案手法の有効性を検証した。項目2クラウド側との協調によるエッジ側の最適化技術の研究に関しては、以下の実績が得られた。リアルタイム知的センシング処理を最適化する技術を確立するため、エッジノード上の機械学習モデルの動的更新技術について検討を行った。環境に設定されたセンサノード内でセンサデータの処理を行い、結果のみをクラウド側に送信する場合、新たなセンシングのニーズが発生した場合はセンサデータ上のモデルを更新する必要がある。また結果のみをクラウド側に送信するため、センサノードの異常を検知することはできない。そこでオートエンコーダを用いた異常検出技術について検討を行った。オートエンコーダはエンコード部とデコード部に分割することが可能である。異常検知を行う場合、エンコード部とデコード部を両方ともセンサノード内に設置しセンサノード内のみで検出を行う方法と、エンコード部のみをセンサノード内に設置し、デコード部をクラウド側に設置する方法の２通りが考えられる。ここでは両者について検討を進めている。
|
| Strategy for Future Research Activity |
項目1エッジ側でのリアルタイム知的センシング技術については、実世界の変化（Concept Drift）を俊敏・頑強に検知するため、複数の運用モデルから変化の検知を行い、得られた検知結果情報を統合的に管理し、他の運用モデルへ伝達させる手法を検討する。Concept Driftの柔軟な検知のため、1つの環境・データにおいて複数のモデルでアンサンブルを行う研究は過去に存在するが、複数の環境が存在する場合に機器や運用のコストが増大する問題がある.本研究では運用コストを小さくするため、1つの環境につき変化検知の運用モデルは1台とし、一方で検知結果を統合的に管理することで、最初に変化を検知したモデルに合わせ他の運用モデルも更新ができるようにしてリカバリータイムを削減する。さらに複数のモデルの検知結果を扱うことで、変化に含まれるノイズに対する頑強な制御が期待できる。項目2クラウド側との協調によるエッジ側の最適化技術の研究に関しては、エッジノード上の機械学習モデル動的更新技術について検討を行った。エッジノード上のモデル更新の必要性を検出するため、現在、オートエンコーダをベースとした複数種類の異常検出技術について検討を進めている。そのうち、センサノード内で異常検出を行う手法については2021年６月に開催されるDICOMOにおいて発表を行う予定である。またクラウド側にデコード部を設置しセンサノードの異常検知を行う手法についても今度発表を行う予定である。環境内に設置された複数のセンサノード動作を半自動的に変更する技術については、センサノードをグループ化し、必要に応じて複数のセンサノードを同時に変更する技術について開発を行った。今後はその技術のブラッシュアップを行う予定である。またクラウドとエッジの連携基盤技術についても今後開発を進めていく。
|
