2019 Fiscal Year Research-status Report
Optimization by Piecewise Linearization with Algorithmic Differentiation
Project/Area Number |
19K11844
|
Research Institution | Chuo University |
Principal Investigator |
久保田 光一 中央大学, 理工学部, 教授 (90178046)
|
Project Period (FY) |
2019-04-01 – 2024-03-31
|
Keywords | 区分的微分可能関数 / アルゴリズム微分 / 最適化 |
Outline of Annual Research Achievements |
2019年度は初年度であり,当初予定の自乗和平方演算を処理する処理系をC++で設計中である.アルゴリズム微分の実装方法には大きく演算子多重定義を用いるものとプリコンパイラ・プリプロセッサを作成するものがあるが,ここでは最適化のための手法開発が目的であるので,生成されたプログラムの効率を高めることには困難があるが,処理系としての機能は十分であり実装が比較的容易な演算子多重定義を用いた実装方法を選択した.今年度は処理系の設計方針を固めた. 絶対値演算を用いた区分的微分可能な非線形関数に関するアルゴリズム微分の手法の調査として区分的微分可能な関数の高階微分としての一般化テイラー展開が海外グループにより提唱されている.本研究の当初予定では最後のテーマに相当するが,上記処理系の実装方針にも関係するため,それらの手法について調査した.これは,区分的微分可能な関数を固定した点からの差に関する多項式の形での展開である.通常と異なるのは多項式の係数が区分的微分可能関数になっている所である.理論的な枠組みは解明しつつ,具体的な応用計算を開始するための準備を行った. 区分的微分可能関数からアルゴリズム微分により区分的線形関数を導き出し,それを応用するという本研究は,微分不可能点の処理や,微分不可能点付近の近似方法に深く関連する.したがって,従来から広く知られている凸解析はこの分野の基礎技術である.申請時の研究方法に記載したように,初年度である2019年度にまず今後の研究に役立つ文献の充実を図るため,主として凸解析の書籍を購入した.
|
Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
当初予定では,処理系の試作を行い実際の応用問題の数値実験に着手するところまで進む予定であったがそこまでに至らなかった.この原因としては,自乗和平方演算の微分不可能点での処理は形式的には可能だがそれが区分的線形関数にはならないという困難があることによる.つまり,区分的線形ではなく区分的には2次関数になるため,その表現方法を模索中である. 数値実験については当初格子点上に並んだ点を母点とするボロノイ図に関する微分実験を予定していたが,いわゆるディープラーニングに用いられるReLU関数の微分に着目して,誤差関数の最小化に関するプログラムの試作を優先させたためである.
|
Strategy for Future Research Activity |
予定では次の4つのテーマ,(i) 絶対値演算や最小値・最大値演算を含む関数の微分不可能点における微分係数を列挙し,自乗和平方関数の処理を可能とする処理系開発,(ii)2次元問題として地理情報処理における施設配置問題などにおいて現れる最小値・最大値演算を含む最適化計算についての応用計算,(iii)誤差を含む計算における絶対値演算の微分法の確立,(iv) 自乗和平方関数を含む関数の高階微分,を設定し,毎年1テーマずつ取り組む予定であった. 2019年度は初年度であり,結果としてこれらのテーマのうち,(i),(iv)に関して本研究を開始した.次年度以降も当初予定の通り(i)の進展を図り,(ii)の実施に取り組む.2020年度以降では,数値実験用のPC等の整備を行い,(ii)の数値実験を実施することを予定する.また,2021年度以降実施予定の(iii),(iv)についてもすべて関連あるテーマであるので,状況に応じて適宜取り組む予定である.
|
Causes of Carryover |
2020年春にドイツに海外出張を予定していたが,COVID-19のため出張を取りやめた.このため想定よりも大きな額が次年度使用額として残った.
|