Optimization by Piecewise Linearization with Algorithmic Differentiation

2021 Fiscal Year Research-status Report

• Project/Area Number: 19K11844
• Research Institution: Chuo University
• Principal Investigator: 久保田 光一 中央大学, 理工学部, 教授 (90178046)
• Project Period (FY): 2019-04-01 – 2024-03-31
• Keywords: 区分的微分可能関数 / アルゴリズム微分 / 最適化

Outline of Annual Research Achievements

3年目の2021年度は，昨年度に引き続き当初予定の絶対値演算の一般化としての自乗和平方演算を含むプログラムの処理系をC++で実装中である．実装方針も昨年度の方針を踏襲している．この処理系に関連して今年度新たに取り組んでいる機能は，多変数の min演算・max演算の導入の検討である．これは以下に述べる実例に基づく微分不可能点の処理方法の検討に由来する．すなわち，すでに min(a,b), max(a,b) などの演算を絶対値演算により書き換える方法はよく知られているが，3個以上の値の min や max を計算する際には計算方法が複数存在し，それらの間で最終的なアルゴリズム微分の結果や演算回数の相違の検討が必要になったからである．（例：4個 a, b, c, d の最小は,min(a,min(b,min(c,d))) や min( min(a,b),min(c,d)) などで計算できる．）
例として検討したものは地理的最適化に関連して，ある地域に複数の施設が配置され，それを利用する際の費用計算である．ここでは施設利用の費用（コスト）は利用者の位置と施設の距離の関数とし，施設ごとにその関数が異なる定められいるとして，２個以上の施設に対してそれぞれの施設利用の費用が一致するような利用者に関するアルゴリズム微分の計算を考えている．なお，この実験の準備として当初予定していたボロノイ図作成プログラムは計算量は最適ではないが試作済みである．
また，引き続き定数の記述の容易さなどこれまでの処理系をさらに機能向上させるべく改良中である．このような機能向上により，アルゴリズム微分を適用する前のプログラムに対する記述の修正量を削減することができるようになり，結果として，利用しやすいシステムとなることが期待できる．

Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

2021年度取り組んだ上記概要に記載した内容は，当初2020年度実施予定の範囲であったため，やや遅れていると判断する．試作処理系を用いて応用問題を単純化したモデルの数値実験に着手するにとどまっている．この原因としては，自乗和平方演算の微分不可能点での処理は形式的には可能だがそれが区分的線形関数にはならないという困難があることによる．つまり，区分的線形ではなく区分的には2次関数になるため，その表現方法を引き続き模索中である．

Strategy for Future Research Activity

予定では次の4つのテーマ，(i) 絶対値演算や最小値・最大値演算を含む関数の微分不可能点における微分係数を列挙し，自乗和平方関数の処理を可能とする処理系開発，(ii)2次元問題として地理情報処理における施設配置問題などにおいて現れる最小値・最大値演算を含む最適化計算についての応用計算，(iii)誤差を含む計算における絶対値演算の微分法の確立，(iv) 自乗和平方関数などを含む関数の高階微分，を設定し，毎年1テーマずつ取り組む予定であった．2022年度は4年目であり，2021年度までに(i),(ii),(iv)に関して本研究を開始したことを受けて，これらのベースとなる(i)の処理系のアルファ版に多変数のmin/max演算の導入を検討し，それを元に応用問題解法における区分的線形化による最適化を進めていく．また，今後も当初予定の通り(i)の試作は継続中であるが，2021年に着手した(ii)の数値実験を進めていく．なお，2022年度は2021年度に購入したPCを用いて並列計算による (ii)と(iii)の数値実験も実施する予定である．また，(iv)についてもその基礎的考察には着手しており，2022年度には当初の計画に従い実施予定である．

Causes of Carryover

covid-19 のため，当初計画で海外出張して参加予定であったアルゴリズム微分に関する国際ワークショップにはリモートで参加した．このため前年度に引き続き2021年度に予定していた海外出張をとりやめ，結果として想定よりも大きな金額が使用可能額として残るので，今後の数値実験に活用するための 64コア 128 スレッドのPCを購入した．次年度使用額は当初予定の2022年度の使用計画に沿って使用予定である．