2018 Fiscal Year Research-status Report

Development of Client-Server-Based Framework for Privacy-Preserving Media Recognition

Research Project

Project/Area Number	17K00235
Research Institution	Osaka University
Principal Investigator	中村和晃大阪大学, 工学研究科, 助教 (10584047)
Project Period (FY)	2017-04-01 – 2021-03-31
Keywords	メディア認識 / パターン認識 / 情報セキュリティ / クライアント・サーバ / 認識器クローン / プライバシー保護
Outline of Annual Research Achievements	クライアントから送信されたメディアデータに対しサーバが認識処理を試み，その結果を返送する，というクライアント・サーバ型のメディア認識には次の二つの問題がある．(A)認識結果がクライアントのプライバシーに直結する場合，それがサーバ側に流出する．(B)サーバから返送される認識結果と元のメディアデータの組を多数収集することにより，クライアントがサーバの認識器を模倣し悪用できる（本研究ではこれを「認識器クローン」と呼ぶ）． (A)に対して，研究代表者は，クライアントがメディアデータを一部改変して送信することによりサーバが認識結果の候補を絞り込むことしかできないようにする一方，クライアントはその候補の中から最終的な認識結果を自分自身で定める，という枠組みを提案し，その有効性を実験的に評価してきた．平成30年度は，この成果を米国電気電子学会の論文誌にて公開するとともに，プレスリリースも行い，広く情報発信を行った． (B)に対しては，サーバが認識結果を本来のラベルとは異なるものに故意に改変し返送する（これを「故意誤り」と呼ぶ）ことを発案し，その実行確率を適切に制御することにより認識器クローンの構築を防止する手法を検討してきた．平成30年度は，この手法の高度化を目指し，その存在を前提とした攻撃法（認識器クローン構築法）を検討する方向に一旦舵を切った．具体的には，同一のメディアデータに対し微細な改変処理を様々に適用し，それらをサーバに送信して各々の認識結果を照合することにより，上記防止手法の存在下でも攻撃が可能であること，及び，更なる防止手法の必要性を明らかにした．また，別の方向性として，構築済みの認識器クローンを検知する手法を開発した．クローン認識器は元の認識器と比べその出力が過度に一致するという特性を明らかにし，この特性を利用してクローン認識器の検知が可能であることを実験的に示した．
Current Status of Research Progress	Current Status of Research Progress 1: Research has progressed more than it was originally planned. Reason 問題(A)に対しては，当初の計画通り，その解決手法を最初の2年間で十分に確立でき，論文やプレスリリースの形で一般公開することができた．一方，問題(B)については，当初は認識器クローンの構築防止のみを検討課題としており，2～3年目の2年間で基礎検討を終える計画であった．これに対し，2年目にあたる平成30年度終了時点で，認識器クローン構築防止法のみならず，構築済みの認識器クローンを検知する手法についても，そのプロトタイプとも呼べるものが完成しており，基礎理論という意味では当初の計画よりも広く検討を進められている．以上の二点を踏まえ，少なくともここまでは，当初の計画以上に研究が進展していると自己評価している．
Strategy for Future Research Activity	問題(A)については，ここまでの2年間で十分な研究成果が得られており，その一般公開も既に終えていることから，今後は問題(B)への解決策の検討に注力したい．ここで，当初は，基礎理論の検討の終えた段階でプロトタイプサービスを設計する予定でいたが，上述の認識器クローンは，予想していたよりも学術的に奥深く，理論的に検討すべき課題が多数残されていることがこれまでの研究で分かってきた．このような課題の検討は，プロトタイプサービスの設計よりも学術的価値が高いと考える．そこで今後は，問題(B)すなわち認識器クローンに対する理論的検討を更に広範な見地から進めたい．まず，認識器クローンの構築防止法について，平成30年度に検討した攻撃法を想定し，これに対抗し得る防御法を検討する．攻撃側と防御側の最大の差異は，攻撃側にとって攻撃対象の認識器がブラックボックスであるのに対し，防御側にとってはホワイトボックスであり，内部の中間出力を利用できるという点である．この特性を利用した防御法の確立を目指す．次に，構築済みの認識器クローンの検知法に関して，これまでは比較的単純な構造の認識モデルのみを対象としてきたが，近年この分野の主力となっている深層学習を利用した複雑な認識モデルでも同様の検知法が適用できるのか否か，適用できないとすれば他にどのような検知法が考えられるか（深層学習を用いた認識器とそのクローンにはどのような特性があるか），などを検討し，これまでに提案した手法の更なる高度化を試みる．
Causes of Carryover	次年度使用額が発生したものの，その金額はわずか16,839円であり，ほぼ計画通りに予算を執行したものと考えている．この残額で更なる物品または消耗品を購入することは予算消化に近く，妥当とは言い難いため次年度に繰り越すこととした．少額のため，これが今年度の使用計画に影響を与えることはない．バックアップ用メディアの購入費を僅かながら拡充するなどし，より万全なデータ保存体制を整える．