PAC学習の論理

2006 Fiscal Year Annual Research Report

• Project/Area Number: 16650028
• Research Institution: Kyoto University
• Principal Investigator: 林 晋 京都大学, 大学院文学研究科, 教授 (40156443)
• Keywords: PAC学習 / 論理

Research Abstract

PAC学習を論理学の意味論の枠組みで解釈することに成功した。本研究は、当初、研究の方向は研究代表者が定義したLCM realizability interpretationにおける学習アルゴリズムを確率的かつ計算複雑度論的にすることにより、PAC学習の論理を確立するということであったが、このアプローチは失敗し、また、それに代わるもとして考えた、冠頭標準形に限ったLCMゲーム意味論に元ずく方法も失敗した。しかし、平成18年度の他の科学研究費補助金による研究(分担者)のために開発した構成的含意(constructive implication)の多人数プレヤーgame site semanticsによりPAC学習を解釈することが可能であることを発見した。これにより研究は一気に進んだ。このゲーム意味論は、従来のゲーム意味論と異なり、プレイヤーが複数存在し、あるプレイヤーは、ゲームBをプレイする最中にチューターと呼ばれる、対抗者とは異なる(異なっても良い)第3者と補助的なゲームAを行い、そのゲームAの知識を利用して、ゲームBのゲームを行ってよいとする。この際にゲームAへの参照は、有限回に限らなくてはいけない。これはAを千日手に持ち込むことにより、本来のゲームBでの敗北を忌避することを許さないためである。つまり、プレーヤーは有限回だけチューターと呼ばれる「オラクル」を参照できることになる。これをPAC学習の「オラクル」に対応させるのである。今までのアプローチで失敗したのは、このオラクルと、学習後のプログラムの確率的正当性を測るために使われるクエリーを自然に分離できなかったからである。しかし、このgame site semanticsでは、この二つが自然に分離されている。この二つのプレイヤーが、そのストラテジーをPAC学習の前提として与えられる確率分布にしたがって計算すると考えれば、PAC学習は、「有限個のサンプルを与える排中律がただしければ、与えられたII02述語は正しい」という形の命題として記述可能である、また、その逆も正しい。この枠組はPAC学習に限らず、クエリが存在する学習やinteractiveな計算フレームワークすべてに適用可能であると思われる。