Discovering New Knowledge by Combining Symbolic Logic and Deep Learning
Project/Area Number |
22K21302
|
Research Category |
Grant-in-Aid for Research Activity Start-up
|
Allocation Type | Multi-year Fund |
Review Section |
1002:Human informatics, applied informatics and related fields
|
Research Institution | Tokyo Institute of Technology |
Principal Investigator |
Phua Yin・Jun 東京工業大学, 情報理工学院, 助教 (20963747)
|
Project Period (FY) |
2022-08-31 – 2024-03-31
|
Project Status |
Completed (Fiscal Year 2023)
|
Budget Amount *help |
¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000)
Fiscal Year 2023: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2022: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
|
Keywords | 深層学習 / ニューロシンボリック / 記号推論 / 知識発見 / ニューラルシンボリック / 深層機械学習 |
Outline of Research at the Start |
本研究では新たな知識を発見できる人工知能(AI)を目指している.近年,タンパク質の構造を予測できるAIが発表されたが,その本質となる構造に関わる科学のメカニズムは解明されていない.これはそのAIに使われた技術がブラックボックスであることから起因している.この研究では,AIが直接「答え」を学習するのではなく,その「答え」に導くルールや説明を学習させる.それにより,AIが学習できたことを直接人間でも理解し取り込むことができる.
|
Outline of Annual Research Achievements |
本研究は人工知能(AI)を用いて新たな知識を発見する手法の開発を目的としている.近年,タンパク質の構造を正確に予測できるAIが発表され,応用が普及している.未知のタンパク質においてもその性能の良さが示されており,すでに新たな発見や研究の支えとなっている.しかし,既知の構造成分を用いた予測での性能が優れている反面,未知の構造成分や相互作用において性能が落ちることが知られている.これより予測性能を向上させるには,タンパク質構造の根本的なメカニズムの解明が必要だと考える.つまり,AIはすでに発見されたものに対する汎化性能はあるが,(1)その本質となるメカニズムを解明する性能がない. また,最近では生成AIを用いた対話型AIが発表され,自然言語でやりとりが可能となり,多大な知識や優れた問題解決能力を示している.金融や医療,公的機関でも対話型AIの応用が求められている.しかし,膨大なテキストデータから学習を行なった生成AIは,(2)その知識の限界や隠れバイアスが明白でないため,特に説明責任が重要な場面での応用が難しい.さらに,対話型AIは確率に基づき文字を出力しているため,(3)事実無根なことを堂々と正解であるかのように回答する「幻覚」が問題となっている. これら(1),(2)および(3)は現在のAI技術の基盤である深層学習モデルがブラックボックスであることから起因している.本研究では,そのブラックボックスを理解可能にすることを目的としている.今年度の成果として,(A)記号推論の知識を用いたグラフニューラルネットワークのノイズに対する頑健性の向上,(B)ニューロシンボリック手法の参考になる生成AIを用いた増分学習の手法の開発である.(A)では,ノードノイズだけでなくエッジノイズに対応させる手法を提案し,(B)では生成AIを用いて破滅的忘却への対策となる手法を提案した.
|
Report
(2 results)
Research Products
(4 results)