Combating Fake News: Early Detection, Potential Intent and Model Interpretability
| Project/Area Number |
22K12271
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 62020:Web informatics and service informatics-related
|
|---|
| Research Institution | Iwate University |
|---|
Principal Investigator |
張 建偉 岩手大学, 理工学部, 准教授 (20635924)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中島 伸介 京都産業大学, 情報理工学部, 教授 (90399535)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | フェイクニュース / 皮肉検出 / 言語モデル / 早期検出 / 説明可能性 / 事前学習言語モデル / コンテキスト / 早期発見 / 潜在的意図 / 解釈可能性 |
|---|
| Outline of Research at the Start |
近年デジタル化の波と共に，ソーシャルメディア上のフェイクニュースが深刻な問題となっている．フェイクニュースは政治・経済等多くの分野に悪影響を与えるとされており，機械学習を用いたフェイクニュースの検出は活発に研究されているが，その性能はまだ十分とは言えない．そこで本研究では，フェイクニュースの①早期検出・②潜在的意図の識別・③深層学習モデルの解釈可能性に主眼を置いた，実用的なフェイクニュース検出システムの実現を目指す．
|
| Outline of Annual Research Achievements |
本研究では，ソーシャルメディアに焦点を当て，フェイクニュースの早期検出，潜在的意図の識別及び深層学習モデルの解釈可能性向上を目的とする．具体的には，(1)情報の解析優先度判別によるフェイクニュースの早期検出，(2)内容及びソーシャルコンテキストの分析による潜在的意図の識別，(3)判別根拠の抽出及び可視化による解釈可能な深層学習モデルの構築に関する技術開発に取り組んでいる．
(1)の課題について，ソーシャルコンテクストの量はニュースの拡散に伴い増加するため，ソーシャルコンテクストを用いた精度向上とフェイクニュースの早期検出はトレードオフの関係にある．本研究では，検出精度の向上と早期検出の両立を図るため，ソーシャルコンテクストを利用した，アンサンブル学習によるフェイクニュース早期検出手法を提案した．実験において，提案手法がフェイクニュースの早期検出に貢献することが確認された．
(2)の課題について，表面上の文の意味とは反対の感情を表現する皮肉の検出に着目した．コモンセンスを利用した皮肉検出手法が提案されているが，既存研究の皮肉検出モデルでは特定の１種類のコモンセンスを利用している．本研究では，様々なコモンセンスの種類を用いて皮肉検出モデルの性能を比較し，適切なコモンセンスの種類の選別を試みた．実験結果より，適切なコモンセンスの種類の選択によって，既存手法よりも性能が向上することが示された．
(3)の課題について，自然言語による説明を生成するfaithfulなフェイクニュース検出モデルを提案した．短文による主張に焦点を当て，入力から説明文を生成しそれを用いて分類問題を解く．ユーザにとって，生成される自然言語による説明は数値によるものより理解しやすい．実験では入力に対するモデルのsensitivityにより提案手法のfaithfulnessを検討した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
三つの課題のすべてについて研究会での発表ができ，成果が出つつある．
|
| Strategy for Future Research Activity |
(1)の課題については，手法と実験を整理して，国際会議への投稿を行いたい．
(2)の課題については，手法と実験を拡張して，検出の効果を検証していきたい．
(3)の課題については，生成された説明文の質，専門度や評価に関する面はまだ不十分のため，解決に取り組みたい．
|
Report
(2 results)
Research Products
(18 results)
