2021 Fiscal Year Research-status Report
AI program that explains statistical data in an evil way by exploiting thinking traits of humans
| Project/Area Number |
21K19795
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
鈴木 英之進 九州大学, システム情報科学研究院, 教授 (10251638)
|
|---|
| Project Period (FY) |
2021-07-09 – 2023-03-31
|
| Keywords | テキスト分類 / 単語埋め込み / 思考特性の悪用 / AIと倫理 |
|---|
| Outline of Annual Research Achievements |
統計データに基づく悪い解説を判定する問題とAIシステムを考案・実装し，システムの有効性を実験によって検証した．
本課題では悪い解説を，「思考特性につけこまれて人間が思わず信じてしまうような，統計学的有意性がない確率的パターン」と定義した．具体的な条件として，データが妥当に見えること，解説が重要であること，解説を信じてしまう人が一定数存在すること，データによって解説が妥当でないことを証明できること，ロスリングらの10本能の少なくとも1個を利用していること，の5個を設定した．そのうえで7種類の統計データを対象とし，悪い解説の類型を18種類提案した．各類型に対し，代表例を１，2個考案し，さらに鍵となる用語の代替候補を複数個列挙し，変種を生成できるようにした．
18類型の各々について，与えられた解説が上記で定義する「悪い解説」であるかそうでないかを判定する3種類のアルゴリズムを考案・実装した．これらの判定アルゴリズムは，鍵となる用語が悪い解説であることに貢献するかを，単語埋め込み法に基づく新規手法に基づいて推定する．
上記の代表例と変種について，3種類の判定アルゴリズムの有効性を，長寿健康用生活習慣，国際経済常識，大規模感染症騒動の例を用いて実験によって検証した．得られた正答率と判定過程を分析し，一定の有効性を確認するとともに，次年度に向けた課題を整理した．以上の実績を論文にまとめ，AAAIが主催するAIES 2022国際会議（5th AAAI/ACM Conference on AI, Ethics, and Society）に投稿し，full paperとして採択された．この論文は，カメラレディ版を作成しDOIが割り振られるのは令和4年度であるため，来年度の研究業績に載せる．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
交付内定通知が3か月間遅れたにもかかわらず，統計データに基づく悪い解説を判定する問題とAIシステムを考案・実装し，システムの有効性を実験によって検証したため．実績は論文にまとめ，AAAIが主催するAIES 2022国際会議（5th AAAI/ACM Conference on AI, Ethics, and Society）に投稿し，full paperとして採択された．この論文は，カメラレディ版を作成しDOIが割り振られるのは令和4年度であるため，来年度の研究業績に載せる．
|
| Strategy for Future Research Activity |
これまでの研究実績を改良しつつ採択された論文を修正・発表し，悪い解説の変換・生成にも取り組む．論文修正と研究進捗に伴い，問題設定，18類型や3種判定法などのシステム，代表例と変種を用いる実験などを改良するのは自然なことである．約1年前の交付内定時には悪い解説の判定・変換・生成の3課題を目標に掲げ，これまでに最初の判定問題を実験評価まで終えた．今後は残る変換・生成問題にも取り組む．
|
| Causes of Carryover |
交付内定が遅れて7月になったことと，研究課題がきわめて挑戦的であることより，論文投稿が3月にずれこみ，旅費の使用を来年度に繰り越した．さらにコロナ禍などの理由により予備実験が長引き，備品購入も来年度に繰り越した．
2022年度の1年間で，交付予定額を当初の予定通りに使用する．
|
