• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実績報告書

身体記号学の確立に向けた学術コミュニティ及びネットワークの構築

総括班

研究領域言語相互行為における身振りと手話を対象とした身体記号学
研究課題/領域番号 22H05012
研究機関国立情報学研究所

研究代表者

坊農 真弓  国立情報学研究所, 情報社会相関研究系, 准教授 (50418521)

研究分担者 高梨 克也  滋賀県立大学, 人間文化学部, 教授 (30423049)
中山 英樹  東京大学, 大学院情報理工学系研究科, 准教授 (00643305)
菊地 浩平  筑波技術大学, 産業技術学部, 助教 (60582898)
研究期間 (年度) 2022-05-20 – 2025-03-31
キーワード手話コーパス / 身振りコーパス / 深層学習 / 言語学 / 相互行為研究 / 自然言語処理 / 画像処理 / マルチモーダル処理
研究実績の概要

本総括班は,本領域研究における情報共有と議論の場を提供する位置付け・役割を担う.具体的な方法として,初年度から最終年度まで一貫して月に一度の公開オンライン会合を実施し,人文系・理工系それぞれにとっての問題意識を共有しつつ,自分とは異なる研究分野の手法や動向についての相互理解を深め,研究領域の推進を安定的に加速させる予定であった.初年度である2022年度は,公開イベントとして,7月22日に「学術変革領域研究(B)」新規採択研究領域 「身体記号学」のキックオフミーティングを実施し,76名の参加があった.また2月17日にオンライン研究会 「コーパスの構築・利用と個人情報保護」を実施し,124名の参加があった.計画班代表を集めた総括班ミーティングを7回実施し,領域内のメンバーと研究代表者が対談する「身体記号学ラジオ」を7名実施した.また,領域内勉強会を6回実施した.具体的な内容は,A02企画「消滅危機言語についての報告会と意見交換(話題提供者:平英司,A02)」,A02企画「(1) JSLコーパスの会話分析事例紹介,(2) JSLコーパスELAN分析方法、JSLコーパス内容説明」(話題提供者:坊農真弓,A02);岡田智裕,A02),A01・B01企画 「未来館コーパスの紹介(話題提供者:坂井田瑠衣,A01;牧野遼作,B01)」,A02企画「消滅危機言語の保存と研究:天草、長崎フィールドワークの報告と意見交換(話題提供者:平英司,A02)」,A02企画「手話研究のためのELAN講習会(講師:岡田智裕,A02)」,A02企画「消滅危機言語の保存と研究:天草諸島フィールドワークの報告と意見交換(話題提供者:平英司,A02)であった.これらの活動を通し,十分に各研究領域の問題を共有することができた.また,2023年6月実施予定だった第一回身体記号学国際ワークショップの準備も進めた.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

本領域は,身体班(A01),手話班(A02),工学班(A03),データ統合班(B01)の4つが融合することによって構成される.初年度は,総括班が『SCコーパス』『JSLコーパス』を全計画班のデータ提供することから共同研究のプラットフォームを構築することを試みた.2022年4月に個人情報保護法が大きく改正された影響で,その対応に左右される側面が大きかったが,無事にデータ提供を終え,研究領域全体で研究の活性化を試みた.人文社会科学系・理工系のデータ共有の方法は全く異なるが,総括班がその差異を把握し,異分野融合可能な研究環境を整えることに成功した.この理由により,本研究領域は当初の計画以上に進展していると評価している.
『SCコーパス』とは日本科学未来館の科学コミュニケータ(以下 SC)15名が来館者に展示説明を行う場面を収録したもので,対象展示エリアを一時的にパーティションで区切り,事前に収録の説明をして同意を得た来場者に限りエリアに入っていただき収録を開始している.1セッション(1組)あたりの所要時間は平均14分30秒程度,合計35 セッション(SC1名あたり2~3セッション,来館者計75名)で計 8 時間超の展示説明活動を収めている.各セッションを1台の手持ちビデオカメラ,5台の固定ビデオカメラとKinect,4本の指向性ガンマイクで収録している. 全体に対して発話内容の書き起こしと,一部に対して実験的に指さしや視線の向き等の身振り,相互行為のアノテーションを人手で付与している.『JSLコーパス』とは性別・年代のバランスを取った,日本各地のろう学校出身のろう者122名に参加いただき,日本手話対話の映像データを高性能ビデオカメラ3台と照明を用いて収録した,日本手話初の言語コーパスである.
初年度は,これらの二つのコーパスを有効活用し議論することができた.

今後の研究の推進方策

領域代表は,世界に例を見ない共創的文理融合研究の実現を構想している.「共創的」の意味するところは,人文系と理工系が相互の研究領域の問題意識や最新の研究動向を深く理解しながら研究領域を共に作り上げるといったものである.人文系と理工系の関わりがこれまでもあった日本国内の言語学・言語処理研究では,世界に例を見ない共創的文理融合研究の実現可能性が他の分野に比べて高い.そのための実践的な活動として,今後も月に一度程度の会合(対面・オンライン)を実施し,活発な研究領域の運営を目指す.
国際的な研究動向から見て,本研究領域はすでに社会的・技術的に価値があるデータセットが収録・整備されている点など,非常に具体性を持った文理融合研究を進める準備がある部分で優位性が高い.また一般的に研究者にはそれぞれに追求すべき研究課題があり,個別の研究分野で活動することが多い.しかしながら,日本の言語学者,言語哲学者,自然言語処理研究者は,「言語」という人間固有の能力に焦点を当て,双方の研究分野で共同研究を進めてきた長年の実績がある.本領域研究では,この既存の枠組みに深層学習を用いる画像処理研究者が加わることにより,国内外に例を見ない独創性・新規性を有する研究領域になると期待される.
今後の研究の方策としては,人間の言語活動における意味理解の認知メカニズムを重視した「マルチモーダル記号論の確立」と,次世代コーパス開発,自然言語処理および画像処理の深層学習を用いた「モダリティ横断の技術開発」を両輪とし,研究領域の推進に努める.
また領域代表は,柔軟性と包括力を備えた女性リーダーとして,伝統的言語研究と最先端の人工知能研究が有機的に結びつく文理融合研究の模範例を示すことを目指す.

  • 研究成果

    (43件)

すべて 2023 2022 その他

すべて 雑誌論文 (25件) (うち査読あり 19件、 オープンアクセス 19件) 学会発表 (12件) (うち国際学会 6件、 招待講演 5件) 図書 (5件) 備考 (1件)

  • [雑誌論文] 座談会:『認知科学』の過去・現在・未来を語る2023

    • 著者名/発表者名
      浅野 倫子・坊農 真弓・川合 伸幸・小橋 康章・森田 純哉・中村 國則・白水 始・創刊30周年記念特集編集編委員会・寺田 和憲・清河 幸子・服部 雅史・布山 美慕・平 知宏
    • 雑誌名

      認知科学

      巻: 30(1) ページ: 89-93

  • [雑誌論文] 「対話・インタラクション」研究の発展と潮流2023

    • 著者名/発表者名
      坊農 真弓・今井 倫太
    • 雑誌名

      認知科学

      巻: 30(1) ページ: 37-45

  • [雑誌論文] 第1部 研究編 「認知科学各分野の30年とこれからの展望」 編集にあたって2023

    • 著者名/発表者名
      創刊30周年記念特集研究編委員会・日髙 昇平・坊農 真弓・小林 春美,・織田 涼・高橋 康介
    • 雑誌名

      認知科学

      巻: 30(1) ページ: 8~11

  • [雑誌論文] Indirect Adversarial Losses via an Intermediate Distribution for Training GANs2023

    • 著者名/発表者名
      Yang Rui、Vo Duc Minh、Nakayama Hideki
    • 雑誌名

      Proceedings of the IEEE Winter Conference on Applications of Computer Vision (WACV)

      巻: - ページ: -

    • 査読あり / オープンアクセス
  • [雑誌論文] Sequence-initial pointing: Spotlighting what just happened as a cause of a new sequence2023

    • 著者名/発表者名
      Yasui Eiko
    • 雑誌名

      Discourse Studies

      巻: 25 ページ: 409~429

    • DOI

      10.1177/14614456221132464

    • 査読あり / オープンアクセス
  • [雑誌論文] サッカー指導場面での「身体的実演」に見られるコーチと選手の相互行為2023

    • 著者名/発表者名
      林 誠・安井 永子
    • 雑誌名

      小宮 友根・黒嶋 智美(編)実践の論理を描く:相互行為のなかの知識・身体・こころ 勁草書房

      巻: - ページ: 158~175

  • [雑誌論文] Japanese onomatopoeia in bodily demonstrations in a traditional dance instruction: A resource for synchronizing body movements2023

    • 著者名/発表者名
      Yasui Eiko
    • 雑誌名

      Journal of Pragmatics

      巻: 207 ページ: 45~61

    • DOI

      10.1016/j.pragma.2023.02.002

    • 査読あり / オープンアクセス
  • [雑誌論文] Unsupervised Domain Adaptation for Person Re-Identification Via Individual-Preserving and Environmental-Switching Cyclic Generation2023

    • 著者名/発表者名
      Verma Astha、Subramanyam A.V.、Wang Zheng、Satoh Shin'ichi、Shah Rajiv Ratn
    • 雑誌名

      IEEE Transactions on Multimedia

      巻: 25 ページ: 364~377

    • DOI

      10.1109/TMM.2021.3126404

    • 査読あり / オープンアクセス
  • [雑誌論文] Character-centric Story Visualization via Visual Planning and Token Alignment2022

    • 著者名/発表者名
      Chen Hong、Han Rujun、Wu Te-Lin、Nakayama Hideki、Peng Nanyun
    • 雑誌名

      Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP)

      巻: - ページ: 8259-8272

    • DOI

      10.18653/v1/2022.emnlp-main.565

    • 査読あり / オープンアクセス
  • [雑誌論文] Stochastically Flipping Labels of Discriminator’s Outputs for Training Generative Adversarial Networks2022

    • 著者名/発表者名
      Yang Rui、Vo Duc Minh、Nakayama Hideki
    • 雑誌名

      IEEE Access

      巻: 10 ページ: 103644~103654

    • DOI

      10.1109/ACCESS.2022.3210130

    • 査読あり / オープンアクセス
  • [雑誌論文] Improving Noised Gradient Penalty with Synchronized Activation Function for Generative Adversarial Networks2022

    • 著者名/発表者名
      YANG Rui、SHU Raphael、NAKAYAMA Hideki
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E105.D ページ: 1537~1545

    • DOI

      10.1587/transinf.2022EDP7019

    • 査読あり / オープンアクセス
  • [雑誌論文] 「英語教育」の指標的類像として見る「英語の授業」2022

    • 著者名/発表者名
      榎本 剛士
    • 雑誌名

      ポエティクスの新展開:プルリモーダルな実践の詩的解釈に向けて ひつじ書房

      巻: - ページ: 251~277

  • [雑誌論文] Towards Causality Inference for Very Important Person Localization2022

    • 著者名/発表者名
      Wang Xiao、Wang Zheng、Liu Wu、Xu Xin、Zhao Qijun、Satoh Shin'ichi
    • 雑誌名

      MM '22: Proceedings of the 30th ACM International Conference on Multimedia

      巻: - ページ: 6618-6626

    • DOI

      10.1145/3503161.3548014

    • 査読あり / オープンアクセス
  • [雑誌論文] Reference-Guided Texture and Structure Inference for Image Inpainting2022

    • 著者名/発表者名
      Liu Taorong、Liao Liang、Wang Zheng、Satoh Shin'Ichi
    • 雑誌名

      IEEE International Conference on Image Processing(ICIP 2022)

      巻: - ページ: -

    • DOI

      10.1109/ICIP46576.2022.9897592

    • 査読あり / オープンアクセス
  • [雑誌論文] Neural Global Shutter: Learn to Restore Video from a Rolling Shutter Camera with Global Reset Feature2022

    • 著者名/発表者名
      Wang Zhixiang、Ji Xiang、Huang Jia-Bin、Satoh Shin'ichi、Zhou Xiao、Zheng Yinqiang
    • 雑誌名

      CVPR202

      巻: - ページ: -

    • DOI

      10.1109/CVPR52688.2022.01727

    • 査読あり / オープンアクセス
  • [雑誌論文] Multiple Object Tracking from appearance by hierarchically clustering tracklets.2022

    • 著者名/発表者名
      Andreu Girbau, Ferran Marques, Shin'ichi Satoh
    • 雑誌名

      BMVC

      巻: - ページ: 362~362

    • 査読あり / オープンアクセス
  • [雑誌論文] Weakly-Supervised Learning With Complementary Heatmap for Retinal Disease Detection2022

    • 著者名/発表者名
      Meng Qier、Liao Liang、Satoh Shin'Ichi
    • 雑誌名

      IEEE Transactions on Medical Imaging

      巻: 41 ページ: 2067~2078

    • DOI

      10.1109/TMI.2022.3155154

    • 査読あり / オープンアクセス
  • [雑誌論文] Unsupervised Foggy Scene Understanding via Self Spatial-Temporal Label Diffusion2022

    • 著者名/発表者名
      Liao Liang、Chen Wenyi、Xiao Jing、Wang Zheng、Lin Chia-Wen、Satoh Shin'ichi
    • 雑誌名

      IEEE Transactions on Image Processing

      巻: 31 ページ: 3525~3540

    • DOI

      10.1109/TIP.2022.3172208

    • 査読あり / オープンアクセス
  • [雑誌論文] Vehicle Counting in Very Low-Resolution Aerial Images via Cross-Resolution Spatial Consistency and Intraresolution Time Continuity2022

    • 著者名/発表者名
      Zhao Quan、Xiao Jing、Wang Zheng、Ma Xujie、Wang Mi、Satoh Shin'ichi
    • 雑誌名

      IEEE Transactions on Geoscience and Remote Sensing

      巻: 60 ページ: 1~13

    • DOI

      10.1109/TGRS.2022.3174815

    • 査読あり / オープンアクセス
  • [雑誌論文] Capturing Small, Fast-Moving Objects: Frame Interpolation via Recurrent Motion Enhancement2022

    • 著者名/発表者名
      Hu Mengshun、Xiao Jing、Liao Liang、Wang Zheng、Lin Chia-Wen、Wang Mi、Satoh Shin'Ichi
    • 雑誌名

      IEEE Transactions on Circuits and Systems for Video Technology

      巻: 32 ページ: 3390~3406

    • DOI

      10.1109/TCSVT.2021.3110796

    • 査読あり / オープンアクセス
  • [雑誌論文] Discovering regression-detection bi-knowledge transfer for unsupervised cross-domain crowd counting2022

    • 著者名/発表者名
      Liu Yuting、Wang Zheng、Shi Miaojing、Satoh Shin’ichi、Zhao Qijun、Yang Hongyu
    • 雑誌名

      Neurocomputing

      巻: 494 ページ: 418~431

    • DOI

      10.1016/j.neucom.2022.04.107

    • 査読あり / オープンアクセス
  • [雑誌論文] On Assisting Diagnoses of Pareidolia by Emulating Patient Behavior2022

    • 著者名/発表者名
      Zhu Zhaohui、Kastner Marc A.、Satoh Shin’ichi
    • 雑誌名

      MultiMedia Modeling: 28th International Conference, MMM 2022

      巻: - ページ: 299~310

    • DOI

      10.1007/978-3-030-98358-1_24

    • 査読あり / オープンアクセス
  • [雑誌論文] Personalized Fashion Recommendation Using Pairwise Attention2022

    • 著者名/発表者名
      Trakulwaranont Donnaphat、Kastner Marc A.、Satoh Shin’ichi
    • 雑誌名

      MultiMedia Modeling: 28th International Conference, MMM 2022

      巻: - ページ: 218~229

    • DOI

      10.1007/978-3-030-98355-0_19

    • 査読あり / オープンアクセス
  • [雑誌論文] Sign language, what is it? : an ESCAP guide towards legal recognition of sign languages in Asia and the Pacific.2022

    • 著者名/発表者名
      Yutaka Osugi , Aiko Akiyama, Yuenwa,San.
    • 雑誌名

      United Nations ESCAP

      巻: - ページ: -

  • [雑誌論文] Historical relationships between numeral signs in Japanese Sign Language, South Korean Sign Language and Taiwan Sign Language2022

    • 著者名/発表者名
      Sagara Keiko
    • 雑誌名

      East Asian Sign Linguistics

      巻: - ページ: 7~36

    • DOI

      10.1515/9781501510243-002

    • 査読あり / オープンアクセス
  • [学会発表] オンラインクロスサイン:共有表現・共有言語がないろう者同士はいかにしてコミュニケーションするのか―2023

    • 著者名/発表者名
      坊農 真弓
    • 学会等名
      第47回社会言語科学会研究大会
    • 招待講演
  • [学会発表] ウィズコロナ・アフターコロナ時代のビデオ電話におけるクロスサイン現象の探究[特別講演]2023

    • 著者名/発表者名
      ロバート・アダム, 坊農 真弓
    • 学会等名
      第21回手話言語研究セミナー
    • 招待講演
  • [学会発表] Integrating Historical Sign Language Database Design and Historical Linguistics for Tracing Etymological and Morphological Changes.2023

    • 著者名/発表者名
      Ted Supalla, Yutaka Osugi
    • 学会等名
      Linguistic Society of America 97th Annual Meeting
    • 国際学会
  • [学会発表] 指さしと相互行為:会話における指さしの多様な働きと指示の達成 [基調講演]2022

    • 著者名/発表者名
      安井 永子
    • 学会等名
      48回日本手話学会大会
  • [学会発表] Boosting Image Retrieval by Diffusion2022

    • 著者名/発表者名
      Shin'ichi Satoh
    • 学会等名
      SoICT2022
    • 国際学会 / 招待講演
  • [学会発表] Variation within and between sign languages in Japan, Taiwan and South Korea: The impact of language contact.2022

    • 著者名/発表者名
      Keiko Sagara, Nick Palfreyman
    • 学会等名
      15th Biennial Desert Linguistics Society (HDLS15)
    • 国際学会
  • [学会発表] “Does it feel spacious?”: Negotiations between the visual and non-visual world.2022

    • 著者名/発表者名
      Yasusuke Minami, Nisisawa HiroYuki, Mitsuhiro Okada, Rui Sakaida
    • 学会等名
      7th Copenhagen Multimodality Day
    • 国際学会
  • [学会発表] Incorporating External Knowledge for Vision and Language Systems.2022

    • 著者名/発表者名
      Hideki Nakayama
    • 学会等名
      2nd Workshop on Trends and Advances in Machine Learning and Automated Reasoning for Intelligent Robots and Systems (IROS2022)
    • 国際学会
  • [学会発表] Diachronic change in Japanese Sign Language, Taiwan Sign Language and South Korean Sign Language: Focus on kinship terms.2022

    • 著者名/発表者名
      相良 啓子
    • 学会等名
      The 14th Theoretical Issues in Sign Language Research conference (TISLR14).
    • 国際学会
  • [学会発表] あなたは対話を楽しんでいますか?:対話における内面状態推定の課題と展望2022

    • 著者名/発表者名
      岡田 将吾
    • 学会等名
      人工知能学会 言語・音声理解と対話処理研究会(SLUD)第95回研究会
    • 招待講演
  • [学会発表] 手話通訳場面におけるアクセシビリティ実践の研究2022

    • 著者名/発表者名
      菊地 浩平
    • 学会等名
      日本認知科学会第39回大会
  • [学会発表] 機械学習によるメディア画像処理:大規模学習データセットに基づく機械学習手法の威力とその限界2022

    • 著者名/発表者名
      佐藤 真一
    • 学会等名
      第41回日本医用画像工学会大会
    • 招待講演
  • [図書] 障害理解のリフレクション2023

    • 著者名/発表者名
      佐藤 貴宣、栗田 季佳 (担当:分担執筆, 範囲:第6章 「同じ世界を知る」ことはいかにして可能か: 視覚障害者の歩行訓練から)
    • 総ページ数
      384
    • 出版者
      ちとせプレス
    • ISBN
      4908736308
  • [図書] 手話言語学のトピック:基礎から最前線へ2023

    • 著者名/発表者名
      岡田 智裕
    • 総ページ数
      292
    • 出版者
      くろしお出版
    • ISBN
      4874249280
  • [図書] ポエティクスの新展開 : プルリモーダルな実践の詩的解釈に向けて2022

    • 著者名/発表者名
      片岡, 邦好・武黒 麻紀子・榎本 剛士
    • 総ページ数
      312
    • 出版者
      ひつじ書房
    • ISBN
      4823411447
  • [図書] 認知科学講座3 心と社会 第4章 日常生活場面の相互行為分析2022

    • 著者名/発表者名
      高梨 克也・坂井田 瑠衣
    • 総ページ数
      272
    • 出版者
      東京大学出版会
    • ISBN
      4130152033
  • [図書] 深層学習からマルチモーダル情報処理へ2022

    • 著者名/発表者名
      中山 英樹・二反田 篤史・田村 晃裕,・井上 中順・牛久 祥孝
    • 総ページ数
      235
    • 出版者
      サイエンス社
    • ISBN
      478191554X
  • [備考] 言語相互行為における身振りと手話を対象とした身体記号学

    • URL

      https://research.nii.ac.jp/EmSemi/index.html

URL: 

公開日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi