# JCommonsenseMorality:常識道徳の理解度評価用日本語データセット

竹下昌志 1 ジェプカ・ラファウ ${ }^{2}$ 荒木健治 ${ }^{2}$
1 北海道大学大学院情報科学院 2 北海道大学大学院情報科学研究院
${ }^{1}$ takeshita.masashi.68@gmail.com ${ }^{2}\{$ rzpeka, araki\}@ist. hokudai .ac.jp

## 概要

近年、人工知能（AI）技術が人間社会で広く用いられ、それに伴い $\mathrm{AI}$ 技術の倫理が問われるようになった。既存研究では $\mathrm{AI}$ 自体に倫理を組み込むためのデータセットが構築されているが、その多くは英語での常識道徳を反映したものである。しかし、文化相対性を考えれば英語圈以外の常識道徳を反映したデータセットも必要である。そこで本研究では、日本語の常識道徳データセット JCommonsenseMoralityを構築する。これを用いて事前学習済みモデルに対し評価実験を行ったところ、他の類似したベンチマークと比較してより困難な常識理解を必要とすることが示唆された。また心理学の道徳基盤理論に基づいた分析も行った。

## 1 はじめに

$\mathrm{AI}$ 技術が発展するに連孔、 $\mathrm{AI}$ の人間社会への参入が增えており、それに伴って AI の倫理1)が問われている。例えば、自然言語処理（NLP）に打いて AI に内在する差別的な社会的バイアス (ジェンダー、人種など）が指摘されて以降 [1]、バイアス研究は急激に増加している [2]。このようなバイアスは社会

差別的なバイアスが内在している AI の使用は道徳的に問題であるため $[5]$ 、差別的なバイアスを緩和することは重要な課題である。

このような問題に対する解決策の1つとして、AI 自体纶倫理を組み込むことが考兄られる。実際、口ボット倫理学ではロボット纪倫理をどのように組み込むかが検討されている [6]。また 2.1 節で述べるように、倫理を $\mathrm{AI}$ に学習させるためのデータセットが構築されており、そのようなデータセットに基づいて学習されたモデルも構築されている [7]。

表 1 JCommonsenseMorality の具体例。道徳的に間違っている場合は「1」、許容できる場合は「0」となっている。

しかし、既存研究のほとんどは英語での研究であり、 $\mathrm{AI}$ に倫理を組み込むための日本語のデータセットは、我々が知る限り存在しない。そこで本研究では、AI A 常識道徳を組み込み、またそれを評価するために、19,963 文からなる日本語の常識道徳データセット JCommonsenseMoralityを構築する。 データセットの例を表 1 亿示す。本研究で構築したデータセットと評価実験に使用したコードは以下の脚注の URL 先で公開予定である2)。

本稿の構成は次のとおりである。2節で、既存の英語の常識道德データセットを調査し、また常識道徳と「正しい」道徳の関係について簡単に触れる。 3 節でデータセットの構築方法について述べる。 4 節で評価実験の設定とその結果について述べる。5 節で本データセットと他の類似したデータセットを比較し、また本データセットの内容を分析する。6 節で本研究の内容をまとめる。

## 2 関連研究

## 2.1 NLP における常識道徳データセット の構築

Hendrycks ら [8] は、言語モデルが規範倫理的な概念を理解しているかどうかを評価するために、 ETHICS データセットを構築、公開した。ETHICS には、正義、義務論、徳、功利主義、常識道徳の 5 つのデータセットが含まれており、すべて分類タス

2) https://github.com/Language-Media-Lab/ commonsense-moral-ja

クとして設計されている。本研究と関連する範囲では、常識道徳データセットでの分類タスクは、文または文章で表されている行為が道徳的に間違っているか許容できるかのラベルが付けられているもので構成される。3 節で述べるように、本研究で構築するデータセットの構築方法は Hendrycks ら [8] の常識道徳データセットの構築方法をほぼ踏襲している。

Choi らの研究グループは、常識道徳の様々な側面に焦点を当てつつ複数のデータセットを構築、公開している $[9,10,11,12]$ 。また同研究グループは、これらのデータセットを単純な分類タスクに編集、整理したものとして COMMONSENSE NORM BANK を構築し、これを用いて常識道徳的判断を出力する分類モデルである Delphi を構築した [7]。

以上のように、英語圈を中心とする地域での常識道徳を反映する英語のデータセットが多数構築されているが、日本語圏での常識道徳を反映するデータセットは我々の知る限り存在しない。例えば、日本語での大規模な常識 QA データセットとして JGLUE [13] に含まれている JCommonsenseQA があるが、これは常識道徳に特化したものではない。 しかし、もし常識道徳が文化相対的であるならば (e.g. [14])、英語圏での常識道徳を反映するデータセットだけでは AI 倫理研究を進める上で不十分である。例えば上述の Delphi に「日本で頬にキスをして挨拶する (greeting by kissing on the cheek in Japan)」 と入力すると、「It's normal」と出力される3)が、我々の考えでは、これは日本では典型的には不適切な行為である。したがって、常識道徳の文化相対性を確保するために、英語圏以外での常識道徳を反映したデータセットを構築することは重要である。

## 2.2 常識道徳の倫理学的位置づけ

本研究は文化普遍的な「正しい」道徳（もしそれがあるとしで()）を AIに学習させることを意図していないが、常識道徳と「正しい」道徳の関係についてここで議論しておくのは有益だろう。

3) https://delphi.allenai.org/?a1=greeting+by+kissing+ on+the+cheek+in+Japan（2022 年 1 月 1 日確認）

4） メタ倫理学において、道徳的実在論と非実在論の間で議論がある。道徳的地実在論は 3 つのテーゼの連言で表される：(1) 道徳的判断は真理值をもち、（2）道徳的判断の少なくとも一部は真であり、(3) その真理は認識主体の選好などから独立した道徳的事実や道徳的性質のおかげである (cf. $[15,16]$ )。非実在論はこの 3 つのテーゼのいずれかを否定する立場として定式化される。常識道徳ないし直観的な道徳的判断は、倫理学理論を評価する上で重要な役割を果たす。倫理学の標準的な教科書では、倫理学理論が導き出した結論が直観に反する場合、それが理論に対して一つの批判になりうるとされている [17]。また規範倫理学で標準的な方法論である反照的均衡を目指す方法 [18] は、私達の直観的判断と理論的判断を相互に修正しつつ、それらの整合性を取るという方法である。直観や反照的均衡法という考えを倫理学方法論として採用することに対しては批判もある [19]。しかし、 たとえ後で修正されるとしても、はじめから私達のすべての直観的判断を無視することは妥当ではないだろう。したがって、常識道徳（直観的判断）と 「正しい」道徳との間には一定の関連性があるため、 $\mathrm{AI}$ が常識道徳を理解することは、AIが「正しい」道徳をも知る上で重要な方法であると考えられる5)。

## 3 データセット構築方法

本研究での常識道徳データセットの構築手順は Hendrycks ら [8] の常識道徳データセットの構築手順におおよそしたがっている。以下が大まかな手順である。なお、クラウドソーシングは (rowdWorks ${ }^{6}$ で行った。

1. クラウドワーカーらに、道徳的に明らかに間違っている文と許容できる文のペア文を作成させる

2. 別のクラウドワーカーらに、それらの文を見せ、道徳的に間違っているか許容できるかを評価させる

まず、クラウドワーカーらに、主節に動作主を表す主語を含まないような行為を表す文 (以下、行為文）を作成させる ${ }^{7)}$ 。行為文は 2 文 1 組で作成され、一方は道徳的に明らかに間違っており、他方は明らかに許容できるようにする。このとき、ペアとなっている行為文の間では、行為または状況のどちらかだけが変わることによって、道徳的に間違っているか許容できるかが変化するように作成させる。これによってペア行為文は互いに類似したものになり、微妙な文脈的変化によって道徳的評価が変化するた

5） $\mathrm{AI}$ 倫理における反照的均衡法の利点については Jiang ら [7]を見よ。

6) https://crowdworks.jp/

7）Hendrycks ら [8] の作成方法では、文の中に一人称を表す単語（“I”, “my”など）を含ませているが、日本語で「私」をわざわざ入れるのは不自然である。そのため本研究では動作主が誰であるかを特定させないためにこのような手順とする。

め、タスクとして難しくなると考えられる。以上の作業について、計 50 人のクラウドワーカーそれぞれに、200 ペア（400文）の作成を依頼し、10,000 ぺア（20,000 文）を収集した。付録 A. 1 にペア文の作成の際に用いたガイドラインを示す。

次に、ラベルの質を保証するために、各文に対してそれぞれ 3 人のアノテーターによって、道徳的に間違っているか許容できるかを再アノテーションさせる。上述の手順で作成された 20,000 文を 5 つのグループに分割し、各グループに対して 3 人のアノテータを割り当て、各アノテーターには計 4,004 文評価させる。そのうち 4 文は我々が用意したテストデータであり、それらに対して間違って評価した場合には再度アノテーションさせる8)。用意したテストデータを付録 A. 2 に示す。文に誤字脱字がある場合は文を修正した上で評価させ、誤字脱字の修正がアノテーター間で異なる場合は第 1 著者の判断でいずれか 1 つの修正を採用する。また各文に対する最終的なラベルは多数決によって決める。評価方法について、ここではぺア文を分離し全 4,004 文をランダムに並び替えたものをアノテーションさせる。その理由は、ペアとして評価する場合と 1 文ずつ評価する場合とで評価が変わると予想されるためである。本研究では 1 文での道徳的評価を想定しているため、ペアではなく 1 文ずつ評価させる。

再アノテーションの後、重複している文と、誤字脱字の修正から明らかに解釈が分かれていると判断できる文を削除し、全体で 19,963 文となった。最終的なデータセットの統計情報を表 2 に示す。アノテーター間の一致度について、Fleiss の kappa 値は平均 0.74 であり、これは「かなり一致」していることを示す。また検証用とテスト用セットには 3 人のアノテーター間で評価が一致したものだけを用いる。

## 4 評価実験

実験設定本評価実験で使用するモデルは日本

メータについて、学習率には $\left.\{1 \times 10^{-5}, 3 \times 10^{-5}\right.\}$ を

8）結果的には全てのアノテーターが正しく入力していたため、再アノテーションは行わなかった。

9) base:https://huggingface.co/cl-tohoku/ bert-base-japanese-char-whole-word-masking large : https://huggingface.co/cl-tohoku/ bert-large-japanese

10) https://huggingface.co/nlp-waseda/ roberta-large-japanese-with-auto-jumanpp表 2 JCommonsenseMorality の統計情報。括弧内の数値は道徳的に間違っていると評価された文の数である。

表 3 実験結果。各数值は 5 つのランダムシードでの結果の平均である。最も良い結果を太文字で示す。

使用し、バッチサイズには $\{8,16\}$ を使用する。ただし、 RoBERTa $_{\text {large }}$ のみ学習が不安定だったため、学習率に $\left.\{1 \times 10^{-6}, 2 \times 10^{-6}, 5 \times 10^{-6}\right.\}$ も用いた。工ポック数は最大 4 とする。検証用セットで最適なハイパーパラメータを探索し、テスト用セットで評価する。テスト用セットでのスコアは $0 \sim 4$ の 5 つのランダムシードでのスコアの平均を報告する。

実験結果実験結果を表 3 に示す。最もスコアが高いのは RoBERTa arge で、正解率は 0.8558 となった。

## 5 考察

## 5.1 他のデータセットとの比較

く、正解率は 0.8558 であった。一方で、同様の方法で構築された Hendrycs ら [8] の常識道徳データセットでの英語の RoBERTalarge の正解率は 0.904 である。 モデルが異なるので単純に比較することはできないが、これは本データセットが少なくとも同等かより難しいタスクになっていることを示唆する。また、 JCommonsenseQA [13] での RoBERTa large の正解率はテスト用セットで 0.907 であるため ${ }^{12)}$ 、本研究で構築した JCommonsenseMorality はより困難な常識理解を必要とするタスクであると考えられる。

## 5.2 データセットの分析

本研究で構築した JCommonsenseMorality の内容について、ここでは日本語道徳基盤辞書 $[23]^{13)}$ を用いた分析を行う。日本語道徳基盤辞書とは、心理学理論である道徳基盤理論を元にして構築された辞書である。道徳基盤理論とは、心理学者の Haidt らに

11) https://www. fabiocrameri.ch/colourmaps/

12) https://github.com/yahoojapan/JGLUE

13) https://github.com/soramame0518/j-mfd

(a) 道徳的に間違っている文での集計

(b) 道徳的に許容できる文での集計

図 1 道徳基盤理論に基づいた辞書を用いた分析結果。各図の横軸はそのカテゴリに属する用語がデータセット中に出現した頻度を表す。グラフに用いた色には色覚多様性に配慮した Scientific colour maps を用いた [22] ${ }^{11)}$ 。

表 4 日本語道徳基盤辞書の具体例

よって提案された理論であり、私達の道徳観およびその基盤を 5 つのカテゴリ（危害、公正、内集団、権威、純潔）に分類、説明するものである [24]。本研究で用いる日本語道徳基盤辞書 [23] は、英語ですでに構築されている道徳基盤辞書 [24]を半自動的に翻訳、修正したものである。計 714 単語が収録されており、それぞれに対して、5つのカテゴリの善悪と「道徳一般」を表すカテゴリの計 11 カテゴリのいずれかが割り当てられている。例を表 4 に示す。

日本語道徳基盤辞書を用いて、本研究で構築した JCommonsenseMorality を分析した結果を図 1 に示す。図の横軸はそのカテゴリに属する用語がデータセット中に出現した頻度を表す。道徳的に間違っている文での集計（図 1a）と道徳的に許容できる文での集計（図 1b）を比較すると、道徳的に間違っている文の方では「悪」カテゴリに属する用語の頻度が増え、許容できる文の方では「善」カテゴリに属する頻度が増えていることがわかった。このことは本研究で構築したデータセットの内容の傾向が、道徳的に間違っている文と許容できる文で適切に別れていることを示唆する。一方で、特に「内集団」 と「権威」のカテゴリについては、道徳的に間違っている文であっても「善」に属する用語の頻度が高
かった。理由は 2 つあると考えられる。第一に、日本語道徳基盤辞書の語彙数がカテゴリ間で偏っている。「内集団」で「善」の用語は 98 個、「悪」の用語は 43 個であり、また「権威」で「善」の用語は 129 個、「悪」の用語は 53 個となっている。そのため頻度の偏りが生じたと考えられる。しかし、そのカテゴリの語彙数で頻度を割った比率であっても、道徳的に間違っている文において「内集団」の「善」と 「悪」の比率の差は大きいままであるため、これだけでは十分に説明されない。そこで第二に、「善」の用語で高頻度の単語は道徳的に間違っている文脈でも使用しやすいことが考えられる。データセットの道徳的に間違っている文において、「内集団-善」の用語で特に使用頻度が高かったのは「家族」（61 回） と「同僚」（60 回）であった。こうした用語は道徳的に間違っている文脈でも容易に使用できるため高頻度となったと考えられる。

## 6 おわりに

本研究では $\mathrm{AI}$ に常識道徳を組み込み、また評価するためのデータセット JCommonsenseMorality を構築した。JCommonsenseMorality は行為を表す文に対して道徳的に間違っているか許容できるかのいずれかのラベルが割り当てられているデータセットである。このデータセットを用いて実験を行ったところ、 RoBERTalarge での正解率は約 0.86 となり、他のタスクと比較して困難なタスクであることが示唆された。また道徳基盤理論に基づいた分析から、本データセットが適切な内容になっていることが示唆された。今後は、JCommonsenseMorality と英語圏での常識道徳データセットの比較や、より複雑な道徳理解を必要とするデータセットの構築を行う。

## 謝辞

本研究は JSPS 科研費 $22 \mathrm{~J} 21160$ の助成を受けたものである。

## 参考文献

[1] Tolga Bolukbasi, Kai-Wei Chang, James Zou, Venkatesh Saligrama, and Adam Kalai. Man is to computer programmer as woman is to homemaker? debiasing word embeddings. In Proceedings of the 30th International Conference on Neural Information Processing Systems, NIPS' 16, p. 4356-4364. Curran Associates Inc., 2016.

[2] Karolina Stanczak and Isabelle Augenstein. A survey on gender bias in natural language processing. arXiv preprint arXiv:2112.14168, 2021.

[3] Su Lin Blodgett, Solon Barocas, Hal Daumé III, and Hanna Wallach. Language (technology) is power: A critical survey of "bias" in NLP. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5454-5476. Association for Computational Linguistics, 2020.

[4] Emily M. Bender, Timnit Gebru, Angelina McMillanMajor, and Shmargaret Shmitchell. On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, FAccT '21, p. 610-623. Association for Computing Machinery, 2021.

[5] 前田春香. アルゴリズムの判断はいつ差別になるのか: Compas 事例を参照して. 応用倫理, Vol. 12, pp. 3-21, 2021.

[6] ウェンデルウォラック, コリンアレン. ロボットに倫理を教える：モラル・マシーン［岡本慎平, 久木田水生訳］. 名古屋大学出版会, 2019.

[7] Liwei Jiang, Jena D. Hwang, Chandra Bhagavatula, Ronan Le Bras, Jenny Liang, Jesse Dodge, Keisuke Sakaguchi, Maxwell Forbes, Jon Borchardt, Saadia Gabriel, Yulia Tsvetkov, Oren Etzioni, Maarten Sap, Regina Rini, and Yejin Choi. Can machines learn morality? the delphi experiment. arXiv preprint arXiv:2110.07574, 2021.

[8] Dan Hendrycks, Collin Burns, Steven Basart, Andrew Critch, Jerry Li, Dawn Song, and Jacob Steinhardt. Aligning AI with shared human values. In International Conference on Learning Representations, 2021.

[9] Marten Sap, Saadia Gabriel, Lianhui Qin, Dan Jurafsky, Noah A. Smith, and Yejin Choi. Social bias frames: Reasoning about social and power implications of language. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5477-5490. Association for Computational Linguistics, 2020.

[10] Maxwell Forbes, Jena D. Hwang, Vered Shwartz, Maarten Sap, and Yejin Choi. Social chemistry 101: Learning to reason about social and moral norms. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 653-670. Association for Computational Linguistics, 2020.

[11] Denis Emelin, Ronan Le Bras, Jena D. Hwang, Maxwell
Forbes, and Yejin Choi. Moral stories: Situated reasoning about norms, intents, actions, and their consequences. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing, pp. 698718. Association for Computational Linguistics, 2021.

[12] Nicholas Lourie, Ronan Le Bras, and Yejin Choi. Scruples: A corpus of community ethical judgments on 32,000 reallife anecdotes. Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 35, No. 15, pp. 1347013479, 2021.

[13] 栗原健太郎, 河原大輔, 柴田知秀. JGLUE: 日本語言語理解ベンチマーク. 言語処理学会第 28 回年次大会, 2022.

[14] Edmond Awad, Sohan Dsouza, Azim Shariff, Iyad Rahwan, and Jean-François Bonnefon. Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, Vol. 117, No. 5, pp. 2332-2337, 2020.

[15] Russ Shafer-Landau. Moral Realism: A Defence. Oxford University Press, 2003.

[16] 太田紘史. 我々は客観主義者なのか？一メタ倫理学への実験哲学的アプローチ. 蝶名林 (編), メ夕倫理学の最前線. 勁草書房, 2019.

[17] 児玉聡. 倫理学の基礎. 赤林郎・児玉聡（編）, 入門・倫理学. 勁草書房, 2018.

[18] ジョンロールズ. 正義論改訂版 [川本隆史, 福間聡,神島裕子訳］. 紀伊国屋書店, 2010.

[19] Peter Singer. Ethics and intuitions. The Journal of Ethics, Vol. 9, No. 3, pp. 331-352, 2005.

[20] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186. Association for Computational Linguistics, 2019.

[21] Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov. RoBERTa: A robustly optimized bert pretraining approach. Computing Research Repository, Vol. arXiv:1907.11692, 2019.

[22] Fabio Crameri. Scientific colour maps, 2021.

[23] Akiko Matsuo, Kazutoshi Sasahara, Yasuhiro Taguchi, and Minoru Karasawa. Development and validation of the Japanese Moral Foundations Dictionary. PLOS ONE, Vol. 14, No. 3, pp. 1-10, 032019.

[24] Jesse Graham, Jonathan Haidt, and Brian A Nosek. Liberals and conservatives rely on different sets of moral foundations. Journal of personality and social psychology, Vol. 96, No. 5, p. 1029, 2009.

## A 付録

## A. 1 ペア文作成のガイドライン

図 2 ペア文の作成に用いたガイドライン、及び作成の際の参考例。画像中の「備考」欄について、URL先では、別の研究プロジェクトで開発中のストーリーコーパスからランダムに文が出力されるようになっている。

目的：AIに「人間は 2 つのシナリオの内、どちらのシナリオが道徳的に間違っているか」を理解させるためのデータを集めること。

やってもらうこと：一方の行為は明らかに道徳的に間違っているが、他方の行為は道徳的に許容できることをしているような、2つの類似したシナリオの作成。

お願い：AI に常識的な道徳を理解させたいので、できる限り多様なシナリオを作成してください。

注意点：

・シナリオの主節に主語は入れないようにしてください

・1つ目のシナリオでは道徳的に明らかに間違ったことを書いてください。2つ目のシナリオでは道徳的に明らかに許容できることを書いてください。

一あなたの家族があなたの書いたシナリオを読んで、道徳的に許されること、間違っていることに同意するかどうか想像してみてください。

・2つのシナリオは、全く別の文ではなく、同じ行為が行われているか、あるいは同じ状況設定であるようにしてください。

・「毒を盛る」「殴る」「投げる」「殺す」「撃つ」「麻薬」「爆弾」「騙す」「盗む」「嘘」などの明らかに間違ってることがわかる用語は避けてください。

・シナリオ全体を読まないとわからないような表現に挑戦してみてください。

・中絶や死刑、安楽死など、政治的、道徳的に意見が分かれそうなものは避けてください。

## A. 2 再アノテーション時のテストデータ

1. どうしてもほしいものがあったので、がんばってお金をためて買う（想定解：道徳的に許容できる）

2. 銭湯で隣の見知らぬ人にシャワーをいきなりかけた（想定解：道徳的に間違っている）

3. 明け方に雨が降っていたので、犯罪の証拠を隠滅しに行った（想定解：道徳的に間違っている）

4. 友人と一緒に遊園地に行った（想定解：道徳的に許容できる）


# 権利侵害と不快さの間 : 日本語人権侵害表現データセット

久田祥平 若宮翔子 荒牧英治
奈良先端科学技術大学院大学
\{s-hisada, wakamiya, aramaki\}@is.naist.jp

## 概要

ネット上の誹謗中傷は大きな社会問題なっており，検出タスクやデータセット構築などの研究が行われている. 既存研究は, 誹謗中傷の主観的な性質のため，読み手の感性としての主観評価を受け入た分類または，誹謗中傷をへイトスピートのようなより細かいサブタスクに分割することで，課題を具体化した, 明確な基準による分類に基づいている.このため，ヘイトスピーチのような関心度の高いサブタスクを除き，社会問題に至る言語行為と，既存の誹謗中傷へのアプローチにはやや隔たりがある. 本研究では，誹謗中傷を人権侵害という観点から捉えることで，その専門家である法曹による判断を利用することができると考え，判例から，人権侵害が争われた言語表現のデータセットを作成し， https://zenodo.org/record/7481459 で公開を開始している。これにより, 人権侵害の言語的な特徵や，既存研究における誹謗中傷との相違点を明らかにすることが期待される。

本論文では，誹謗中傷の事例を扱う性質上，不快な表現が含まれることにご注意下さい.

## 1 はじめに

インターネットが言論空間として台頭するにつれて，ソーシャルメディアや匿名掲示板を介した誹謗中傷は，様々な人権侵害を引き起こしている.この問題に対応するため, 検出手法の提案や, そのリソースとして OLID [1] や HateSpeech18 [2] などのデータセットの構築が行われている. 誹謗中傷は,主観的な性質の高いテキストである $[3,4]$ ために，一般化された客観的な基準を作成することが難しい [5]. そのため, 既存のデータセットは, 2 つの方向性でアノテーションが実施されている. 1つ目は，Toxicity [6] や一部のへイトスピーチデータセッ
ト [7]のように，主観的な評価を認めるものである. 2つ目は，誹謗中傷に関わる類型やサブタスクが整理された後 $[4,8]$, ヘイトスピーチ $[9,2]$ や Offensive language の宛先 [1] といった, サブタスク毎に問題を具体化し，明確な基準を提案することで，検出モデルなどの応用面でも扱いやすいものになっている.

しかし, 既存研究が定義してきた誹謗中傷と人権侵害のような社会で問題とされる言語表現行為の隔たりがあると考えられ，その違いに対する理解には専門的な判断を利用, 比較する必要がある. ロシアにおける侮辱に取り組んだ研究 [10] は，既存研究における侮辱とその法的規制の対象となる言動としての侮辱的言動には隔たりがあることを指摘し，専門知を取り込んだ検出手法の提案した. ロシア連邦法 5.61 条に基づいて, 侮辱を 1）罵䍗雑言や卑猥な語彙を含むこと，2）発言の方向がわかること，3）不道徳や公的に非難される行動を示すような行動の表現を含むことと定義し, 法律の条文に基づく検出モデルを検証したが，データセット作成過程で 3) の形式化が難しく, アノテーター間での議論の余地が残ることを報告している. 誹謗中傷対策のコンテンツモデレーションの基準にも, 現地法やコミュニティーガイドラインなどの根拠，言語的な線引の明確化や，文化的背景を考慮することが求められている $[11,12]$ 中では, 誹謗中傷に対する専門家の判断を理解することは重要である。

本研究は，ネット上での誹謗中傷を現実の人権侵害の問題として扱うことで，その専門家である法曹による判断である判例を利用する、インターネット上の人権侵害の判例上の定義について議論した後に，具体的な言語的な特徴を理解することに向けた，インターネット上の人権侵害を争われた言語表現のデータセットを構築する。具体的には，判例から，人権侵害の有無が争われたテキスト，侵害の判断に利用された前後のテキスト，どの権利の侵害が主張されたか，その侵害は認められたか，といった 6 項目の情報を抽出する。このデータセットによ

り，言語表現における人権侵害の分離境界面の定量的な分析や，既存の誹謗中傷の類型論や自動検出比較を可能とし，誹謗中傷問題へのより深い理解が期待される。

## 2 人権侵害に至る誹謗中傷と基準

今回のデータセットは，人権侵害のうち，誹謗中傷による人格権の侵害, 中でも主に名誉権・名誉感情の侵害を取り扱う。データセットの作成過程では，上記の以外の人格権侵害事例も含まれている。本章では, 名誉権・名誉感情への侵害が, 制度上どのように理解されているかを整理し, その質的な判断の基準について議論する.

## 2.1 名誉権

名誉権の侵害（名誉毀損）は，問題とされる表現が，人の品性, 徳行, 名声, 信用等の社会から受ける客観的評価を低下させる，事実を摘示するもの，又は意見ないし論評を表明するもの [13] とされる.事実の摘示とは，特定の行為又は具体的事実を，叙述することである。それが公共性や公共目的，真実性といった違法性阻却事由がなく, 人の社会的評価の低下をもたらす場合，或いは，ある真実を基礎とした意見ないし論評の表明であるが，人身攻撃に及ぶなど意見ないし論評としての域を逸脱したものの場合, 名誉権侵害は成立するとされる. 今回のデー タセットでは, 公共性や真実といった違法性阻却事由は，他の証拠などをもって証明されるものを扱うことができないため，どのような表現が，表 1 の事例のように，事実の摘示として人の社会的評価が下

表 1: 本データセットで扱う名誉権侵害事例と非侵害事例：前者は集団虐めを主導する人物であるとの事実の摘示が認められた一方, 後者は具体的事実を摘示するものではなく，その批評も社会通念を超えた不適切なものでないと判断された.

げるか，そうでないなら，通常の意見や論評を逸脱したものかについて，判例にあるような「一般の閲覧者の普通の注意と読み方を基準とした」表現の基準を探ることが目的となる.

既存の Abusive language 研究との対比では, 事実の摘示は，必ずしも侮辱語や污い言葉を使っているとは限らないため, 問題が重複しない部分が出てくる. その中でも，企業の評判を扱ったもの [16] や， “calumniation”（中傷や誣告）をラベルとして扱った研究 [17] は名誉権侵害と一部問題が被っていると考えられる。

## 2.2 名誉感情

名誉感情とは，人が自己自身の人格的価値について有する主観的な評価である [18]. 実際には，客観的な評価が求められ，その侵害の有無は「社会通念上許される限度を超える侮辱行為であると認められる」[19]ことと判断され, 文言自体の侮辱性の程度，根拠の示されていない意見ないし感想かどうか，侮辱文言の数，表現の明確性といった要因がその都度考慮されると指摘されている [20].

既存研究 $[22,1]$ における侮辱 (insult) は, 宛先のある罵倒的，下劣，または不快な言葉を含む表現と定義される。一方, 名誉感情侵害では, 表 2 の侵害事例のような差別的な表現だけでなく, 表 1 の侵害

表 2: 本データセットで扱う名誉感情侵害事例と非侵害事例：前者は頭脳が健常ではないことを挪揄する表現は一種の差別的表現であり，侮辱と解された一方，後者は批判的又は消極的意見の一つとして，社会的通念上許される限度を超える侮辱行為とまでは認め難いと判断された。

 &  \\

 \\

図 1: データセットラベルの一例

事例の「マジ痛い」「中二病過ぎてキモい」も強く生理的嫌悪感を表現するものとして，通常の社会生活において投げかけられることはめったにない強い侮辱侵害として判断された. これに対して, 表 2 の非侵害事例のように，嫌悪感を伴う消極的意味の言葉の使用が，批判や消極的な意見の 1 つとして，社会通念上許される限度の範疇であると判断されているなど，単純に基準の解釈ができるものではない.「社会通念上許される限度」という基準を探り，侮辱表現の判断の傾向に対する理解支援が，本研究の目的の一つである.

## 3 日本語人権侵害表現データセット

本研究では，テキストによる誹謗中傷に対する裁判における人権侵害の有無の判断に基づき，日本語人権侵害表現データセットを作成する。 図 1 は，その一例を示す。

## 3.1 作成手順と項目

日本語人権侵害表現データセットの作成手順を説明する. 調査対象は, 民事事件の発信者情報開示請求事件または，損害賠償等請求事件のうちインター ネット上の投稿による事件である. アノテーター は，これらの裁判例から，次の 6 項目に該当する文章の抽出やラベルの付与を行う。

## $1:$ 本件投稿

本件投稿は，判例の投稿記事目録や事実・理由部分から，権利侵害の有無が争われた表現を匿名化してタグを付与し，書き起こしたテキストである。もとの投稿記事目録や事実・理由部分では，原告に関わるような，個人情報と考えられるテキストが，アルファベット，記号，黒塗り等で置き換えられている.この匿名化済みの記述に対して，個人の身元証明に関わる記述には $[\mathrm{P} 1]$, 企業や団体の身元証明に関わる記述には $[\mathrm{G} 1]$ ，商品や制作物に関する記述には [M1]，住所など個人情報に関わる部分には [INFO1]のタグを，それぞれ同一人物や同一表現がわかるように番号分けて付与する. 本件投稿中に URL が含まれる場合は，URLを [URL] タグに置換している.

## 2: 文脈（本件投稿に関わる他の投稿）

本件投稿への判断に考慮されたスレッドタイトル・会話・前後の投稿を判例で引用している場合がある. 本件投稿に関わる他の投稿は，そのようなテキストを書き起こしたものである. より問題の正しい理解や精度の高い学習や分類以外のタスクにおいても，利用可能な文脈情報を付与する. 本件投稿と同様の方法で匿名化処理を施している.

## 3: 人格権侵害

本件投稿が，どの人格権の侵害を含んでいるか，問題が争われた権利の類型とその判断についてラべルで示したものである.

## 3-1a: 人格権の類型 1

人格権の類型 1 は，本件投稿がどの権利に対する侵害であるか，裁判で争われた点についてラベルで示したものである. 裁判においては，問題とされる投稿によって侵害されている権利を原告側が訴えるものであり，裁判所は，それぞれ訴えについて判断を下す. 1 つの本件投稿に対して，複数の権利侵害の訴えが存在する場合，侵害が認められた権利を含む最大 2 つを抽出する. 判例文中で，本件投稿に対して「社会的評価」「名誉権」といった文言を含む判断が行われている場合は名誉権，「社会通念上許容される限度を超えた侮辱」「名誉感情」という文言を含む判断が行われている場合は名誉感情，「プライバシー」という文言を含む判断が行われている場合はプライバシー権を扱い，上記の 3 項目に該当しないが「人格権」という文言を含む場合は，その他の人格権をラベルとして選択する．加えて裁判例の中には，本件投稿の表現は原告を標的としていると推認出来ないと判断されるものなど，人格権と

いった権利侵害についての判断が下される前に，主張が棄却された事例の場合，None を付与する。

## 3-1b: 類型 1 の判断

「原告の名誉感情を違法に侵害するものである.」 のように，人格権等に対する侵害を認める表現が含まれる場合，本件投稿による類型 1 の権利侵害が認められた事例として 1 を，「社会通念上許される限度を超えて原告を侮辱するものとは評価できない.」 のように本件投稿が人格権等に対する侵害が認められると言えないと判断される表現が含まれる場合，権利侵害が否定された事例として 0 を付与する.

## 3-2a, 2b: 人格権の類型 2 , 類型 2 の判断

複数の権利について裁判で争われた場合，類型 1 の場合と同様に 2 つ目の項目の類型を選択し，判断についてラベルを付与する.

## 4: 事件番号

本件投稿の引用元となった事件番号と争われた裁判所である.

## 5: 文献番号

本件投稿の引用元となった文献番号である.

6: プラットフォーム

事件の本件投稿が発生したコンテンツプラットフォームが明記されている場合，記載する。

## 3.2 統計量

日本語誹謗中傷判例データセットは，132 件の事件に対する 442 件の投稿を抽出して構築された. ラベルの分布を付録の表 3 に示す. なお，判例集デー タへのアクセスライセンスの都合上，1名のアノテーターがアノテーションを実施した.

(a) 侵害事例

(b) 非侵害事例図 2: Toxicity 值の箱ひげ図：侵害事例における平均は名誉権 0.285 , 名誉感情 0.429 , プライバシー権 0.317，その他人格権 0.346. 非侵害事例における平均は名誉権 0.165 , 名誉感情 0.306 , プライバシー権 0.293 .

## 3.3 Toxicity との比較

通常，類似のデータセットとの比較を行うのが一般的だが，誹謗中傷に関連する日本語で公開されているデータセットを認知していない。本稿では，構築したデータからラベル別に，誹謗中傷等の代表的な分類モデルの 1 つである Perspective API [23] による Toxicity と比較することで，既存の誹謗中傷検出関連モデルとの比較を行う. Toxicity はその定義より，判断を読み手に委ねる主観的な指標と考えられる. 図 $2 \mathrm{a}$ は，判例において，ある投稿の権利侵害を認めた事例における Toxicity 値の箱ひげ図である.名誉感情侵害表現へのスコアが高く出る傾向は，テキストから受ける主観的な不快さのある表現と，重複する部分がある示されている一方で，名誉権侵害のように批判的な表現の意味への理解が必要な事例では検出の難しいことがわかる。一方，図 $2 b$ が示すように，非侵害事例においては，平均的には侵害事例よりも低い Toxicityを示している。しかし，一部事例では，Toxicity の高い表現であっても，権利侵害とは認められない事例が存在する。既存研究の手法では，捉えきれない誹謗中傷の問題の存在が示唆される。事例を交えた Toxicity の比較は中傷表現を含むため付録にて示す.

## 4 おわりに

本研究では誹謗中傷について人権侵害という観点を取り入れて，専門家の判断を理解するためのデー タセットを提案した. テキスト表現よりどのような人権侵害を引き起こすかについてや，その判断の分かれる表現の境界面についての，より詳細な分析を通じて，複雑な言語行為である誹謗中傷の深い理解が期待できる。一方で，今回は，その扱うテキストの問題で， 1 名のアノテーターによる 442 件の投稿へのアノテーションにとどまっている。また，判例中の判断内容をより紐解いていくと，同定可能性,違法性阻却事由，そして誹謗中傷を受けている人の属性といった項目も，実際では重要な要素であるが，今回十分には考慮できていない。言語的な特徴から問題性への判断を理解する上で，判例中よりこの論点を抽出できるようなアノテーションのスキー 么の提案も必要である. 今後も量・質の面で判例を利用したデータセットを拡張することで，誹謗中傷について理解する上で，表現だけでなく，文脈を踏まえた意味といった点に注目できる.

## 謝辞

本研究の一部は，JSPS 科研費 JP22J23161, JP22K12041, JP19H01118 および JST SICORP JPMJSC2107 の支援を受けたものである.

## 参考文献

[1] Marcos Zampieri, Shervin Malmasi, Preslav Nakov, Sara Rosenthal, Noura Farra, and Ritesh Kumar. Predicting the type and target of offensive posts in social media. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 1415-1420, Minneapolis, Minnesota, June 2019.

[2] Ona de Gibert, Naiara Perez, Aitor García-Pablos, and Montse Cuadros. Hate Speech Dataset from a White Supremacy Forum. In Proceedings of the 2nd Workshop on Abusive Language Online (ALW2), pp. 11-20, Brussels, Belgium, October 2018. Association for Computational Linguistics.

[3] Bertie Vidgen and Leon Derczynski. Directions in abusive language training data, a systematic review: Garbage in, garbage out. PLoS One, Vol. 15, No. 12, p. e0243300, December 2020.

[4] Zeerak Waseem, Thomas Davidson, Dana Warmsley, and Ingmar Weber. Understanding abuse: A typology of abusive language detection subtasks. In Proceedings of the First Workshop on Abusive Language Online, pp. 7884, Vancouver, BC, Canada, August 2017. Association for Computational Linguistics.

[5] Bertie Vidgen, Alex Harris, Dong Nguyen, Rebekah Tromble, Scott Hale, and Helen Margetts. Challenges and frontiers in abusive content detection. In Proceedings of the Third Workshop on Abusive Language Online, pp. 80-93, Florence, Italy, August 2019. Association for Computational Linguistics.

[6] Ellery Wulczyn, Nithum Thain, and Lucas Dixon. Ex machina: Personal attacks seen at scale. In Proceedings of the 26th International Conference on World Wide Web, WWW '17, pp. 1391-1399, Republic and Canton of Geneva, CHE, April 2017. International World Wide Web Conferences Steering Committee.

[7] Paula Fortuna, João Rocha da Silva, Juan Soler-Company, Leo Wanner, and Sérgio Nunes. A hierarchically-labeled Portuguese hate speech dataset. In Proceedings of the Third Workshop on Abusive Language Online, pp. 94-104, Florence, Italy, August 2019. Association for Computational Linguistics.

[8] Anna Schmidt and Michael Wiegand. A survey on hate speech detection using natural language processing. In Proceedings of the Fifth International Workshop on Natural Language Processing for Social Media, pp. 1-10, Valencia, Spain, April 2017. Association for Computational Linguistics.

[9] Thomas Davidson, Dana Warmsley, Michael Macy, and Ingmar Weber. Automated hate speech detection and the problem of offensive language. ICWSM, Vol. 11, No. 1, pp. 512-515, May 2017.

[10] Liliya Komalova, Anna Glazkova, Dmitry Morozov, Rostislav Epifanov, Leonid Motovskikh, and Ekaterina Mayorova. Automated classification of potentially insulting speech acts on social network sites. In Digital Transformation and Global Society, pp. 365-374, 2022.

[11] Jillian C. York and Corynne Mcsherry. Content moderation is broken. let us count the ways. https://www.eff.org/deeplinks/2019/04/contentmoderation-broken-let-us-count-ways. [accessed on December 31th, 2022].

[12] The santa clara principles on transparency and accountability in content moderation. https://santaclaraprinciples.org/. [accessed on December 31th, 2022].

[13] 最高裁判所第三小法廷平成 6 年（オ）第 978 号. LEX/DB 文献番号 28021760.

[14]東京地方裁判所令和 3 年（ワ）第 22400 号. LEX/DB 文献番号 25604264 .

[15] 東京地方裁判所令和 3 年（ワ）第 29589 号. LEX/DB 文献番号 25604756 .

[16] Nikolay Babakov, Varvara Logacheva, Olga Kozlova, Nikita Semenov, and Alexander Panchenko. Detecting inappropriate messages on sensitive topics that could harm a company's reputation. In Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, pp. 26-36, Kiyv, Ukraine, April 2021. Association for Computational Linguistics.

[17] John Pavlopoulos, Prodromos Malakasiotis, and Ion Androutsopoulos. Deeper attention to abusive user content moderation. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 1125-1135, Copenhagen, Denmark, September 2017. Association for Computational Linguistics.

[18] 最高裁判所平成 21 年（受）第 609 号民集第 64 巻 3 号 758 頁.

[19] 最高裁判所第三小法廷平成 21 年 (受) 第 609 号. LEX/DB 文献番号 25442100 .

[20] 公益社団法人商事法務研究会. インターネット上の誹謗中傷をめぐる法的問題に関する有識者検討会. https://www.soumu.go.jp/main_content/000818861.pdf. [accessed on December 31th, 2022].

[21] 東京高等裁判所令和 2 年 (ネ) 第 1555 号. LEX/DB 文献番号 25567236 .

[22] Cynthia Van Hee, Els Lefever, Ben Verhoeven, Julie Mennes, Bart Desmet, Guy De Pauw, Walter Daelemans, and Veronique Hoste. Detection and Fine-Grained classification of cyberbullying events. In Proceedings of the International Conference Recent Advances in Natural Language Processing, pp. 672-680, Hissar, Bulgaria, September 2015. INCOMA Ltd. Shoumen, BULGARIA.

[23] Jigsaw. Pespective api. https://perspectiveapi.com/. [accessed on December 31th, 2022].

## A 日本語データセットの分析

## 投稿コンテンツ

図 3 に，人権侵害と判断された事例における，本件投稿テキストに基づき作成されたワードクラウドを示す．名誉権侵害の場合，「自分」や「会社」といった出現頻度の高い表現の次には，犯罪行為に関連する単語が様々出現している。このような犯罪行為を糾弾することが，事実の摘示と判断される事件が起きる傾向を示している. 名誉感情侵害の場合,「笑」や「WWW」と言った表現とともに，多様な侮辱語の表現が出現している. このように嘲笑する形で，他者を侮辱するような表現が事件として判断される傾向を示している。

(a) 名誉権侵害

(b) 名誉感情侵害図 3: 人権侵害表現におけるワードクラウド

## データセット中の人権侵害表現権利侵害あり

例 1)「辞めたくても契約違反の条件が厳しくとことん追い込んでむしり取る.」フランチャイズに対する高圧的な契約内容の存在を掲示板に書き込んだ事例. 契約関係からの脱退を申し出た加盟店に対し, 追い込んで財産を奪い取るとの事実を摘示するものであり，社会的評価を下げると判断されるような表現である。このような，真贋は考慮しなくても，不正な事実描写に対しては Toxicity は上手に扱えておらず 0.00653 と非常に低い値である.このような，侮辱語の少ない事実の摘示に対しては，フェイクニュース分類なども分類手法の利用の可能性が示唆される.

## 権利侵害なし

例 2)「店員じゃないなら $\mathrm{E}$ ？お前こそ心療内科行けよどうせここで売れない女だろ？お前こそ嘘つき泥棒」という名誉感情侵害が争われた事例.「心療内科いけょ」「どうせここで売れない女」「嘘つき泥棒」という記載は, 表現として適切とはいい難いものの, 社会通念に照らして許容できないほど著しく不適切なものとまではいえないと判断されている。一方, 不快さは十分に高いと考えられ， Toxicity 値は 0.869 と高い値を示している.

表 3: 日本語人権侵害表現データセットにおいて取り扱った事件と本件投稿数，ラベルの分布. 一部本件投稿には複数のラベルを含む場合があるので，テキスト数とラベル数の合計は一致しない.

例 3)「タトゥーのことなんぞ知らねえよ！だかと呼んだことはないとかって発想にはならないけどな笑なにを思うがお前の勝手にすりゃいいが，ワキガで臭いと感じたことある人間は俺だけじゃないことぐらいレス見返してみればわかるやろ？なにおそんなに書き誇りていいのか知らねえがワキガはワキガなんやから匂い嗅いで確かめて来いよ!」という発言で名誉権侵害が争われた事例. 他の投稿も合わせて, 原告から腋臭症のような臭いがするとの限度では，事実を摘示しているといえるが，違法性阻却事由があることがうかがわれること（文脈上，上記の投稿者は，実際に原告から性的サービスの提供を受けた上で，実体験として，腋臭症のような臭いを感じたことを主張していることが明らかである.) と，証拠だけでなく，掲示板の投稿内容から真実性が判断されたため, 名誉権侵害は否定されている. こちらも，ワキガの指摘という不快感の高い発言に対して， Toxicity 值は 0.518 と高くなっている.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 程度を考慮したフォーマリティ恋換のための データセットの収集と分析

守屋彰二 ${ }^{1}$ 岸波洋介 ${ }^{1}$ 佐藤志貴 1 德久良子 ${ }^{1}$ 乾健太郎 1,2
1 東北大学 2 理化学研究所
}

\{shoji.moriya.q7, yosuke.kishinami.q8\}@dc. tohoku.ac.jp \{shiki.sato.d1, tokuhisa, kentaro.inui\}@tohoku.ac.jp
## 概要

自然言語処理におけるテキストスタイル変換では，文の意味を保持したまま両極端の 2 つのスタイルの一方から他方へ変換することが一般的である。 それに対して我々は，連続的なスタイルの程度を制御可能な変換の実現を目指す。本研究ではその第一歩として，フォーマリティの程度が異なる同内容の文に対し，その度合いが付与されているデータセット『フォーマリティスコア付き GYAFC』を構築した. 分析の結果，全体としてフォーマリティの程度について人の間で一定の合意が得られること，誤記やスラングによる程度の差異に関しては特に合意が得やすい可能性があることがわかった. 本研究で収集したデータセットは，後日公開予定である.

## 1 はじめに

近年，自然言語処理の分野において，テキストの意味を保ちながらフォーマリティやシンプリシティなどのスタイルを変換するテキストスタイル変換の研究が盛んに行われている $[1,2]$. テキストスタイル変換は，状況に応じたテキストを生成する上で非常に有用な技術であり，幅広い用途があることで知られている $[3,4]$. 例えば，学習データの水増し [5] や一貫したペルソナをもつチャットボットへの応用 [6] などがある.

現在行われているテキストスタイル変換の研究の多くは，フォーマル・インフォーマルのように両極端のスタイルの一方からもう一方へと変換するものである [1]. しかし，現実では「スタイルの程度」が存在すると考えられる．例えば，相手との距離感が近くなるにつれ，用いる表現のフォーマリティの程度が徐々に低くなっていくことが想定される. 程度を考慮した上でスタイル変換することは実応用にお

ける融通性・有用性を高める上で非常に重要な観点であると考えられる。

しかし，そもそも「スタイル」には一般的な定義は存在せず，個人の直観に基づく概念であるとされている [3]. そのため，連続的に（完全に連続でなくてもスケーラブルに）変化すると考えられる「スタイルの程度」に関しても，人の間で合意が取れるかどうかは自明ではない，仮に人の間でまったく合意が取れなければ，スタイルの程度を変化させた文を自動生成することは難しい。逆に，ある程度人の間で合意が取れれば，人手によりコーパスを整備することで，連続的に程度を制御可能なスタイル変換システムを構築できると考えられる。

そこで，本研究では，スタイルの一つであるフォーマリティに着目し，フォーマリティの程度に対する共通認識を形成できるかについて調べる．具体的には，まず，フォーマリティの程度が異なる同じ意味の文に対してその度合いが付与されたデー タを小規模に収集した (表 1). その後，フォーマリティスコアをもとにワーカ間でフォーマリティの程度に関する合意が取れるかどうかを調べる。

本研究の貢献は，以下の通りである．1) 多様な程度のフォーマリティで書かれた同じ意味の文に対し，その程度が付与されたデータの収集手法を考案

図1提案手法：フォーマリティスコア付きコーパスの収集

する．2)フォーマリティの程度が付与されている 1100 文のデータセット『フォーマリティスコア付き GYAFC』を構築する。3) フォーマリティの程度に対して，人の間で一定の認識の合意が取れるかどうかを確認し，合意の得やすさに影響を与える要素について調べる。

## 2 関連研究

## 2.1 テキストスタイルの定義

テキストスタイル変換の研究におけるスタイルは，個人が持つ固有の特性を表現する方法という直観的な概念であるとされている [3]. 今回我々が扱うフォーマリティについても，一般的な定義は存在しない [7]. 社会的な距離や共有された知識などの状況によって定義される例もあれば [4]，スラングの使用や文法的な誤りなどのより抽象度の低い定義が採用される例もある $[8,9]$.

## 2.2 フォーマリティのデータセット

フォーマリティのラベル付きパラレルコーパスとして，フォーマル・インフォーマルのスタイルラベルが付与されている GYAFC (Google Yahoo Answer Formality Corpus) [10] や，複数ヶ国の言語が含まれる XFORMAL [11] などがある. また，フォーマリティの程度がアノテーションされているノンパラレルコーパスとして，formality-corpus [7] がある.

フォーマリティの程度に対する合意を調べる上で，異なる意味の文を比較するよりも同じ意味の文を比較する方が，相対的な程度の差が明確になると考えられる。そこで本研究では，同じ意味の複数の文に対しフォーマリティの程度が付与されたデータセット『フォーマリティスコア付き GYAFC』を構築した.

## 3 提案手法

同じ意味の複数の文に対しフォーマリティの程度が付与されたデータの収集方法を提案する。まず，多様な程度のフォーマリティを持つ文を収集するため，フォーマリティのラベルのついたパラレルコー パスの文に対しパラフレーズを行う．その後，収集した文にフォーマリティスコアを付与する。なお，本手法では Pavlick ら [7] に従い，フォーマリティとは何であるかを具体的に明記せず，各個人が持っている独自のフォーマリティの定義に従うボトムアップの手法を採用した.

パラフレーズ（図 1 の [A]）。まず，GYAFC のうちフォーマル文をワーカに与え，その文と同じ意味の「A Little more informal」「Much more informal」 の 2 種類のインフォーマル文を書かせる。これを各文あたり 5 人のワーカに行わせ，合計 10 文のインフォーマル文を得る. 同様に，インフォーマル文に対してもワーカに「A Little more formal」「Much more formal」の 2 種類のフォーマル文を書かせ，合計 10 文のフォーマル文を得る，以上より，コーパスに元々収録されているフォーマル・インフォーマルの 2 文に加えて 20 文を得る．以下，この 22 文からなる集合を 1 グループとする. 2.1 節で述べた通り，フォーマリティは各個人が持っている独自の定義に従うことから，複数のワーカに同じ設定でパラフレーズを行わせることで多様な程度のフォーマリティを持つ文が収集可能と考えられる。

図 2 収集した文のフォーマリティスコアの分布

スコアリング（図 1 の [B]）。各グループに含まれる文に対し, Pavlick ら [7] と同様にワーカに以下の 7 段階でフォーマリティスコアを付与する:

-1-Very Informal

-2-Moderately Informal
- 3-A Little Informal
- 4-Neutral
- 5-A Little Formal
- 6-Moderately Formal

-7-Very Formal

このスコアリングを 1 グループあたり 5 人のワーカに行わせ，文に付与された 5 人のフォーマリティスコアの平均值を最終的な文のフォーマリティスコアとする. このようにして, 多様な程度のフォーマリティで書かれた同じ意味の文に対し，フォーマリティスコアを付与したデータを収集する．なお，2.1 節で述べたように各個人が持っている独自のフォー マリティの定義に従うため，ワーカへの教示は必要最低限にとどめる.1）

今回はフォーマリティに着目してコーパスを構築したが，本収集手法はフォーマリティに限らず他の種類のスタイルにも適用できる可能性があると考えられる. 具体的には，「シンプリシティ」や「ポライトネス」のように，連続的に変化するスタイルについては今回提案した収集方法が適用できる可能性がある.

## 4 データ収集の結果と分析

提案手法をもとに小規模に収集を行い，『フォー マリティスコア付き GYAFC』を構築した. 収集したデータの同グループ内の文のスコアを比較するこ

1）本研究でデータセットを構築した際の教示画面を付録 A に示す.

図 3 グループごとの順位相関係数の分布

とで，人の間で相対的なフォーマリティの程度について合意が取れるかどうかを調べた。また，合意の得やすさに影響を与える要素について調べた.

## 4.1 データ収集の設定

パラフレーズ. GYAFC [10] から無作為に抽出したフォーマル文とインフォーマル文の 50 対に対し，パラフレーズを行った. 収集には Amazon Mechanical Turk ${ }^{2}$ を使用した. ${ }^{3)}$

スコアリング. GYAFC [10]の 50 対から作成した全てのグループに含まれる文に対し，フォーマリティスコアの付与を行った. 収集には，Amazon Mechanical Turk ${ }^{2}$ を使用した. ${ }^{4)}$

ワーカのフィルタリング. アノテーションの質を担保するため， MACE5) を用い，competence の值が低い下位 $30 \%$ のワーカを除去した上で，平均値を計算して各文のフォーマリティスコアを得た.

## 4.2 収集結果

多様な程度のフォーマリティの文を計 1100 文収集し，『フォーマリティスコア付きGYAFC』を構築した. 収集した文のフォーマリティスコアの分布を図 2 に示す. 収集した文のフォーマリティスコアが幅広く分布していることから，さまざまなフォーマリティの程度を持つ文が収集できていることが確認できた。また，実際に収集したデータの文例を表 1 に示す.

2) https://www.mturk.com/

3） $97 \%$ 以上の承認率，1000 件以上のタスク承認歴をもつワー カを 1 HIT あたり $\$ 3.5$ で 65 人雇用した. 1 HIT あたり 4 文対のパラフレーズを行わせた. 想定時間は約 15 分であった

4） パラフレーズと同様の条件でワーカを $1 \mathrm{HIT}$ あたり $\$ 3.5$ で 250 人雇用した. 1 HIT あたり 1 グループ (22 文) スコアリングを行わせた．想定時間は約 15 分であった.

5) https://github.com/dirkhovy/MACE
表 2 合意の取りやすさに影響を与える要因 (要因が含まれる箇所を太字で記す)

## 4.3 分析

同じグループ内に含まれる文のフォーマリティスコアを比較することで，相対的なフォーマリティの程度について人の評価がどの程度一致するかを調べる. また，フォーマリティの程度に対して合意が取れるグループにはどのような特徴があるかを分析する.

## フォーマリティの程度に対する合意．人の間で相対的なフォーマリティの程度に合意が取れるか を調べるため，同じ文に対しスコアリングを行った ワーカ間でフォーマリティの順位相関係数を算出し た.なお，今回は各グループごとに 5 人の異なるア ノテータが存在するため, 5 人の全組み合わせにお ける，各ワーカのフォーマリティスコアに基づくグ ループ中の文のランキングの順位相関係数を計算し た $^{6)}$. 各グループの順位相関係数の分布を図 3 に示 す. 平均値は 0.321 , 中央値は 0.333 であり, ワーカ の順位の間で正の相関が見られた。この結果から， フォーマリティの程度についてワーカ間で一定の 合意が得られることが確認できた. 一方で，グルー プ間で順位相関係数にばらつきが見られ，グループ によって合意の取りやすさが異なることも確認で きた.

合意の取りやすさに影響を与える要因. 収集したデータを定性的に確認し，合意の取れやすさに影響を与える言語的要因について分析した。順位相関係数が高いグループでは，表 2 の (a) や (b) のように誤記やスラングの有無や多さによるフォーマリティの程度の差がみられた. 一方で, 順位相関係数が低いグループでは，表 2 の (c)のように句の言い換え

によってフォーマリティの程度に差が生じる例がみられた. このような分析は, 今回我々が作成した, フォーマリティが異なる同じ意味の文からなるコー パスを用いることで可能になるものと考える.

## 5 おわりに

程度を考慮したスタイル変換を行うことは，実応用において重要であると考えられる。しかし，「スタイルの程度」に関して，人の間で合意が取れるかどうかは自明ではない. 本研究では，スタイルの一つであるフォーマリティに着目し，フォーマリティの程度に対して合意が取れるかどうか調べた. 具体的には，フォーマリティの程度が異なる同じ意味の文に対してその度合いが付与されたデータを小規模に収集し, 分析を行った. その結果, フォーマリティの程度について一定の認識の合意が得られることが確認できた。また，誤記やスラングによる程度の際に関しては，特に合意が得やすい可能性があることがわかった。

今回の収集では，7 段階のスコアのランキングをもとに順位相関係数を計算し，フォーマリティの程度に対する認識の一致を確認した. しかし, ワーカ間で絶対的なスコアの基準を合わせることは難しく，そのスコア自体の信頼性は十分とは言えない.今後の研究で, より適したアノテーションの方式について模索していきたい. また, 本研究で提案した手法は，フォーマリティに限らず他の種類のスタイルにも適用できる可能性があると考えている。他の種類のスタイルにおいてもフォーマリティと同様に程度の概念が存在しているのかどうかや，人々の間でその程度に対して合意が得られるかについて調査していきたい.

## 謝辞

本研究は，JSPS 科研費 JP21J22383，JST CREST JPMJCR20D2 の助成を受けたものです. 本研究を進めるにあたり，愛媛大学の梶原智之先生に有益なご助言をいただきました. また，AMTのタスク作成にあたっては, 東北大学乾研究室の藤原吏生氏, Steven Coyne 氏，栗田宙人氏に有益なコメントをいただきました。ここに深く感謝申し上げます。

## 参考文献

[1] Di Jin, Zhijing Jin, Zhiting Hu, Olga Vechtomova, and Rada Mihalcea. Deep Learning for Text Style Transfer: A Survey. Computational Linguistics, Vol. 48, No. 1, pp. 155-205, 042022.

[2] Tomoyuki Kajiwara, Biwa Miura, and Yuki Arase. Monolingual transfer learning via bilingual translators for stylesensitive paraphrase generation. Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 34, pp. 8042-8049, 042020.

[3] David D. McDonald and James D. Pustejovsky. A computational theory of prose style for natural language generation. In Proceedings of the Second Conference on European Chapter of the Association for Computational Linguistics, EACL '85, p. 187-193, USA, 1985. Association for Computational Linguistics.

[4] Eduard Hovy. Generating natural language under pragmatic constraints. Journal of Pragmatics, Vol. 11, No. 6, pp. 689-719, 1987.

[5] Yi Zhang, Tao Ge, and Xu Sun. Parallel data augmentation for formality style transfer. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 3221-3228, Online, July 2020. Association for Computational Linguistics.

[6] Yanpeng Zhao, Wei Bi, Deng Cai, Xiaojiang Liu, Kewei Tu, and Shuming Shi. Language style transfer from sentences with arbitrary unknown styles. CoRR, Vol. abs/1808.04071, , 2018.

[7] Ellie Pavlick and Joel Tetreault. An empirical analysis of formality in online communication. Transactions of the Association for Computational Linguistics, Vol. 4, pp. 61-74, 2016.

[8] Alejandro Mosquera and Paloma Moreda. A qualitative analysis of informality levels in web 2.0 texts: The facebook case study. pp. 23-29, 012012.

[9] Kelly Peterson, Matt Hohensee, and Fei Xia. Email formality in the workplace: A case study on the Enron corpus. In Proceedings of the Workshop on Language in Social Media (LSM 2011), pp. 86-95, Portland, Oregon, June 2011. Association for Computational Linguistics.

[10] Sudha Rao and Joel Tetreault. Dear sir or madam, may I introduce the GYAFC dataset: Corpus, benchmarks and metrics for formality style transfer. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics:
Human Language Technologies, Volume 1 (Long Papers), pp. 129-140, New Orleans, Louisiana, June 2018. Association for Computational Linguistics.

[11] Eleftheria Briakou, Di Lu, Ke Zhang, and Joel Tetreault. Olá, bonjour, salve! XFORMAL: A benchmark for multilingual formality style transfer. In Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 3199-3216, Online, June 2021. Association for Computational Linguistics.

## A クラウドワーカへの教示画面

4.1 節で述べたパラフレーズおよびスコアリングにおいてワーカに提示した教示画面を，図 4 および図 5 にそれぞれ示す.

## Paraphrasing to informal sentences

This HIT contains 5 questions (\#01-\#05).

## Task description

Please paraphrase the given sentences into two types of informal sentences: one is A Little more informal, and the other is Much more informal. Note that the meaning of the sentence must not be changed.

## Example

Original Sentence: Consumption of carbohydrates has been linked to weight gain.

A Little more informal: Carbohydrates may cause weight gain.

Much more informal: Carbs can make you fat.

This HIT includes a checking question to confirm that you are human.

Please read the question carefully and answer it.

図 4 パラフレーズでのクラウドワーカへの教示画面

## Annotation Guidelines

We are performing a research study on writing style. Please read the following sentences and determine the formality of each sentence. In general, we consider formal language to the type of language that is appropriate for professional and business communication. However, there is no perfect definition of formality, so use your own experiense and best judgement to make your decisions, keeping in mind the following guidelines:
- The formality of a sentence should not necessarily be dictated by the relationship between the people involved in the communication. I.e. it is possible for an employee to send speak informally to their boss.
- The formality of a sentence should not necessarily be dictated by the persona/business nature of the sentence. I.e. If it is possible for a person to speak/write informally about work/business or to write formally about personal matters.
- If the sentence is blank, not in English, or otherwise uninterpretable, please choose I cannot tell.

## Also, please indicate using the check box if you believe the sentence was not part of a person-to-person communication, e.g. If it appears to be spam or promotional. You should still rate the formality of the text, even if you check this box.

These HITs will be quality controlled. If you are not sure whether you are doing them correctly, please do a small number and wait for feedback before doing more. Thank you in advancel

Please rate the formality of the sentence on the seven-point scale:
- Score 7: Very Formal
- Score 6: Moderately Formal
- Score 5: A Little Formal
- Score 4: Neutral
- Score 3: A Little Informal
- Score 2: Moderately Informal
- Score 1: Very Informal

Examples of Very Formal sentences (should receive a rating of 6 or 7 )
- No one can be considered hot until after they are 17 years old. Before that everyone is just cute.
- I disagree, that would be excessive.
- What we are most happy about is the feeling we get

Examples of Very Informal sentences (should receive a rating of 1 or 2):
- $u$ cant b concidered hot till 17 before that your just cute
- No, that would be going tooo far:
- WHAT WE'RE REALLY LOVING IS THE WAY WE FEEL.

図5 スコアリングでのクラウドワーカへの教示画面


# 逆接の推論関係に着目した日本語談話関係アノテーション

窪田愛 ${ }^{1}$ 佐藤拓真 ${ }^{1}$ 天本貴之 ${ }^{1}$ 秋吉亮太 ${ }^{1}$ 峯島宏次 ${ }^{1}$
1 慶應義塾大学
ai.kubota.m@gmail.com takuma.sato.keio@gmail.com
amamoto@keio.jp georg.logic@gmail.com
minesima@abelard.flet.keio.ac.jp

## 概要

本研究では、逆接の談話関係で前提される推論に着目し、同時進行と逆接の二つの用法を持つ接続詞「ながら」「つつ」に対して談話関係アノテーションを試みる。逆接を含む談話関係コーパス自体はすでに存在するが、前提される推論を実際に書き出し、逆接の推論関係を特定しようとする点に本研究の特色がある。本稿ではアノテーション手法とその結果、ならびに、アノテーションの際に判明した逆接の特徴について報告する。

## 1 はじめに

テキストの談話関係を適切に認識することは、人間の言語理解の重要な側面であり、自然言語処理でも重要な課題の一つである。しかし、談話関係を分類する基準、その関係を担う談話単位を設定する基準を明確にすることは必ずしも容易ではなく、言語学・言語処理で様々な試みが続いている。一つの有力なアプローチは、明示的な接続表現（談話標識） に着目して談話関係を判別するもの $[1,2]$ であるが、同一の接続表現が複数の談話関係を担う場合、その談話関係の判別は容易ではない。

このような背景から、本研究では逆接の意味をもつ接続表現に着目し、詳細な統語情報が付与されたツリーバンクを利用した談話関係アノテーションを試みる。具体的には、同時進行と逆接の二つの用法をもつ「ながら」「つつ」をとりあげ、「前提される推論」という観点から談話関係の分類を試みる。

## 2 関連研究

## 2.1 逆接・譲歩

ここでいう逆接（あるいは逆接・譲歩）とは、「何らかの含意関係の否定」[3]、あるいは、“denial of expectation” $[4,5]$ を伴う接続関係のことであり、以下の二種類があると言われている。（例文は [4](37) より抜粋。)

(1) 直接型 (Direct concessive) Although John is poor, he is happy.

(2) 間接型 (Indirect concessive)

The car is stylish and spacious, but it is expensive.

直接型と間接型の違いは、前提される推論の違いにある。間接型では「P (= John is poor) ならば、大抵 $\mathrm{Q}(=$ he is happy) ではない」という情報が前提されているのに対して、間接型では「P (= The car is stylish and spacious) ならば、大抵 $\mathrm{Q}(=\mathrm{it}$ is expensive) ではない」という情報が前提されているとは考えにくい。間接型の場合、「P (= The car is stylish and spacious) ならば R (= we should buy it)、Q (= it is expensive) ならば R でなはい」といったように第三の項 (R) が隠れている点に特徴がある $[6,7,8,4,5]^{1)}$ 。

## 2.2 「ながら」「つつ」

「ながら」は動詞の語基、非過去のイ形容詞、ナ形容詞の語幹に、また名詞及び副詞には直接後続し、「同時進行（付帯状況）」を表す用法と「逆接」を表す用法があるとされる $[9,10]^{2)}$ 。「つつ」は動詞の語基に後続し、やはり「同時／付帯状況」と「逆接」 の二つの用法がある [9]。

典型的には、「食べる」「走る」など動的述語の場合は「同時進行」「思う」「狭い」などの静的述語の場合は「逆接」の用法になることが多いものの、述語の種類だけで「同時進行」か「逆接」かが決まるわけではなく、以下の例（[9]の 3.4 節より抜粋）が示すように主節との意味的な関係や文脈により解釈

が影響される $[9,10] 。$

(3) a. さびしいと思いながら毎日を過ごした。

(同時進行)

b. さびしいと思いながらそれを口にしなかった。

（逆接）

（4） a. 3 時間、英語を勉強しながら、音楽を聞いた。 （同時進行）
b. 12 年間も英語をながら、日常会話もろくにできない。

（逆接）

そのため、以下の例（[10](31)）のように「同時進行」か「逆接」かの判断が難しいケースもある。

（5）加藤文太郎は秋の海を見ながら、思いは日本海に飛んでいた。

どのような要因により「同時進行」か「逆接」かの解釈が決まり、特にどのような場合に「逆接」の推論を読み取って解釈しているのかという問いが、本稿での焦点である。

## 2.3 談話関係コーパス

英語の談話関係コーパスの研究として代表的なものに、Penn Discourse Treebank (PDTB) [1,11] がある。 PDTB-3 [12] では、明示的な談話関係と非明示的な談話関係が区別され、明示的な談話関係については接続表現（談話標識）ごとに談話関係の単位 (Arg1, Arg2) と談話関係ラベルが付与されている。譲歩・逆接に対応する談話関係としては、CONCESSIONと CONTRAST が区別され、COMPARISON 関係の下位クラスに分類されている。この CONCESSION と CONTRAST の判別は容易ではないことが報告されている [12]。

日本語の談話関係コーパスとしては、Web ページの冒頭 3 文を収集したコーパス（京都大学ウェブ文書リードコーパス）に対して、PDTB の方針を参考とし、談話関係タグを付与したものがある [2]。談話関係タグとしては、「対比」と「逆接」が区別されているが、「が」のように同一の接続表現が対比と逆接の用法をもつ場合、その判別基準は必ずしも明確ではない。また、談話単位 $(\mathrm{Arg} 1, \mathrm{Arg} 2)$ は自動認識によって設定されているため、言語学的な節単位とは必ずしも対応していない。

本研究は、詳細な統語情報が付与された既存のツリーバンクを利用することで、談話単位の認定という問題を回避し、より言語学的に妥当な談話関係ラ
ベルの設計に向けて、逆接の談話関係アノテーションを試みる。

## 3 アノテーションの方針

## 3.1 使用したデータ

今回使用した文は全て Kainoki Treebank [13] から抽出した。ツリーの例を付録の図 1 に示す。Kainoki Treebank は品詞タグ及び統語構造が付与されており、単に「ながら」「つつ」の文字列を含む文を抽出するだけでなく、接続詞「ながら」「つつ」が取る二つの項（これを $\operatorname{Arg} 1, \operatorname{Arg} 2$ と呼ぶ）が、埋め込み節を含むような複雑な文でも正確に自動的に特定できることからこのコーパスを使用した。例えば、図 1 の例では Arg1と Arg2はそれぞれ「（女性が）事務能力を事務能力を発揮し」「女性が一家の中心となって働く」であるが、Arg1 は「つつ」直上の IPノー ド、 $\operatorname{Arg} 2$ は「つつ」節を直接支配する IP ノードに支配される部分となっている。

## 3.2 談話関係ラベルと判断基準

接続詞「ながら」「つつ」を含む文 (それぞれ 1,325 文、239 文）について筆者ら含め 11 名で下記の通りラベル付けを行った。各例に 2 名のアノテータがラベルを付与した。

（6） a. 逆接・譲歩（同時進行の意味を伴っていても逆接・譲歩の意味もあれば逆接・譲歩のラベル付けを優先する）例：(3a), (4a)

b. 同時進行（逆接・譲歩の意味を伴わないもの）例：(3b), (4b)

c. イディオム（慣用句的表現）例 : 残念ながら／今更ながら

d. 対象外（後件が省略されているもの）例：窓の外を見ながら

「ながらも」「つつも」は全て逆接・譲歩とし、「ながら」「つつ」を「ながらも」「つつも」で置き換えて文意が変わらない場合も逆接・譲歩とした。更に、 より正確に逆接・譲歩の意味を特定するために、前提される推論 (2.1 節参照) を以下のように書き出す作業を行った。

(7) $\left[{ }_{A r g 1}\right.$ たばこは体によくないと分かり]つつ [Arg2なかなかやめられない。]

(480_textbook_djg_intermediate;page_543)

表 1 アノテーション結果

前提される推論：たばこは体によくないと分かっているなら、なかなかやめられないことはない（やめられるはず）だろう。

## 4 アノテーション結果と考察

各分類ラベルの件数を表 1 に示す。 2 名のアノテータの判定ラベルが異なる場合、第 3 のアノテー タがチェックし、ラベルを決定した。それでも決定できない曖昧なケースは $\mathrm{A} / \mathrm{B}$ と分類した。2 名のアノテーション一致率は Kappa 值で、それぞれ、「ながら」は 0.72、「つつ」は 0.36 であった。

## 4.1 逆接・譲歩の特徵

「ながら」「つつ」が逆接を表すのは、典型的には述語が動的か静的かが関与するものの、例外もある (2.2 節)。ここでは今回のアノテーションで逆接・譲歩とラベル付されたものに共通してみられる傾向があるかどうかについて考察する。

「ながら」「つつ」の用法に影響を及ぼしうると考えられる以下の特徴について、ラベルごとにそれぞれ当てはまるものの件数を数え、表にまとめた (付録の表 2)。なお、それぞれの特徴は Kainoki Treebank から自動的に抽出してカウントした3)。

(8) a. 状態性アスペクト (ASP) : Arg1の述部が $\Gamma(\sim \tau)$ いる」「(〜て) ある」「〜ておく」

b. 否定 (NEG）：Arg2 が否定を含む

c. モーダル $($ MOD $): \operatorname{Arg} 2$ が「はず」「べき」等モーダル要素を含む

d. 接続詞 $(\mathbf{C N J}): \operatorname{Arg} 2$ が「しかし」「一方」 などの接続詞を含む

3）例えば、ASP の特徴をもつ「ながら」文の場合、Kainoki Treebank のウェブサイトにある検索インターフェイスで P-CONN く(ながら，おきけいあり) という検索式を用いて抽出できる。 e. 取り立て詞（TOR）：Arg2が「も」「は」「さえ」などの取り立て詞を含む

f. 疑問文 (QUE)： $\operatorname{Arg} 2$ が疑問文

g. 命令文（IMP）：Arg2 が命令文

まず、 $\operatorname{Arg} 1$ の述部が「(〜て) いる」「(〜て) ある」「〜ておく」など静的状態を表すものである場合、逆接の用法である傾向が強いことが分かる (31/146 対 3/1046) $)^{4}$ 。また、 $\operatorname{Arg} 2$ に否定が現れる場合も、比較的逆接の用法になりやすい傾向が見られる $(21 / 146$対 13/1046)。その他には特に目立った特徴は見られないが、疑問（QUE）に関しては、逆接・譲歩の場合ほとんど全てが以下のような修辞（反語的）疑問文であった点が特徴的である。

（9）[Arg1 敵軍撃滅という偽情報を国民に流し続けて煽動し]ながら [Arg2 何をいうか] と怒りをおさえがたいが、国民（女も） が戦意に燃えていたのは事実であろう。 (1037_fiction_onna_to_senso)

「つつ」に関しては全体件数も少なく、目立った特徴は見られなかった。

## 4.2 前提される推論が書き出しにくい例

逆接・譲歩とは前提される推論（直接型の場合 $\lceil P$ ならば $\neg Q \perp$ 、間接型の場合「 $P$ ならば $R$ 、かつ $Q$ ならば $\neg R\rfloor)$ が書き出せるものとした (2.1 節)。しかし、実際に実例を見ていくと、判定が難しいものや、一見すると逆接と思われるもののいざ前提される推論を書き出そうとすると難しいものなど、興味深い例が見られた。

A. 前提のモーダルの種類前提される推論を考える際、明示的には表れていない隠れたモーダルを補いながら考えなくてはならない場合がある。例えば、以下の例で、機械的に「 $P$ ならば $\neg Q\lrcorner$ というテンプレートに当てはめて前提される推論を書き出そうとすると (10a)となるが、「大抵〜」というような物事の典型的な起こり方を示す (stereotypical) モダリティというよりは、(10b)のような義務的 (deontic) なモダリティの意味合いが強い。

4） 今回、典型的な動作動詞ではない「思う」「知る」など思考や認識を表す動詞についてはカウントしなかったが、これらの動詞は「(〜て) いる」の形をとらなくても静的状態を表しているとも考えられるため、それらの動詞についても 「逆接」「同時進行」のいずれかになりやすいなどの傾向を調べる必要がある。動詞の種類の詳細に関しては今後の課題とする。

（10）[Arg1 遺家族とあれば一層保護を加うべき任にあり] ながら、[Arg2 色と慾の二筋道をかける〕など実に言語道断です。(454_aozora_Oda1976-2)

a. 一層保護を加うべき任にあるならば、大抵色と慾の二筋道をかけない。

b. 一層保護を加うべき任にあるならば、色と慾の二筋道をかけるべきではない。

## B. 同時進行と逆接の二分類の妥当性 「同時進行」 と「逆接」は相互排他的なものではなく、「同時進行」でもあり「逆接」でもあるケースもある。例え ば、以下の例では「ながら」に「も」が後続する逆接用法であるが、叫んだのは逃げ終わったあ後では なく逃げている最中とも解釈可能である。

(11）[Arg1 逃げていき] ながらも、[Arg2「ひゃあ!」 と叫んだ。]

(421_aozora_Harada-1960)

典型的には「ながら」は同時進行と逆接のいずれかであるものの、「ながら」の時間性（同時か継起か）と表現主体の判断（順接か逆接か）はそれぞれ独立した軸であるため、それらの組み合わせの結果、(ア）「同時・順接」（イ）「同時・逆接」（ウ）「継起・順接」（エ）「継起・逆接」の４ パターンあるとの見方 [10] もある。今回のアノテーションにおいても、上記のような例が見つかることから、同時進行と逆接という二分類が単純な相互排他的な二つのカテゴリーではないということが窥える。

c. 対比逆接は対比の意味も伴っていることが多く、その二つを切り分けるのは容易ではない（2.3 節)。PDTB-3 においては CONCESSION と CONTRAST のラベル付けに関する判断基準が決められており、 CONCESSION でもあり CONTRAST でもある場合は、前者を優先してラベル付けすることになっている [14]。

今回のアノテーションにおいても、そのような逆接と対比の切り分けの難しさが窥えた。例えば、以下の例では $\Gamma P$ ならば $Q \perp$ というテンプレートに当てはめて前提を書き出すと (12a)のようになるが、 そもそも「おだてる」が本心から相手を尊敬して褒め称えるというよりは、何か下心があってことさらに褒めて相手をいい気分にさせるというニュアンスがあることから、前提は不自然に感じられる。

(12)「本土の人って、[Arg1 沖縄をおだて] ながら、 [Arg2 ほんとうはお人好しのバカだと思ってるでしょ]」（494_fiction_onna_to_senso) a. 沖縄をおだてるなら、大抵はほんとうはお人好しのバカだと思わない。

b.（表面的には）沖縄をおだて、ほんとうはお人好しのバカだと思っている。

これを純粋な対比であるとすれば、(12b)のよう

に「表面的には」vs.「ほんとうは」、「おだてる」vs.「お人好しのバカだと思っている」という二点において対立する対比の関係と見ることができる。

D. 累加最後に累加の例を挙げる。

（13）東北大大学院工学研究科の風間基樹教授 （地盤工学・地震工学）は「[ ${ }_{\text {Arg } 1}$ 行政が作る防災マップを参考にし]つつも、[Arg2 普段から地域の地形的特性を把握して、非常時の対策を考える必要がある]」と指摘する。

(27_news_KAHOKU_184;K201406140A0T10XX00001)

a. 行政が作る防災マップを参考にするなら、大抵は普段から地域の地形的特性を把握して、非常時の対策を考える必要がない。

b. 行政が作る防災マップを参考にして、そしてそれだけではなく普段から地域の地形的特性を把握して、非常時の対策を考える必要がある。

上記の例では、テンプレートに当てはめただけの前提 (13a) は不自然であり、(13b) のように累加の意味があると考えたほうが自然に解釈できる。

逆接と累加の関係については、例えば、英語の接続詞 butで接続された節の後件に累加的表現の $t o o$ が現れうることが知られており、tooの持つ前提がどのように but の表す前提や前件の意味と相互的に作用するのかについての研究がある [5]。今回のアノテーションでも、逆接と累加とが言語学的に興味深い関係を示す例が見られた。

## 5 おわりに

本研究では、前提される推論という観点から、談話関係が曖昧である「ながら」「つつ」という接続表現に着目し、逆接の談話関係アノテーションを行った。前提される推論を明示的に書き出すことで、逆接の談話関係とその用法の広がりが明らかになった。今後の課題としては、「が」「のに」など様々な逆接・譲歩の意味を伴う接続表現を対象としたアノテーションを行うことなどが考えられる。

## 謝辞

本研究は、JST CREST、JP-MJCR2114 の支援を受

けたものである。

## 参考文献

[1] Rashmi Prasad, Nikhil Dinesh, Alan Lee, Eleni Miltsakaki, Livio Robaldo, Aravind Joshi, and Bonnie Webber. The Penn Discourse TreeBank 2.0. In Proceedings of the Sixth International Conference on Language Resources and Evaluation (LREC'08), Marrakech, Morocco, May 2008. European Language Resources Association (ELRA).

[2] 岸本裕大, 村脇有吾, 河原大輔, 黒橋禎夫. 日本語談話関係解析：タスク設計・談話標識の自動認識・コー パスアノテーション. 自然言語処理, Vol. 27, No. 4, pp. 889-931, 2020.

[3] 衣畑智秀. 日本語の「逆接」の接続助詞について: 情報の質と処理単位を軸に. 日本語科学, Vol. 17, pp. 47-64, 2005 .

[4] Mitsuko Narita Izutsu. Contrast, concessive, and corrective: Toward a comprehensive study of opposition relations. Journal of Pragmatics, Vol. 40, pp. 646-675, 2008.

[5] Grégoire Winterstein. What but-sentences argue for: An argumentative analysis of but. Lingua, Vol. 122, No. 15, pp. 1864-1885, 2012.

[6] 野矢茂樹.「しかし」の論理. 言語, Vol. 32, No. 3, 2003.

[7] 坂原茂. 日常言語の推論. 東京大学出版会, 1985.

[8] 小泉保. 譲歩文について. 言語研究, Vol. 91, pp. 1-14, 1987.

[9] 日本語記述文法研究会. 現代日本語文法 6. くろしお出版, 2008.

[10] 村木新次郎. 語彙論と文法論と.ひつじ書房, 2019.

[11] Rashmi Prasad, Bonnie Webber, and Aravind Joshi. Reflections on the Penn Discourse Treebank, comparable corpora, and complementary annotation. Computational Linguistics, Vol. 40, No. 4, pp. 921-950, 2014.

[12] Bonnie Webber, Rashmi Prasad, Alan Lee, and Aravind Joshi. The Penn Discourse Treebank 3.0 annotation manual, 2019. University of Pennsylvania.

[13] Ed Kainoki. The Kainoki Treebank - a parsed corpus of contemporary Japanese, 2022. https://kainoki. gi thub. io (accessed September 2022).

[14] Rashmi Prasad, Nikhil Dinesh, Alan Lee, Eleni Miltsakaki, Livio Robaldo, Aravind Joshi, and Bonnie Webber. The Penn Discourse TreeBank 2.0. In Proceedings of the Sixth International Conference on Language Resources and Evaluation (LREC'08), Marrakech, Morocco, May 2008. European Language Resources Association (ELRA).

## 付録

Kainoki Treebank のツリーの例を以下に示す。

ID@Kainoki_185_essay_Hepburn_no_shoogai_to_nihongo2

女性が事務能力を発揮しつつ、一家の中心となって働くさまは、日本の少年少女たちを驚かせた。

図 1 Kainoki Treebank のツリーの例

各分類ラベルが付与された言語的特徴の統計情報を以下に示す。

表 2 アノテーション結果の言語的特徴


# Automatic Classification of Japanese Formality

Pin-Chen Wang ${ }^{1}$ Edison Marrese-Taylor ${ }^{1,2}$ Machel Reid $^{1,3}$ Yutaka Matsuo $^{1}$
${ }^{1}$ The University of Tokyo, ${ }^{2}$ AIST, ${ }^{3}$ Google Research
\{wangpinchen, emarrese, matsuo\}@weblab.t.u-tokyo.ac.jp
machelreid@google.com

## 概要

In this paper we propose a novel approach to automatically classify the level of formality in Japanese text, using three categories (formal, polite, and informal). We introduce new datasets that combine manually annotated sentences from existing resources, and a great number of formal sentences scrapped from the Japanese Congress. Based on our data, we propose a Transformer-based classification model for Japanese formality which obtains stateof-the-art results in benchmark datasets, as well as on our newly-introduced corpus, showing the effectiveness of our proposed approach.

## 1 Introduction

Formality or honorifics refers to the level of politeness and respect indicated by the contents, which is a core part of natural language as it indirectly shows how critical the current situation is, one's social rank and status, and also the relation of the people involved in that conversation or any written tasks. However, while many other major languages, including but not limited to English, French, and Mandarin Chinese emphasize formality through the use of standard grammar, more complicated sentence structures (active, passive, use of clauses, etc.), or more advanced and complex choice of vocabulary and phrases, as a society that respects and values etiquette, the Japanese language has its own formality system in order to create specified honorific expressions. This Japanese formality system or Keigo (敬語) is strict and follows a standard grammar format to convert all sentences from one style to another while maintaining the original meaning, word choice, and sentence structure.

Unlike English or other European languages, Japanese formality requires users to identify the status or the relationship with the interlocutor. Japanese honorifics indicate the level of social rank and the hierarchy of the interlocutor or the intimacy one is with that certain person [1]. The crucial point that makes the Japanese formality system stand out from many other major languages is that it allows the users to change the formality level of a sentence from informal to a superiorly high level by merely adjusting the tense of the verb [2]. Generally, Japanese formality can be divided into four different categories [2],
- Regular (jyotai, 常体): a form that is often used in but not limited to a daily conversation with only people one is familiar with or people who are in the equivalent social status.
- Polite (teineigo, 丁寧語): a form that is generally used throughout the whole Japanese society to create some distance between one another. Although this form does not indicate the amount of respect one holds toward others, it helps deliver messages in a polite way that will not be offensive on any occasion.
- Respectful (sonnkeigo, 尊敬語): a form that shows extensive respect, which is used to maximize the preeminence of the interlocutor.
- Humble (sonnkeigo, 謙譲語): a form that specifies humbleness, which is used by the Japanese speakers to minimize their own value in order to highlight the greatness of the interlocutor.

Although grammatically, all the sentences in Japanese can be converted from one formality class to another, the Japanese formality system follows the additional rule [2], where one can always mix the four forms together in one paragraph. The more respectful form one uses in a sentence or a paragraph, the more courtesy one states toward one's interlocutor. Similarly, the more humble form one uses, the more modest one is in the conversation. However, it is also emphasized that when containing too many formal terms in a sentence, the sentence will become annoying and
considered inappropriate regarding the Japanese social rule [2]. Nevertheless, the limitation of the number of formal terms that can be used in a single sentence is so vague that it is impossible to clearly draw a line. The restriction varies depending on the content, length of the sentence, and also the situation of the conversation.

Even if formality control has become a popular task in machine translation, the language models trained for generating appropriate formal sentences are mainly in English or other European languages [3]. To be more specific, although there are numerous English-Japanese parallel corpora for translation tasks as well as formality-classified datasets for some major languages (especially in English), we find a lack of existing resources related to Japanese formality. Moreover, we notice that as generative systems get better at producing sentences in Japanese, we lack mechanisms to automatically determine how well such models can do in terms of adequately generating sentences according to formality levels.

In light of this issue, in this paper, we focus on evaluating and developing resources to work toward a potential solution. We begin by uncovering several flaws, including broken pieces and mislabeling in existing corpora, and introduce a new dataset for Japanese formality that consists of manually labeled sentences (informal, polite, and formal) with examples gathered from some existing sources (IWSLT2022 Special Task on Formality Control for Spoken Language Translation [4] and KeiCO [5]) and also with data extracted from meeting minutes from different committees of the House of Representatives of Japan and the House of Councilors of Japan ${ }^{1)}$ from the year 1947 to 2022 . Then, based on our data, we proposed a Transformer-based classification model for Japanese formality which outperforms any existing classification model for Japanese formality. The models and the corpus are released in this repository ${ }^{2)}$.

## 2 Related Work

Communication by way of natural language often includes indicators for respect, sometimes shown via explicit controls for formality. Consequently, for the task of machine translation where the goal is to accurately translate an input sequence into a target language, Formality-Sensitive

1) https://kokkai.ndl.go.jp/\#/

2) https://github.com/gg21-aping/Japanese-Formality-Corpus
Machine Translation Model (FSMT) [6], which explicitly takes an expected level of formality as input was introduced as a form of control to make the formality levels consistent. Despite this, research on this task is still limited.

To the best of our knowledge, one of the existing corpora for Japanese formality (the annotated contrastive reference translation dataset) was released as a shared task on Formality Control for Spoken Language Translation announced by the International Conference on Spoken language Translation (IWSLT) in 2022 [4]. This dataset released 1,000 parallel English-Japanese sentences for training and 600 parallel sentences for testing. Another recent paper introduces a corpus only for Japanese formality, where 40 native Japanese volunteers were asked to regenerate and annotate new Japanese sentences based on 3,000 original sentences [5]. The KeiCO corpus contains 10,007 examples and consists of the four forms of the Japanese formality system.

Moreover, current studies rely on human assessment or simple models to verify the performance of formality control of a machine translation model. For example, the FSMT for English-French translation [6] conducted a human study in which they assigned translation pairs for human annotators. Neural Machine Translation (NMT) models for Japanese-English translation [7] and EnglishGerman translation [8] depends on rule-based classifiers where they list grammatical rules for the language and classify the input sentence by matching certain syntaxes. In addition, based on the two datasets mentioned above, a BERT-based classifier is proposed with the KeiCO corpus [5] and an XLM-R-based [9] classifier is created for measuring the performance of Pre-trained Multilingual Language Models [10].

## 3 Proposed Approach

We divide the Japanese language into three categories based on the four formality terms and their corresponding applied situations: (1) Informal (for regular tense), (2) Polite (for polite tense), and (3) Formal (for respectful and humble tenses) - we show examples in Appendix A.

## 3.1 Datasets

The size and quality of the datasets are vital requisites to maximize the performance of the machine learning models [11]. Therefore, this study uses datasets from three criteria,

(1) existing corpus, (2) existing corpus with reannotation, and (3) newly introduced corpus. For annotation for the datasets in (2) and (3), we asked 20 to 30 native Japanese (born and raised in Japan) with ages in the range of 20 to 30 years old to annotate the examples into three classes, informal, polite, and formal. All annotators are currently undergraduate or graduate students of the University of Tokyo, Japan. Furthermore, all the annotations are then doublechecked with the Japanese dictionaries by another 3 native Japanese who are also students of the University of Tokyo.

Therefore, we prepare two training sets and two testing sets for all models based on the following dataset mentioned in this section. TrainVI consists of 1,200 examples collected from ReIWSLT2022FC, DAILY, and KoKai with 426 informal sentences, 501 polite sentences, and 273 formal sentences, where testVI has 300 informal sentences, 330 polite sentences, and 370 formal sentences also collected from the same sources. TrainV2 consists of 3,500 examples with 1,200 examples from TrainV1 and another 2,300 examples from the KeiCO corpus, with 989, 1,138, and 1,373 sentences for informal, polite, and formal, respectively. test $V 2$ consists of 2,001 examples randomly seleceted from the KeiCO corpus, with 531, 503, and 967 sentences for informal, polite, and formal, respectively.

KeiCO [5] We randomly selected $20 \%$ of the examples from the original $\mathrm{KeiCO}$ corpus as a test set following the original paper [5] and sample 2,300 examples for training purposes.

ReIWSLT2022FC We reannotate a total of 1,000 examples from the dataset introduced by IWSLT for formality control in 2022 [4] as we realized that the Japanese content is considered not reliable. Some of them are broken sentences, and some of them do not carry an understandable Japanese meaning. Besides, the provided dataset is binary classified, which is not as accurate as this paper expected. Also, we discovered after careful reannotation that 44 out of 1,000 examples are mislabeled. After reannotation, 520 sentences are informal, 464 sentences are polite, and 12 sentences are formal.

DAILY In DAILY, this paper randomly collected Japanese sentences from Japanese news, novels, textbooks, business letters, academic documents, etc. The dataset carries well-balanced three classes with 65,67 , and 68 sentences for the informal, polite, and formal classes, respectively. This dataset provides us with a quick glance at how the formality system works in Japanese and helps make up the classification models in the beginning stage of this research.

KoKai Because of the lack of formal sentences in the early stage of the research, this paper has dedicated itself to finding extremely formal examples. As we noticed that politicians in Japan speak in a superior formal way, this paper collected all the meeting minutes from the Japanese Congress from 1947 to 2022. The sentences and phrases used in the committees are considered formal, or at least polite, with very little informal syntax. There are in total 64,630 sentences with 23,672 paragraphs, excluding 11,805 broken sentences which are mostly the names, dates, or titles of the committees or the list of participants. We also assume that the broken sentences and some of the informal sentences scrapped from the meeting minutes are likely to be interrupted sentences, unfinished sentences, or questions during the interpolation. In order to utilize the KoKai corpus, we randomly selected 1,360 examples of the entire 64,630 examples, and have the annotators give labels to the sentences. As a result, we have 137 informal examples, 760 polite examples, and 463 formal examples.

## 3.2 Models

This paper constructs a rule-based classifier for Japanese formality as the baseline of the study. Then, we built models based on algorithms of logistic regression, naive Bayes, and support vector machine (SVM). Also, as BERT [12] achieved excellent performance in many tasks, we also use our dataset to finetune the BERT base Japanese proposed by Tohoku University [13]. We used AdamW as the optimizer and set the learning rate to $1 \mathrm{e} 5$. While we use nagisa tokenizer [14] for the machine learning classifiers, the transformer model uses the IPA dictionary and tokenizes sequences by the MeCab morphological parser [15].

## 4 Experimental Setup

Since the performance of machine learning models highly depends on the contents of the training data [11], we questioned the results of the models, suspecting whether the model truly learns the terms of the Japanese formality, or whether the model merely learns to draw a line between the situation implied in the contents.

Therefore, we trained our model with two training sets and tested them on another two testing sets. Formal
sentences in TrainVl mainly come from the Japanese Congress, where contents are highly related to politics, education, military, economics, development, etc. On the other hand, formal sentences from TrainV2 consist of both political text and content from diverse situations. Then, we calculate F1 scores for each model to compare their performances. Besides, we also suspect that batch sizes and the number of epochs may affect the result of the performance. Therefore, for the transformer model, we would also like to try training it with different parameters. Lastly, in order to know whether the models truly work, we then compared the accuracy scores of our models with the performances of the Japanese formality classification models so far.

## 5 Results

Here, Transformer VI represents the transformer-based model which is trained on the training set TrainV1, while Transformer V2 is the transformer-based model trained on the training set TrainV2. This paper applies the setup of batch size $=16$ and epochs $=20$ for transformer-based models as this setup proposed a better performance compared to the others. Full results of the parameter studies are displayed in Appendix B. Almost all the models result in performance greater than the baseline, while the transformerbased model reaches an $\mathrm{F} 1$ score of 0.91 for test $\mathrm{Vl}$ and 0.81 for testV2. Results of the performance for all the models have been stated in Appendix C

## 5.1 Perfomance Comparison

To prove that our model is reliable, this thesis compares our performance results with existing Japanese formality classifiers. Table 1 displays the result of comparing the performances tested on the TEST set provided by IWSLT 2022 [4] between our model and the binary classifier tested on the TRAIN set used for pre-trained models [10]. To also convert our model from a multi-class model to a binary class model, we consider the polite class in our model to become formal. Furthermore, table 2 demonstrates the performance comparison between our model and the classifier based on the KeiCO corpus [5]. The F1 score of both models is calculated based on their performance on the test $V 2$. The table suggests that without feeding any examples from the KeiCO corpus to the model during the training process, Transformer $V 1$ is unable to handle sentences created in the $\mathrm{KeiCO}$ corpus. However, after feeding some ex-表 1 Comparison of the Performance of the Models testing on IWSLT test set. (The performance given by the original paper [10] is the performance on the TRAIN set.)

表 2 Comparison of the Performance of the Models testing on KeiCO test set. The "formal" column refers to the accuracy of the model to detect the formal term while the "level" column indicates the performance of detecting the level of honorifics.

amples (apart from the testing set) to the training process, Transformer V2 outperforms the KeiCO classifier with an F1 score of 0.810 over 0.727 .

## 6 Conclusions

Briefly, this paper introduces 2 new datasets (DAILY and KoKai) and a reannotated dataset (ReIWSLT2022) for Japanese formality. Also, we discovered some flaws in the existing dataset that results in unreliable performance. Based on our data, we then report results on mainly 5 models consisting of the knowledge base (rules), algorithms, and neural networks, namely, a rule-based model, logistic regression-based models, naive Bayes-based models, SVM-based models, and transformer-based models. These models carry a state-of-the-art performance that outperforms all the other existing classifiers.

In short, the lack of ability to recognize formal terms, the inaccurate choice of vocabulary and phrases to generate, and the doubtful usage of accurate sentence structure still make it perplexing to achieve the goal of translating appropriate natural languages. Therefore, in light of specifying obstacles in the Japanese formality system, this paper aims to provide detailed and critical instructions to guide further researchers in considering honorifics in Asian societies where etiquette is highly valued.

## 参考文献

[1] Atsushi Fukada and Noriko Asato. Universal politeness theory: application to the use of japanese honorifics. Journal of Pragmatics, Vol. 36, No. 11, pp. 1991-2002, 2004.

[2] 文化審議会. Instruction to japanese formality (敬語の指針). Technical report, Commissioner for Cultural Affairs, Japan, February 2007.

[3] Xing Niu and Marine Carpuat. Controlling neural machine translation formality with synthetic supervision. Aaai Conference On Artificial Intelligence, 2019.

[4] Maria Nădejde, Anna Currey, Benjamin Hsu, Xing Niu, Marcello Federico, and Georgiana Dinu. CoCoA-MT: A dataset and benchmark for Contrastive Controlled MT with application to formality. In Findings of the Association for Computational Linguistics: NAACL 2022, Seattle, USA, July 2022. Association for Computational Linguistics.

[5] Muxuan Liu and Ichiro Kobayashi. Construction and validation of a Japanese honorific corpus based on systemic functional linguistics. In Proceedings of the Workshop on Dataset Creation for Lower-Resourced Languages within the 13th Language Resources and Evaluation Conference, pp. 19-26, Marseille, France, June 2022. European Language Resources Association.

[6] Xing Niu, Marianna Martindale, and Marine Carpuat. A study of style in machine translation: Controlling the formality of machine translation output. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 2814-2819, Copenhagen, Denmark, September 2017. Association for Computational Linguistics.

[7] Weston Feely, Eva Hasler, and Adrià de Gispert. Controlling Japanese honorifics in English-to-Japanese neural machine translation. In Proceedings of the 6th Workshop on Asian Translation, pp. 45-53, Hong Kong, China, November 2019. Association for Computational Linguistics.

[8] Rico Sennrich, Barry Haddow, and Alexandra Birch. Controlling politeness in neural machine translation via side constraints. In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 35-40, San Diego, California, June 2016. Association for Computational Linguistics.

[9] Alexis Conneau, Kartikay Khandelwal, Naman Goyal, Vishrav Chaudhary, Guillaume Wenzek, Francisco GuzmÄA ${ }_{i}$, Edouard Grave, Myle Ott, Luke Zettlemoyer, and Veselin Stoyanov. Unsupervised cross-lingual representation learning at scale. arXiv preprint arXiv: Arxiv-1911.02116, 2019.

[10] Elijah Rippeth, Sweta Agrawal, and Marine Carpuat. Controlling translation formality using pre-trained multilingual language models. In Proceedings of the 19th International Conference on Spoken Language TransIation (IWSLT 2022), pp.327-340, Dublin, Ireland (inperson and online), May 2022. Association for Computa- tional Linguistics.

[11] Mehryar Mohri, Afshin Rostamizadeh, and Ameet Talwalkar. Foundations of Machine Learning. Adaptive Computation and Machine Learning. MIT Press, Cambridge, MA, 2 edition, 2018.

[12] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. Bert: Pre-training of deep bidirectional transformers for language understanding, 2019.

[13] Tohoku University,. Bert base japanese. https:// huggingface.co/cl-tohoku/bert-base-japanese, 2019.

[14] 池田大志. nagisa: Rnnによる日本語単語分割・品詞タグ付けツール. https://qiita.com/taishi-i/items/ 5b9275a606b392f7f58e, 2018.

[15] Takumitsu Kudo. Mecab : Yet another part-of-speech and morphological analyzer. 2005.

## A Classification Classes

For example, given an original English sentence " $I$ would like to inquire about the schedule of the final exam. We had this conversation earlier that the schedule for my thesis defense overlapped with the exam. I would like to know if there is a possibility that I can take the exam one week after the official exam date.", “期末試験の日程を聞きたい。修論発表の日程が試験と被っている話を前したのだが、正式な試験日の一週間後に受ける形で対応してもらいたい。よろしく。” is considered informal, “期末試験の日程について聞きたいです。修論発表の日程が試験と被っている件について以前話したのですが、正式な試験日の一週間後に受験するという形で対応してもらえますか。よろしくお願いします。” is considered polite, and “期末試験の日程について伺いたいことがございます。修論発表の日程が試験と被っている件について以前お話しさせていただいたのですが、正式な試験日の一週間後に受験させていただくという形で対応していただくことは可能でしょうか。ご検討よろしくお願いいたします。” is considered formal. Colored phrases refer to the tense of the verb for the different categories.

## B Hyper-Parameter Tuning

表 3 Performance on Transformer V1 with different batches and epochs.

 & $\mathbf{0 . 9 5}$ & $\mathbf{0 . 8 9}$ & $\mathbf{0 . 8 7}$ & $\mathbf{0 . 9 0}$ \\

In the case of finding out if adjusting parameters affect the performance result on our dataset when finetuning the transformer-based model, different parameters were fed when training Transformer V1. Table 3 shows the results on the performance of models with different batch sizes and epochs. The size of the training set might be a core factor that results in such F1 scores for each setup. However, a simple hypothesis can be made that compared to polite and formal sentences, it is considerably easier for a model to recognize the informal tense of the Japanese language compared to other honorific levels.

表 4 Performance on all models trained by different versions of the training set.

## C Different Models

Table 4 displays the accuracy achieved by each model with different training sets and being tested with different testing sets. The results demonstrate that overall, all models perform better than the baseline model. However, the average F1 scores on different testing set significantly diverge, for test $\mathrm{VI}$, the $\mathrm{F} 1$ scores moderately increase when TrainV2 is used. When it comes to testV2, the accuracy scores remarkably rocket when training on TrainV2. Recall that almost all the formal sentences in TrainVl come from the Japanese Congress, formal examples are highly politics-related. Hence, this thesis makes the assumption that Transformer VI learns how to determine whether a given input is of a formal content rather than with a formal Japanese term.


# 言語モデルの第二言語獲得

大羽未悠 ${ }^{1}$ 栗林樹生 ${ }^{2,3}$ 大内啓樹 1,4 渡辺太郎 1
}

1 奈良先端科学技術大学院大学 ${ }^{2}$ 東北大学 ${ }^{3}$ Langsmith 株式会社 4 理化学研究所

\{oba.miyu.ol2, hiroki.ouchi, taro\}@is.naist.jp

tatsuki.kuribayashi.e8@tohoku.ac.jp
## 概要

言語モデルの成功を踏まえ，モデルの第一言語 （L1）獲得について，人間の言語獲得を踏まえた分析が行われている. 本研究では第二言語 (L2) 獲得にスコープを広げた調査を行う，単言語の事前学習済みモデルを L1 話者と見立て，L2コーパスを用いた言語間の転移学習により言語転移をシミュレートし，モデルの文法能力について明らかにする. 実験では, L1 やその提示方法の違いによって, 第二言語の文法獲得が異なる影響を受けることを観察した。

## 1 はじめに

近年，言語モデルの言語転移能力に高い関心が寄せられている。例えば超大規模な英語の言語モデルは，学習データに少量しか存在しない英語以外の言語においても，ある程度知的な振る舞いを示しており, 英語から他言語へ効率的に言語転移していることを示唆している $[1,2]$. このような言語モデルの言語転移能力について, 既存研究では， パープレキシティなどの抽象度の高い指標や応用タスクでの性能に基ついいた調査, 特定の学習済み超多言語モデルを対象とした分析などが行われてきた $[3,4,5]$. 一方で，文法知識の獲得・転移や，言語ごとの転移傾向の違いといった言語学的な観点からの統制された分析は限られている.

本研究では，言語モデルの言語転移について，第一言語での学習が第二言語の文法獲得にどのように影響するかを言語横断的に調査する. 具体的には，類型や学習難易度の異なる 4 つの言語（第一言語; L1）を用いて各言語モデルを事前学習した後に，第二言語（英語; L2）を用いて追加の学習を行う. 最後に，モデルの L2 の文法能力に関して文法性判断ベンチマークを用いて分析する.

自然言語処理的な視点からは, 言語モデルの言語獲得・転移能力について洞察を深める試みと見るこ
L1がL2の文法獲得に影響を与えるか?

図 1 実験手順. 初めに，第一言語（L1）を用いて単言語の穴埋め言語モデリングを学習する (L1 獲得). 次に L1 とL2を両方用いて既存研究に従った穴埋め言語モデリングを学習する（L2 獲得） [6]. 最後に，文法性判断ベンチマーク BLiMP を用いてモデルの文法能力を評価し，L1 が L2 獲得にどのように影響するか調査する。

とができ，計算心理言語学的な視点からは，母語干渉についてシミュレーション的な検証をしているとみなせる．後者について，人間を直接観察する方法とは相補的な長所がある。例えばあらゆる言語対について，それらを $\mathrm{L} 1 \cdot \mathrm{L} 2$ とする人間を集め，彼らの言語能力について統制的に分析をすることには限界があるが，言語モデルでは言語対を増やす・学習の規模を揃えるといった統制・分析が容易に行える。

まず事前実験にて，追学習における L2 の提示方法を比較し，L2 の文法獲得に適した学習設定を調査する.その後, 本実験では, L1を用いた事前学習が L2 の文法獲得に及ぼす影響について，言語の異なりや文法項目の観点から分析する.

実験結果から，人間の言語学習における英語との乘離が小さい言語での事前学習の方が，英語のモデルの文法獲得に良い影響をもたらす傾向や，特定の言語や文法項目については負の転移を引き起こす場

合があることを確認した．例えば，L2 に特有の文
表 $1 \mathrm{~L} 1$ ・L2として実験で用いる言語の性質. FSI は FSI カテゴリを示し, 值が大きいほど言語学習において英語との乘離が大きいと想定している。IE はインド・ヨー ロッパ語族を，N-IE はそれ以外の語族を指す。

 &  & 文字 & FSI \\

法項目については，L1での事前学習の効果が低く，時に悪影響を与えることが観察された。

また，人間の L2 習得に準えるといくつか直感に反する観察も得られ，必ずしも人間の L2 獲得のアナロジーが通用しないことが示唆された. 例えば,言語モデルの L2 の学習時に, L1 と L2 の対訳を提示する設定では，対訳関係を崩したぺアを提示する設定よりも，L2 の文法獲得効果が低いことが示された. 対訳が提示される場合，語彙的な対応関係を根拠に言語モデリング問題を解けることも多く，この学習負荷の低さが L2 文法獲得効果を下げている可能性がある。一方，人間の言語学習シナリオを踏まえると，母語との対応関係を提示しないほうが L2 文法獲得が促されるというのは直感とは相違する.

## 2 実験手順

実験手順を図 1 に示す.まず L1 獲得を想定し，言語モデルを L1 の単言語コーパスで事前学習する。次に，L2 獲得を想定し，事前学習済みモデルを L2 （英語）を含むコーパスで追学習する. 最終的に，言語モデルの文法性判断ベンチマーク（BLiMP）[7]を用いて，L2 におけるモデルの文法能力を評価する. この大枠を基に, L2 学習時の設定の違いや, L1 の異なり，L1 による事前学習の有無などが，L2 の文法獲得に及ぼす影響について実験を行う（3，4 節）。

L2 には英語を使用し，L1 はフランス語，ドイツ語，ロシア語，日本語の 4 言語を調査対象とする（表 1）。これら 4 言語は，アメリカ外交官養成局が報告する英語母語話者にとっての習得難易度 （FSI カテゴリ）の観点で異なり，設定の多様性の観点から，各カテゴリにつき 1 言語ずつ採用している. ${ }^{1)}$ フランス語, ドイツ語, ロシア語, 日本語の

順で習得が難しくなる。また，既存研究に従い [6], Transformer ベースの双方向言語モデルを採用し，八イパーパラメータを定めた（付録参照；表 4）。

## 2.1 L1 獲得

マスク穴埋め言語モデリング（MLM; Masked Language Modeling）[6,8]で学習を行う. 各言語について，CC-100 からサンプルしたおよそ 100M 語の単言語コーパスを用いた $[9,10]$. 人間の言語獲得に準え，人間がおよそ 10 歳までに読む単語数 $(100 \mathrm{M}$語）と規模を揃えている.

## 2.2 L2 獲得

多言語を扱うモデルの既存研究 [6] を参考に，L1 と L2 のコーパスを両方用いる設定を想定する. MLM に加え， TLM（Translation Language Model）も使用する．事前実験（3節）では，MLM や TLM を用いた学習設定の文法獲得への影響を調査する。

コーパスとして， Tatoeba ${ }^{2)}$ の仏英，独英，露英，日英ペアを使用する。Tatoeba は外国語学習者向けの例文とその翻訳からなる多言語対訳コーパスである. 各言語ぺアのうち最も文数が少ない言語ぺアに合わせて 211,714 ペアを用いた。

## 2.3 評価

モデルの文法能力を測定するデータセットとして BLiMP [7]を用いる．BLiMP は英語の文法能力を評価対象とし，文法項目ごとに 12 の中分類，67 の小分類からなる. 小分類ごとに文法的に容認可能な文と不可能な文のペアが 1000 ペアずつ含まれており，本研究では中分類（以降は文法項目と記す）ごとのスコアとそれらのマクロ平均を報告する．以下は 「照応の一致」という項目のぺアの例である。（1a) は容認可能な文であるが，(1b）は herself の参照先が存在せず容認不可能な文である.

(1a) Many teenagers were helping themselves.

(1b)* Many teenagers were helping herself.

各文の単語を 1 単語ずつマスクして言語モデルに入力し, 各単語の確率の相乗平均を求め, 容認可能な文と不可能な文のペア全体のうち，前者に高い確率が付与されたぺアの割合を計算することで文法性判断スコアを得る.

して転移元・先の対称性を一旦仮定し，該当言語から英語への転移の難しさの議論に持ち出している.

2) https://opus.nlpl.eu/Tatoeba.php
表 2 L2 の学習設定の異なりが文法能力の獲得に及ぼす影響．值は文法性判断スコアを示す。対訳の、は，対訳関係のあるコーパスを用いたことを示す。切替における $\checkmark$ は，L1 側の文を使用するか否かをエポックごとに切り替えて入力したことを表す。

## 3 事前実験: L2 の提示方法

初めに，L2 の学習設定による帰納バイアスを調查する. 既存研究では, 多言語モデルの学習時に対訳を入力しているが，この設定が文法性判断能力の獲得に与える影響を事前に確認する．具体的には，追学習時に，対訳を入力する設定（TLM のみ [6]）,対訳関係を崩して入力する設定（MLM のみ $[6,8]$ ), L2 の文に対し，対訳関係のある L1 の文を連結する・しないをエポックごとに切り替えて，TLM と MLM を組み合わせる設定（MLM+TLM）の3つを試す．実験設定の詳細は付録 A に記す。

対訳関係の有無の比較（表 2, 1 行目と 2 行目の比較）から，TLM のみの設定では MLM のみの設定時よりも L2 の文法獲得の効果が低いことがわかった．TLM の学習では，対訳関係を使用できるため， ソース言語のマスクした単語に紐づくターゲット言語の単語の訳を出力するだけで問題が解ける場合も多い。一方，MLM の学習では，対訳関係を使用できないので，より高負荷な問題を解かせていることに相当し，L2 の文法的理解を促した可能性がある.

また，MLM+TLM設定においてモデルの文法獲得が最も促された. MLM とTLMが相補的に良い影響を与えた可能性のほか，L2 の文法能力を評価する際は L2 の文を単体で入力しており，学習時にも L2 の文が単体で入力される設定を採用することで，学習と推論の設定の乘離を縮められた可能性がある.以降の実験では，MLM+TLM の設定を採用する。

## 4 実験: L1 の影響

事前学習で用いた L1 の違いがモデルの L2 獲得に与える影響を調査する. 各L1の単言語コーパスを用いた事前学習を行うか否かで文法能力を比較する. 追学習終了時の文法能力を表 3 に示す.全ての言語に見られる傾向: 表 3 はL1の事前学習が L2 の文法獲得に与える傾向を示している，各文法項目におけるスコアのマクロ平均 OVERALL の事前学習の有無によるスコア差 $\Delta$ から， 4 言語全てにおいて，L1 での事前学習により文法能力が向上していることがわかる。言語間で差はあるが，L1 での事前学習は L2 の文法獲得に好影響を促すことが示唆された。

各文法項目におけるスコアの変化に着目すると， IRR. FORM（動詞の不規則活用）については，相対的に事前学習が悪影響を及ぼしていることが分かる. IRR. FORM では，例えば以下の（6a）は容認可能な文で，（6b）は容認不可能な文となる.

(6a) The forgotten newspaper article was bad.

(6b)* The forgot newspaper article was bad.

この例では動詞 “forget”の過去分詞形が “forgotten”であることなどが問われている. 正しい判断のためには英語固有の動詞の活用を覚える必要があり, 英語以外の言語での事前学習が良い影響を与えないという結果は直観的であると言える。なぜドイツ語の設定においてより強い悪影響が観察されたかに関しては，今後の分析課題としたい.

言語の異なりがもたらす傾向: 表 3 の各文法項目におけるスコアのマクロ平均 OVERALLを言語間で比較すると，フランス語が最も高く，ドイツ語が僅差で続き，日本語，ロシア語はこれら 2 言語とは大きく差が開いている. フランス語とドイツ語での事前学習は, 日本語とロシア語よりもはるかに英語の文法獲得に効果的であることがわかった. このような結果は，言語間の文字体系（表 1 を参照）の類似と関わる可能性がある。また，表 1 の FSIを参照すると，人間の習得はフランス語，ドイツ語，ロシア語, 日本語の順に難しくなることから, FSI の傾向がある程度は言語モデルでも観察された. L1 における L2 習得の難しさは，言語モデルと人間でおおよそ類似していることが示唆される。

文法項目ごとのスコアから, L1 ごとに得意・不得意な文法項目が異なることが分かる。例えば，フィラー・ギャップ依存関係 (FILLER-GAP) では, 同じ SOV 語順の言語間でも，ドイツ語と日本語モデルで 3.7 ポイントの差が生じており，言語現象の類似・相違性と一貫している. フィラー・ギャップ依存関係は，例えば以下の（2a）は容認可能な文で（2b）
表 3 L1 の事前学習や言語の異なりが L2 の文法獲得に与える傾向. OVERALL は各文法項目のスコアのマクロ平均を表す.L1の、は，L1の単言語コーパスを用いて事前学習したことを示す. $\Delta$ は事前学習の有無によるスコア差である．値が大きいほど，事前学習が文法獲得に対してより良い影響を与えたことを示す.

は容認不可能な文といった判断を課す問題設定に対応している.

(2a) Joel discovered the vase that Patricia took.

(2b)* Joel discovered what Patricia took the vase.

例えば，（3a）から（3b）のように格要素を移動して従属節を作る際，英語ではギャップ（移動前の位置，記号「_-_の箇所）がフィラー（移動先，[the student]）の後ろに位置することが多い.

(3a) The teacher advised [the student].

(3b) [The student] the teacher advised .-- were smart. ドイツ語でも同様の位置関係になるが，日本語では （4a-b）のように逆となる.

（4a）先生が [学生に] アドバイスした.

（4b）先生が__-アドバイスした [学生は] 賢かった. このように, 日本語-英語間で各要素の移動先に違いがあり, 日本語で事前学習したモデルが英語のフィラー・ギャップ依存関係の学習に苦戦する理由のひとつになっていると考えられる。

## 5 関連研究

「ニューラルモデルはテキストデータのみから人間の言語獲得を模倣できるのか」. この問いに取り組んだ研究は 1980 年台に始まり, 先天的な知識なしに言語獲得は可能かという問いや，コネクショニズムの可能性・限界の観点から，議論が繰り広げられてきた $[11,12]$. 当初は簡易的なニューラルモデルを用いて議論が広げられたが，近年ニューラルモデルを用いた自然言語処理が目覚ましい進展を遂げ [13]，ニューラルネットワーク黎明期に認知科学分野が掲げた問いへ再訪する動きが高まっている $[14,15]$. 近年盛んに行われているニューラルモデルの言語知識の分析（プロービング）は，そのような一連の議論の延長線上にある $[16,17]$. 既存研究では L1 の獲得に注目が置かれてきたが，本研究ではニューラル言語モデルの第二言語獲得の傾向を分析しており，多言語モデリングという工学的道具立ての性質の理解と共に, 人間の言語転移・第二言語獲得における母語干渉などへの計算機的なアプローチを見据えている.

言語転移については, 言語間の転移学習により構文知識や文法誤り知識を転移することで，構文解析 [18] や文法誤り訂正 [19] などの下流タスクに活用する研究がなされている. 人工言語を用いた言語転移の研究も行われてきており，楽譜や括弧からなる系列といった言語以外の系列からの転移や $[3,20]$,自然言語を規則的に編集することで得られた言語からの転移なども分析されている [4]. 本研究は，より人間の学習に条件を近づけた設定で，言語モデルのL1のL2への影響やその過程を調査し，言語間の転移能力について分析している.

## 6 おわりに

本研究では，言語モデルの言語転移について，第二言語における文法獲得への影響という観点から調査を行った. その結果として, L1 は L2 の文法獲得に対し全体的には好影響を与えるが，言語や文法項目に依存し，負の転移を引き起こす場合もあることがわかった. 今回得られた結果に対する言語学的観点からの考察の充実化や，より多くの言語を用いた検証を今後の課題としたい.

## 謝辞

本研究は JSPS 科研費 JP19K20351 の助成を受けたものです.

## 参考文献

[1] Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, Sandhini Agarwal, Ariel Herbert-Voss, Gretchen Krueger, Tom Henighan, Rewon Child, Aditya Ramesh, Daniel Ziegler, Jeffrey Wu, Clemens Winter, Chris Hesse, Mark Chen, Eric Sigler, Mateusz Litwin, Scott Gray, Benjamin Chess, Jack Clark, Christopher Berner, Sam McCandlish, Alec Radford, Ilya Sutskever, and Dario Amodei. Language models are few-shot learners. In H. Larochelle, M. Ranzato, R. Hadsell, M.F. Balcan, and H. Lin, editors, Advances in Neural Information Processing Systems, Vol. 33, pp. 1877-1901. Curran Associates, Inc., 2020.

[2] Freda Shi, Mirac Suzgun, Markus Freitag, Xuezhi Wang, Suraj Srivats, Soroush Vosoughi, Hyung Won Chung, Yi Tay, Sebastian Ruder, Denny Zhou, et al. Language models are multilingual chainof-thought reasoners. arXiv preprint arXiv:2210.03057, 2022.

[3] Isabel Papadimitriou and Dan Jurafsky. Learning Music Helps You Read: Using transfer to study linguistic structure in language models. In Proceedings of the $\mathbf{2 0 2 0}$ Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 6829-6839, Online, November 2020. Association for Computational Linguistics.

[4] Ameet Deshpande, Partha Talukdar, and Karthik Narasimhan. When is BERT multilingual? isolating crucial ingredients for cross-lingual transfer. In Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 3610-3623, Seattle, United States, July 2022. Association for Computational Linguistics.

[5] Terra Blevins, Hila Gonen, and Luke Zettlemoyer. Analyzing the mono- and cross-lingual pretraining dynamics of multilingual language models. In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing, pp. 3575-3590, Abu Dhabi, United Arab Emirates, December 2022. Association for Computational Linguistics.

[6] Alexis Conneau and Guillaume Lample. Cross-lingual language model pretraining. In H. Wallach, H. Larochelle, A. Beygelzimer, F. d'Alché-Buc, E. Fox, and R. Garnett, editors, Advances in Neural Information Processing Systems, Vol. 32. Curran Associates, Inc., 2019.

[7] Alex Warstadt, Alicia Parrish, Haokun Liu, Anhad Mohananey, Wei Peng, Sheng-Fu Wang, and Samuel R. Bowman. BLiMP: The benchmark of linguistic minimal pairs for English. Transactions of the Association for Computational Linguistics, Vol. 8, pp. 377-392, 2020.

[8] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[9] Alexis Conneau, Kartikay Khandelwal, Naman Goyal, Vishrav Chaudhary, Guillaume Wenzek, Francisco Guzmán, Edouard Grave, Myle Ott, Luke Zettlemoyer, and Veselin Stoyanov. Unsupervised cross-lingual representation learning at scale. In Proceedings of the 58th Annual Meeting of the Association for
Computational Linguistics, pp. 8440-8451, Online, July 2020. Association for Computational Linguistics.

[10] Guillaume Wenzek. Ccnet: Extracting high quality monolingual datasets from web crawl data. In Proceedings of the Twelfth Language Resources and Evaluation Conference, pp. 40034012, Marseille, France, May 2020. European Language Resources Association.

[11] David E Rumelhart and James L McClelland. On learning the past tenses of english verbs. In Parallel distributed processing: Explorations in the microstructure of cognition, pp. 216-271. MIT Press, Cambridge, MA, 1986.

[12] Steven Pinker and Alan Prince. On language and connectionism: Analysis of a parallel distributed processing model of language acquisition. Cognition, Vol. 28, No. 1, pp. 73-193, 1988.

[13] Christopher D. Manning. Last words: Computational linguistics and deep learning. Computational Linguistics, Vol. 41, No. 4, pp. 701-707, December 2015.

[14] Christo Kirov and Ryan Cotterell. Recurrent neural networks in linguistic theory: Revisiting pinker and prince (1988) and the past tense debate. Transactions of the Association for Computational Linguistics, Vol. 6, pp. 651-665, 2018.

[15] R Thomas McCoy, Robert Frank, and Tal Linzen. Revisiting the poverty of the stimulus: hierarchical generalization without a hierarchical bias in recurrent neural networks. In In Proceedings of the 40th Annual Conference of theCognitiveScienceSociety, pp. 2093-2098, Madison, WI, 2018.

[16] Tal Linzen, Emmanuel Dupoux, and Yoav Goldberg. Assessing the ability of LSTMs to learn syntax-sensitive dependencies. Transactions of the Association for Computational Linguistics, Vol. 4, pp. 521-535, 2016.

[17] Alex Warstadt and Samuel R. Bowman. Can neural networks acquire a structural bias from raw linguistic data? In In Proceedings of the 42nd Annual Meeting of the Cognitive Science Society, 2020 .

[18] Wasi Ahmad, Haoran Li, Kai-Wei Chang, and Yashar Mehdad. Syntax-augmented multilingual BERT for cross-lingual transfer. In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers), pp. 4538-4554, Online, August 2021. Association for Computational Linguistics.

[19] Ikumi Yamashita, Masahiro Kaneko, Masato Mita, Satoru Katsumata, Imankulova Aizhan, and Mamoru Komachi. Grammatical error correction with pre-trained model and multilingual learner corpus for cross-lingual transfer learning. Natural Language Processing, Vol. 29, No. 2, pp. 314-343, 2022.

[20] Ryokan Ri and Yoshimasa Tsuruoka. Pretraining with artificial language: Studying transferable knowledge in language models. In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 7302-7315, Dublin, Ireland, May 2022. Association for Computational Linguistics.

[21] Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris CallisonBurch, Marcello Federico, Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, Chris Dyer, Ondřej Bojar, Alexandra Constantin, and Evan Herbst. Moses: Open source toolkit for statistical machine translation. In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics Companion Volume Proceedings of the Demo and Poster Sessions, pp. 177-180, Prague, Czech Republic, June 2007. Association for Computational Linguistics.

[22] Aaron Mueller, Garrett Nicolai, Panayiota Petrou-Zeniou, Natalia Talmina, and Tal Linzen. Cross-linguistic syntactic evaluation of word prediction models. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5523-5539, Online, July 2020. Association for Computational Linguistics.
表 4 ハイパーパラメータ

## A 実験設定

L1 獲得トークナイザとして日本語は kytea3)を，フランス語とドイツ語とロシア語は mosesdecoder [21] を使用し, fastBPE ${ }^{4}$ でサブワード分割を行った. 語彙数は 14,000 を設定した。ハイパーパラメータは表4 記載している。

L2 獲得3 節の TLM は対訳コーパスをそのまま用いた対訳関係のある設定，MLM はコーパスの片方の言語をシャッフルして対訳関係を崩した設定，MLM＋TLM は L2 側の文へ対訳関係のある L1 側の文を連結する・しないをエポックごとに切り替える設定である。これらのモデルの MLM は, Conneau ら [6] の提案モデルを使用している (図 2 上部)，言語埋め込みを使用し，入力文を全て連結し 256 トークンごとに切断した文を入力する. ただし 2 文を用いた設定の場合は文対を入力する．TLM は Conneau らが提案した MLM の一種である (図 2 下部). MLM とは入力の際に対訳関係のある 2 文を連結する点で異なる. 単言語コーパスを用いたモデルの BPE の学習コードと語彙は, 単言語コーパスで使用したものに対訳コーパスの英語のものを追加し，重複したトークンや語彙を除く方法で作成した. 用いていないモデルでは，対訳コーパスの両方の言語から BPE の学習コードと語彙を作成した. 埋め込み層を語彙数方向に増やしたことに伴い，最終層の重み・バイアスも増やしている。サブワー ド分割のためのトークナイザは，英語は mosesdecoder [21] を使用し，他の言語は事前学習と同じ設定である. ランダムシードを 3 つ用いて，スコアはその平均を計算した。

図 2 conneau らの提案モデル

図 $3 \mathrm{~L} 2$ 学習中の各エポックにおける文法能力（抜粋）

図4 L2 学習中の各エポックにおける L1 の文法能力

## B 学習過程の分析

## B. 1 L2 の文法獲得過程

L2 学習の過程を分析するため, 追学習時の各エポックにおける文法能力を評価（図 3）した. ${ }^{5}$ OVERALL から，学習を重ねることによりおおむね文法能力が向上することが示唆される．L1 の異なりの影響について，例えば IRREGULAR（動詞の不規則活用）では，追学習初期段階では L1 ごとに性能が大きく異なるが，L2 の継続的な学習によりそれらの差異は縮まっている。一方で，BINDING （束縛）のように，どの言語もスコアが横ばいまたは低下傾向のある項目も存在する。

## B. 2 L2 の文法獲得の L1 への影響

L2 文法の獲得時における L1 の文法能力の変化について調査を行う. L2 学習時の B. 1 節と同様のエポックにおけるL1（フランス語，ドイツ語，ロシア語）の文法能力を評価した (図 4 上部). 文法能力を測るために, CLAMS [22] という多言語の文法能力評価データセットを用いる．L2を含む追学習をおこなった場合，フランス， ドイツ語では一時的に好影響，ロシア語では悪影響を受けた，どの言語も文法能力が減少する傾向にある。

アブレーションとして，L1のみで追学習を行う実験も試した (図 4 下部). 全体の傾向として，スコアはある程度向上した後に横ばいとなる。

これらの傾向は，学習の後半では L2 の学習による L1 の忘却の発生を示唆している. 正則化項の設計などの忘却を緩和するような方法の考案は今後の課題となる。

5） エポック数 $1,2,3,4,5,10,20,30,40,50,100$ の場合をそれぞれ評価した。
3) http://www. phontron.com/kytea/

4) https://github.com/glample/fastBPE