# 範疇文法導出を用いた創発言語の構成性の評価

1 東京大学 2 フリー
\{ryoryoueda, taigarana, yusuke\}@is.s.u-tokyo.ac.jp kkwashio3333@gmail.com

## 概要

本稿では、範疇文法導出 (CGI)を用いて、創発言語の構成性を測る方法を提案する。創発言語は、シミュレーション上でエージェント間で発生するコミュニケーションプロトコルであり、その構造的性質は重要な研究テーマである。しかし、文法構造や文法と意味との体系的な関係 (非自明な構成性) についてはあまり研究されていない。NLP 分野における CGI に関する先行研究から着想を得て、我々は創発言語に CGIを適用し、更にそれに基づいた構成性の評価を試みる。CGI は、文と意味のペアのデータセットに対して、範疇文法と意味解析器を導出するアルゴリズムである。実験により、CGI に基づく指標が実際に構成性を測定できることが示唆された。

## 1 はじめに

ある現象の仕組みを解明したいとき、現象そのものを観察する標準的な方法の他に、その現象の模倣物を作ることで間接的な解明を試みる構成論的アプローチがあり得る。創発言語 (創発コミュニケーション) [1] は、シミュレーション上のエー ジェント間で生じるコミュニケーションプロトコル、又はそれを対象とする研究分野を指し、NLP ・計算言語学分野における構成論的アプローチといえる。近年では、深層学習や強化学習の恩恵を受け再び注目を集めつつある。創発言語と自然言語の間には、しばしば構造上の乘離が指摘されており、創発言語の構造理解や自然言語とのギャップの解消が重要な課題である $[2,3]$ 。特に、構成性原理の観点から創発言語の構造を評価することが重要視され、構成性の度合いを測る指標も提案されている。 ここで、構成性とは「単純な意味が組み合わさることによって複雑な意味が構成される」という自然言語の性質である。創発言語の構成性を測る指標としては、例えば Topograhic Similarity (TopSim) [4, 5] や

Tree Reconstruction Error (TRE) [6] などがある。しかしながら、既存の構成性評価指標の殆どは、創発言語に平坦な構造を暗に仮定している。即ち、構成的な創発言語とは、あくまで平坦な単語の羅列に過ぎず、文法構造のような階層的な構造をもつわけではないと仮定してしまっている。創発言語分野においては、平坦な構成性は自明な構成性、階層的な構成性は非自明な構成性と呼ばれる [7]。

本稿では、創発言語の非自明な構成性を評価することを目標とする。NLP 分野における範疇文法導出 (CGI) [8] の先行研究から着想を得た我々は、創発言語に CGIを適用し、これに基づく新たな構成性指標を提案する。CGI は、文と論理式のペアから成る (自然言語の) データセットに対して、範疇文法と意味解析器を導出するアルゴリズムである。言語創発分野の標準的な設定である Lewis シグナリングゲー ム [9] では、創発言語はメッセージと意味のペアからなる集合として定義されるため、CGI アルゴリズムをそのまま適用できる。また、CGIには構成性の度合いを測るのに役立つ良い性質がある。例えば、意味解析における $\mathrm{F}$ スコアや範疇文法の語彙サイズなどが挙げられ、それぞれ CGF C CGL という名前の評価指標として提案する。実験の結果、我々の提案指標は既存の代表的な構成性指標と有意な相関を示し、実際に構成性指標として機能していることが示唆された。他方で、いくつかの具体例から伺えるように、我々の指標は創発言語の文法構造 (非自明な構成性) についてょり深い洞察を与えることができるものである。より複雑な設定における創発言語を対象に CGIを適用し、提案指標の有用性を明確にしていくのが今後の課題である。

## 2 背景: 創発言語

言語の創発をシミュレーションするためには、 エージェントを取り巻く環境を定義する必要がある。当分野では、Lewis シグナリングゲーム [9] あるいはその派生形が頻繁に用いられる。

## 2.1 環境設定: シグナリングゲーム

シグナリングゲームには、送信者 $S$ と受信者 $R$ と呼ばれる 2 人のエージェントのみが登場し、 $S$ から $R への一$ 方向通信のみが許される。各プレイにおいて、 $S$ は大力 $i$ を 1 つ受け取り、メッセージ $m$ に変換する。続いて $m$ を受け取った $R$ は、元の $i$ が何であったかを推測する。この推測が当たっていればゲームは成功である。より形式的には、以下のように表せる。シグナリングゲームとは、(有限の) 入力集合 $I$ 、(有限の) メッセージ集合 $\mathcal{M}$ 、送信者 $S: \mathcal{I} \rightarrow \mathcal{M}$ 、受信者 $R: \mathcal{M} \rightarrow I$ から成る 4 つ組 $(I, \mathcal{M}, S, R)$ であり、ゲームの目標は全ての $i \in I$ について $i=R(S(i))$ を成り立たせることである。 $S, R$ は殆どの場合ニューラルネットワークで表現され、最適化の対象となる。I は画像データから抽象的な人工データまで様々あり得る。从はしばしば固定長離散系列の集合として表現される：

$
\mathcal{M}:=\left.\{a_{1} \cdots a_{L} \mid a_{i} \in \mathcal{A}\right.\}
$

ここで $\mathcal{A}$ は有限アルファベット、 $L$ は長さである。

## 2.2 創発言語の構成性指標: TopSim

創発言語と自然言語の類似や乘離を考える上で、構成性は特に重要視されている性質である。これまでに創発言語の構成性を測るための指標がいくつか提案されてきた。ここでは最も代表的な指標である Topographic Similarity (TopSim) [4, 5] を紹介する。

$(\mathcal{I}, \mathcal{M}, S, R)$ をシグナリングゲームとする。便宜上各 $i, j \in \mathcal{I}$ には順序 $i<j$ が定まっているとする。 さらに、入力集合 $I$ とメッセージ集合 $\mathcal{M}$ には、それぞれ距離 $d_{I}: \mathcal{I} \times \mathcal{I} \rightarrow \mathbb{R}_{\geq 0}, d_{\mathcal{M}}: \mathcal{M} \times \mathcal{M} \rightarrow \mathbb{R}_{\geq 0}$ が定まっているとする。このとき、TopSim は以下の (多重) 集合上のスピアマン相関係数として定義される：

$
\left.\{\left(d_{\mathcal{I}}(i, j), d_{\mathcal{M}}(S(i), S(j))\right) \mid i, j \in \mathcal{I}, i<j\right.\} .
$

TopSim の直感はこうである：もし (創発) 言語が構成的ならば、相異なる 2 つの意味 $i, j$ が類似していれば対応するメッセージ $S(i), S(j)$ も類似しているはずであるし、意味が類似していなければ対応するメッセージも類似していないはずである。

## 3 背景: 範疇文法導出

本稿で用いる文法形式は範疇文法 (CG) $[10,11,12]$ と呼ばれるものである。CG は語彙化文法の一種で
あり、語彙項目と順・逆適用規則と呼ばれる最小限の文法規則によって文法構造を説明できるという仮定の下に成り立っている点に特徵がある。

## 3.1 文法形式: 範疇文法

語彙項目とは、単語 $w$ ・カテゴリ $X$ ・論理式 $\psi$ から成る 3 つ組 $w \vdash X: \psi$ である。カテゴリは構文の型を表す概念であり、原始的なカテゴリ $\mathrm{N}, \mathrm{S} 、$ あるいは $X, Y$ をカテゴリとして複合的なカテゴリ $X / Y, X \backslash Y$ のいずれかの形を取る。文脈自由文法における非終端記号に対応するような概念である。ここで、Nは名詞、Sは文に対応する構文型である。1)順・逆適用規則は以下のように定義される:

$
\begin{array}{lll}
X / Y: f \quad Y: a & \Rightarrow & X: f(a) \\
Y: a \quad X \backslash Y: f & \Rightarrow \quad X: f(a)
\end{array}
$

一例として以下の文と論理式の組について考える:

"John likes Mary" \& LIKE(MARY, JOHN)

これに対応する語彙項目は以下のように表せる:

John $\vdash \mathrm{N}:$ JOHN, Mary $\vdash \mathrm{N}$ : MARY,

 &  \\

likes $\vdash \mathrm{S} \backslash \mathrm{N} / \mathrm{N}: \lambda x . \lambda y . \operatorname{LIKE}(x, y)$.

これらの語彙項目と順・逆適用規則を用いることで、以下のような導出木が得られる:

$\mathrm{CG}$ による導出は意味解析器としても使えるのが特徵である。上の例では、“John likes Mary” の構文木が作られると同時に、論理式 LIKE(MARY, JOHN) が導かれている。

## 3.2 範疇文法導出

語彙項目の集合 $\Lambda$ が与えられたとき、 1 つの文 $m$ に対する導出木 $\tau$ や論理式 $\psi$ は複数通りあり得る。 そこで、素性関数 $\boldsymbol{\phi}(m, \tau, \psi)$ と学習可能なパラメー タベクトル $\boldsymbol{\theta}$ を用いて、CG の対数線形モデルを考える。即ち、文 $m$ が与えられたとき、導出木 $\tau$ と論理式 $\psi$ の同時確率を以下のように定義する:

$
P(\tau, \psi \mid m ; \boldsymbol{\theta}, \Lambda):=\frac{e^{\boldsymbol{\theta}^{\top} \boldsymbol{\phi}(m, \tau, \psi)}}{\sum_{\left(\tau^{\prime}, \psi^{\prime}\right)} e^{\boldsymbol{\theta}^{\top} \boldsymbol{\phi}\left(m, \tau^{\prime}, \psi^{\prime}\right)}} .
$

1）名詞句のカテゴリ NP も頻出するが、タスク (文法導出) 及び対象 (創発言語) に鑑み、本論文では使用しない。

このとき、文・論理式のペアから成るデータセット $\mathcal{E}:=\left.\{\left(m^{j}, \psi^{j}\right)\right.\}_{j=1}^{N}$ を入力として受け取って、語彙目録 $\Lambda$ やパラメータベクトル $\boldsymbol{\theta}$ を推定するのが範疇文法導出 (CGI) と呼ばれるタスクないしはアルゴリズムである。2) Zettlemoyer ら [8] が最初に CGI を定式化して以来、提案されてきた CGI アルゴリズムにはいくつかバリエーション $[13,14,15,16,17]$ があるが、概ね以下の疑似コードのような共通構造をもつ:

疑似コードに示したように、CGI アルゴリズムにおける主な計算過程は以下の 5 つである:

1. InItLEx: 最初の語彙項目の集合 $\Lambda_{0}$ を求める。

2. InItPARam: 初期パラメータ $\theta_{0}$ を求める。

3. UpdateLex: 新たな語彙項目を追加。

4. UpdateParam: SGD 等でパラメータを更新。

5. PrunELex: 不要な語彙項目を削除。

## 4 構成性指標としての範疇文法導出

本節では、CGIに基づいた、創発言語の新たな構成性指標 CGF と CGL を提案する。CGI には、創発言語の構成性を測るのに役立つ良い性質が備わつている。特に、2つの性質に着目し、それらに基づき CGF・CGLを定義する。1つ目は、CGベースの意味解析を実行した際に得られる $\mathrm{F}$ スコアである。 これは言語の systematicity や productivity [18]、つまり、既存の語彙項目を組み合わせて新規の意味表現を生み出す能力をどの程度備えているかを示す指標になると期待できる。2つ目は、導出された CGの語彙項目の数 (語彙サイズ) である。これは言語が CG によってどの程度簡潔に記述可能かを示し得る。

即ち、CGL は少数の要素から如何に多様な表現を生み出せるかを間接的に測るものであり、 systematicity や productivity に関連する指標であるといえる。

## 4.1 CGF と CGL の定義

$\mathcal{E}_{\text {train }}, \mathcal{E}_{\text {dev }}, \mathcal{E}_{\text {test }}$ をそれぞれ CGI アルゴリズムにおける訓練・検証・評価用データセットとする。 $\mathcal{E}_{\text {train }}, \mathcal{E}_{\mathrm{dev}}$ を用いて語彙目録 $\Lambda$ とパラメータ $\boldsymbol{\theta}$ を推定し、 $\mathcal{E}_{\text {test }}$ を用いて F スコアを計算するものとする。このとき、 $\mathrm{CGF}$ ・CGLを以下のように定義する:

$
\mathrm{CGF}:=\mathrm{F} \text { スコア }, \quad \mathrm{CGL}:=|\Lambda| /\left|\mathcal{E}_{\text {train }}\right| \text {. }
$

定義から $0 \leq \mathrm{CGF} \leq 1$ であり、CGF は 1 に近いほど構成性を高く評価し、 0 に近いほど低く評価していることになる。逆に、CGLは 0 に近いほど構成性を高く評価し、大きい值を取るほど構成性を低く評価していることになる。なお、CGLは $\Lambda$ を $\left|\mathcal{E}_{\text {train }}\right|$ で割った形で定義されているが、これは訓練データが大きいほど語彙サイズもそれに合わせて大きくなる傾向にあるためである。

## 4.2 創発言語に CGI を用いる際の留意点

CGI アルゴリズムにはいくつか亜種があるが、どれを用いるべきかはそれほど自明でない。シミュレーション上で成り行き任せに創発する言語に対して、我々には構造に関する事前知識もなく、文法構造に関する教師データもない。それどころか、そもそも創発した言語に (自然言語的な意味での) 文法構造が存在するかどうかすら事前には分からない。従って、単に自然言語に対して高性能を発揮する複雑で新しい CGIアルゴリズムを用いればよいというわけではなく、アドホックさをできる限り除去したシンプルなアルゴリズムを採用することが望ましい。具体的には、以下の点に留意する:

1. 対数線形モデルにおける素性関数 $\phi$ はできるだけシンプルな形であるべきである。

2. UpdateLex で追加される語彙項目は、人手で設計されたテンプレートに基づくものではなく、自動的に生成されたものであるべきである。

3. 語彙サイズ $|\Lambda|$ は PruneLex によって最小限の大きさに抑えられるべきである。

これらを同時に満たす手法は我々の知る限りでは存在しない。そこで、1つ目の要請に対しては ZC05 [8] の素性関数を、2つ目の要請に対しては KZGS10 [14]の InitLex, UpdateLex を、3つ目の要請に対して

図 1 CGF-TopSim 間の散布図。各パラメータの組合せ $(\mathcal{I},|\mathcal{A}|, L) \in\left.\{\mathcal{D}_{2}, \mathcal{D}_{3}\right.\} \times\{8,16,32\} \times\{4,8\}$ について 8 回異なる random seed でエージェントを訓練した。

は ADP14 [17] の PRUNELEX を用いることにした。なお、InitPARAm は KGZS10 に従い、UPdateParam は殆どの手法で共通して用いられる SGD を用いる。

## 5 シグナリングゲームの設定

シグナリングゲームは 4 つ組 $(\mathcal{I}, \mathcal{M}, S, R)$ のことであった。CGI を適用しやすくするため入力集合 $\mathcal{I}$ は人工的な論理式の集合 $\mathcal{D}_{k}(k=2,3)$ として定義する。まず集合 $\mathcal{D}$ を以下のように帰納的に定義する:

1. CIRCLE, TRIANGLE, SQUARE, STAR $\in \mathcal{D}$.
2. $x, y \in \mathcal{D}$ ならば、 $\operatorname{AND}(x, y) \in \mathcal{D}$.

ここで、 $\mathcal{D}_{k}:=\{x \in \mathcal{D} \mid x$ に AND が $k$ 回出現する $\}$ と定義する。メッセージ集合 $\mathcal{M}$ は、有限アルファベット $\mathcal{A}$ 上の長さ $L$ の離散系列の集合とする。本論文では $|\mathcal{A}| \in\{8,16,32\}, L \in\{4,8\}$ とする。送信者 $S$ ・受信者 $R$ ともに、GRU [19] ベースの注意機構 [20] 付き encoder-decoder モデルとして表現する。また、 $S$ の入力 $i \in \mathcal{I}$ は、ポーランド記法で平坦化する。最適化の目的関数は入力 $i \in \mathcal{I}$ と受信者の出力 $o \in \mathcal{I}(o \sim R(m), m \sim S(i))$ との Hamming 距離の期待值とし、REINFORCE [21]を用いる。また、TopSim に関しては $d_{I}, d_{\mathcal{M}}$ ともに Levenshtein 距離とする。

## 6 結果

CGF-TopSim 間、CGL-TopSim 間の散布図を図 1、図 2 に示す。図から分かるように、CGF・CGL と TopSim の間には有意な相関関係があり、提案指標が創発言語の構成性指標として十分機能していることを示唆している。同時に、CGF・CGL が TopSim よりも“厳しい”指標であることが伺える。CGF・ CGL が構成性を高く評価していれば TopSim も構成性を高く評価する傾向にあるが、逆の傾向は弱い。 CGI の帰納バイアスによって、TopSim が比較的高い

図 2 CGL-TopSim 間の散布図。各パラメータの組合せ $(\mathcal{I},|\mathcal{A}|, L) \in\left.\{\mathcal{D}_{2}, \mathcal{D}_{3}\right.\} \times\{8,16,32\} \times\{4,8\}$ について 8 回異なる random seed でエージェントを訓練した。

ものの中でも取分け構成性の度合いの高い言語が識別されている可能性がある。3）また、ある創発言語から得られた導出木の具体例を図 3 、図 4 に示す。導出木から、例えば “2” は SQUARE に関連した記号であることが伺える。対照的に、“3”や“6”は AND のみを含む抽象的な記号であることが伺える。このように、導出木を観察することで何かしらの示唆を得られるのが、TopSim のような既存指標にはない CGI の興味深い特徴であるといえる。

 & $: \lambda x$ S\N &  &  \\

図 3 メッセージ“7 23 2”の導出木。

} &  &  &  \\

図 4 メッセージ“1568”の導出木。

## 7 結論と将来の展望

本稿では、創発言語に範疇文法導出 $(\mathrm{CGI})$ を適用し、それに基づく新たな構成性の指標を提案した。 これは所謂非自明な構成性に関するより深い示唆を与えるものであるといえる。しかし、本論文では既存指標との有意な相関といくつかの具体例を示したに過ぎず、提案指標の有用性・優位性を十分に示したとは言い難い。今後、既存指標が機能しないような、より複雑な設定の創発言語を対象にし、提案指標の有用性を明確にする必要がある。

3）ただし、単に CGI が最適解を発見できていない可能性も否定できない。

## 参考文献

[1] Angeliki Lazaridou and Marco Baroni. Emergent multiagent communication in the deep learning era. CoRR, Vol. abs/2006.02419, , 2020.

[2] Rahma Chaabouni, Eugene Kharitonov, Emmanuel Dupoux, and Marco Baroni. Anti-efficient encoding in emergent communication. In Advances in Neural Information Processing Systems 32: Annual Conference on Neural Information Processing Systems 2019, NeurIPS 2019, December 8-14, 2019, Vancouver, BC, Canada, pp. 6290-6300, 2019.

[3] Satwik Kottur, José M. F. Moura, Stefan Lee, and Dhruv Batra. Natural language does not emerge 'naturally' in multi-agent dialog. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, EMNLP 2017, Copenhagen, Denmark, September 9-11, 2017, pp. 2962-2967. Association for Computational Linguistics, 2017.

[4] Henry Brighton and Simon Kirby. Understanding linguistic evolution by visualizing the emergence of topographic mappings. Artif. Life, Vol. 12, No. 2, pp. 229-242, 2006.

[5] Angeliki Lazaridou, Karl Moritz Hermann, Karl Tuyls, and Stephen Clark. Emergence of linguistic communication from referential games with symbolic and pixel input. In 6th International Conference on Learning Representations, ICLR 2018, Vancouver, BC, Canada, April 30 - May 3, 2018, Conference Track Proceedings. OpenReview.net, 2018.

[6] Jacob Andreas. Measuring compositionality in representation learning. In 7th International Conference on Learning Representations, ICLR 2019, New Orleans, LA, USA, May 6-9, 2019. OpenReview.net, 2019.

[7] Shane Steinert-Threlkeld. Towards the emergence of nontrivial compositionality, December 2019. Forthcoming in the journal _Philosophy of Science..

[8] Luke S. Zettlemoyer and Michael Collins. Learning to map sentences to logical form: Structured classification with probabilistic categorial grammars. In UAI '05, Proceedings of the 21st Conference in Uncertainty in Artificial Intelligence, Edinburgh, Scotland, July 26-29, 2005, pp. 658-666. AUAI Press, 2005.

[9] David K. Lewis. Convention: A Philosophical Study. Wiley-Blackwell, 1969.

[10] Mark Steedman. Surface structure and interpretation, Vol. 30 of Linguistic inquiry. MIT Press, 1996.

[11] Mark Steedman. The syntactic process. Language, speech, and communication. MIT Press, 2000.

[12] 尸次大介. 日本語文法の形式理論-活用体系・統語構造・意味合成- 日本語研究叢書 (フロンティアシリーズ）.くろしお出版, 2010.

[13] Luke S. Zettlemoyer and Michael Collins. Online learning of relaxed CCG grammars for parsing to logical form. In EMNLP-CoNLL 2007, Proceedings of the 2007 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, June 28-30, 2007, Prague, Czech Republic, pp. 678-687. ACL, 2007.
[14] Tom Kwiatkowski, Luke S. Zettlemoyer, Sharon Goldwater, and Mark Steedman. Inducing probabilistic CCG grammars from logical form with higher-order unification. In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, EMNLP 2010, 9-11 October 2010, MIT Stata Center, Massachusetts, USA, A meeting of SIGDAT, a Special Interest Group of the ACL, pp. 1223-1233. ACL, 2010.

[15] Tom Kwiatkowski, Luke S. Zettlemoyer, Sharon Goldwater, and Mark Steedman. Lexical generalization in CCG grammar induction for semantic parsing. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, EMNLP 2011, 27-31 July 2011, John McIntyre Conference Centre, Edinburgh, UK, A meeting of SIGDAT, a Special Interest Group of the ACL, pp. 1512-1523. ACL, 2011.

[16] Yoav Artzi and Luke Zettlemoyer. Weakly supervised learning of semantic parsers for mapping instructions to actions. Trans. Assoc. Comput. Linguistics, Vol. 1, pp. 49-62, 2013.

[17] Yoav Artzi, Dipanjan Das, and Slav Petrov. Learning compact lexicons for CCG semantic parsing. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, EMNLP 2014, October 25-29, 2014, Doha, Qatar, A meeting of SIGDAT, a Special Interest Group of the ACL, pp. 1273-1283. ACL, 2014.

[18] Dieuwke Hupkes, Verna Dankers, Mathijs Mul, and Elia Bruni. Compositionality decomposed: How do neural networks generalise? J. Artif. Intell. Res., Vol. 67, pp. 757-795, 2020 .

[19] Kyunghyun Cho, Bart van Merrienboer, Çaglar Gülçehre, Dzmitry Bahdanau, Fethi Bougares, Holger Schwenk, and Yoshua Bengio. Learning phrase representations using RNN encoder-decoder for statistical machine translation. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, EMNLP 2014, October 25-29, 2014, Doha, Qatar, A meeting of SIGDAT, a Special Interest Group of the ACL, pp. 1724-1734. ACL, 2014.

[20] Dzmitry Bahdanau, Kyunghyun Cho, and Yoshua Bengio. Neural machine translation by jointly learning to align and translate. In 3rd International Conference on Learning Representations, ICLR 2015, San Diego, CA, USA, May 7-9, 2015, Conference Track Proceedings, 2015.

[21] Ronald J. Williams. Simple statistical gradient-following algorithms for connectionist reinforcement learning. Mach. Learn., Vol. 8, pp. 229-256, 1992


# 対話型擬人化エージェントの言語的配慮に対する 受容性の 6 か国異文化比較に関する研究 -クラウドソーシングによる大規模印象調査 3 -

松尾篤 ${ }^{1}$ 宮本友樹 2 片上大輔 1
1 東京工芸大学 2 電気通信大学
e1913122@st.t-kougei.ac.jp miyamoto@uec.ac.jp
katagami@t-kougei.ac.jp

## 概要

本研究では，対話型擬人化エージェントとの対話において，言語的配慮による受容性の文化差について考察することを目的とする. Brown ら [1] によれば，ある発話行為によるフェイス侵害度は，話者同士の社会的距離（Distance），相対的な力の差 (Power), 当該文化における負担度（Rank of impositions）によって求まるとされている。つまり, $\mathrm{AI}$ や擬人化システムに対する考え方の違いなども含めて, ある文化圏では適切に選択された発話方略も, 別の文化圏では親和性の低い発話になる可能性がある. 従って, 本研究では擬人化エージェントとの対話において文化による受容性の違いを調査するために，文化圏や言語が異なる日本，アメリカ，中国，フランス，イギリス，オーストラリアの 6 か国を対象とした大規模な調査を行う. 調査の結果,国間による受容性の違いが認められ，国によって性別や年齢による影響の度合いに大きな違いが見られた。

## 1 はじめに

昨今の人工知能技術の発展により，様々な知的対話システムが開発されている．身近なところではスマートフォンの音声応答アプリケーションである米 Apple 社の Siri をはじめ, Google 社の Google アシスタント，NTT ドコモ社のしゃべってコンシェルなど，様々な場面において人間とシステム間の対話が行われている。それに伴い，対話システムに関する研究も盛んになっている [2][3][4]. 心理的距離や立場を考慮した対話システムの研究として，Brown らによるポライトネス理論 [1] の発話方略を用いた研究がある.心理的距離や立場を考慮した対話システムとして，ポライトネス理論 [1] の発話方略を対話システ么の発話設計に応用し，その受容性を実験的に検証する取り組みとして，例えば Srinivasan らの研究 [2] においては，ロボットがユーザに対して助けを求めるシチュエーションで，対話相手との心理的な距離を縮めるポジティブ・ポライトネス・ストラテジー （PPS）を用いる実験条件と対話相手との心理的な距離を維持するためのネガティブ・ポライトネス・ストラテジー（NPS）を用いる実験条件を設定し印象評価を行った. 実験の結果，PPS が有意に高評価であった. このように，従来研究ではエージェントによる言語的配慮が受容性に影響を及ぼすことが示されている。

また，これらの言語的配慮に，文化による受容性の違いを調査した研究がある. 先行研究として片上らの研究 [3] では，運転支援，家庭内，旅行代理店の 3 シチュエーションにおいて，PPS と NPS の日米間の印象評価を行った。実験の結果，日米間のエー ジェントを利用しようと思う意向を示す Intention to Use（ITU）における評価の違いが大きく，発話条件の違いが異文化間の受容性の違いに影響していることが示された。また，片上らの研究 [3] を 6 か国について分析した研究 [4] では擬人化エージェントとの対話に対して日本の印象評価が低く，中国の印象評価が高かった。

本稿では，片上らの研究 [3] を発展させ，6か国について分析した研究 [4] についてより深い分析と考察を行っていく．6 か国の異なる文化的背景を持つ実験参加者を対象として以下 2 つの調査を実施した.

・調査 1 : 社会に進出するロボットとの対話に関する受容性の質問紙調査

・調査 2 : マルチモーダル情報を備えた対話型擬人化エージェントとの対話を想定した印象評価.

調査の方法として，クラウドソーシングサービスを用いて実験参加者を募り，オンライン上で質問紙調査を実施する. 本研究では，エージェントによる言語的配慮に対する受容性の異文化比較研究とし $\tau$, 先行研究 [3] の日本語母語話者とアメリカ英語母語話者に加え，イギリス英語母語話者，オーストラリア英語母語話者，フランス語母語話者，中国語母語話者の 6 か国を対象とする。 それぞれ募集には SurveyMonkeyを用いる.

## 2 異文化比較調査実験

本研究で行った異文化比較調査実験 [4] の概要について説明する。

## 2.1 実験目的と概要

本実験の目的は， 1 章で述べた調査 1 及び調査 2 を通して対話型擬人化エージェントにおける受容性の文化差について考察することである．以下に各調査の概要を述べる. なお本調査は, 東京工芸大学研究倫理委員会の承認 (倫理承認番号: 2020-06) を得て行った.

## 2.1.1 調査 1 ：社会に進出するロボットとの対話に 関する受容性の質問紙調査

固有の擬人化エージェントを指定せずに，社会に参画するロボット全体に対して抱いている不安印象を実験参加者に評価してもらう．評価尺度としてロボット不安尺度（Robot Anxiety Scale：RAS）[5]を使用する。 RAS はロボット会話能力不安 (3 項目), ロボット行動特性不安 (4 項目), ロボット対話不安 （4 項目）の3つの下位尺度から構成される. 各項目は 6 件法（1：全く不安に思わない，2：ほとんど不安に思わない，3：あまり不安に思わない，4: 少し不安に思う，5：かなり不安に思う，6：非常に不安に思う）で評価される。

## 2.1.2 調査 2:マルチモーダル情報を備えた対話型擬人化エージェントとの対話を想定した印象評価

対話型擬人化エージェントと対話する想定の動画を参加者に視聴してもらい，その印象を評価しても
らう。評価には Texhnology Acceptance Model (TAM) [6][7]を使用する。TAM はエージェントが人々に受け入れられる・拒否される要因を予測することを目的として提案された 5 段階のリッカート法 ( 1 : 全くそう思わない，2あまりそう思わない，3：どちらとも言えない，4：ややそう思う，5：とてもそう思う）で評価する心理尺度である.

## 2.1.3 調査に関しての自由記述

調査 1 と調査 2 が終わった後に, 人型エージェントとの対話について感じたこと, 本調査について感じたことについて自由記述してもらった。

・設問 1 :「人型エージェントとの対話について感じたことがあれば自由にお書きください」

・設問 2 :「本調査について感じたことがあれば記入してください」

## 2.2 実験参加者

調査 1 及び調査 2 には， 1 か国あたり 300 人，計 1800 人を募集した. その中から，実験に同意した参加者の中で，回答に不備があった場合や募集した国籍と異なっていた場合は分析の対象から除いた結果，アメリカ人参加者 179 人，イギリス人参加者 230 人，オーストラリア人参加者 225 人，フランス人参加者 229 人，日本人参加者 267 人，中国人参加者 242 人, 計 1372 人となった.

調査に関しての自由記述では，空欄や特に意見がないものを分析の対象から除いた結果，アメリカ人参加者 124 人，イギリス人参加者 156 人，オーストラリア人参加者 145 人，フランス人参加者 151 人，日本人参加者 149 人，中国人参加者 208 人，計 933 人となった.

## 2.3 実験動画について

調査 2 で使用する実験動画について, 先行研究 [3] の動画をもとに， 6 か国の調査向けに作り直した. また, 発話内容の英語，フランス語，中国語への翻訳は，翻訳業者に発話意図が変わらないように翻訳を依頼した．動画の内容はマルチモーダル情報を備えた対話型擬人化エージェントとのやり取りの再現動画となる. シチュエーションによる印象の違いに対応するために異なるシチュエーションを用意している.シチュエーションの違いとして挙げられるのは，「タスク指向か非タスク指向か」と「エージェン

(a) 運転支援エージェント

(b) 家庭内エージェント

(c) 旅行代理店エージェント

図 1: 各シチュエーション動画におけるエージェントの様子

トとユーザの関係」の違いである。また，それぞれのシチュエーションに合わせたシナリオを用意し，発話内容に合わせて擬人化エージェントの表情を動かす. シチュエーションごとのエージェントの様子を図 1 に示す. シチュエーションによるタスクの違いだけでなく，エージェントの用いる言葉遣いで印象は変化する. それぞれのシチュエーションに適した言葉遣いを比較するために，エージェントの発話シナリオも NPS 的敬体条件，PPS 条件の 2 通り用意した. エージェントの発話設計のために, 社会言語学, 語用論の知見であるポライトネス理論 [1]を活用する。

## 2.4 実験結果

本稿では, 調査 2 亿ついての結果を述べる.また, Technology Acceptance Model との相関関係を探る手段として数量化理論 1 類を行った. この理由と
して，国以外に性別や年齢による違いの影響を考慮する必要があるためである．また，説明要因とする項目には質的データが多く含まれており，各々の説明変数をカテゴリー化することによって，カテゴリー別の目的変数に対する影響の方向と大きさを考察することが可能である.

## 2.4.1 調査 2 について

Technology Acceptance Model についての結果を表 1～表 4 に示す. 本研究では，各カテゴリー内容のスコアの最小值と最大値の差をレンジとする. 従って国のレンジが最も大きいので，国による違いは 1 番影響度の高い要素である。全体を通して中国のスコアが高いことが示された. つまり, 中国は擬人化エージェントとの対話への印象評価が高かったと言うことができる. ITU (Intention to Use : 利用しようとする意向）（表 1）では，日本の評価が低く，次点でアメリカやイギリスの評価が低くなっている. PENJ (Perceved Enjoyment : 使用する際の楽しさの知覚）（表 2）では，日本の評価が低く，次点でアメリカ，イギリス，フランスの評価が低くなっている. SP（Social Presence：対話の際の社会的存在の有無） （表 3）と Trust（技術の信頼性）（表 4）では，日本， アメリカの評価が低く，次点でイギリス，フランスの評価が低くなっている．また，性別に比べて年齢による影響が大きいことが分かる.

## 2.5 考察

表 1〜表 4 の結果より, 調査 2 の結果には国間による違いが大きく影響している. つまり, 国の文化によって擬人化エージェントとの対話への印象に違いが示されている. ITU の項目においてはレンジが 1.445 と他の項目より高いことから, 利用しようとする意向に関してより国の文化差が出やすいと言える. さらに，ITUの項目ではシチュエーションと発話条件の影響度が逆転している. このことより，他の印象評価と比べて利用しようとする意向においては発話条件による違いがより影響していることが分かる. ただし，発話条件の違いは，全体で見ると国間による違いや性別による違い，年齢層による違いに比べて，影響力は小さいと言える．従って，発話方略による違いよりも，概要や 1 章で述べた Brown らの発話行為によるフェイスの侵害度の要因の 1 つである「相対的な力の差（Power）」による影響が大きいことが示された. つまり, Brown らのポライト
表 1: ITU（Intention to Use）の分析結果

} & driving & 962 & 0.004 & \multirow{3}{*}{0.014} & \multirow{3}{*}{5} \\

注：重相関係数は 0.405

表 2: PENJ（Perceived Enjoyment）の分析結果

} & driving & 962 & -0.000 & \multirow{3}{*}{0.075} & \multirow{3}{*}{4} \\

注：重相関係数は 0.350

ネス理論における言語的配慮の発話方略である NPS と PPS については，発話方略の選択ミスによる相手への印象の変化は比較的少なく，相手との関係性による違いが大きいことから，相手との関係性によって相手への印象への影響がある程度決定していることが示唆される。

レンジの値に着目すると，国に対するレンジの大きさに対し，それ以外の要因のレンジが圧倒的に少ない。つまり，文化による受容性の違いを生む要因として，性別と年齢だけではなく国ごとの違いの影響が大きいと推測する.表 3: SP（Social Presence）の分析結果

 & \multirow{6}{*}{0.805} & \multirow{6}{*}{1} \\

注：重相関係数は 0.354

表 4: Trust の分析結果

 & \multirow{6}{*}{0.920} & \multirow{6}{*}{1} \\

注：重相関係数は 0.340

## 3 おわりに

本研究では擬人化エージェントの対話において,国ごとの文化による受容性の違いを調査し，明確な違いが示された。また，その違いを生む要因として性差，年齢，発話条件，シチュエーションなどについて検討した.その結果，国ごとに性別や年齢による受容性の違いが見られた。擬人化エージェントとの対話の受容性を高めるにあたって，性別や年齢など，国ごとの文化による受容性の違いになる要因を探すことが今後の研究の課題になるだろう.

## 謝辞

本研究は科研費（課題番号：22H04869）の支援を受けました. 記して感謝いたします.

## 参考文献

[1] Penelope Brown, Stephen C Levinson, and Stephen C Levinson. Politeness: Some universals in language usage, Vol. 4. Cambridge university press, , 1987.

[2] Vasant Srinivasan and Leila Takayama. Help me please: Robot politeness strategies for soliciting help from humans. In Proceedings of the $2016 \mathrm{CHI}$ conference on human factors in computing systems, pp. 4945-4955, , 2016.

[3] 片上大輔, 山本隆太郎, 宮本友樹, 宇佐美まゆみ. 対話型擬人化エージェントの言語的配慮に対する受容性の 6 か国異文化比較に関する研究 - クラウドソー シングによる大規模印象調査 - . HAI シンポジウム 2021, 032021.

[4] 松尾篤, 宮本友樹, 片上大輔, 宇佐美まゆみ. 対話型擬人化エージェントの言語的配慮に対する受容性の 6 か国異文化比較に関する研究 -クラウドソーシングによる大規模印象調査 2 - . ファジィシステムシンポジウム講演論文集, Vol. 38, pp. 244-249, 092022.

[5] Tatsuya Nomura, Tomohiro Suzuki, Takayuki Kanda, and Kensuke Kato. Measurement of anxiety toward robots. In ROMAN 2006-The 15th IEEE International Symposium on Robot and Human Interactive Communication, pp. 372-377. IEEE, , 2006.

[6] Fred D Davis. Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS quarterly, pp. 319-340, 1989.

[7] Marcel Heerink, Ben Kröse, Vanessa Evers, and Bob Wielinga. Assessing acceptance of assistive social agent technology by older adults: the almere model. International journal of social robotics, Vol. 2, No. 4, pp. 361375,2010 .

## 4 付録

表 5: RAS（ロボット不安尺度）[5] より抜粋した下位尺度と質問項目

RAS-S1：ロボット会話能力不安

ロボットが会話中に的外れなことを話すのではないか.

ロボットとの会話は融通が利かないのではないか.

ロボットは難しい話が理解できないのではないか.

RAS-S2：ロボット行動特性不安

ロボットがどのような動きをするのか.

ロボットが何をしてくるのか.

ロボットがどれくらいの力を持っているのか.

ロボットがどのくらいの速さで動くのか.

RAS-S3：ロボット対話不安

ロボットにどう話しかけたらいいのか.

ロボットから話しかけられた時にどう答えたらいいのか.

ロボットに自分のした話の内容が理解されているのか.

ロボットから話しかけられた内容が自分には理解できないのではないか.

表 6: TAM[6][7] より抜粋した下位尺度と質問項目

利用しようとする意向 (Intention to Use：ITU）

近い将来，私はこのロボットを使うだろうと思う.

近い将来，私はこのロボットを使うことになると思う.

近い将来，私はこのロボットを使うつもりである.

使用する際の楽しさの知覚

(Perceived Enjoyment : PENJ)

このロボットに話しかけられるのは楽しい.

このロボットと一緒に何かをするのは楽しい.

このロボットは楽しいと思う。

このロボットは魅惑的だと思う。

このロボットはつまらないと思う.

このロボットと対話していた時，本当の人間と話しているかのように感じた.

ときどき，このロボットが本当に私の方を見ているかのように感じた.

このロボットが生き物であると想像できる.

このロボットが実在の人間ではないと思う.

ときどき，このロボットが本音を出しているように見える.

技術の信頼性（Trust）

このロボットがアドバイスをくれたら，私はこのロボットを信頼するだろう.

私はこのロボットがくれたアドバイスに従うだろう。

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 創発言語はなぜ Zipf 短縮に従わないのか？暗黙の事前分布に基づく再解釈

上田亮
東京大学
ryoryoueda@is.s.u-tokyo.ac.jp

## 概要

本稿の目的は、シグナリングゲームにおいて生じる創発言語が Zipf 短縮に従わないという知見に着目し、その原因の一端を解明することにある。これまで、創発言語が Zipf 短縮に従わないのは、エージェントの帰納バイアスせいだろうと考えられてきた。 それに対し、本稿では新たな解釈を提示する。シグナリングゲームの目的関数の中で暗黙に仮定されている事前分布に着目し、それが反 Zipf 短縮の一因となっている可能性を示唆する。

## 1 はじめに

創発言語は、シミュレーション上においてエー ジェント同士でコミュニケーションを取らせたときに生じる、言語のようなプロトコルのことを指し、近年研究対象として注目されつつある [1]。創発言語の構造を理解し、それが自然言語とどの程度類似・乘離しているのかを知り、乘離をどのようにして埋めていけばよいのかを考えることが、当分野で重要なテーマの 1 つである。

Chaabouni ら [2] は、自然言語の普遍性質である Zipf 短縮 $[3,4,5]$ を取り上げ、シグナリングゲーム [6]において創発する言語が、Zipf 短縮に従うか検証した。Zipf 短縮とは「頻出する単語ほど、単語長が短い傾向にある」という自然言語に普遍的にみられる性質である。例えば、英単語 “of” や “he” は高頻出であり、かつ短い。また、シグナリングゲームはシンプルなコミュニケーションモデルであり、言語創発分野で頻繁に用いられる。シグナリングゲームには、送信者・受信者と呼ばれる 2 人のエージェントが登場し、送信者から受信者への単方向通信のみが許される。各プレイにおいて、送信者は入カ $i \in I$ を 1 つ受け取り、メッセージ $m \in \mathcal{M}$ を生成する。続いて、受信者はそのメッセージ $m$ を受け取り、元
の入力が何であったのかを推測する。この推測が当たっていればゲームは成功である。このとき、送信者と受信者をつなぐメッセージ (の集合) は、何かしらの意味を伝達する言語のようなものであると考えることができる。[2]は、1メッセージがちょうど 1 単語を成すと見做せる設定の下、創発言語が Zipf 短縮に従うか検証した。ところが、標準的な設定のシグナリングゲームにおいて生じる創発言語は、Zipf 短縮に従わないことが示された。具体的には、メッセージが明らかに不必要に長くなってしまうばかりでなく、頻度の高いメッセージほど長くなるという、反 Zipf 短縮とでもいうべき傾向が示された。これまで、創発言語が Zipf 短縮に従わないのは、エー ジェントの元となるニューラルネットワーク (NN) アーキテクチャ (e.g., LSTM [7]) の帰納バイアスに問題があるからであろうと考えられてきた $[2,8,9]$ 。

それに対して、本稿では、反 Zipf 短縮が起こる原因について新たな解釈を提示する。シグナリングゲームの学習の際に用いられる目的関数の中で、暗黙に仮定されているメッセージの事前分布 $P(m)$ に着目し、その事前分布が反 Zipf 短縮の一因となっている可能性を示唆する。

## 2 背景

## 2.1 Zipf 短縮

Zipf 短縮 (Zipf's law of abbreviation) [3, 4, 5] は、言語学者 Gerge K. Zipf によって唱えられた自然言語の法則である。 ${ }^{12)}$ Zipf によれば、高頻度で出現する単語ほど長さが短くなる傾向にあるという。

## 2.2 シグナリングゲーム

言語創発では、シグナリングゲーム [6] (以降、単にゲームと呼ぶ) が頻繁に用いられる。ここでは

1） 所謂 Zipf 則 [10] とは異なる概念であることに注意。

2）日本語訳は [5] に準拠。
特に [2] による設定を紹介する。ゲームには、有限の入力集合 $I$ 、有限のメッセージ集合 $\mathcal{M}$ 、送信者 $P_{\boldsymbol{\theta}_{s}}(M=m \mid I=i)$ と受信者 $P_{\boldsymbol{\theta}_{r}}(I=i \mid M=m)$ が登場する。送・受信者エージェントはLSTM [7] 等の NN に基づいて定義され、各々学習可能なパラメータ $\boldsymbol{\theta}_{s}, \boldsymbol{\theta}_{r}$ をもつ。 $\mathcal{I}:=\{1,2, \ldots,|\mathcal{I}|\}$ とし、各 $i \in I$ は one-hot ベクトルで表現する。メッセージ集合 $\mathcal{M}$ は可変長メッセージの集合とする: $\mathcal{M}:=\left.\{a_{1} \ldots a_{t-1} \operatorname{eos} \mid a_{i} \in \mathcal{A} \backslash\{\right.$ eos $\left.\}, 1 \leq t \leq T\right.\}$. ただし、 $\mathcal{A}$ は有限アルファベット、eos $\in \mathcal{A}$ は EOS 記号、 $T$ は最大長である。ゲームの流れは以下のようになる:

1. 入力 $i \in I$ をサンプリングする。ただし、 $i$ は幕分布に従うものとする: $i \sim P_{I}(i) \propto i^{-1}$.

2. 送信者からメッセージ $m$ をサンプリングする: $m \sim P_{\boldsymbol{\theta}_{s}}(m \mid i)$.

3. 受信者による復元の程度を表す対数尤度 $\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)$ を最大化することを目標とする。

$i \in I$ は one-hot ベクトルで表されるうえ、幕分布 $P_{I}($ i に従う (Zipf 則に従う) ので、一般的な NLP 分野でいうところの単語 ID と思うことができる。故に各 $i$ に対応するメッセージ $m$ は単語と見做せる。

## 2.3 ゲームの目的関数

本稿では、最適化は勾配法で行うものとして議論を進める。ゲームの最適化は、以下の目的関数 $\mathcal{J}_{\text {game }}$ を勾配法で最大化することで行われる:

$
\mathcal{J}_{\text {game }}:=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}(i \mid m)\right] .
$

直観的には、受信者 $R$ による復元の正確さを平均的に最大化するのを目的としていると理解できる。 $\mathcal{J}_{\text {game }}$ の微分は以下の形で得られる $\left.[2,11]:{ }^{3}\right)$

$
\begin{aligned}
& \nabla \mathcal{J}_{\text {game }}=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{s}}(m \mid i)}[ \\
& \quad \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m) \\
& \left.\quad+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{s}}(m \mid i)\right]
\end{aligned}
$

ここで、 $b: I \rightarrow \mathbb{R}$ は任意のベースライン関数である。式 2 は受信者を通常の誤差逆伝播によって、送信者を方策勾配 [12]によって最適化している。しかし、 $\mathcal{J}_{\text {game }}$ で創発する言語は Zipf 短縮とは真逆の傾向 (反 Zipf 短縮) に従うことが知られている。そこで、メッセージ長に関する罰則項を設け、メッセー ジが不必要に長くなるのを防ぐ場合がある:

$
\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha):=\mathbb{E}_{\boldsymbol{P}_{I}(i), \boldsymbol{P}_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}(i \mid m)-\alpha|m|\right]
$
_{s}, \boldsymbol{\theta}_{r}}$ の略記。以降でもこの略記を用いる。
}

ここで、 $\alpha \in \mathbb{R}_{\geq 0}$ は罰則項の強度を制御する超パラメータ、 $|m|$ はメッセージ $m$ の長さを表す。 $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ の微分は以下である:

$
\begin{aligned}
& \nabla \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}}(m \mid i)}[ \\
& \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m) \\
&\left.\quad+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)-\alpha|m|-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{s}}(m \mid i)\right]
\end{aligned}
$

式 2 と比較すると、送信者の報酬が修正されたような形をしている。この罰則項により、Zipf 短縮が創発することが知られている $[2,8]$ 。

## 3 ゲームの目的関数の分析

これまで、 $\mathcal{J}_{\text {game }}$ を最適化して得られる創発言語が Zipf 短縮に従わないのは、エージェントに適切な帰納バイアスがないからだと考えられてきた。例えば [8] は、送信者には laziness が欠けており、受信者には impatience が欠けていると主張している。しかし、エージェントのバイアスだけが原因ではないように思われる。本節では、目的関数 $\mathcal{J}_{\mathrm{game}}$ の内に暗黙に仮定されている事前分布に着目し、それが反 Zipf 短縮の一因になっているのではないかと考える。以降の節にてそれを示唆する議論を展開する。

## 3.1 ゲームには暗黙の事前分布が存在する

ここで、やや唐突だが、一様メッセージ分布 $P^{\mathrm{uni}}(m)=|\mathcal{M}|^{-1}$ を考元、受信者 $P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)$ と合わせて、以下のような $i, m$ の同時分布を定義する:

$
P_{\boldsymbol{\theta}_{r}}^{\mathrm{uni}}(i, m):=P_{\boldsymbol{\theta}_{r}}(i \mid m) P^{\mathrm{uni}}(m) .
$

このとき、次の等式が成り立つ (証明は付録 $\mathrm{A}$ 参照):

$
\nabla \mathcal{J}_{\text {game }}=\nabla \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{s}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{uni}}(i, m)\right]
$

即ち、 $\mathcal{J}_{\text {game }}$ の最大化は、同時分布 $P_{\boldsymbol{\theta}_{r}}^{\mathrm{uni}}(i, m)$ の対数尤度の期待値を最大化するのと同じである。従って、 $\mathcal{J}_{\text {game }}$ という目的関数は $P^{\text {uni }}(m)$ をメッセージの事前分布として暗黙のうちに仮定していることになる。

次に、モンキータイピング・メッセージ分布 $P^{\mathrm{mon}}(m)=\frac{1}{Z}|\mathcal{A}|^{-|m|}(Z$ は適当な正則化項)を考え、受信者 $P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)$ と合わせて、以下の $i, m$ の同時分布を定義する:

$
P_{\boldsymbol{\theta}_{\boldsymbol{r}}}^{\mathrm{mon}}(i, m):=P_{\boldsymbol{\theta}_{r}}(i \mid m) P^{\mathrm{mon}}(m) .
$

このとき次の等式が成り立つ (証明は付録 $\mathrm{A}$ 参照):

$
\nabla \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\log |\mathcal{A}|)=\nabla \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{S}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}^{\mathrm{mon}}(i, m)\right]
$
即ち、 $\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{mon}}(i, m)$ の期待値の最大化は、メッセー ジ長に関する罰則項の重みを $\alpha=\log |\mathcal{A}|$ としたときの $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ の最大化と同じである。更に一般化して、 $P^{\text {mon }}(m)$ と $P^{\text {uni }}(m)$ の中間的なメッセージ分布 $P^{\text {int }}(m ; \eta)(0 \leq \eta \leq|\mathcal{A}|-1)$ を考える:

$
P^{\mathrm{int}}(m ; \eta)=\frac{1}{Z^{\prime}}(|\mathcal{A}|-\eta)^{-|m|}
$

$Z^{\prime}$ は適当な正則化項である。 $P^{\mathrm{int}}(m ; \eta=0)=$ $P^{\mathrm{mon}}(m)$ 及び $P^{\text {int }}(m ; \eta=|\mathcal{A}|-1)=P^{\text {uni }}(m)$ が成立するので、 $P^{\text {int }}$ は中間的な分布といえる。これまでの議論と同様に、受信者 $P_{\boldsymbol{\theta}_{r}}(i \mid m)$ と合わせて、 $i, m$ の同時分布 $P_{\boldsymbol{\theta}_{r}}^{\text {int }}(i, m ; \eta):=P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m) P^{\mathrm{int}}(m ; \eta)$ を定義する。このとき、次式が成り立つ (証明は付録 $\mathrm{A}$ 参照):

$
\begin{aligned}
& \nabla \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\log \{|\mathcal{A}|-\eta\}) \\
= & \nabla \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)\right]
\end{aligned}
$

即ち、 $\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)$ の期待値の最大化は、罰則項の重みを $\alpha=\log \{|\mathcal{A}|-\eta\}$ としたときの $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ の最大化と同じである。逆に言えば、 $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ の最大化は、 $\eta=|\mathcal{A}|-\exp (\alpha)$ としたときの $\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)$ の期待值の最大化と同じである。吕) $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ は、メッセージに関する事前分布 $P^{\text {int }}(m ; \eta=|\mathcal{A}|-\exp (\alpha))$ を暗黙に仮定していることになる。なお、 $P^{\text {int }}(m ; \eta=$ $|\mathcal{A}|-1)=P^{\operatorname{mon}}(m)$ より、 $\mathcal{J}_{\text {game }}$ の暗黙の事前分布を $P^{\text {int }}(m ; \eta=|\mathcal{A}|-1)$ と言い直すこともできる。

## 3.2 暗黙の事前分布と反 Zipf 短縮

では、ゲームの目的関数の暗黙の事前分布はどのような形状をしているのだろうか。本節では事前分布の形状について議論し、そこから反 Zipf 短縮が生じる一因を垣間見る。事前分布 $P^{\text {uni }}(m), P^{\text {mon }}(m), P^{\text {int }}(m)$ はそのままでは可視化しづらいため、代わりに、対応するメッセージ長 $1 \leq l \leq T$ の分布を考える:

$
P^{\mathrm{int}}(l ; \eta):=\sum_{m \in \mathcal{M}} P^{\mathrm{int}}(m ; \eta) \mathbb{1}_{l=|m|}
$

$P^{\mathrm{uni}}(l), P^{\mathrm{mon}}(l)$ についても同様に定義する。5) ここで、 $(T,|\mathcal{A}|)=(30,4)$ としたときの分布の様子を図 1 に示す。図 1 から分かるように、 $P^{\text {uni }}(l)$ はかなり右に偏った形状をしている。つまり、 $P^{\text {uni }}(m)$ からメッセージ $m$ をサンプリングしてきたとき、

4） $\eta$ が $0 \leq \eta \leq|\mathcal{A}|-1$ を満たさなくとも式 9 は確率分布になるが、先行研究 $[2,8]$ の $\alpha$ は必ず $\log |\mathcal{A}| \geq \alpha \geq 0$ に収まっているため、 $\eta$ の範囲を限定しても特に問題はない。

5）ただし、自然言語の単語長の分布はガンマ分布に近いとされる [13]。逆に、 $l$ の分布をガンマ分布と仮定してゲームの目的関数を逆算したらどうなるかについては付録 B 参照。

図 1 メッセージ長の分布 $((T,|\mathcal{A}|)=(30,4))$.

$m$ の長さは高い確率で最大長 $T$ かその付近になる。 ゲームの目的関数 $\mathcal{J}_{\text {game }}$ の暗黙の事前分布が $P^{\mathrm{uni}}$ であったことを踏まえると、 $\mathcal{J}_{\text {game }}$ の最適化で創発するメッセージが不必要に長くなってしまうのは、今や当然のことのように思える。一方、 $P^{\operatorname{mon}}(l)$ は左に偏った分布になっていて、 $P^{\text {mon }}(m)$ それ自体が Zipf 短縮に従うメッセージ分布になっていることが分かる。6) $P^{\text {int }}(l ; \eta)$ は、 $\eta$ の值によって $P^{\mathrm{mon}}(l)$ と $P^{\text {uni }}(l)$ の間をつなぐような形状になっている。 $P^{\text {int }}(l ; \eta)$ が、メッセージ長に関する罰則項を設けたゲームの目的関数 $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ における暗黙の事前分布になっていたことを踏まえると、罰則項の重み $\alpha$ を調整することは、分布 $P^{\mathrm{uni}}(l)$ の極端な右への偏りを緩和することに対応しているのだと理解することができる。

次に、 $(T,|\mathcal{A}|)=(30,40)$ としたときの、長さに関する分布の様子を図 2 に示す。 $(T,|\mathcal{A}|)=(30,40)$ と

図 2 メッセージ長の分布 $((T,|\mathcal{A}|)=(30,40))$.

いう超パラメータは、先行研究において典型的に選択されているものであり $[2,8,9]$ 、この分野の実態により近い。図 2 から分かるように、 $P^{\text {uni }}(l)$ は更に右側に偏っている。 $P^{\mathrm{mon}}(l)$ は平坦な形状に見えるが、実際には依然として左側に偏っていて、右肩下がりの形状をしている。図 2 における $\eta=38.35$ は、メッセージ長罰則項の重み $\alpha=0.5$ に概ね対応している。これは [2] が選択した値と同じであり、この值で Zipf 短縮の創発に成功している。 $P^{\text {int }}(l ; \eta=38.35)$ が尚も右側に著しく偏っていることを踏まえると、

6）モンキータイピング系列が Zipf 則や Zipf 短縮に従うことは既に知られており $[14,5]$ 、同様のことが起きている。

[2] が $\alpha=0.5$ という重みで Zipf 短縮の創発に成功したという事実は驚くべきことである。これまで、創発言語の反 Zipf 短縮性はバイアスのせいであると考えられてきたが、 $P^{\text {uni }}(l)$ よりもわずかに偏りが緩和されただけの分布で Zipf 短縮を創発できるのなら、むしろエージェントは短いメッセージを選好する望ましいバイアスをもっているのではないかとさえ思える。ただし、あるメッセージ $m_{1}$ が $P^{\text {int }}(m ; \eta)$ からサンプリングされる確率は、あるメッセージ $m_{2}$ が $P^{\mathrm{int}}(m ; \eta)$ からサンプリングされる確率の $(|\mathcal{A}|-\eta)^{\left|m_{2}\right|-\left|m_{1}\right|}$ 倍である。つまり、個々のメッセージ同士を比較する限りにおいては、 $P^{\text {int }}(m ; \eta)$ は短いメッセージを選好する分布であるともいえる。

## 3.3 beta-VAE の目的関数との類似性

ゲームの目的関数に暗黙の事前分布が存在するということは、ゲームの最適化は、ある種の生成モデルに関する変分推論と見做せるかもしれない。 この発想に基づき、本節ではゲームの目的関数と beta-VAE [15] の目的関数との類似性について議論する。入力 $i$ を観測変数 $x$ 、メッセージ $m$ を潜在変数 $z$ 、送信者 $P_{\theta_{s}}(m \mid i)$ を符号化器 $q_{\phi}(z \mid x)$ 、受信者 $P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)$ を復号化器 $p_{\theta}(x \mid z)$ 、事前分布 $P^{\text {int }}(m ; \eta)$ を潜在変数の事前分布 $p_{\theta}(z)$ だと思うことにすれば、シグナリングゲームの構造は VAE [16] のそれに類似している。そこで、シグナリングゲームの記法で以下のような beta-VAE の目的関数を考える:

$
\begin{aligned}
& \mathcal{J}_{\mathrm{vae}}(\beta):=\mathbb{E}_{P_{I}(i)}\left[\mathbb{E}_{\boldsymbol{P}_{\boldsymbol{\theta}_{s}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}(i \mid m)\right]\right. \\
&\left.-\beta \operatorname{KL}\left(P_{\boldsymbol{\theta}_{s}}(m \mid i) \| P^{\mathrm{int}}(m ; \eta)\right)\right] .
\end{aligned}
$

beta-VAE では通常の VAE の目的関数を拡張し、KL ダイバージェンス項を $\beta$ で重み付けする。 $\mathcal{J}_{\text {vae }}(\beta)$ は以下のように変形できる (証明は付録 A 参照):

$
\begin{aligned}
\mathcal{J}_{\text {vae }}(\beta)= & \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\beta \log \{|\mathcal{A}|-\eta\}) \\
& +\beta \mathbb{E}_{P_{I}(i)}\left[\mathcal{H}\left(P_{\boldsymbol{\theta}_{s}}(m \mid i)\right)\right]+\mathrm{const}
\end{aligned}
$

式 13 の第 1 項は、メッセージ長罰則項の重みを $\alpha=\beta \log \{|\mathcal{A}|-\eta\}$ としたときのゲームの目的関数 $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ に一致している。第 2 項は送信者 $P_{\boldsymbol{\theta}_{s}}$ のエントロピー最大化項になっている。このような、 ゲームの報酬の期待値とエントロピー最大化項が合わさった目的関数を用いる設定は、しばしば最大エントロピー強化学習と呼ばれる。7) 実は、創発言語

7）変分推論と最大エントロピー強化学習が同一視できることは control-as-inference [17] の一例としても理解できる。
の研究でもエントロピー正則化項 [18] という補助目的関数が頻繁に用いられる。エントロピー正則化項は、エントロピー最大化項と同様の効果を持つ。ただし、ややアドホックな手法であり、エントロピー 最大化項とは一般には一致しない。以上のことから、ゲームはアドホックな補助関数を伴いつつ、暗に変分推論をしていると思われる。8)

## 3.4 以上の結果から得られる示唆

3 節では、まずゲームの目的関数 $\mathcal{J}_{\text {game }}, \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ が特定の事前メッセージ分布 $P_{\text {int }}(m ; \eta)$ を仮定していることを示した。続いて、事前メッセージ分布の形状に着目し、その形状から反 Zipf 短縮の一因を垣間見た。9）最後にVAE との類似性に触れ、ゲームが (アドホックな形で) 暗に生成モデルの変分推論をしていることが示唆された。本稿では、Zipf 短縮という特定の性質を取り上げて議論したが、ここでの考え方は、シグナリングゲームを用いる研究一般に適用可能なものである。従って、ゲームを用いる際には、暗に想定されている事前分布と、それがもたらし得る影響を意識することが重要になるだろう。

## 4 最後に

本稿の目的は、シグナリングゲームにおいて創発する言語が Zipf 短縮に従わないという知見に着目し、その原因の一端を示唆することであった。具体的には、目的関数が暗にもつ事前メッセージ分布に着目し、それが反 Zipf 短縮の一因になり得ることを示唆した。ゲームにおいて可変長メッセージを用いるのはごく自然に思える。しかし実は、先行研究の殆どは固定長メッセージを用いている。素朴に可変長にしても不自然にメッセージが長くなること、 メッセージ長罰則項は学習を不安定にし得ること、罰則化項の (進化) 言語学的な意味が不明瞭なこと等が可変長が忌避される要因ではないかと推測している。ゲームの最適化に潜むアーティファクトを 1 つずつ洗い出して解決していくことが、今後の言語創発研究を豊かなものにしていくだろう。

8）また、beta-VAE と情報ボトルネック法 (IB) [19]の目的関数にも密接な関係があることが知られている $[20,21]$ 。IB を用いた言語創発研究としては $[22,23]$ などがある。ただし、これらは 1 メッセージ 1 記号の設定を用いているため、今回のような Zipf 短縮関連の議論を適用できない。

9）ただし、 $P^{\mathrm{uni}}(m)$ が創発言語を“余計に長くする”ことが分かっても、“反” Zipf 短縮になる理由はそれほど自明でない。恐らく、NN のバイアスやエントロピー正則化のアドホックさなど、様々な要因が絡み合い反 Zipf 短縮が生じる。このことについて、より厳密に議論するのが今後の課題である。

## 謝辞

執筆に際してコメントを寄せてくださった宮尾祐介先生、李凌寒さんに感謝申し上げます。

## 参考文献

[1] Angeliki Lazaridou and Marco Baroni. Emergent multiagent communication in the deep learning era. CoRR, Vol. abs/2006.02419, , 2020.

[2] Rahma Chaabouni, Eugene Kharitonov, Emmanuel Dupoux, and Marco Baroni. Anti-efficient encoding in emergent communication. In Advances in Neural Information Processing Systems 32: Annual Conference on Neural Information Processing Systems 2019, NeurIPS 2019, December 8-14, 2019, Vancouver, BC, Canada, pp. 6290-6300, 2019.

[3] George K. Zipf. The psycho-biology of language. Houghton Mifflin, 1935.

[4] Jasmeen Kanwal, Kenny Smith, Jennifer Culbertson, and Simon Kirby. Zipf' $\mathrm{s}$ law of abbreviation and the principle of least effort: Language users optimise a miniature lexicon for efficient communication. Cognition, Vol. 165, pp. 4552, 2017

[5] 田中久美子. 言語とフラクタル. 東京大学出版会, 2021 .

[6] David K. Lewis. Convention: A Philosophical Study. Wiley-Blackwell, 1969.

[7] Sepp Hochreiter and Jürgen Schmidhuber. Long shortterm memory. Neural Comput., Vol. 9, No. 8, pp. 17351780, 1997.

[8] Mathieu Rita, Rahma Chaabouni, and Emmanuel Dupoux. "lazimpa": Lazy and impatient neural agents learn to communicate efficiently. In Proceedings of the 24th Conference on Computational Natural Language Learning, CoNLL 2020, Online, November 19-20, 2020, pp. 335343. Association for Computational Linguistics, 2020.

[9] Ryo Ueda and Koki Washio. On the relationship between zipf's law of abbreviation and interfering noise in emergent languages. In Proceedings of the ACL-IJCNLP 2021 Student Research Workshop, ACL 2021, Online, JUli 5-10, 2021, pp. 60-70. Association for Computational Linguistics, 2021.

[10] George K. Zipf. Human Behaviour and the Principle of Least Effort. Addison-Wesley, 1949.

[11] John Schulman, Nicolas Heess, Theophane Weber, and Pieter Abbeel. Gradient estimation using stochastic computation graphs. In Advances in Neural Information Processing Systems 28: Annual Conference on Neural Information Processing Systems 2015, December 7-12, 2015, Montreal, Quebec, Canada, pp. 35283536, 2015.

[12] Ronald J. Williams. Simple statistical gradient-following algorithms for connectionist reinforcement learning. Mach. Learn., Vol. 8, pp. 229-256, 1992.

[13] Bengt Sigurd, Mats Eeg-Olofsson, and Joost Van Weijer. Word length, sentence length and frequency - zipf revisited. Studia Linguistica, Vol. 58, No. 1, pp. 37-52, 2004.
[14] George A. Miller. Some effects of intermittent silence. The American Journal of Psychology, Vol. 70, No. 2, pp. 311-314, 1957.

[15] Irina Higgins, Loïc Matthey, Arka Pal, Christopher P. Burgess, Xavier Glorot, Matthew M. Botvinick, Shakir Mohamed, and Alexander Lerchner. beta-vae: Learning basic visual concepts with a constrained variational framework. In 5th International Conference on Learning Representations, ICLR 2017, Toulon, France, April 24-26, 2017, Conference Track Proceedings. OpenReview.net, 2017.

[16] Diederik P. Kingma and Max Welling. Auto-encoding variational bayes. In 2nd International Conference on Learning Representations, ICLR 2014, Banff, AB, Canada, April 14-16, 2014, Conference Track Proceedings, 2014.

[17] Sergey Levine. Reinforcement learning and control as probabilistic inference: Tutorial and review. CoRR, Vol. abs/1805.00909, , 2018.

[18] Ronald J. Williams and Jing Peng. Function optimization using connectionist reinforcement learning algorithms. Connection Science, Vol. 3, No. 3, pp. 241-268, 1991.

[19] Naftali Tishby, Fernando C. N. Pereira, and William Bialek. The information bottleneck method. CoRR, Vol. physics/0004057, , 2000.

[20] Alessandro Achille and Stefano Soatto. Information dropout: Learning optimal representations through noisy computation. IEEE Trans. Pattern Anal. Mach. Intell., Vol. 40, No. 12, pp. 2897-2905, 2018.

[21] Alexander A. Alemi, Ian Fischer, Joshua V. Dillon, and Kevin Murphy. Deep variational information bottleneck. In 5th International Conference on Learning Representations, ICLR 2017, Toulon, France, April 2426, 2017, Conference Track Proceedings. OpenReview.net, 2017.

[22] Rahma Chaabouni, Eugene Kharitonov, Emmanuel Dupoux, and Marco Baroni. Communicating artificial neural networks develop efficient color-naming systems. Proceedings of the National Academy of Sciences, Vol. 118, No. 12, p. e2016569118, 2021.

[23] Mycal Tucker, Roger P. Levy, Julie Shah, and Noga Zaslavsky. Trading off utility, informativeness, and complexity in emergent communication. In Advances in Neural Information Processing Systems, 2022.

## A 証明

本節では、スペースの都合で本文には掲載できなかった証明を示す。

式 6 ・式 8 ・式 10 の証明. 本文で述べたように、 $P^{\mathrm{int}}(m ; \eta)$ は $P^{\mathrm{uni}}(m)$ 及び $P^{\mathrm{mon}}(m)$ を包含している。また、 $\alpha=0$ のとき $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)=\mathcal{J}_{\text {game }}$ であるから、 $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ は $\mathcal{J}_{\text {game }}$ を含む。従って、式 10 のみを示せばよい。

$
\begin{aligned}
& \nabla \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)\right] \\
= & \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\nabla \log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)+\left.\{\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{int}}(i, m ; \eta)-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{s}}(m \mid i)\right] \\
= & \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}}(m \mid i)\left[\nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\nabla \log P^{\mathrm{int}}(m ; \eta)+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\log P^{\mathrm{int}}(m ; \eta)-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)\right] \\
= & \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\log P^{\mathrm{int}}(m ; \eta)-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)\right] \\
= & \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}}(m \mid i)\left[\nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\left.\{\log P_{\boldsymbol{\theta}_{r}}(i \mid m)-|m| \log (|\mathcal{A}|-\eta)-\log Z^{\prime}-b(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)\right] \\
= & \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)-|m| \log (|\mathcal{A}|-\eta)-b^{\prime}(i)\right.\} \nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)\right] \\
= & \nabla \mathcal{J}_{\text {game }}^{\mathrm{LP}}(\log \{|\mathcal{A}|-\eta\}) .
\end{aligned}
$

1 つ目の等式は式 2 と同様の式変形によって得られ、 2 つ目の等式は $P_{\theta_{r}}^{\text {int }}(i, m ; \eta)$ の定義から従い、3つ目の等式は $\nabla P^{\mathrm{int}}(m ; \eta)=\mathbf{0}$ であることから従い、4つ目の等式は $P^{\mathrm{int}}(m ; \eta)$ の定義から従い、5つ目の等式は新たなベースライン関数 $b^{\prime}(i)=b(i)+\log Z^{\prime}$ を置くことで得られ、最後の等式は式 4 と同様の式変形によって得られる。

式 13 の証明. 式 13 は以下のように証明できる。

$
\begin{aligned}
& \mathcal{J}_{\mathrm{vae}}(\beta)=\mathbb{E}_{P_{I}(i)}\left[\mathbb{E}_{\boldsymbol{P}_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)\right]-\beta \operatorname{KL}\left(P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i) \| P^{\mathrm{int}}(m ; \eta)\right)\right] \\
& \left.=\mathbb{E}_{P_{I}(i)}\left[\mathbb{E}_{\boldsymbol{P}_{\boldsymbol{\theta}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)\right]-\beta \mathbb{E}_{\boldsymbol{P}_{\boldsymbol{\theta}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)-\log P^{\operatorname{int}}(m ; \eta)\right)\right]\right] \\
& \left.=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}(i \mid m)-\beta \log P_{\boldsymbol{\theta}_{s}}(m \mid i)+\beta \log P^{\mathrm{int}}(m ; \eta)\right)\right] \\
& \left.=\mathbb{E}_{\boldsymbol{P}_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}(i \mid m)+\beta \log P^{\mathrm{int}}(m ; \eta)\right)\right]-\beta \mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{s}}(m \mid i)\right] \\
& \left.=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{S}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\beta \log P^{\mathrm{int}}(m ; \eta)\right)\right]+\beta \mathbb{E}_{P_{I}(i)}\left[\mathcal{H}\left(P_{\boldsymbol{\theta}_{s}}(m \mid i)\right)\right] \\
& =\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{s}}(m \mid i)}\left[\log \boldsymbol{P}_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)-\beta|m| \log (|\mathcal{A}|-\eta)\right]-\mathbb{E}_{P_{I}(i), p_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\log Z^{\prime}\right]+\beta \mathbb{E}_{P_{I}(i)}\left[\mathcal{H}\left(P_{\boldsymbol{\theta}_{s}}(m \mid i)\right)\right] \\
& =\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\beta \log \{|\mathcal{A}|-\eta\})+\beta \mathbb{E}_{P_{I}(i)}\left[\mathcal{H}\left(P_{\boldsymbol{\theta}_{s}}(m \mid i)\right)\right]+\text { const. }
\end{aligned}
$

1 つ目の等式は $\mathcal{J}_{\mathrm{vae}}(\beta)$ の定義 (式 12 ) そのものであり、2つ目の等式は KL ダイバージェンスの定義から従い、3つ目・4つ目の等式は期待値の線形性から従い、5つ目の等式はエントロピーの定義から従い、6つ目の等式は $P^{\mathrm{int}}(m ; \eta)$ の定義から従い、7つ目の等式は $\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ の定義及び $\nabla \mathbb{E}\left[\log Z^{\prime}\right]=\nabla \log Z^{\prime}=\mathbf{0}$ から従う。

## B メッセージ長分布をガンマ分布としてゲームの目的関数を逆算した場合

自然言語における単語長分布はガンマ分布に従うことが知られている [13]。では、メッセージ長をガンマ分布として、そこからゲームの目的関数を逆算したらどのような形になるのであろうか。まず、メッセージ長がガンマ分布に従うと仮定する: $P^{\mathrm{gam}}(l ; k, \lambda):=\frac{1}{Z^{\prime \prime}} l^{k-1} \exp (-\lambda l) . k>0, \lambda>0$ は超パラメータであり、 $Z^{\prime \prime}$ は適当な正則化項である。このとき、 $P^{g a m}(l ; k, \lambda)$ に無矛盾なメッセージ分布として、以下が挙げられる:

$
P^{\text {gam }}(m ; k, \lambda):=\frac{1}{Z^{\prime \prime \prime}}|m|^{k-1} \exp (-\{\lambda-\log (|\mathcal{A}|-1)\}|m|) .
$

ただし、 $Z^{\prime \prime \prime}=\frac{Z^{\prime \prime}}{\log (|\mathcal{A}|-1)}$ である。 $P^{\mathrm{gam}}(m ; k, \lambda)$ と受信者 $P_{\boldsymbol{\theta}_{r}}(i \mid m)$ を合わせて、 $i, m$ の同時分布 $P_{\boldsymbol{\theta}_{r}}^{\mathrm{gam}}(i, m):=$ $P_{\boldsymbol{\theta}_{r}}(i \mid m) P^{\mathrm{gam}}(m ; k, \lambda)$ を定義し、新たなゲームの目的関数 $\mathcal{J}_{\mathrm{game}}^{\mathrm{gam}}(k, \lambda)$ を考える:

$
\mathcal{J}_{\text {game }}^{\text {gam }}(k, \lambda):=\mathbb{E}_{P_{I}(i), P_{\boldsymbol{\theta}_{\boldsymbol{s}}}(m \mid i)}\left[\log P_{\boldsymbol{\theta}_{r}}^{\mathrm{gam}}(i, m)\right] .
$

ここで、 $\mathcal{J}_{\mathrm{game}}^{\mathrm{gam}}(k, \lambda)$ の微分は以下の形で得られる:

$
\nabla \mathcal{J}_{\text {game }}^{\text {gam }}(k, \lambda)=\mathbb{E}\left[\nabla \log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+\left.\{\log P_{\boldsymbol{\theta}_{\boldsymbol{r}}}(i \mid m)+(k-1) \log (|m|)-(\lambda+\log (|\mathcal{A}|-1))|m|\right.\} \nabla \log P_{\boldsymbol{\theta}_{s}}(m \mid i)\right]
$

$\mathcal{J}_{\text {game }}^{\mathrm{LP}}(\alpha)$ 同様の長さに比例する罰則に加え、長さの対数に比例する報酬が追加されたような形になる。


# 統語的構成や自己注意を持つ言語モデルは 「人間らしい」のか?

吉田遼 大関洋平
東京大学
\{yoshiryo0617, oseki\}@g.ecc.u-tokyo.ac.jp

## 概要

本研究では、統語的構成と自己注意をアーキテクチャに持つ/持たない言語モデルの、人間の眼球運動・脳波のモデリングの精度を評価することで、それぞれの構成要素の「人間らしさ」を統一的に検証する。具体的には、それぞれの構成要素を持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルを、first pass reading time と P600 振幅で評価する。結果、統語的構成と自己注意は共に眼球運動はよく予測するが、脳波を上手く予測するのは統語的構成のみであった。これは、統語的構成は間接的な認知データの説明力に留まらず人間のオンライン言語処理における高次処理に対応するが、自己注意は高次処理とは乘離している可能性を示唆する。

## 1 はじめに

近年の自然言語処理で用いられる大規模事前学習可能な言語モデルは、アーキテクチャ自体も「人間らしい」のだろうか。これらの言語モデルは、様々なタスクで人間を超える精度を達成している (e.g., [1]) が、言語獲得のデータ効率の悪さなど、人間との乘離もしばしば指摘されている [2]。これに対比されるように、「人間らしい」アーキテクチャであるとして挙げられる言語モデルの代表が、再帰的ニューラルネットワーク文法 (Recurrent Neural Network Grammar, RNNG; [3]) である。RNNG は、統語的教示が統合された再帰的ニューラルネットワー ク (Recurrent Neural Network, RNN; [4]) であり、その確率的予測が、人間のオフライン言語処理を反映する容認性判断 $[5,6,7]$ や、オンライン言語処理を反映する眼球運動・脳活動データ $[8,9,10]$ と高い一致を示すことが知られている。ここで、RNNG の最大の特徴は、句構造を階層的に一つのベクトル
へと構成する統語的構成であり、統語的構成なしでは RNNG の性能が損なわれることが知られている $[6,8]$ 。

一方で、近年の自然言語処理では、Transformer [11] が RNN を様々なタスクで上回り [12]、過去の情報に選択的に注意できる自己注意の自己回帰に対する優位性が示されている。より近年では、Transformer が、単語毎提示の読み時間や脳波に限れば RNN よりも上手く予測できること [13] から、認知モデリングの文脈においても自己注意の「人間らしさ」が主張され始めている。これらを受け、先行研究 [14] では、RNNG の統語的構成と Transformer の自己注意を統合したモデルである構成注意文法 (Composition Attention Grammar, CAG) が提案され、人間のオフライン容認性判断に対して RNNG や Transformer よりも高い一致率を示すことが明らかにされた。しかし、この統語的構成と自己注意を併せ持つモデルが、人間のオンライン言語処理とも高い一致率を示すかどうかは、未だ明らかにされていない。

さらに、これらの認知モデリングの先行研究では、RNN ベースのモデルにおける統語的構成の効果と、統語的教示を持たないモデルにおける自己注意の効果が、それぞれ独立に検証されるに留まり、統語的構成・自己注意それぞれの要素が、他方の要素の影響を受けずに、普遍的に認知的妥当性が高いかどうか、は統一的に検証されてきていない。

そこで、本研究では、統語的構成と自己注意をアーキテクチャに持つ/持たない言語モデルの、人間の眼球運動・脳波のモデリングの精度を評価することで、それぞれの構成要素の「人間らしさ」を統一的に検証する。具体的には、それぞれの構成要素を持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルを、first pass reading time と P600 振幅で評価する。

表 1 本研究で評価する、統語的構成と自己注意をアーキテクチャに持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない2つの統語的教示なしべースライン言語モデル。

## 2 実験

## 2.1 オンライン文処理のモデリング

人間のオンライン言語処理は予測処理を伴い、各単語が文脈に基づいた予測が難しい時には、処理負荷が向上し、視線停留時間が上昇したり、事象関連電位が励起されたりすると言われる。サプライザル理論 $[15,16]$ は、この「予測の難しさ」をサプライザル $-\log p$ (単語|文脈) として定式化した。認知モデリングの分野では、この值が言語モデルの予測確率と人間の眼球運動や脳波などとの橋渡し仮説として用いられ、どのような言語モデルが「人間らしい」予測をするのかが、アーキテクチャ・学習デー タなどの観点から検証されてきた (e.g., [17])。本研究でも、サプライザル理論を橋渡し仮説として用い、統語的構成と自己注意をアーキテクチャに持つ/持たない言語モデルの認知的な妥当性を検証する。

## 2.2 言語モデル

本研究で評価する、統語的構成と自己注意をアー キテクチャに持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルを、表 1 に示した。全ての言語モデルは、先行研究 [14] により Brown Laboratory for Linguistic Information Processing 1987-89 Corpus Release 1(BLLIP、LG、約 1.8M 文) [18] で学習されたパラメータ数約 $16.6 \mathrm{M}$ のモデルを用いた。各モデルは 3 つの異なるシードで学習されている。

LSTM RNN ゙ースの、自己注意を持たない、純正言語モデル [19]。自己注意なしのモデルの、統語的教示なしべースラインである。

ActionLSTM RNN ベースの、自己注意を持たない、統語的教示を統合された言語モデル $[20]$ 。ただし、統語的構成は行わない。

RNNGRNNベースの、自己注意を持たない、統語的教示を統合された言語モデル [3]。統語的構成を行う。

図 1 本研究で検証する P600（後頭部電極の、各単語の最初の視線停留から 600-700ms の間の振幅平均）のトポグラフィ。電極と時間空の選択は先行研究 [8] を踏襲した。図は同先行研究より抜粋。

Transformer Transformer ベースの、自己注意を持つ、純正言語モデル [21]。自己注意ありのモデルの、統語的教示なしべースラインである。

PLM Transformer ベースの、自己注意を持つ、統語的教示を統合された言語モデル [22]。ただし、統語的構成は行わない。

CAG Transformerベースの、自己注意を持つ、統語的教示を統合された言語モデル [14]。統語的構成を行う。

## 2.3 眼球運動・脳波データ

英語母語話者 12 人分の、眼球運動と脳波の同時計測データである、Zurich Cognitive Language Processing Corpus (ZuCo; [23]) を用いた。先行研究 [24] を踏襲し、自然な読みのデータの 700 文を用いる。

眼球運動データ先行研究を踏襲し、first pass reading time を用いた。付録 A に示す前処理を施し、 160,603 中 93,782 のデータポイント（単語）が統計分析の対象となった。

図 2 統語的構成と自己注意をアーキテクチャに持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルの、心理学的予測精度 (PPP) の結果。縦軸が PPP を、横軸が各言語モデルを表す。棒グラフはシードの異なる 3 つのモデルの PPP の平均値を表し、それぞれの点は各シードの PPP を表す。

脳波データ統語的処理に関連する [25] とされる、P600 振幅（後頭部電極の、各単語の最初の視線停留から 600-700ms の間の振幅平均）を用いた。電極と時間窓の選択は先行研究 [8] を踏襲した (図 1)。付録 B に示す前処理を施し、160,603 中 86,070のデータポイント (単語) が統計分析の対象となった。

## 2.4 評価指標

各言語モデルの予測確率 $p$ (単語| 文脈) に基づくサプライザル $-\log p$ (単語|文脈) の、眼球運動・脳波のモデリング精度を評価する。評価指標としては、心理学的予測精度 (Psychometric Predictive Power, PPP)：眼球運動・脳波をモデル化するベースライン回帰モデルに、各言語モデルのサプライザルを加えた際の対数尤度の増加分 $(\Delta \operatorname{LogLik})$ を用いる。1) 先行研究 $[26,10]$ を踏襲し、眼球運動 (ET) のベースライン回帰モデルには以下の線形混合モデルを用いる:2)

$
\begin{aligned}
\log (\mathrm{ET}) & \sim \text { length + prev_length } \\
& + \text { freq }+ \text { prev_freq } \\
& + \text { is_first + is_last + is_second_last } \\
& + \text { lineN + segmentN }+(1 \mid \text { subj }) .
\end{aligned}
$

また、先行研究 $[13,8]$ を考慮し、脳波 (EEG) のべー スライン回帰モデルには以下の線形混合モデルを用

いる:

$
\begin{aligned}
\log (\mathrm{EEG}) & \sim \text { sent_order + word_order } \\
& + \text { baseline_activity }+(1 \mid \text { subj }) .
\end{aligned}
$

各特徵量の詳細は付録 $\mathrm{C}$ に記す。数値型の特徵量は全て中心化を行なった。最初に一度モデル化した上で 3 標準偏差を超えるデータポイントを除外した。 これにより、眼球運動、脳波のそれぞれで、92,246、及び 85,628 、のデータポイントが最終的な分析対象となった。また、各言語モデルの PPP ( $\Delta$ LogLik $)$ の差が有意であるかどうかについては、各言語モデルで最も性能が良かったシードの結果について、ネストしたモデル比較を行い確かめた：比較対象となる言語モデルのサプライザルを共に含んだ回帰モデルから、着目している言語モデルのサプライザルを除いたときの逸脱度の増加分を $\chi^{2}$ 検定 $(p \leq 0.05)$ により検定した。

## 3 結果と考察

統語的構成と自己注意をアーキテクチャに持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルの、PPP の結果を、図 2 に示した。縦軸が PPPを、横軸が各言語モデルを表す。棒グラフはシードの異なる 3 つのモデルの PPP の平均値を表し、それぞれの点は各シードの PPP を表す。また、 PPP の有意差を検定するための、ネストしたモデル比較の結果を、表 2 に示した。統語的教示/統語的構成/自己注意を持つ言語モデルが、持たない言語モデルより PPPが高いかどうかを、その他の構成要素を持つ/持たない条件別に比較している。

表 2 心理学的予測精度 (PPP) の有意差を検定するための、ネストしたモデル比較の結果。統語的教示/統語的構成/自己注意を持つ言語モデルが、持たない言語モデルより PPPが高いかどうかを、その他の構成要素を持つ/持たない条件別に比較している。

眼球運動 First pass reading time の PPP の結果と、 ネストしたモデル比較の結果は、それぞれ、図 2、表 2 の左に示されている。また、事前にベースライン回帰モデルとのネストしたモデル比較を行い、全ての言語モデルの PPP が有意であり、眼球運動のモデリングに効果があることを確かめた。図 2 より、統語的構成と自己注意の両者を持つ CAG が最も高いPPPを達成しており、統語的構成と自己注意の両者が、眼球運動という、人間のオンライン文処理から得られる間接的認知データの説明に、一定程度有効であることが示唆されている。さらに、表 2 より、統語的構成・自己注意の両者が、条件間で普遍的に有効であることが統計的に確かめられた。ベー スライン言語モデルとの比較による、統語的教示の有効性については、条件間で統一した結論は得られていないが、これは統語的教示を与えることは必要十分ではなく、統語的構成のようなそれを扱うアー キテクチャを先天的にモデルに組み込むことが重要であることを示唆している $[6,8]$ 。

脳波 P600 振幅の PPP の結果と、ネストしたモデル比較の結果は、それぞれ、図 2、表 2 の右に示されている。事前にベースライン回帰モデルとのネストしたモデル比較を行い、統語的構成を持つ RNNG と CAG の PPP のみが有意であり、その他の言語モデルは脳波のモデリングに効果がないことが確かめられた。図 2 より、それら RNNG と CAG 間では、 RNNG がより高い PPP を達成しており、統語的構成は脳波に反映される高次処理に対応する可能性が高い (cf. [8]) が、自己注意はそれらの高次処理には対応しない可能性が高いことが示唆されている。さら
に、表 2 より、統語的構成は条件間で普遍的に有効であることが統計的に確かめられた。自己注意や、統語的教示については、いずれの条件でも有効性が確かめられなかった。

総合考察本研究の結果を総合すると、以下のような示唆が得られる。まず、文法的構成は、眼球運動のような間接的な認知データの説明力に留まらず、人間のオンライン文処理における高次処理に対応する可能性が高い。一方で、自己注意は、眼球運動に対する説明力はあるが、オンライン文処理における高次処理とは対応していない可能性がある。また、統語的教示自体は眼球運動・脳波の予測に必ずしも有効でなく、認知的妥当性の向上にはそれを扱うアーキテクチャ (i.e., 統語的構成) が必要である。

## 4 おわりに

本研究では、統語的構成と自己注意をアーキテクチャに持つ/持たない言語モデルの、人間の眼球運動・脳波のモデリングの精度を評価することで、それぞれの構成要素の「人間らしさ」を統一的に検証した。具体的には、それぞれの構成要素を持つ/持たない 4 つの統語的言語モデルと、自己注意を持つ/持たない 2 つの統語的教示なしべースライン言語モデルを、first pass reading time と P600 振幅で評価した。結果、統語的構成と自己注意は共に眼球運動はよく予測したが、脳波を上手く予測するのは統語的構成のみであった。これは、統語的構成は間接的な認知データの説明力に留まらず人間のオンライン言語処理における高次処理に対応するが、自己注意は高次処理とは乘離している可能性を示唆する。

## 謝辞

本研究は本研究は、JST さきがけ JPMJPR21C2 の

支援を受けたものです。

## 参考文献

[1] Charlotte Caucheteux and Jean-Rémi King. Brains and algorithms partially converge in natural language processing. Communications Biology, Vol. 5, No. 1, pp. 1-10, February 2022.

[2] Tal Linzen. How Can We Accelerate Progress Towards Human-like Linguistic Generalization? In ACL 2020, pp. 5210-5217, Online, July 2020. Association for Computational Linguistics.

[3] Chris Dyer, Adhiguna Kuncoro, Miguel Ballesteros, and Noah A. Smith. Recurrent Neural Network Grammars. In NAACL 2016, pp. 199-209, San Diego, California, June 2016. Association for Computational Linguistics.

[4] Jeffrey L. Elman. Finding structure in time. Cognitive Science, Vol. 14, No. 2, pp. 179-211, April 1990.

[5] Adhiguna Kuncoro, Chris Dyer, John Hale, Dani Yogatama, Stephen Clark, and Phil Blunsom. LSTMs Can Learn Syntax-Sensitive Dependencies Well, But Modeling Structure Makes Them Better. In ACL 2018, pp. 14261436, Melbourne, Australia, July 2018. Association for Computational Linguistics.

[6] Ethan Wilcox, Peng Qian, Richard Futrell, Miguel Ballesteros, and Roger Levy. Structural Supervision Improves Learning of Non-Local Grammatical Dependencies. In NAACL 2019, pp. 3302-3312, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[7] Jennifer Hu, Jon Gauthier, Peng Qian, Ethan Wilcox, and Roger Levy. A Systematic Assessment of Syntactic Generalization in Neural Language Models. In ACL 2020, pp. 1725-1744, Online, July 2020. Association for Computational Linguistics.

[8] John Hale, Chris Dyer, Adhiguna Kuncoro, and Jonathan Brennan. Finding syntax in human encephalography with beam search. In ACL 20018, pp. 2727-2736, Melbourne, Australia, July 2018. Association for Computational Linguistics.

[9] Jonathan R. Brennan, Chris Dyer, Adhiguna Kuncoro, and John T. Hale. Localizing syntactic predictions using recurrent neural network grammars. Neuropsychologia, Vol. 146, p. 107479, September 2020.

[10] Ryo Yoshida, Hiroshi Noji, and Yohei Oseki. Modeling Human Sentence Processing with Left-Corner Recurrent Neural Network Grammars. In EMNLP 2021, pp. 29642973, Online and Punta Cana, Dominican Republic, January 2021. Association for Computational Linguistics.

[11] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Lukasz Kaiser, and Illia Polosukhin. Attention is All you Need. In Advances in Neural Information Processing Systems, Vol. 30. Curran Associates, Inc., 2017.

[12] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In NAACL
2019, pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[13] Danny Merkx and Stefan L. Frank. Human Sentence Processing: Recurrence or Attention? In CMCL 2021, pp. 12-22, Online, June 2021. Association for Computational Linguistics.

[14] Ryo Yoshida and Yohei Oseki. Composition, Attention, or Both? In Findings of EMNLP 2022, Online and Abu Dhabi, the United Arab Emirates, December 2022. Association for Computational Linguistics.

[15] John Hale. A Probabilistic Earley Parser as a Psycholinguistic Model. In NAACL 2001, pp. 159-166, 2001.

[16] Roger Levy. Expectation-based syntactic comprehension. Cognition, Vol. 106, No. 3, pp. 1126-1177, March 2008.

[17] Tatsuki Kuribayashi, Yohei Oseki, Takumi Ito, Ryo Yoshida, Masayuki Asahara, and Kentaro Inui. Lower Perplexity is Not Always Human-Like. In ACL-IJCNLP 2021, pp. 5203-5217, Online, August 2021. Association for Computational Linguistics.

[18] Eugene Charniak, Don Blaheta, Niyu Ge, Keith Hall, John Hale, and Mark Johnson. BLLIP 1987-89 WSJ Corpus Release 1, 2000.

[19] Sepp Hochreiter and Jürgen Schmidhuber. Long Shortterm Memory. Neural computation, Vol. 9, No. 8, pp. 1735-80, December 1997.

[20] Transition-Based Dependency Parsing with Stack Long Short-Term Memory. In ACL-IJCNLP 2015, pp. 334-343, Beijing, China, July 2015. Association for Computational Linguistics.

[21] Alec Radford, Karthik Narasimhan, Tim Salimans, and Ilya Sutskever. Improving Language Understanding by Generative Pre-Training. p. 12, 2018.

[22] Peng Qian, Tahira Naseem, Roger Levy, and Ramón Fernandez Astudillo. Structural Guidance for Transformer Language Models. In ACL-IJCNLP 2021, pp. 3735-3745, Online, August 2021. Association for Computational Linguistics.

[23] Nora Hollenstein, Jonathan Rotsztejn, Marius Troendle, Andreas Pedroni, Ce Zhang, and Nicolas Langer. ZuCo, a simultaneous EEG and eye-tracking resource for natural sentence reading. Scientific Data, Vol. 5, No. 1, p. 180291, December 2018.

[24] Nora Hollenstein, Federico Pirovano, Ce Zhang, Lena Jäger, and Lisa Beinborn. Multilingual Language Models Predict Human Reading Behavior. In NAACL 2021, pp. 106-123, Online, June 2021. Association for Computational Linguistics.

[25] Lee Osterhout and Phillip J Holcomb. Event-related brain potentials elicited by syntactic anomaly. Journal of Memory and Language, Vol. 31, No. 6, pp. 785-806, December 1992.

[26] Masayuki Asahara, Hajime Ono, and Edson T. Miyamoto. Reading-Time Annotations for "Balanced Corpus of Contemporary Written Japanese". In COLING 2016, pp. 684694, Osaka, Japan, December 2016. The COLING 2016 Organizing Committee.

[27] Stephen Merity, Caiming Xiong, James Bradbury, and Richard Socher. Pointer Sentinel Mixture Models. In ICLR 2017, 2017.

表 3 本研究で用いた特徴量。

## A 眼球運動データの前処理

眼球運動データについては、データセットの提案論文 [23] で施されている前処理に加えて、先行研究 [10] を踏襲し、(i) 視線停留がゼロの単語、(ii) 大規模コーパス (Wikitext-2, [27]) の語彙に含まれない単語、(iii) 語彙に含まれない語に後続する単語、を除いた。

## B 脳波データの前処理

脳波データについては、データセットの提案論文 [23] で施されている前処理に加えて、先行研究 [8] を踏襲し、 $40 \mathrm{~Hz}$ のローパスフィルタを適用し、さらに、平均再参照を行なった。また、視線停留後 $0-100 \mathrm{~ms}$ の平均振幅に対してべースライン補正を行なった。また、(i) 視線停留がゼロの単語、(ii)大規模コーパス (Wikitext-2) の語彙に含まれない単語、(iii) 文の最初及び最後に現れる単語、を除いた。

P600 の電極位置については、先行研究 [8] とはモンタージュが異なるため、厳密に同じではないが、後頭部電極を用いた。

## C 回帰モデルの特徵量

本研究のベースライン回帰モデルに用いた特徴量を、表 3 に示した。頻度情報は大規模コーパス (Wikitext-2)より算出した。


# 日本語有害表現スキーマの提案と評価

小林 滉河 ${ }^{1}$ 山崎 天 ${ }^{1}$ 吉川 克正 ${ }^{1}$ 牧田 光晴 1
中町 礼文 ${ }^{1}$ 佐藤 京也 ${ }^{1,2}$ 浅原 正幸 ${ }^{3}$ 佐藤 敏紀 ${ }^{1}$
${ }^{1}$ LINE 株式会社 2 東京都立大学 ${ }^{3}$ 国立国語研究所
\{koga.kobayashi, takato.yamazaki, katsumasa.yoshikawa, makita.mitsuharu,
akifumi.nakamachi, keiya.sato, toshinori.sato\}@linecorp.com
masayu-a@ninjal.ac.jp

## 概要

本研究では、言語モデルや人が生成した有害表現の検知を目的としたラベリングスキーマを考案し、日本語有害表現データセットの構築と評価に取り組んだ。まず、提案したスキーマを用いてデータセットを構築し、アノテーションに関する定量的な分析を行った。次に、構築したデータセットを利用して有害表現検知器を作成した。作成した有害表現検知器は既存の有害表現検知システムに比べ、少ないデータ数で同等の性能を達成し、様々な種類の有害表現を捉えられる可能性を示した。また、対話システムが生成した応答に対して、有害表現検知器を適用したところ、有害な発話を高精度で検知できることを確認した。

## 1 はじめに

大規模な Webテキストコーパスによって構築された言語モデルが、有害な文章を生成するリスクが問題視されている $[1,2]$ 。この問題に対して、言語モデルによって生成されたテキストをフィルタリングすることで、有害表現を抑制する取り組みが行われている [3]。しかし有害/非有害といった単純なラベルで構築したフィルターだけでは、図 1 に示すような対話システムの個性を表現するために差別的な表現のみを抑制したいといった複雑なユースケースには利用できない。

また、インターネットの普及により、YouTube や Twitterのようなソーシャルプラットフォームは人々の生活に欠かせない存在になっている。一方で、プラットフォーム上でのへイトスピーチや嫌がらせといった有害表現が急増している [4]。この問題に対処するため、有害表現データセットの構築に関する研究が英語 [5]、韓国語 [6]、ポルトガル語 [7] などの

図 1 同じ発話でもシステムによって、適切なフィルタリングは異なる。例えば、攻撃的な性格を持つ対話システムを構築したい場合、暴力的な文章を全てフィルターすると適切な応答を得られない場合がある。

多様な言語で行われている。しかし、日本語の大規模なデータに対する有害表現ラベルのアノテーションは、限定的にしか行われていない。

本研究では、言語モデルが生成した文章や人が書いた文章を対象として、有害表現1)を詳細に分類できる有害表現スキーマを提案する。さらに、提案したスキーマを元にデータセット2)を構築した。また、構築したデータセットを用いて、有害レベル予測モデルと有害カテゴリ予測モデルの 2 つの有害表現検知器を構築し、評価した。実験の結果、作成した有害レベル予測モデルは公開されている多言語有害表現検知システムと同等の ROC-AUC が得られることを日本語において確認した。また有害レベル予測モデルが実運用に耐えうるか確認するため、対話

1）本稿では有害表現について説明するため、気分を害する可能性がある文が含まれています。

2）有害表現スキーマとデータセットの一部は https: //github.com/inspection-ai/japanese-toxic-datasetにて公開している。

システムに対する性能を測定した。その結果、構築したモデルは対話システムの有害発話を防ぐのに有効であることを確認した。有害カテゴリ予測モデルでは、 4 つのカテゴリについて ROC-AUC が 0.6 を超え、有害表現をより詳細に分類できる可能性を示した。

## 2 関連研究

事前学習済みモデルの発展により、言語モデルが生成する有害表現の制御に関する研究が近年盛んになっている [1]。ConvAbuse データセット [8]では、対話モデルを対象とした有害表現スキーマを提案し、 5 段階の有害レベルによるラベリング、 8 種類の有害タイプ、ターゲットや直接性といった様々な観点からアノテーションスキーマを定義し、ラベル付きデータセットを公開した。

ソーシャルプラットフォーム上の有害表現研究として、Twitter[9]、YouTube[10]、Reddit[11]、 Wikipedia[12] で構築された有害表現データセットが公開されている。このような有害表現に関する研究では、共通して利用される分類スキーマは存在せず、各研究が対象にするカテゴリについて焦点が置かれた、独自のアノテーションスキーマを利用していることが多い。

また日本語に対応している有害表現検知器に Perspective API[13] がある。これは 100 万文以上から構成される多言語有害表現データセットを学習したモデルの推論結果を提供するサービスである。このモデルの学習に利用したデータセットは公開されておらず、単一言語で学習したときの性能について明記されていない。そのため実験結果を再現するためには多言語での大量のアノテーションが必要となり、非常に高いコストが要求される。

日本語圏においては、インターネット上のいじめ $[14,15]$ やソーシャルメディアにおけるへイトスピーチ検出 [16] を対象とした類似研究が存在する。本研究では、いじめやへイトスピーチだけではなく、言語モデルや人による有害表現全体を対象とした、アノテーションスキーマの提案を行った。

## 3 データセット構築手法

## 3.1 データ収集

5ch、ガールズちゃんねる、Twitter といった日本語圏で利用者数が多いソーシャルプラットフォーム
をデータ収集元とし、アノテーション対象サンプルを 1,000 万件以上収集した。その後、得られたデー タに対して、文が短すぎるものや長すぎるもの、個人情報が含まれる文章を除去する等の前処理を行った。データを確認したところ、有害表現は非有害表現に比べ、出現頻度が少ない。そのためランダムサンプリングによってアノテーションする文章を選択するとアノテーション効率が低くなることが想定された。そこで文章の多様性を持たせつつ、アノテー ションの効率を高める方法として、既存研究 [17] を参考に、ランダムサンプリングの他、日本語有害表現を集めた辞書や能動学習による文章選定をした。 これらの手法によって収集された計 12,647 文に対して、アノテーションを行った。

## 3.2 スキーマの設計

本研究で提案するアノテーションスキーマは有害レベルと有害カテゴリの 2 つのアノテーションタスクから構成される。有害レベルには既存データセット3）を参考に、表 1 に示す 4 段階からなる順序尺度を用いた。有害カテゴリについては MAMA サイクル [18] を適用し、最終的に表 2 に示す 7 つのメインカテゴリから構成される 41 のサブカテゴリ、倫理的観点を持つ階層的なラベリングスキーマを構築した。サブカテゴリを含めた有害カテゴリの詳細は付録の表 7 に追記する。

## 3.3 アノテーション

本研究では、 5 人の自然言語処理に関わる開発者を含めた計 8 人の日本語母語話者をアノテータとした。また、全文に対して少なくとも 2 人によるラべリングが行われるようにアノテータを割り当てた。一貫性のあるアノテーションを実現するために、アノテーションスキーマの説明、いくつかの例文を添えたガイドライン、アノテーション時の注意事項、 パイロットタスクをアノテータに提供した。さらに、アノテーション時に出現した判断が難しい文章については、定期的に議論を行い、アノテーションの質の向上に努めた。

## 4 構築済みデータセットの分析

各ラベル定義と構築したデータセット 12,647 文のアノテーション分布を表 1,2 に記す。有害レベル

3) https://www.kaggle.com/c/jigsaw-unintended-bias-intoxicity-classification/data
表 1 有害レベルの定義とアノテーション分布。文章数でないことに注意。

* 四捨五入による端数を調整のため、割合の内訳と計は一致していない。

表 2 有害カテゴリにおけるメインカテゴリの定義とアノテーション分布。正例割合は全アノテーションに対して各力テゴリが付与された割合であり、マルチクラス分類のため合計は $100 \%$ にならないことに注意。

について、アノテーションの半数以上が Not Toxic であり、様々な方法で文の取捨選択を行ったにも関わらず、収集された多くのテキストがアノテータにとって非有害であることを確認した。

また有害カテゴリでは多くの正例を得られたカテゴリとそうでないカテゴリが存在している。例えば、迷惑行為カテゴリが付与されたアノテーションは全体の $27.8 \%$ に達していた。一方で出会い・プライバシー侵害や偏向表現カテゴリが付与されたアノテーションは全体の $1 \%$ 以下である。これはサンプリング時にカテゴリが偏った可能性や収集先のプラットフォームにて投稿されている文章に偏りが生じている可能性が考えられる。

アノテータ間の合意について、有害（Toxic・Very Toxic）と非有害（Not Toxic）の二值に丸めた有害/非有害、Not Toxic, Hard to Say, Toxic, Very Toxic の四値分類、各有害カテゴリにおけるクリッペンドルフの $\alpha$ 係数 [19] の算出を行った結果が表 4 になる。有害レベルについて、有害/非有害の二値で $\alpha$ 係数を算出したところ、 0.78 と高い一致率を確認できた。しかし四値分類での $\alpha$ 係数は 0.40 と二值の $\alpha$ 係数に比べ、值が低い。つまり、有害/非有害という二值でのアノテーションより遥かに四段階による有害レベルのアノテーションはアノテータの間で合意形成が難しいことが分かる。また有害カテゴリは、カテゴリによって $\alpha$ 係数に大きなばらつきがある。これはカテゴリごとにアノテーションの難易度が異なると表 3 各ラベルのクリッペンドルフの $\alpha$ 係数

解釈できる。

## 4.1 有害表現検知器の構築

構築した日本語有害表現データセットを用いて、有害レベル予測モデルと有害カテゴリ予測モデルの 2 つ有害表現検知器を作成する。モデルには日本語 $\mathrm{BERT}^{4}$ )を利用した。またファインチューニングの際には、構築したデータを訓練用、検証用、評価用データ $(80 \%: 10 \%: 10 \%)$ に分割し、訓練用データを学習に、検証用データをハイパーパラメータの探索に用いた。

自然言語処理における分類タスクでは、アノテー タによって付与されたラベルを多数決や統計的手法を用いて、ゴールドスタンダードを定めることが一般的である。しかし、有害性のような個人や文化

4) https://huggingface.co/cl-tohoku/bert-basejapanese-v2/
表 4 LINENLP チームのシステムが対話コンペ 4 にて生成した有害文章とそれに対する各モデルの有害スコア

 & .825 & .985 \\

によって感じ方が大きく異なるトピックについて、唯一の正解を定めることは正当ではない。そこで本研究では、文章に対してアノテータが正例と付与した割合を予測する確率回帰モデルを構築した。このモデルがある文章に対して、出力したスコアが 0.9 だった場合、10人中 9 人がその文章を見たとき有害とラベリングすると解釈できる。

作成したモデルの評価指標には ROC-AUC、MAE (平均絶対値誤差)、MSE（平均二乗誤差）を利用した。まずは有害レベル予測モデルと比較対象である Perspective API[13] による実験結果を表 5 に示す。我々のモデルは、訓練用データが約 10,000 文と少ない。それにも関わらず、Perspective API と比べ、評価用データにおいて AUC が高く、MAE、MSE は低い。つまり、同等程度の有害表現検知性能を有していることを確認できる。

有害カテゴリ予測モデルの結果を表 6 に示す。これら有害カテゴリ予測モデルは有害レベル予測モデルに比べ、全体的に ROC-AUC は低い。しかし、 データが十分に集まった 4 つのカテゴリにおいて ROC-AUC が 0.6 を超えていることが確認できた。

## 4.2 対話システムへの適用

本節では有害レベル予測モデルが言語モデルの応用タスクにおいて有効であることを対話システムを用いて確認する。評価用データとして、対話システムライブコンペティション 4[20]（以降、対話コンペ 4）にて行われた発話データを使用する。対話コンペ 4 では、任意の話題について話すオープントラックと定められた状況に合った発話が求められるシチュエーショントラックの二種類のトラックがある。本研究では、LINENLP チーム $[21,22]$ が表 6 評価用データによる有害カテゴリモデルの評価

*学習データが 300 件以下であるカテゴリについては、モデル構築をしていない。

開発した対話システムによる両トラックでの発話 1,025 文を人手で確認し、その中から有害だと思われる 4 つの文章を抽出した。これらの文章に対する、Perspective API と我々が構築したモデルによる有害度スコアを表 4 に示す。対話コンペ 4 で生成された有害文章において、我々の有害レベル予測モデルは全て 0.8 以上のスコアを算出し、対話システムが生成した有害表現の検知が可能なことを確認した。また、Perspective API と構築したモデルの ROC-AUC は $99.90 \%$ と $99.93 \%$ であり、両者とも非常に高い値を出した。

## 5 結論と今後の課題

本研究では、日本語有害表現検出スキーマの提案を行った。このスキーマを用いて、計 12,647 文からなる日本語有害表現データセットを構築したところ、一定水準のアノテータ間の一致率を確認できた。また、構築したデータを用いて、有害レベルと有害カテゴリを予測するモデルを作成し、評価を行った。その結果、提案したスキーマを利用することで、有害レベル予測において既存システムより少ない訓練データ数で同程度の性能を達成できた。更に有害カテゴリを用いることで、柔軟なフィルタリングシステムを構築できる可能性を示した。

今後は更にアノテーションデータを増やし、有害カテゴリに関する深い分析や全ての有害カテゴリの分類器について調査を行いたい。

## 謝辞

本研究のデータセット構築を手伝ってくださった全ての方に感謝します。

## 参考文献

[1] Samuel Gehman, Suchin Gururangan, Maarten Sap, Yejin Choi, and Noah A. Smith. RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models. In Findings of the Association for Computational Linguistics: EMNLP 2020, pp. 3356-3369, 2020.

[2] Laura Weidinger, Jonathan Uesato, Maribeth Rauh, Conor Griffin, Po-Sen Huang, John Mellor, Amelia Glaese, Myra Cheng, Borja Balle, Atoosa Kasirzadeh, Courtney Biles, Sasha Brown, Zac Kenton, Will Hawkins, Tom Stepleton, Abeba Birhane, Lisa Anne Hendricks, Laura Rimell, William Isaac, Julia Haas, Sean Legassick, Geoffrey Irving, and Iason Gabriel. Taxonomy of Risks Posed by Language Models. In 2022 ACM Conference on Fairness, Accountability, and Transparency, pp. 214-229, 2022.

[3] Jing Xu, Da Ju, Margaret Li, Y-Lan Boureau, Jason Weston, and Emily Dinan. Recipes for safety in open-domain chatbots. arXiv preprint arXiv:2010.07079, 2020.

[4] Matthew Williams. Hatred Behind the Screens: A Report on the Rise of Online Hate Speech. 2019.

[5] Ellery Wulczyn, Nithum Thain, and Lucas Dixon. Ex Machina: Personal Attacks Seen at Scale. In Proceedings of the 26th International Conference on World Wide Web, pp. 1391-1399, 2017.

[6] Jihyung Moon, Won Ik Cho, and Junbum Lee. BEEP! Korean Corpus of Online News Comments for Toxic Speech Detection. In Proceedings of the Eighth International Workshop on Natural Language Processing for Social Media, pp. 25-31, 2020.

[7] Paula Fortuna, João Rocha da Silva, Juan Soler-Company, Leo Wanner, and Sérgio Nunes. A Hierarchically-Labeled Portuguese Hate Speech Dataset. In Proceedings of the Third Workshop on Abusive Language Online, pp. 94-104, 2019.

[8] Amanda Cercas Curry, Gavin Abercrombie, and Verena Rieser. ConvAbuse: Data, Analysis, and Benchmarks for Nuanced Abuse Detection in Conversational AI. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing, pp. 7388-7403, 2021.

[9] Antigoni Founta, Constantinos Djouvas, Despoina Chatzakou, Ilias Leontiadis, Jeremy Blackburn, Gianluca Stringhini, Athena Vakali, Michael Sirivianos, and Nicolas Kourtellis. Large Scale Crowdsourcing and Characterization of Twitter Abusive Behavior. Proceedings of the International AAAI Conference on Web and Social Media, Vol. 12, No. 1, pp. 491-500, 2018.

[10] Rupak Sarkar and Ashiqur R. KhudaBukhsh. Are Chess Discussions Racist? An Adversarial Hate Speech Data Set (Student Abstract). Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 35, No. 18, pp. 15881-15882, 2021.
[11] Ioannis Mollas, Zoe Chrysopoulou, Stamatis Karlos, and Grigorios Tsoumakas. ETHOS: A Multi-label Hate Speech Detection Dataset. Complex \& Intelligent Systems, pp. 4663-4678, 2022.

[12] Ellery Wulczyn, Nithum Thain, and Lucas Dixon. Ex Machina: Personal Attacks Seen at Scale. In Proceedings of the 26th International Conference on World Wide Web, pp. 1391-1399, 2017.

[13] Alyssa Lees, Vinh Q. Tran, Yi Tay, Jeffrey Sorensen, Jai Gupta, Donald Metzler, and Lucy Vasserman. A New Generation of Perspective API: Efficient Multilingual Character-Level Transformers. In Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining, pp. 3197-3207, 2022.

[14] 松葉達明, 栘井文人, 河合敦夫, 井須尚紀. 学校非公式サイトにおける有害情報検出を目的とした極性判定モデルに関する研究. 言語処理学会第 17 回年次大会発表論文集, pp. 388-391, 2011.

[15] 新田大征, 桝井文人, 木村泰知, 荒木健治. カテゴリ別関連度最大化手法に基づく学校非公式サイトの有害書込み検出. 人工知能学会全国大会論文集第 27 回 (2013), pp. 2039-2039, 2013.

[16] 荒井ひろみ, 和泉悠, 朱喜哲, 仲宗根勝仁, 谷中瞳. ソーシャルメディアにおけるへイトスピーチ検出に向けた日本語データセット構築の試案. 言語処理学会第 27 回年次大会発表論文集, pp. 466-470, 2021.

[17] Nedjma Ousidhoum, Zizheng Lin, Hongming Zhang, Yangqiu Song, and Dit-Yan Yeung. Multilingual and Multi-Aspect Hate Speech Analysis. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 4675-4684, 2019.

[18] James Pustejovsky, Harry Bunt, and Annie Zaenen. Designing annotation schemes: From theory to model. In Handbook of Linguistic Annotation, pp. 21-72. 2017.

[19] Klaus Krippendorff. Computing Krippendorff's AlphaReliability. 2011.

[20] 東中竜一郎, 船越孝太郎, 高橋哲朗, 稲葉通将, 赤間怜奈, 佐藤志貴, 堀内颯太, ドルサテヨルス, 小室允人,西川寛之, 宇佐美まゆみ. 対話システムライブコンペティション 4. 人工知能学会研究会資料言語・音声理解と対話処理研究会, Vol. 93, pp. 92-100, 2021.

[21] 川本稔己, 山崎天, 坂田亘, 佐藤敏紀. HyperCLOVA を利用したプロンプトプログラミングによるシチュエーションに適した応答生成. 人工知能学会研究会資料言語・音声理解と対話処理研究会 93 回 (2021/11), pp. 131-136, 2021.

[22] 山崎天, 坂田亘, 川本稔己, 小林滉河, 上村卓史, 中町礼文, 李聖哲, 佐藤敏紀. ペルソナ一貫性の考慮と知識ベースを統合した HyperCLOVA を用いた雑談対話システム. 人工知能学会研究会資料言語・音声理解と対話処理研究会 93 回 (2021/11), pp. 113-118, 2021.

## A 詳細なカテゴリ

表 7 有害カテゴリの詳細

 \\


# 地方議会における議案への賛否に関する発言の分析 -NTCIR-17 QA Lab-Polilnfo4 Stance Classification-2 タスクに向けて一

高丸圭一 ${ }^{1}$ 内田ゆず 2 木村泰知 ${ }^{3}$ 秋葉友良 4
1 宇都宮共和大学 2 北海学園大学 3 小樽商科大学 4 豊橋技術科学大学
takamaruekyowa-u.ac.jp yuzuehgu.jp
kimura@res.otaru-uc.ac.jp akiba@cs.tut.ac.jp

## 概要

地方議会会議録は，議員がどのような理由（立場） で議案に賛成または反対したのかを示す一次情報である. NTCIR-17 で実施している QA Lab-PoliInfo4 では，地方議会会議録をもとに議員による議案への賛否を推定する Stance Classification-2 (SC2) タスクを実施する. 本稿では，タスクの概要について述べた上で，データセット構築の過程で得られた知見に基づき，討論発言における議案への賛否と「賛成」「反対」の文字列の出現について分析した結果を述べる.

## 1 はじめに

地方議会では，予算案や条例案等の議案の審議や，議員から首長に対する質問（代表質問・一般質問）が行われる。議会における発言はすべて議会会議録に記録される. 2022 年現在，すべての都道府県および市・東京特別区が議会（本会議）の会議録を Web公開にしている.

地方議会会議録は，議員がどのような理由（立場）で議案に賛成または反対したのかを示す一次情報であるといえる．筆者らは地方政治に関わる言語資源として地方議会会議録コーパスの整備に取り組んでいる ${ }^{1)}$. 収集，整備した議会会議録コーパスを活用して，議論の要約や，発言内容と根拠となる一次情報との結びつけ，発言者の態度（賛否）の推定といった研究を進めることを検討している。これらの研究の推進に向けて 2018 年から, 評価型ワークショップ NTCIR において QA Lab-PoliInfo タスクを開催している.

2022〜2023 年にかけて行われている NTCIR-17 QA Lab-PoliInfo-4[1] ${ }^{2}$ では, 地方議会における議案に

1) http://local-politics.jp/

2) https://sites.google.com/view/poliinfo4

図 1 Stance Classification-2 タスクのイメージ

対する議員の賛否を推定する Stance Classification-2 (SC2) タスクを実施している。このタスクはある議員のある議案に対する明示的な賛否を含まない発言を入力として，議案への賛否を推定し出力するものである（図 1).

2 節に議員による議案への賛否表明の前提となる定例会の議事の構造および NTCIR-15 で実施した Stance Classification (SC1) タスクにおいて得られた知見について述べる。 3 節に，現在 NTCIR-17 で実施している Stance Classification-2 のタスク設計について述べる. 最後に 4 節で，タスクのためのデータセット構築の過程で得られた知見に基づき，討論発言における議案への賛否と賛否を直接表明する文字列（「賛成」「反対」）の出現の関係について述べる.

## 2 議会における賛否の表明

## 2.1 議事の構造

本節では地方議会の定例会における議事の構造について述べる. 図 2 は東京都議会における定例会の流れを示したものである。自治体によって，進め方に多少の違いはあるが，概ね以下の手順で進められる。

定例会で審議される議案，請願，陳情等は委員会に付託される．委員会では，付託された議案等を審

図 2 定例会の流れ（東京都議会）

議し，委員会としての賛否を決定する。この間本会議では，行政全般に対する質疑応答が行われる. 本会議の最終日に，委員会での議案の審議結果が本会議に報告される。議案に対する討論が行われた後，採決が行われる. 従って, 議員が当該定例会で審議される議案についての意見を発言する機会は，委員会での議案に対する審議と，本会議での採決の際に行われる討論の 2 回である.

## 2.2 QA Lab-Polilnfo 2 における Stance Classification タスク

筆者らは 2019 年後半から 2020 年にかけて開催された NTCIR-15 の QA Lab-PoliInfo2において Stance Classification タスクを実施した [2].これは東京都議会を対象に，議会会議録から議案に対する各会派の立場（賛成または反対）を回答するタスクであった.

参加チームの多くが，賛否を推定する手法として, 図 3 に示すような討論発言冒頭における「議案名」と「賛成」「反対」の表記に着目した．正規表現などを用いて賛否を抽出することで，すべてのチー ムが 90\%を超える精度を得た。 [3].

会議録から議案への賛否を抽出するという当初の目的を達成したといえるものの，特定の議会（東京都議会）において賛否を直接的に言及する定型表現を見つけるにとどまっており，地方議会会議録から議案に対する賛否を抽出する汎用的な方法になり得るかは疑問が残る。

そこで賛否を直接的に言及する定型表現を手がかりとしない手法を開発することを目的として，新たなタスクを検討することとした。次節に，Stance
1. 私は、都民ファーストの会東京都議団を代表し、知事提出の全議案に賛成し、議員提出議案第十号、第十一号、第十二号、第十三号に反対の立場から討論を行います。

2. 都議会公明党を代表し、知事提出の全議案に賛成し、議員提出議案第十号、第十一号、第十二号及び第十三号に反対の立場から討論をいたします。

3. 日本共産党都議団を代表して、独立行政法人に関わる専決処分及び第百九十二号議案に反対、我が党提出の三つの条例案に賛成の立場から討論を行います。

4. 私は、東京都議会立憲民主党を代表して、知事提出の全議案に賛成、議員提出議案のうち第十一号議案に賛成、その他の議員提出議案に反対の立場から討論を行います。

図 3 東京都議会における討論の冒頭部分の例

Classification-2 タスクの概要について述べる.

## 3 Stance Classification-2 タスク

Stance Classification-2 タスクでは，ある議題に対する明示的な賛否表現を含まない議員の発言から，議員の議題に対する立場（賛成または反対）を推定する問題に取り組む. 発言に明示的な賛否表現が含まれることを避けるために，発言中に現れる「賛成」「反対」といった賛否を直接表す句をマスクする. マスクした議員発言の例を図 4 に示す.

本タスクの入出力は以下の通りである。

入力賛否表現をマスクした議員発言

出力 2 值ラベル (賛成,または反対)

## 4 討論における賛否表現

本節では，地方議会会議録本会議の討論発言に含まれる「賛成」「反対」文字列と実際の賛否との関係について述べる。

## 4.1 「賛成」「反対」の文字列と賛否の関係

北海道北広島市議会本会議（2003 年から 2019 年間での 17 年分）の討論の発言を対象として，「賛成」「反対」の文字列の出現と実際の賛否の関係について考察する。対象の会議録には「賛成」または「反対」が含まれている討論発言が 119 件存在する. 討論の対象は議案（予算案を含む）が 90 件，陳情が 9 件，請願が 20 件である。このうち，賛成の討論が 55 件，反対の討論が 64 件である. 1 討論あたりの発言量は書き起こされた文字数の換算で，平均 917 文字，最大 2,838 文字，最小 66 文字であった.

1. 議案第 38 号「大府市空家等対策の推進に関する条例の制定について」、自民クラブを代表し、 [STANCE] の立場で討論をさせていただきます。近年、人口減少や少子高齢化等を背景に、全国的に空き家等の増加が社会問題となっている中、...(中略)...として、持続可能な社会が実現されることを期待し、[STANCE] 討論とさせていただきます。

2. それでは、日本共産党議員団を代表いたしまして、議案第 6 号に [STANCE] する討論をします。 この議案は、市会議員のボーナスを年間 3.25 カ月から 3. 30 カ月と引き上げるものとなっています。...(中略)...とても認めることができませんので、私ども日本共産党議員団は、議案第 6 号に [STANCE] をいたします。

3. ただいま議題となっております第 4 号議案に [STANCE] の立場で討論をします。縦割りの弊害が言われている役所組織に新たに部を 2 部増やすということになりますと、その弊害をますます増やす可能性があると考えています。...(中略)... 以上を考えていきますと、新たな新城市の負担を呼び起こすような部、課の新設をせず、総合計画にも表れています地域循環型、環境に軸足を置いた、この中での産業育成に最重点の職員の配置を行うべきと考え、[STANCE] 討論といたします。

4. ただいま議案となっております委員会提出第 1 号議案新城市肥料等の大量な施用等の防止に関する条例の制定についてでありますが、やはり農畜産物というのか、特に肥料については先ほどもお話を申し上げたと思うんですが、1つは連作障害というような問題、...(中略)...ので、この本条例につきましては、有機質の堆肥の部分、それから施行令に定める污泥の部分ということで、その適切な肥料というものの大量施用についての条例でありますので、よって本条例について [STANCE] の立場で討論いたします。以上です。

図4 賛否をマスクした議員発言

「賛成」「反対」の文字列の出現と賛否の関係を表 1 に示す. 賛成の討論のうち 46 例には「賛成」のみが含まれるが，6例には「反対」のみが含まれる。反対の討論のうち 59 例には「反対」のみが含まれるが，2 例には「賛成」の文字列のみが含まれる. 発言中に「賛成」と「反対」が両方とも含まれる発言は 6 例あり，このうち 4 例は賛成， 2 例は反対の討論である. このように，全体の $88 \%$ は発言中の文字列と賛否が一致しているが，発言者の賛否と発言文中の「賛成」「反対」の文字列の出現はかならずしも一意に対応するわけではない.

表 2 賛否を直接表明する定型表現の例

## 4.2 賛否表明の定型表現

賛否と「賛成」「反対」の文字列の出現が一致している例では，表 2 に示すような表現で，発言の冒頭または末尾で立場を直接的に表明される。具体例を図 5 に示す.このうち 3 は討論末尾における賛否表明の例である． 119 例のうち 99 例（83\%）には，表 5 の定型表現のいずれかが使われている.

## 4.3 賛否と文字列が一致しない例

## 4.3.1 議会の用語

議会における議決は，地方自治法の規定に基づき，議案の可決（否決），決算の認定（不認定），請願の採択（不採択）といった語で表される. 横浜市議会が作成した議会用語集の ${ }^{3}$ 「議決」の項に記された一覧を図 6 に示す.

議決の種類を問わず「賛成」「反対」という表現を用いて賛否の表明が行われることがあるが，図 7 に示すように，「採択すべき立場」といった表現で，賛否が表明されることもある.

1. 議案第 4 号医療費助成に関する条例の整備に関する条例について、賛成の立場から討論いたします。

2.「最低賃金の大幅な引き上げと地域間格差の是正を求める意見書」の提出を求める請願について、賛成する立場から討論いたします。

3.この制度が無策な行政の隙間だけに利用されることを懸念し、賛成討論といたします。

4. 北広島市税条例の一部を改正する条例について、反対の立場で意見を述べさせていただきます。

5. 発議第 1 号について反対討論をいたします。

図 5 直接表現の例

3) https://www.city.yokohama.lg.jp/shikai/shikumi/ sonota/yougo.html

1. 可決・否決 (予算, 条例, 契約, 意見書, 決議など)

2. 認定・不認定（決算）

3. 承認・不承認（専決処分）

4. 同意・不同意 (人事案件)

5. 採択・不採択（請願）

6. 異議ない旨回答（諮問）

図 6 議决に関する議会用語

1. 私は、この 3 件の陳情を採択すべきという立場から討論をいたします。

2. 請願第 1 号を採択すべきという立場から意見を申し上げます。

3. それでは、私は陳情第 1 号を採択すべきという立場で討論いたします。

4. 憲法違反の公務員賃金削減に反対する陳情書を不採択すべきとの立場から討論を行いたいと思います。

図 7 「採択（不採択）」による賛否表明の例

## 4.3.2 委員会での議決が否決であった場合

2 節に述べたように，本会議に先立って委員会において議案の審議が行われる. 本会議では，まず委員会における議決が報告された上で，討論が行われる.このため, 討論では委員会の議決への賛成・反対が述べられる. 委員会での議決が否決（不採択など）であった場合，図 8 の例のように議案への賛否と賛否表現が逆になる。

## 4.3.3 その他の表現

このほか議会に見られるやや複雑な賛否表現の具体例を図 9 に示す. 1 は「反対する理由がなくなった」という表現で，賛成を表明している． 2 は「賛成し得ない立場」という表現で，反対を表明している.また， 3 は賛成を表明しているが，やむを得ないという心情をあわせて表明している例である.

## 5 おわりに

本稿では，NTCIR-17 QA Lab-PoliInfo-4における Stance Classification-2 タスクの目的と概要について述べた. タスクにおける正解データとなる発言者の賛否と，タスクの入力ではマスクする「賛成」「反対」の文字列の出現の関係について基礎的な分析を行った.

討論発言の大多数は賛否を定型的な表現で表明している. しかし， 4.3 節に示したような例が存在するため, 発言者の賛否は人手によって確認する必要
1. 陳情第 2 号、委員長報告は多数をもって不採択すべきもの。この委員長報告に対して賛成討論をいたします。

2. 選択的夫婦別姓制度の法制化に反対する意見書の不採択とすることに反対の立場で討論いたします。

図 8 委員会での審議結果が不採択であった例

1. 私は委員会では反対をいたしましたけれども、ただいまの議会で学校統廃合が決まりましたので、反対する理由がなくなったことを申し添えます。

2. 私は、本陳情に賛成し得ない立場から討論をさせていただきます。

3. 議案第 9 号、北広島市介護保険条例の一部を改正する条例について、改革フロンティアを代表し、保険料の引き上げやむなしの立場で討論を行います。

図 9 その他の賛否表現の例

がある．また，入力データにおいてマスクする賛否表現について，「賛成」「反対」の 2 語が妥当であるか，類義語を幅広くマスクするべきであるかについてはデータセット構築における検討課題である. これらの点については，本テスト（Formal Run）に向けて，タスク参加者を交えて継続して議論して行きたい.

討論発言の抽出および正解となる賛否ラベル付与の自動化について研究を進め [4], 本稿執筆時点では愛知県および北海道の地方議会のうち，討論発言を一括ではなく議案別に行っている 21 自治体の会議録から，6,517 件のデータを作成した. これらはタスクの予備テスト（Dry Run）のデータセットの一部として 2023 年 1 月より公開する予定である.今後, Dry Run および Formal Run(2023 年 6 月頃実施予定)に向けて，順次データを拡張していく予定である。

## 謝辞

本研究は JSPS 科研費 20K00576 21H03769 の助成を受けたものである.

## 参考文献

[1] 小川泰弘, 木村泰知, 渋木英潔, 乙武北斗, 内田汝ず,高丸圭一, 門脇一真, 秋葉友良, 佐々木稔, 小林暁雄. Ntcir-17 qa lab-poliinfo-4 のタスク設計. 言語処理学会第 29 回年次大会, 2023.

[2] 高丸圭一, 木村泰知, 内田ゆず, 佐々木稔, 吉岡真治, 秋葉友良, 渋木英潔. 東京都議会会議録における議案への賛否を表明する発言の分析. 人工知能学会全国大会論文集, Vol. JSAI2020, pp. 4Q3GS901-4Q3GS901, 2020.

[3] Yasutomo Kimura, Hideyuki Shibuki, Hokuto Ototake, Yuzu Uchida, Keiichi Takamaru, Madoka Ishioroshi, Teruko Mitamura, Masaharu Yoshioka, Tomoyosi Akiba, Yasuhiro Ogawa, Minoru Sasaki, Kenichi Yokote, Tatsunori Mori, Kenji Araki, Satoshi Sekine, and Noriko Kando. Overview of the ntcir-15 qa lab-poliinfo-2 task. In Proceedings of the 15th NTCIR Conference on Evaluation of Information Access Technologies, pp. 101-112, 2020.

[4] 我藤勇樹, 秋葉友良, 内田ゆず, 木村泰知, 高丸圭一. 地方議会議事録を対象としたスタンス分類データセットの自動構築とベースライン分類器の評価. 言語処理学会第 29 回年次大会, 2023 .


# チャットボットとの雑談対話に対する印象評価と 評価者の性格特性・コミュニケーションスキルとの関連

山本 茉莉 $^{1}$ 上 秋予 1 伊藤 紀子 ${ }^{2}$
1 同志社大学大学院 文化情報学研究科 2 同志社大学 文化情報学部
\{ctmh0001,ctmh0011\}@mail4.doshisha.ac.jp nito@mail.doshisha.ac.jp

## 概要

従来の雑談対話システムには，いくつかの問題が存在し，ユーザが円滑に対話を継続することができない，すなわち対話が破綻してしまうことがある。 しかし, ユーザによって, システムの破綻発話に対する許容度は異なると考えられる。そこで, 本調查では，雑談対話におけるシステムの破綻発話に対する不快感の度合いが，ユーザの性格特性・コミュニケーションスキルと関連すると仮説を立て, 調査を実施した. その結果, ユーザの「神経症傾向」の特性が高いほど，システムの破綻発話に対するユーザの許容度が低くなり，「自己統制性」の特性が高いほど, システムの破綻発話に対するユーザの許容度は高くなることが分かった。

## 1 はじめに

近年, Microsoft 社の Cortana, Apple 社の Siri, Google 社の Google Assistant など, 各社からさまざまな対話システムが提供されている. これらは主にユーザからの指示や課題を実行・解決することを目的としているが，rinna 株式会社の「りんな」のように雑談ができる対話システムも存在する. 従来の雑談対話システムは,いくつかの問題を内包しており，対話の破綻を完全に回避することは困難な段階である.このような対話の破綻は, ユーザに不快感を与え，システムの使用率の低下に繋がる恐れがある。

雑談対話システム発話への評価がユーザの個人特性の違いにより異なりうることが先行研究で示唆されている. 東中ら [1]や叶内ら [2]では破綻の判定がアノテーター間で一致しないことが少なくないことが報告されている. また宮本ら [3]は，「ユーザのパ ーソナリティ特性が心理的近接発話を行う雑談対話システムの受容性にどのような影響を及ぼすか」と 「心理的近接発話の戦略の違いが雑談対話システム
の受容性にどのような影響を及ぼすか」という点に着目し，ユーザの雑談対話システムに対する受容性について検討した. その結果，システムが攻撃的㔯談を発した際の好感度について, 開放性や外向性といった性格特性については正の相関を示したが，神経症傾向については負の相関を示すなど，ユーザの性格特性と関連があることが報告されている。この研究では，雑談対話の終盤のシステム発話を変化させることで受容度にどのような違いが見られるかを調查したものであり，対話中のシステム発話一つ一つに対するユーザの印象評価については調査されていない.

そこで，本調査では，評価者の個人特性の内，性格特性とコミュニケーションスキルに焦点を当て，雑談対話の破綻応答文に対する不快感の度合いの分析を実施する。本調査によって性格特性・コミュニケーションスキルと破綻応答文に対する許容度に一定の規則性を見出すことができれば，それを雑談対話システムに組み込むことにより，ユーザの特性に合わせた対話の展開が可能となり，対話継続欲求の低下を防ぐ効果が期待できる。

## 2 調査内容

## 2. 1 雑談対話コーパス

システム発話に対する破綻アノテーションを行ってもらうために，岩下 [5]のチャットボットとの対話コーパスから 12 件を抽出した。この対話コーパスは, LINE を通じてインターメディアプランニング株式会社のチャットボット「かたらい」と，以下の 3 つのテーマに則し雑談した際の対話データである.

-「新しいクラスで初めて知り合った隣の席の学生と始めて会話する感じで」

- 「好きな○○について」

- 「小学校の時の思い出」

1 人が 3 つのテーマを合わせて約 10 分間チャットしたもので， 12 人分の対話データにシステム発話は 2156 件含まれている.

## 2.2 破綻アノテーション実験

実験参加者は 20 代の日本語母語話者の男女 10 名である。実験課題は以下の通りである.

1. 直感に従ってシステム発話を $\bigcirc, \triangle, \times の 3$ 種類で評価

2. $\triangle$ もくは $\times$ と評価した発話については, 5 件法のリッカート尺度を用いて, どの程度不快に感じるかについて評価

○， $\triangle ， \times$ の基準は，東中ら [1]を参考に，システムの発話を破綻の度合いに応じて, 以下の 3 種類に分類するよう指示した。

- $\bigcirc$ ：「破綻ではない」…当該システム発話のあと対話を問題無く継続できる.

- $\triangle$ : 「破綻と言い切れないが，違和感を感じる

ズに継続することが困難.

- $\times$ :「あきらかにおかしいと思う発話（破綻）」 ‥当該システム発話のあと対話を継続することが困難.

不快感は 5 件リッカート尺度（1.全く不快ではない〜5. 非常に不快である) で回答してもらい, $\triangle, \times$ のシステム発話数で除することで標準化を行った.

不快感の得点 $=([1$ の個数 $] * 1+[2$ の個数 $] * 2$ $+[3$ の個数 $] * 3+[4$ の個数 $] * 4+[5$ の個数 $]$

*5) $/[\triangle, \times$ の個数 $]$

## 2.3 事後アンケート

実験参加者自身の性格特性・コミュニケーションスキルに関する質問に回答してもらった。性格特性については,小塩ら [6]の日本語版 TIPI-Jを使って,全 10 項目を 7 件法のリッカート尺度で回答してもらい, 「外向性」, 「協調性」, 「勤勉性」, 「神経症傾向」,「開放性」の 5 因子の得点を計測した。 コミュニケーションスキルについては, 藤本ら [7] の ENDCORE を使って, 全 6 項目を 7 件法のリッカ一ト尺度で回答してもらい，「自己統制」，「表現力」,「解読力」,「自己主張」,「他者受容」,「関係調整」の 6 因子の得点を計測した。

## 2. 4 分析方法

性格特性・コミュニケーションスキルと破綻発話への不快感の関係を明らかにするために，TIPI-J と ENDCORE の各得点を予測変数, 標準化済みの不快感得点を目的変数として重回帰分析を行った.

## 3 分析結果

調査によって得られた数値を表 1-3 にまとめた.

表 1 破綻アハテーションに関する基本統計量

 &  &  &  \\

表 2 性格特性の得点の基本統計量

 & 開放性 \\

表 3 コミュニケーションスキルの基本統計量

 &  &  &  &  &  \\

## 3.1 性格特性と不快感の関連

性格特性 5 因子の得点からシステム発話への不快感の得点を予測するために，強制投入法の重回帰分析を行った（表 4）.

表 4 性格特性を予測変数とした重回帰分析の結果

分析の結果, 「神経症傾向」の標準偏回帰係数にのみ有意傾向が見られ, 不快感に影響を与えていることが分かった。

## 3.2 コミュニケーションスキルと不快感の

## 関連

ENDCORE 各因子の得点からシステム発話への不快感の得点を予測するために，強制投入法の重回帰分析を行った.「他者受容」と「関係調整」については VIF が 10 を超えたため分析から除外した（表 5).

表 5 コミュニケーションスキルを予測変数とした重回帰分析の結果

調整済み $R^{2}=0.81,{ }^{*} p<0.05$

分析の結果, 「自己統制」の標準偏回帰係数のみ統計的に有意であり，不快感に影響を与えていることが分かった。

## 4 考察

分析結果から，TIPI-J における「神経症傾向」の得点が高い評価者は破綻発話への不快感の度合いが高くなることが分かった. 小塩 [5] らによると, 神経症傾向の得点が高いとは「心配性で，う万たえやすく」「冷静で, 気分が安定し」ない特性を持つ人物である。また，ENDCORE における「自己統制」の得点が高い評価者は破綻発話への不快感の度合いが低くなることがわかった. 藤本ら [7]によると, 自己統制の得点が高いとは「自分の感情や行動をうまくコントロールする」特性を持つ人物である.

これらを踏まえると，「神経症傾向」が強い評価者は正直に不快感を示したが，「自己統制」が強い評価者は実は不快に思っているけれどもそれをそのまま回答しなかった可能性がある。もしそうだとすれば，アンケート調査のような意識的，主観的な方法ではなく皮膚電位や心拍などの生体信号データから不快感を計るような工夫が必要かもしれない.

## 5. おわりに

本研究は, さまざまある個人特性の中から性格特性とコミュニケーションスキルに着目し, 破綻に対する許容度が予測可能かどうかを検証した. その結果, TIPI-J の「神経症傾向」と ENDCORE の「自己統制」が破綻発話への不快感の予測に有効であることが示唆された. しかし, 現時点で実験参加者が 10 名と少ないため, より多くのデータを収集し, 精度の高い分析を目指すことを今後の課題とする.

## 謝辞

本研究は JSPS 科研費 JP19K12191「雑談対話システムへの個性の付与とそのコミュニケーションへの影響について」の助成を受けて行われたものである。 また, 同志社大学と東京工科大学の方々に実験にご協力いただいた。ここに記して感謝いたします.

## 参考文献

1.東中竜一郎，船越孝太郎，荒木雅弘，塚原裕史，小林優佳, 水上雅博. テキストチャットを用いた雑談対話コーパスの構築と対話破綻の分析. 自然言語処理 23(1), pp.59-86, 2016.

2. 叶内晨, 赤崎智, 堀江伸太朗, 小亀俊太郎. Capex 雑談対話コーパスの構築とその分析. 言語処理学会第 28 回年次大会発表論文集 pp.1090-1094, 2022.

3. 宮本友樹, 磐下大樹, 遠藤水紀, 永井望, 片上大輔. 雑談対話システムにおける心理的近接発話の戦略が対話の評価に及ぼす影響. 人工知能学会論文誌, 36(5), AG21-I_1-14, 2021.

4. 菊池浩史, 楊潔, 菊池英明. 雑談対話システムにおけるユーザの許容範囲を考慮した多様な同調応答の検討. 人工知能学会全国大会論文集第 35 回,4E2-OS-11b-02, 2021.

5. 岩下志乃. チャットボットとの対話コーパスと性格特性・社会的スキルのデータ公開.

 2021.

6. 小塩真司, 阿部晋吾, カトローニピノ. 日本語版 Ten Item Personality Inventory (TIPI-J) 作成の試み. パ ーソナリティ研究, 21(1), pp.40-52, 2012.

7. 藤本学・大坊郁夫. コミュニケーション・スキルに関する諸因子の階層構造への統合の試み. パーソナリティ研究, 15(3), pp.347-361, 2007.


# 回答者の生年に基づく語の意味変化の検出

峯尾海成 ${ }^{1}$ 門戸巧 ${ }^{2}$ 佐藤道大 ${ }^{2}$ 山岸祐己 ${ }^{2}$ 谷口ジョイ ${ }^{2}$
1 静岡理工科大学大学院理工学研究科 2 静岡理工科大学情報学部
\{2221027.mk, 2018119.mt, 1918061.sm, yamagishi.yuki, taniguchi.joy\}@sist.ac.jp

## 概要

本研究は，静岡県全域で用いられる方言「まめったい」の使用・理解に関する大規模調査から得られた時系列データを分析することで，意味やイメージにどのような変化が生じているのか，またその生成時期を推定することを主な目的としている．多項分布型レジームスイッチングおよび多群出現順位統計量によって分析を行った結果，「体を動かしてよく働く」という意味での使用・理解は衰退傾向にあり，代わって「性格的に几帳面だ」という意味での使用が増加していることが明らかになった。また，語のイメージは，肯定的なものから否定的なものへと変化していた。

## 1 語の意味変化

本稿は, 静岡方言「まめったい」という語の意味がどのように変化しているかを問う意味変化論に関するものである. 語の意味やイメージが変化する過程にはさまざまな要因が関わっており, 進行中の変化を捉えることは不可能であるとされていた [1]. そのため，これまでの研究においては「既に意味変化が完了した語」が扱われてきた。本研究において筆者らが進行中の意味変化を可視化するために焦点を当てたのが，静岡全域で用いられる「まめったい」という形容詞である.「まめったい」という語は，(1) 体を動かしてよく働く (2) 健康だ (3) 落ち着きがない (4) 性格的に几帳面だ，のように複数の意味をもち [2], 多義性が認められる上, 複数の語義が併存している. 加えて, 静岡方言研究会 [3] の調査によれば，「まめったい」は，共通語の「まめだ」 と競合関係にあることが指摘されており, 共通語が 「まめったい」の意味領域に影響を与えている可能性がある. 本研究は, 静岡方言の「まめったい」という語をひとつの事例とし, 時系列データを扱うことを想定した手法を応用することにより，過去に生じた意味やイメージの変化のみならず，進行中の変化についても明らかにすることを目的としている.本研究では以下 2 点の仮説を検証する.

1. 静岡方言「まめったい」は過去に意味および語のイメージに変化が生じており，その変化は現在も進行中である.

2. 提案手法である多項分布型レジームスイッチングおよび多群出現順位統計量によって，これまで困難であった進行中の意味変化の可視化が可能である.

## 2 提案手法

## 2.1 多項分布型レジームスイッチング検出

多項分布型レジームスイッチング検出は，タイムラインを生成することで，複雑に変化するデータを単純化する手法である. 本研究では, データが多項分布に従うと仮定し, 多項分布型レジームスイッチング検出をデータの単純化手法として用いることで，静岡方言「まめったい」において，過去に生じた意味変化とその時期を推定する。代表的な変化点検出手法 $[4,5]$ では, 単一情報の傾向変化を可視化することに特化しているが，多項分布を仮定したレジームスイッチング手法 [6] においては, 複数情報を扱うことを前提としており，変化が生じた時期の把握が容易であることが示されている.ここでは, その基本技術を応用し, 自動でレジーム数を決定する方法についても述べる。

ある調査データを $\mathcal{D}=\left.\{\left(s_{1}, t_{1}\right), \cdots,\left(s_{N}, t_{N}\right)\right.\}$ とする.ここで,$s_{n}$ と $t_{n}$ は,$J$ カテゴリの状態と $n$ 番目の観測時刻，すなわち，各回答における選択肢と回答者の生年をそれぞれ表す. $|\mathcal{D}|=N$ を観測数とすると， $t_{1} \leq \cdots \leq t_{n} \leq \cdots \leq t_{N}$ となる. $n$ はタイムステップとし, $\mathcal{N}=\{1,2, \cdots, N\}$ をタイムステップ集合とする。また， $k$ 番目のレジームの開始時刻を $T_{k} \in \mathcal{N}, \mathcal{T}_{K}=\left.\{T_{0}, \cdots, T_{k}, \cdots, T_{K+1}\right.\}$ をスイッチングタイムステップ集合とし，便宜上
$T_{0}=1 ， \quad T_{K+1}=N+1$ とする. すなわち， $T_{1}, \cdots, T_{K}$ は推定される個々のスイッチングタイムステップであり， $T_{k}<T_{k+1}$ を満たすとする。そして， $N_{k}$ を $k$ 番目のレジーム内のタイムステップ集合とし，各 $k \in\{0, \cdots, K\}$ に対して $\mathcal{N}_{k}=\left.\{n \in \mathcal{N} ; T_{k} \leq n<T_{K+1}\right.\}$ のように定義する. なお, $\mathcal{N}=\mathcal{N}_{0} \cup \cdots \cup \mathcal{N}_{K}$ である.

いま，各レジームの状態分布が $J$ カテゴリの多項分布に従うと仮定する， $\boldsymbol{p}_{k}$ を $k$ 番目のレジームにおける多項分布の確率べクトルとし， $\mathcal{P}_{K}$ はそれら確率ベクトルの集合，つまり $\mathcal{P}_{K}=\left.\{\boldsymbol{p}_{0}, \cdots, \boldsymbol{p}_{K}\right.\}$ とすると， $\mathcal{T}_{K}$ が与えられたときの対数尤度関数は以下のように定義できる.

$
L\left(\mathcal{D} ; \mathcal{P}_{K}, \mathcal{T}_{K}\right)=\sum_{k=0}^{K} \sum_{n \in \mathcal{N}_{k}} \sum_{j=1}^{J} s_{n, j} \log p_{k, j}
$

ここで, $s_{n, j}$ は $s_{n} \in\{1, \cdots, J\}$ を

$
s_{n, j}=\left.\{\begin{array}{l}
1 \text { if } s_{n}=j \\
0 \text { otherwise. }
\end{array}\right.
$

のように変換したダミ一変数である. 各レジーム $k=0, \cdots, K$ と各状態 $j=1, \cdots, J$ に対する式 (1)の最尤推定量は $\hat{p}_{k, j}=\sum_{n \in \mathcal{N}_{k}} s_{n, j} /\left|\mathcal{N}_{k}\right|$ のように与えられる.これらの推定量を式 (1) に代入すると以下の式が導ける.

$
L\left(\mathcal{D} ; \hat{\mathcal{P}}_{K}, \mathcal{T}_{K}\right)=\sum_{k=0}^{K} \sum_{n \in \mathcal{N}_{k}} \sum_{j=1}^{J} s_{n, j} \log \hat{p}_{k, j}
$

したがって，スイッチングタイムステップの検出問題は，式 (3)を最大化する $\tau_{K}$ の探索問題に帰着できる.

適当な条件下で式 (3)を最大化しょうとすると，最適解を求めるための計算量が $O\left(N^{K}\right)$ となってしまうため，ある程度大きい $N$ に対して $K \geq 3$ となってしまうと，実用的な計算時間で解くことができない.したがって，任意の $K$ について解くために，貪欲法と局所探索法を組み合わせた方法 [6] を用いる. なお，本実験では貪欲法アルゴリズムの終了条件として最小記述長原理 (MDL) [7]を採用し，事前にレジーム数を設定することなく自動で終了させる.

## 2.2 多群出現順位統計量に基づく時系列 データの変換

データカテゴリの時系列的変化を明示し，それらを複数カテゴリ間で比較するため, 出現順位を用いた統計量によるデータ変換を行う。この手法は， Mann-Whitney の U 検定 [8] を基盤とし，多群を扱え
るよう拡張したものであり，データの出現頻度の傾向変化を z-score として表現する. 静的な分析手法による指標を，動的な視点で捉えられるよう可視化するため，長期的な変化が捉えやすいと言える。また，各カテゴリの z-score は，他のカテゴリすべてを基準としているため，複数間のカテゴリにおける比較が容易である。

多項分布レジームスイッチングの問題設定と同様に，ある調査データのタイムステップ（回答者の生年）集合と，それらが有するカテゴリ（選択肢）集合をそれぞれ $N$ と $\mathcal{J}$ とする。つまり，それぞれの要素数は $N=|\mathcal{N}|$ と $J=|\mathcal{J}|$ とし, 各要素は整数と同一視されるとする。すなわち, $\mathcal{N}=\{1, \cdots, n, \cdots, N\}$ および $\mathcal{J}=\{1, \cdots, j, \cdots, J\}$ である.なお，オブジェクト $n$ は最古のものが 1 , 最新のものが $N$ となるよう，出現順に並んでいるものとする．このとき，タイムステップ $n$ がカテゴリ $j$ を有する場合は 1 , それ以外の場合は 0 となっている $J$ 行 $N$ 列の行列を $Q\left(q_{j, n} \in\{0,1\}\right)$ とすると, オブジェクト $n$ が有するカテゴリ数は $d_{n}=\sum_{i=1}^{J} q_{i, n}$, タイムステップ $n$ までのカテゴリ $j$ の出現数は $I_{j, n}=\sum_{i=1}^{n} q_{j, i}$ のように表せる。いま，オブジェクトに付随してカテゴリが出現するとし，以降では，オブジェクト出現からカテゴリ出現へと視点を変える. このとき，才ブジェクト $n$ が唯一のカテゴリのみ有する $d_{n}=1$ の場合では，オブジェクト $n$ に付随して出現したカテゴリ $j$ の出現順位は $r_{n}=I_{n-1}+1$ であるが，複数のカテゴリを有する $d_{n}>1$ の場合では，平均順位を考えなければならないため，その出現順位は $r_{n}=I_{n-1}+\left(1+d_{n}\right) / 2$ となる. ここでの目的は，タイムステップとカテゴリの集合が与えられたとき，出現順位の値が大きい（新しい），または逆に小さい （古い）タイムステップが有意に多く含まれるカテゴリを定量的に評価する指標の構築である.

Mann-Whitney の二群順位統計量 [8]を多群に拡張し，カテゴリの出現順位に適用する方法について述ベる. いま，カテゴリ $j$ に着目すれば，このカテゴリに属するタイムステップ集合 $\left.\{n \in \mathcal{N}: q_{j, n}=1\right.\}$ と，このカテゴリに属さないタイムステップ集合 $\left.\{n \in \mathcal{N}: q_{j, n}=0\right.\}$ の二群に分割することができる. よって, Mann-Whitney の二群順位統計量に従い, 次式により，タイムステップ $n$ までのカテゴリ $j$ に対し $\mathrm{z}$-score $z_{j, n}$ を求めることができる.

$
z_{j, n}=\frac{u_{j, n}-\mu_{j, n}}{\sigma_{j, n}} .
$

ここで，統計量 $u_{j, n}$, 出現順位の平均 $\mu_{j, n}$, および， その分散 $\sigma_{j, n}^{2}$ は次のように計算される.

$
\begin{aligned}
u_{j, n} & =\sum_{i=1}^{n} n q_{j, i}-\frac{I_{j, n}\left(I_{j, n}+1\right)}{2} \\
\mu_{j, n} & =\frac{I_{j, n}\left(n-I_{j, n}\right)}{2} \\
\sigma_{j, n}^{2} & =\frac{I_{j, n}\left(I_{n}-I_{j, n}\right)}{12}\left(\left(I_{n}+1\right)-\sum_{i=1}^{n} \frac{d_{i}^{3}-d_{i}}{I_{n}\left(I_{n}-1\right)}\right)
\end{aligned}
$

先程と同様, 各オブジェクトが複数のカテゴリを有し得ないケースでは，式 (7)の $d_{i}$ を含む項，すなわち平均順位を扱うための補正値の計算は不要である.この多群順位統計量は, 基本的には 2 クラス分類器の SVM (Support Vector Machine) [9]を多クラス分類器に拡張するときに利用される one-against-all と類似した考え方となる。

以上より，式 (4)で求まる z-score $z_{j, n}$ により，才ブジェクト $k$ までの各カテゴリ $j$ が, 出現順位の値が大きい（新しい），または逆に小さい（古い）オブジェクトを有意に多く含むかを定量的に評価することができる. すなわち, この $z_{j, n}$ が正の方向に大きければ大きいほど，タイムステップ $n$ の直近での出現が有意に多いということであり，カテゴリ $j$ の勢力が伸びていることになる. 逆に， $z_{j, n}$ が負の方向に大きいということは，過去に比べて勢力が衰えていることになる. また, 式 (4) で求まる z-score $z_{j, n}$ の計算量は全てのオブジェクトと全てのカテゴリについて算出した場合でも $O(N J)$ と高速であり，才ンライン処理においても新たに追加されたオブジェクトごとに $O(J)$ の計算量しかかからない.

## 3 調査概要

本調查は，静岡方言を母方言話とする 1,544 名を対象としている。調査は，質問紙，あるいはウェブ調査により行い，性別，生年，出身地域，家庭内における方言使用の有無といった基本情報を収集した. 冒頭に「まめったい」という語の使用・理解についての設問を設け，「使用する」「使用しないが理解できる」と回答した 1,195 名については，1 節で述べた 4 つの意味についてそれぞれの用例を示し、 その使用、理解について回答を依頼した。

最後に「「まったい」を用いた短文作成を依頼し（852 名が回答)，上記に基づく意味分類を行った上で，肯定的な意味で使用されているか，あるいは否定的に用いられているか，という観点から分類を行った.

## 4 実験結果とまとめ

以下は，「まめったい」の使用・理解に関する調査結果を，上記の 2 手法で可視化したものである.多項分布型レジームスイッチングにより「まめったい」の使用・理解に見られる変化を単純化・可視化した結果，1956 年，1980 年，1995 年（調査協力者の生年）でデータ構造の変化が見られ，その使用は全体として減少傾向にあることが判明した (図 1).また，この傾向は 1950 年生まれから見られ，1970 年生まれから顕著なものになっていることが示唆された (図2).また，「まめったい」の使用・理解の低下については, z-score の最終值 $z_{j, N}$ の絶対値の大きさから，今後も継続する可能性が高いと思われる.

図 1 多項レジームスイッチング検出 (使用・理解)

図 2 多群出現順位統計量 (使用・理解)

図 3 は，「まめったい」を用いた短文作成に基づく意味分類における多項分布型レジームスイッチングの検出結果であり， 1980 年代半ば生まれにデー 夕構造が変化していることが示されている. 短文作成に基づく意味分類においては「体を動かしてよく働く」という意味での使用が減少傾向にあり，「性
格的に几帳面だ」という意味での使用が増加傾向にあることが明らかとなった（図 3).また，「健康だ」 および「落ち着きがない」という意味については，検出されたスイッチング以降ほぼ出現していないことがわかる. 多群出現順位統計量の結果から, この変化傾向は 1970 年生まれから際立っていることが明らかとなった（図 4).

図 3 多項レジームスイッチング検出 (意味分類)

図 4 多群出現順位統計量 (意味分類)

最後に「「めったい」を用いて作成された短文が肯定的な意味，あるいは否定的な意味で使用されているかについて分析を行ったところ，レジームスイッチングの結果からは，スイッチングが検出されなかった（図 5)．そのため，年代全体を通した分布に大きな変化はないと推察される。一方，多群出現順位統計量の結果（図 6）からは, 出現傾向の変化が確認でき，特に 1970 年代半ば生まれからは, 肯定的な意味から否定的な意味で使用されるようになっている.

意味変化の要因は複雑かつ多層的であるため，特定することは困難であるが，競合する共通語「まめだ」が，方言形「まめったい」の意味領域に影響を与えている可能性は排除できない。共通語「まめだ」 が「まめったい」の主要な意味（=体を動かしてよ

図 5 多項レジームスイッチング検出 (語イメージ)

図 6 多群出現順位統計量 (語イメージ)

く働く）を侵食するような形で意味変化を引き起こしていることが今回の分析によって示唆された.

## 5 終わりに

本研究では，共通語「まめだ」と競合関係にある静岡方言「まめったい」の意味および語イメージの変化について，2つの提案手法を用いて単純化及び可視化を行った.

分析の結果「まめったい」の使用・理解については低下傾向にあり，変化は今後も続くことが示唆された，語の意味については，「体を動かしてよく働く」という意味から「性格的に几帳面だ」という意味へと変化していた.これに伴い, 語イメージも肯定的なものから否定的なものへと変化していた. また，同手法によりこうした変化の生成時期についても推定が可能であった. 以上，本研究で用いたレジームスイッチング検出，および，多群出現順位統計量という 2 つ提案手法によって，これまで捉えることが困難であった「進行中の意味変化」の推定が可能であることがわかった.

## 謝辞

本調査にご協力いただいた方々に感謝いたします. 本研究は, 静岡理工科大学グループ研究推進支援費の助成を受けています。

## 参考文献

[1] Leonard Bloomfield. Language. H. Holt and Company, 1933.

[2] 東条操 (編). 全国方言辞典. 東京堂, 1951.

[3] 静岡方言研究会. 図節静岡県方言辞典. 吉見書店, 1951.

[4] J. Kleinberg. Bursty and hierarchical structure in streams. In Proceedings of the 8th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD-2002), pp. 91-101, 2002.

[5] Rebecca Killick, Paul Fearnhead, and I.A. Eckley. Optimal detection of changepoints with a linear computational cost. Journal of the American Statistical Association, Vol. 107, pp. 1590-1598, 122012.

[6] Yuki Yamagishi and Kazumi Saito. Visualizing switching regimes based on multinomial distribution in buzz marketing sites. In Foundations of Intelligent Systems 23rd International Symposium, ISMIS 2017, Vol. 10352 of Lecture Notes in Computer Science, pp. 385-395. Springer, 2017.

[7] J. Rissanen. Modeling by shortest data description. Automatica, Vol. 14, No. 5, pp. 465-471, September 1978.

[8] H. B. Mann and D. R. Whitney. On a test of whether one of two random variables is stochastically larger than the other. Ann. Math. Statist., Vol. 18, No. 1, pp. 50-60, 031947.

[9] Vladimir N. Vapnik. The Nature of Statistical Learning Theory. Springer-Verlag New York, Inc., New York, NY, USA, 1995.