# 相対的意味論と機械翻訳の応用

村上仁一
鳥取大学工学部
murakami@tottori-u.ac.jp

## 1 はじめに

本論文では, 語彙の意味を，説明するために，相対的意味表現と, 絶対的意味表現について述べる. 次に, これらの方法でも，説明できない語彙に対し， 2 言語を利用した方法をしめす。そして，この方法を利用した翻訳方法について述べる。具体的には,” 相対的意味論に基づく変換主導型統計翻訳 (TDSMT)”と,” 相対的意味論に基づく統計翻訳 (RSMT)”の方法について述べる. 最後に相対的意味論と NMT(Nural Network Machine Translation) の関係を考察する。

## 2 語彙の意味と辞書

## 2.1 辞書学と意味表現

辞書は, 現在や過去において, 使用された語彙を収集し, その品詞・意味・背景 (語源等) - 使用法 $($ 用例) ・派生語・等を解説した書籍である. 基本的には, 語彙は, 他の語彙を利用して, 解説する. 1 つの辞書において, 解説文には，出来るだけ統一をとるように収集される.

語彙について何らかの記述をするための言語を，メタ言語と呼ぶ. 初めに, 語彙とメタ言語が, 同一言語の場合の例を示す. そして, 語彙の意味を絶対的意味表現と相対的意味表現をもちいて述べる.

## 2.2 絶対的意味表現

絶対的意味表現とは, 単語の語彙の意味を具体的な他の語彙で表現する。この表現方法は, 基本的には, 理解しやすい. 以下は, 絶対的意味表現の例である.

$
\begin{array}{ll}
\text { 青 } & - \text { 波長 } 400 \mathrm{~nm} \text { 近辺の光 } \\
\text { 赤 } & - \text { 波長 } 800 \mathrm{~nm} \text { 近辺の光 }
\end{array}
$

多くの語彙は, 絶対的意味表現で, 表現できる. しかし, 意味の表現が困難な語彙も多い. 以下は, その例である.

$
\text { 右[1] }
$
- 南を向いたとき，西にあたる方（広辞苑）

-アナログ時計の 1 時から 5 時までの表示がある側. (新明解国語辞典)

—この辞書を開いて読むとき, 偶数のぺージのある側（岩波国語辞典）

左一南に向かったとき，東にあたる方（旺文社国語辞典)

-アナログ時計の文字盤に向かった時に, 七時から十一時までの表示のある側.（新明解国語辞典)

ーこの辞典を開いて読む時, 奇数ページのある側.（岩波国語辞典）
いずれの説明も，曖昧な点が残る（例えば，“南”とは?）似た語彙として“上”“下”などがある.

## 2.3 相対的意味表現

相対的意味表現とは, 単語の意味を, お互いに相反する単語で表現する方法である。例を以下に述べる。

$
\begin{array}{ll}
\text { 右 } & - \text { 左の反対 } \\
\text { 左 } & - \text { 右の反対 }
\end{array}
$

絶対的意味表現で困難な語彙は, 相対的意味表現で表現可能な場合が多い.しかし, この表現方法は, 説明がループするため，“煙を蒔いたような表現”と言って嫌悪する人も多い.

また，語彙の中には，対的意味表現を用いても，説明できない語彙がある．以下は，その例である。人間

$
\begin{aligned}
& \text { - ひと人類 } \\
& \text { - 遺伝的な両親が人間である人 } \\
& \text { - 考える葦 }
\end{aligned}
$

いすれの説明も，疑問点が残る。このように，“人間” の意味を説明することは, 非常に困難である. ${ }^{1)}$

## 2.42 言語を用いた意味表現

単言語では説明するのが困難な語彙は，2 言語を利用して表現することが可能な場合がある. 例を以下に挙げる.

・“人間”とは “human”である.

以下に，2 言語を用いた例を示す。

“右”とは “right”である.

“犬”とは“dog”である.

“動物”とは“animal”である。

しかし，“犬”には別の意味がある。

“大”とは “spy”である.

このように， 2 言語をもちても，語彙に複数の意味があるとき，一意に表現できない。

## 2.52 言語を用いた相対的意味表現

単言語において, 複数の意味があるとき, 2 言語を用いた意味表現では, 1 意に表現できない。このような場合. 2 言語の相対的意味を用いて表現できる.

“aがbならば c は d"

これを “ 2 言語を用いた相対的意味表現”と呼んでいる.例を以下に示す.

1. “右”が“right”ならば“左”は “left”

2. “大”が“dog”ならば “猫”は “cat”

1）個人的には，2 番目の説明が好みである.

3. “大”が“Canis”ならば“猫”は “Felis”

4. “大”が“spy”ならば “猫”は “sex decoy”

## 32 言語を用いた相対的意味表現の 辞書（変換テーブル）

## 3.1 変換テーブルと文法

本研究では, 語彙を 2 言語を用いた相対的意味表現に基づいて，考える．これを以下のように表現する．

・“aがbならば c は d ただし a,b,c,d は単語”

この辞書を“変換テーブル”と呼んでいる。

例を以下に示す.

a:犬 b:dog c:猫 d:cat

a:犬 b:Canidae c:猫 d:Felis

$\operatorname{dog}$ と cat は, 哺乳類である. Canis は犬科で, Felis は猫科である.この例では, 名詞の意味的な階層の情報が変換テーブルに含まれる.

a:彼 b:he c:彼女 d:she

a:彼 b:him c:彼女 d:her

この例では，代名詞の文法が変換テーブルに含まれる．

a:走る b:run c:歩く d:walk

a:走った b:ran c:歩いた d:walked

この例では，時制の文法が変換テーブルに含まれる。

これらの例から, 変換テーブルには, 文法や属性や意味の情報が含まれることがわかる. なお, 文脈に応じた情報も含めることができると，考えている.

## 3.2 変換テーブルの作成方法

変換テーブルは, 手動で作成できる. しかし, 自動的に作成する方法がある。その方法の 1 つに，文パターンを利用して作成する方法がある. 作成方法を以下に示す.

1. 学習文 1 を準備する。

・彼は山にいった。
- He went to mountain.

2. 対訳単語を準備する。

a: 山 b: mountain

3. 文パターンを作成する.

・彼は $N$ にいった.
- He went to $N$

4. 学習文 2 を準備する。

・彼は海にいった。
- He went to sea

5. 学習文 1 と文パターンと学習文 2 から, 以下の変換テーブルを作成する.

a:山 b: mountain c:海 d: sea

## 4 相対的意味論を用いた変換主導型機械翻訳 (TDSMT)[2]

変換テーブルは, 文中の単語の置換可能な辞書として捕らえることができる. したがって，変換テーブルの応用として, 機械翻訳がある. 以下に相対的意味論を用いた変換主導型機械翻訳 ( Tranfer Driven with Relative Meaning using Statistica Machine Translation 以後 TDSMT) の概念を述べる．例として，日英翻訳を考える。

## 4.1 TDSMT の基本概念

基本概念を，以下に述べる.

・Aが B ならば C は Dである.

・A,B,C,D は文である.

・a,b,c,d は単語もしくは句である.

・入力文は C で，翻訳文は D になる。

以下に例を示す。

1. 入力文

日英翻訳において，以下の日本文の翻訳を想定する.

Cショウジョウハエは林檎が好きだ

2. 学習文

学習文として以下の対訳文を想定する.

$\mathrm{A}$ 私は林檎が好きだ

BI like an apple

3. 変換テーブル

以下の変換テーブルを想定する.

a: 私 b: I c: ショウジョウハエ d: Fruit flies

4. 変換規則

以下の変換規則を想定する。

$\mathrm{A}$ に $\mathrm{a}$ を適用し， $\mathrm{B}$ に $\mathrm{b}$ を適用できたならば，

$\mathrm{C}$ に $を$ 適用し， $\mathrm{D}$ に $\mathrm{d}$ 適用する。

5. 出力文（翻訳文）

以上の結果から以下の出力文（英文）を得る.
- Fruit flies like an apple

## 4.2 TDSMT の一般形式

TDSMT では，以下を基本概念とする。

・A が B ならば C は D

・ただし A,B,C,D は文

$\mathrm{C}$ は入力文, $\mathrm{D}$ は出力文

A対訳学習文の日本文

$B$ 対訳学習文の英文

C入力の日本語文

D出力の英文（翻訳文）

・aがbならば $\mathrm{c}$ は $\mathrm{d}$

・ただし a,b,c,d は単語もしくは句

$a$ 対訳学習文の日本語単語

b対訳学習文の英語単語

c入力の日本語単語

d出力の英語単語

以下の変換規則を想定する。

・A K aを適用し， Bに $\mathrm{b}$ を適用できたならば， $\mathrm{C}$ に $\mathrm{c}$ を適用し，D $\mathrm{D}$ を適用できる。

## 4.3 TDSMT の例

Aツバメは矢のように飛ぶ

BSwallow flies like an arrow

C時間は矢のように飛ぶ

DTime flies like an arrow

a:ツバメ b:Swallow $\quad \mathrm{c}$ :時間 $\quad \mathrm{d}$ :Time

“Time flies like an arrow” の訳として “時蜾，矢を好む” がある。この訳は，非文と考えられる。しかし，なぜ，非文と考えられるのだろうか？通常は，“時蝿”が存在しない

から, 非文とする。しかし, 存在しないことの証明は, 困難である.

相対的意味論の考えかたは，“ツバメは矢のように飛ぶ” があるから，“時間は矢のように飛ぶ”と訳すことができると解釈する。

## 4.4 TDSMT の動作例

実際の文章に TDSMT を使って翻訳した例を以下に示す.

A風が北から南に変わった

BThe wind changed from north to south

C信号が青より赤に変わった

DThe signal changed from green to red

使用した変換テーブルを以下に示す.

現実の TDSMT の翻訳結果を見ると，それぞれの変換テーブルにおいて，やや奇異に思われる点がある。

1. “信号”と“風”は，あまり類似していると思えない.

2. “青”と“北”は，あまり類似していると思えない.

3. 通常, “より”は“han”と訳される.

4. 通常, “青”は “blue”と訳される.

このように，実際に利用される変換テーブルは，人間の直感と, 少し異なる.

## 4.5 TDSMT の問題

## 1. 語彙数

一般の単語辞書の見出し語は, 約 10 万単語である.したがって, 変換テーブルの数は 100 億単語が必要になる。（10万 $\times 10$ 万）この数の, 精度の高い変換テーブルを収集することは，困難である。

2. 直感との差

実際に翻訳に利用される変換テーブルは, 人間の直感と，少し異なる場合がある 4.4 章.

## 5 相対的意味論に基づく統計翻訳 (RSMT)

## 5.1 基本的な考え方

TDSMT は，変換テーブルの数と精度が問題になる.しかし, 相対的意味論は, 魅力のある考え方である. そこで，この考え方を，文に適用する. そして変換テーブルは使用しない. 変換テーブルの代わりに, 翻訳確率と類似度を利用する.この翻訳方式を相対的意味論に基づく統計翻訳 Relative Meaning Statistica Machine Translation (以後 RSMT) と呼んでいる. 以下に RSMT の基本的な概念を述べる.

・A が B ならば C は D

・ただし A,B,C,D は文

$\mathrm{A}$ 対訳学習文の日本語

B対訳学習文の英語

C入力日本文

D出力英文（翻訳文）
-Aと C は同一言語において類似
- A と B は 2 言語の翻訳において類似

・B とDは同一言語において類似

$\cdot$C と D は 2 言語の翻訳において類似

以下に例を述べる。

A私は林檎が好きだ

BI like an apple

Cショウジョウハエは林檎が好きだ

DFruit flies like an apple

この例では，以下のように解釈する。

1. “私は林檎が好きだ”と“ショウジョウ八エは林檎が好きだ”は類似している。

2. “私は林檎が好きだ”に対する “I like an apple”の翻訳確率は高い。

3. “ショウジョウハエは林檎が好きだ”に対する “Fruit flies like an apple"の翻訳確率は高い.

4. "I like an apple" と "Fruit flies like an apple" は類似している.

5. 以上 4 点を考慮して, “ショウジョウハエは林檎が好きだ”を入力したとき, “Fruit flies like an apple" が翻訳文である.

## 5.2 実際の RSMT

## 5.2.1 出力英文

理想的な RSMT において, "D 出力英文”は, 生成可能なすべての英文から，選択する。語彙を $10^{5}$ と考えて， 1 文は 10 単語で構成されると仮定すると, $10^{50}\left(\left(10^{5}\right)^{10}\right)$ 文から選択することになる。また，Aおよび B は，大量の対訳学習文から, 最適な文を選択する。通常は, $10^{6}$ 文対あたりが想定できる。

この数字は, 現実的には計算不可能である. そこで，あらかじめ, “C 入力日本文”を, “別の機械翻訳” で翻訳し,複数の出力英文を得る. これから” $\mathrm{D}$ 出力英文” として, RSMT を動作して A と B を選択する．この“別の機械翻訳” には, NMT や Phrase Based SMT や rule base MT などが可能である．したがって実際の RSMT は，複数の翻訳候補文から, 最終的な出力英文（翻訳文）を選択する形になる.

## 5.2.2 文の翻訳確率 $\operatorname{Sim\left(C D_{j}\right)$}

文 $C$ と文 $D_{j}$ の文の翻訳確率は, 多くの計算方法が考えられる. 基本的には, 文の翻訳確率とみなせる。例えばNMT の翻訳確率も利用できる. 本論文では, 線形性を考えて，以下の式を利用している。 $\operatorname{Sim}\left(C_{m} D_{j n}\right)=$

$
\begin{array}{rc}
\sum_{i=0}^{M} \sum_{j=0}^{N} \log 2\left(\operatorname{Count}\left(C_{m} D_{j n}\right) /\left(\operatorname{Count}\left(C_{m}\right) \times \operatorname{Count}\left(D_{j n}\right)\right)\right) \\
\operatorname{Count}\left(C_{m} D_{j n}\right) & \text { 対訳データベース中において } \\
& C_{m} \text { と } D_{j n} \text { が同時に出現する回数 } \\
\operatorname{Count}\left(C_{m}\right) & \text { データベース中の } C_{m} \text { の出現回数 } \\
C_{m} & \text { 文 } C \text { の } m \text { 番目の単語 } \\
M & \text { 文 } C \text { の単語数 } \\
D_{j n} & \text { 文 } D_{j} \text { の } n \text { 番目の単語 } \\
N & \text { 文 } D_{j} \text { の単語数 }
\end{array}
$

## 5.2.3 文の類似度 $\operatorname{Sim\left(C A_{i}\right)$}

文 $C$ と文 $A_{j}$ の文の類似度は, 多くの計算方法が考えられる. 最近は Word2vec を利用した距離尺度が多い. また BLEU を利用した距離尺度も考えられる. 本論文では, 線形性を考慮して，以下の式を利用している.

$\operatorname{Sim}\left(C A_{i}\right)=\sum_{i=0}^{M} \operatorname{CountNum}\left(C A_{i}\right) / \operatorname{Count} A L L\left(A_{i}\right)$

CountNum $\left(C A_{i}\right)$ 文 C と文 $A_{i}$ が一致する単語数

CountALLA $A_{i} \quad$ 文 $A_{i}$ の単語数

$M \quad$ 文 $A$ の文数

## 5.3 RSMT の実働例

以下に RSMT の例を示す. C は入力文で, D は出力文 （翻訳出力）である.

A信号が青から赤にぱっと変わった。

BThe traffic light jumped from green to red.

C信号が青より赤に変わった。

DThe signal changed from green to red .
- $\operatorname{sim}(A C)=-1.807355$
- $\operatorname{sim}(B D)=-3.321930$
- $\operatorname{trans}(C A)=-75.601800$
- $\operatorname{trans}(B D)=-1.041353$

## 5.4 RSMT の長所

RSMT の長所を挙げる.

1. 修正の容易さ

翻訳した場合，その翻訳に近い翻訳文が表示される.そのため, 誤った翻訳が出力されても, 人手で用意に変更箇所が解る.

A彼は我を通した。

BHe had his own way .

C彼女は我を通した。

DShe had his own way.

正解文は “She had her own way” である.この例文では “his”を“her”に書き換えるのは容易と考えている.
2. $N$-BEST

RSMT では 1 位候補が間違っていても，2 位候補が正しい場合が多い. 例を以下に示す.

Cぶらんこが摇れている。

$D_{1}$ The swing is flicking.

$A_{1}$ 炎が摇れている。

$B_{1}$ The flame is flickering.

$D_{2}$ The swing is swining.

$A_{2}$ ハンモックが摇れていた。

$B_{2}$ The hammock was swinging .

この例では正解が第 2 候補にある.

3. 人手評価と自動評価の差

自動評価では，評価できない良さがある。人手評価では，通常の NMT を超える場合が多い.

## 5.5 RSMT の問題点

以下に RSMT の問題点を示す.
ある単語と，ある単語が共起する確率が高いとき, この単語を削除することは, 困難である. 例を以下の述べる.

A彼は我を通した。

BHe had his own way .

C彼女は我を通した。

DShe had his own way .

この例では “我”を “his”と翻訳している．学習データに “我”を “his”の共起の確率が高い場合，この“我”を “her” と翻訳することは困難である。

A炎が摇れている。

BThe flame is flickering .

Cぶらんこが摇れている。

DThe swing is flicking.

この例では“ぶらんこ”が“摇れている”を“flicking”と翻訳している。学習データに“摇れている”と“flicking” の共起の確率が高い場合, “摇れている”と “swinging” と訳することは，困難である．

## 6 考察 - 相対的意味論と NMT

NMT は, 現在, 尤も普遍的に使われている翻訳システムである. この翻訳システムを，相対的意味論的に考えると，A と B が複数ある場合の C と D の関係として捕らえることが可能である. NMT の学習データは A,B に相当する. C は入力文で，D は出力文（翻訳文）である. そして, 文の類似確率と翻訳確率は, 非線形関数であり, Nural Network で類推している。つまり, 5.1 章における, $\mathrm{A}, \mathrm{B}$ を明示しない翻訳システムである。

例を以下に示す。学習データを 2 文とする．Ｃは入力文で，D は出力文である。

$A_{1}$ 彼は山にいった。

$B_{1}$ He went to mountain

$A_{2}$ 彼女は海にいった

$B_{2}$ She went to sea

$C$ 彼は海にいった

$D$ He went to sea

この例では以下のように考える。

“彼は山にいった。”と“He went to mountain”, と “彼女は海にいった”と “She went to sea”が，存在するから，“彼は海にいった”は “He went to sea”と翻訳できる。

この考え方は，NMTにおける，別の見識を持てる．

## 7 まとめ

本論文では，相対的意味論に基づく統計翻訳 (RSMT) の考え方をまとめた．RSMT は，文の相対的意味論を利用している。そして“Aが B ならば $\mathrm{C}$ は D”を想定している.そして, 文の翻訳確率と文の類似度を利用して, 出力文（翻訳文）を選択する。ただし，文の翻訳確率と文の類似度には，多くの計算方法がある。また，相対的意味論は, NMT の別の見方が可能になる. また, 多くの分野で,応用が可能である.これらの分野を追求していきたい.

## 参考文献

[1]三浦しをん，舟を編む．光文社 ISBN-10 4334927769, 2011.

[2]安場裕人, 村上仁一. 相対的意味論に基づく変換主導型統計機械翻訳未知語の出力. 言語処理学会第 25 回年次大会, No. A5-4, 2019.


# メタ言語としてのISO17100 : 翻訳プロセスの詳細化

大西菜奈美山田優
関西大学

## 1 はじめに

翻訳とは，原文テクスト以外のさまざまな情報を参照しながら翻訳操作にかかわる意思決定をするプロセスである．原文に内包される（intrinsic）情報だけでなく，用語集スタイルガイド，また翻訳の目的のように原文テクストの外にある（extrinsic）情報も重要になる.

産業翻訳においては，このような情報を誰が，どの段階で，どのように扱うのかという手続きが重要になるため, ISO17100[1]では，この手続きを翻訳プロセスとして規定している。実際の翻訳現場では, プロジェクトマネジャーが深く関与し, 翻訳の発注者であるクライアントとの交涉，目的を含む仕様書の決定，翻訳者，チェッカーなどのワークフロー管理の業務を行う。

しかしその業務で扱う情報の中身については， ISO17100 の記載以上の粒度を超えると, 担当者の経験や直感で判断されることがしばしある．そのため詳細が，あまりよくわかっていない。具体例を見ながら説明する。

下の引用は, ISO17100の「4. 制作前のプロセス及び活動」工程の「4.2 引合い及び実行可能性」に関する記述である.

“The TSP shall analyze the client's enquiry in order to identify the client's specifications for the services and the TSP's capability to meet them, determining whether all the necessary human, technical, and technological resources are available." (p.7)

翻訳作業開始の前段階でクライアントの要件を把握し, "clients'specifications (仕様) "を"identify（同定する）”と規定している。しかし，実際に， specifications（仕様）で網羅すべき情報は明確に記述されていないため, どの情報をどの粒度で収集し仕様書に含めるのかは不明である. (仕様書に関して言えば，サンプルという形でISO 17100 の付録に提供されているが，あくまで一例に過ぎない.)
このような状況は，業務担当者に判断させる余地を与えてしまい，安定的に品質の高い翻訳を提供したい翻訳会社にとっても望ましくない。また，翻訳の目的やコンテクストなどの原文テクストの外にある (extrinsic) 情報の扱い, 翻訳品質への影響の分析,翻訳品質評価の実施を考えても，より詳細な翻訳プロセスの記述は重要になる.

そこで，本稿では，ISO17100をべースとした翻訳プロセスの記述を，ISO 17100 以外の資料と収集デ ータを参照して詳細化する。具体的には，翻訳プロセスに関わる誰が何を行うのかを，翻訳プロセスの下位工程毎に実行される内容（タスク）に分解し， その詳細内容を「属性」として記述・整理する. 最終的には, 翻訳プロセスを学ぶ者と学習者にとっての可学習性の向上，翻訳プロセスで扱う外的情報を考慮した翻訳品質評価標準の構築に応用することを目指す. 本項は，そのための作業の詳細化方法の一部を説明する。

## 2 詳細化の方法

## 2.1 タスクの抽出

翻訳プロセスの詳細化にあたり，産業翻訳のプロセスを規定した国際標準規格の ISO17100をべースに使用した，そのうち，プロジェクトのワークフロ一の記述がある 4～6 章を詳細化の対象とした. 各章は, 以下の翻訳プロセスの下位工程を説明し (4 章 Pre-production (制作前プロセス), 5 章 Production (制作プロセス), 6 章 Post-production (制作後プロセス)), その工程に含まれる活動内容を記している.例えば， 4 章 Pre-production（制作前プロセス）には， 4.2 節 Enquiry and feasibility（引合いと実施可能性）, 4.5 節 Quotation（見積り）のように，その工程で行われる活動の記載がある.これらの項目は, ISO 17100 の節見出しと対応する. 見出しの下には, その活動内容の説明が記載されている. 具体的には, 4.2 節の記述は前述した”The TSP shall analyze...”である. 以上が ISO 17100 の構成の概要だ.

ISO 17100 の情報から，筆者らは，まず詳細化の対
象となる表現（「タスク」と呼ぶ）を抽出した。夕スクとは, TSP (翻訳会社) が行う活動の最小単位である. TSP が「何をする」のかを, 詳細化するのが本稿の目的であるので，このように考えた. 実例で説明する。

上の英文の記述から，この手順に従って，TSPが 「何をする」に対応する表現を含むタスクを抽出する. 寸ると次の 3 つのタスクを抽出できる。 (1) analyze the client's enquiry, (2) identify the client's specifications (for the services), (3) (identify) TSP's capability. これらのタスクが詳細化の対象になる.
は詳細化されたタスク(2)と(3)が入る。尚，ここまでの作業は, ISO 17100 で提供されている情報のみで完結する。

しかし筆者らの目的は更なるタスクの詳細化であるので，表 1 で示すように，より深い階層に記述を拡張する. 具体的にいうと, 表 1 のレベル 4 までに分解したタスク (同定すべき) (2)specification（仕様書) と(3)TSP's capability の中身を，更に細かく分解する.

冒頭で問題提起したように，実務現場や教育現場では，(2)「翻訳の仕様書」という考え方が重要であるとは理解されているものの，その中身が分からな

 &  & source characteristics & source language & ISO11669 \\

表 1 : タスク詳細化の例

## 2.2 タスクの詳細化

さて，原文の英文を見ながら，上で抽出した 3 つのタスクの関係に目を向けると, (1)は, (2)と(3)に分割できる（上位の階層にある）と考えられる。なぜなら(1)顧客要求を分析すること (analyze the client's enquiry) は, 「in order to identify (2) the client's specifications and (3)TSP's capability (2)と (3)老同定寸るため) とあるように，(2)と(3)を目的としたタスクだからである.つまり, (1)顧客要求の分析をするというタスクは, (2)顧客仕様書と (3)社内リソース情報を同定するタスクに分解されると理解できる. すなわち，タスク(1)は(2)と(3)に詳細化できる.

ここまでの手順の結果を, 表 1 のレベル 1 ４亿示す. レベル 1 は, 下位工程の名前 4. Pre-production である。レベル 2 は節見出し 4.2 Enquiry and feasibility, レベル 3 は抽出したタスク(1), レベル 4
いために，実際に仕様書を作ることができない，もしくは仕様書の作り方を教えることができないという問題が生じている。それゆえに, ISO17100 に記載されている粒度以上のタスク詳細化が必要なのである.したがって, ISO 17100 以外の資料を参照し, 更なる詳細化を行う。

## 2.2 詳細化のための参照資料と方法

更なるタスクの詳細化のために, ISO 17100 以外に参照した資料は次の 3 種類である。

a. ISO11669

b. 翻訳会社から入手した資料データ

c. 翻訳プロジェクトマネジメントに関する書籍

a は ISO 17100 同様に翻訳プロジェクトを規定した国際規格 ISO11699（Translation projects -- General
guidance）[2]である. 翻訳プロジェクトのベストプラクティスのための標準仕様書と位置付けられている. ISO17100 の翻訳プロセスに対応しているため, タスク詳細化のための補完資料として最適である.

$\mathrm{b}$ は，筆者らが直接入手した資料データである. ISO17100 認証済みの大手翻訳会社 2 社に,インタビユーを行い, 翻訳業務の資料の提供を受けた. 本研究のために, 実際に翻訳案件を発注し, その後, 合意の上で, 作業に関するヒアリングを行ない, 社内資料を可能な限り入手した. ISO 17100 の翻訳プロセスを現場で実践している会社の生データ・資料ということになる.

c は翻訳プロジェクトマネージメントを扱う書籍である.学術書から一般実用書までを含む.ただし， ISO17100を想定して書かれていない書籍も含む.

これらの資料のうち, a と $\mathrm{b}$ は必須参照資料とした. 特に a は, ISO 17100 の補完資料として, 他よりも優先順位を高く設定した. c は, a と bに詳細化できる情報が見つからない場合にのみ参照した.参照資料を使って詳細化する手順については，基本的には先述どおりに，各資料内のまとまった記述に対してタスクの抽出を行い, 更なる詳細化の言葉を列挙した. それに先立ち, 資料の内容を ISO 17100 の翻訳プロセスの下位工程に対応するように整理しておいた。

具体例で示す.表 1 の Level 6 の「identify the client's specifications 仕様書の同定」が, 詳細化の対象タスクである.つまり「specification 仕様書」の中身を追加する必要がある. そこで $\mathrm{a}$ との資料からそれにあたるタスクを抽出して，すべてを述べ項目として列挙する (表 1 の Level 5～6). 表の最上段の, Level $5\lceil$ source language content information $\rfloor$, Level $6\lceil$ source characteristics $\rfloor$, Level $7 「$ source language $」$ は,「specification 仕様書」の詳細タスクの一例であり,参照資料 a の ISO 11669 から抽出した. 上から 4 段目の Level 5 「クライアント情報」Level 6「新規 or リピート顧客」は参照資料 $\mathrm{b}$ の翻訳会社 $\mathrm{A}$ から抽出した.

## 2.4 タスクの整理

参照資料から列挙した項目については, 後に重複寸る項目を同定し, 完成表には最終的に 1 つの項目だけを残す. ISO11669 と重なる項目がある場合は, こちらの項目名を残す方針とする (最優先資料).また, Level2 より下の階層については, タスク毎に階層の深さが不揃いなので, 最終的には, 一定の基準にしたがって整える必要がある.今後の決定となる.

## 3. まとめと展望

以上, IS0 17100 の翻訳プロセスの詳細化の意義と方法の一部を報告した。翻訳プロセスで取り扱われる情報の範囲には，原文に内包される（intrinsic） ものだけでなく, 原文テクストの外にある (extrinsic) ものもある.このことを強く認識し実践理論に取り入れた翻訳理論研究のドイツ機能主義の影響は，実務翻訳に多大な影響を与えただけでなく，近年では DQF P MQM[3]などの翻訳評価基準の策定にも貢献している.この流れは, 引き続き翻訳・通訳の実務,教育, 機械翻訳の開発（例えば，マルチモーダル学習）を考える際にも重要となるだろう。このような観点からも, 翻訳プロセスの詳細化の必要性を再確認できる.

## 謝辞

本研究の一部は, 日本学術振興会科研費補助金基盤研究 (S)「翻訳規範とコンピテンスの可操作化を通した翻訳プロセス・モデルと統合環境の構築」(研究課題番号:19H05660)の支援を受けて行われた.

## 参考文献

1. International Standard Organization (ISO). (2015). ISO 17100:2015. Translation services - Requirements for translation services. First edition.

2. International Standard Organization (ISO). (2012). ISO 11669:2012. Translation projects - General guidance. First edition.

3. Burchardt, B. and A. Lommel (2014) QT-LaunchPad supplement 1: Practical guidelines for the Use of MQM in Scientific Research on Translation Quality. http://www.qt21.eu/downloads/MQM-usageguidelines.pdf.

## 付録

## タスク詳細化に使用した参考にした文献（c）

ISO，翻訳会社からのデータ以外で，翻訳会社の実データの補完として参照した文献を示す.

Dunne, K \& Dunne, E. (Eds). (2011). Translation and localization project management, ATA Scholarly Monograph Series XVI.

Russi,D \& Schneider, R. (2016). A Guide to Translation Project Management, The COMET Program.

Mitchell-Schuitevoerder, R. (2020). A Project-Based Approach to Translation Technology, London: Routledge.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# メタ言語としての翻訳方略体系の構築と検証

山本真佑花山田優
関西大学
藤田篤
情報通信研究機構
宮田玲
名古屋大学
影浦峡
東京大学

## 1 はじめに

翻訳作業（翻訳プロセスと言うこともある）とは原文・訳文間の記号的な操作であり，適切な翻訳は訓練を積んだ翻訳者の作業によって作られるi.しかしながら, これらの作業における諸々の判断基準や操作の種類はコミュニケーションに使えるほど十分には形式化されていない。この問題は翻訳者側にあるのではなく, 彼らが翻訳を語るためのツール，つまり翻訳作業を具体的に記述するための言語が確立されていないことにあると考えられる。

翻訳作業において理解されるべき重要な要素の一つにテキスト操作の方略がある。これを体系化した既存の研究の 1 つに, Chesterman [1] の翻訳方略体系がある.この体系には, Syntactic strategy, Semantic strategy, Pragmatic strategy の 3 種類のメインカテゴリとその下に 10 種類のサブカテゴリが設けられている. Chesterman の体系は広く参照されているが，欧州言語間の翻訳を念頭に構築されたため, 他の言語方向の翻訳への適用の可否は不明である. また, サブカテゴリが必ずしも排他的でない（1 つの操作に対して複数の方略のカテゴリが当てはまることがある）ため，使用者によって認定する方略が異なる可能性がある. その点で, 方略を語る共通言語としてみた場合，改善の余地がある。

我々は, Chesterman の翻訳方略体系が英日翻訳の事例にも適用可能か否かを検証し，必要に応じてカテゴリの再編や定義の変更を行なうことで，英日翻訳を想定した翻訳方略体系を構築した。また，翻訳を語る共通言語としての役割を想定し，翻訳方略体系の使用の際，1 つの操作に対して 1 つのカテゴリが定まるように優先度を設けた。

## 2 課題と意義

翻訳方略の体系化は, 翻訳学の分野では, 翻訳を分析することを主目的として一定の発展を遂げてき
たが，翻訳教育や翻訳実務に応用されうるまで精緻化されるには至っていない。それにより, 教育や実務の現場では問題が生じている，またはその問題が認識され始めている.

翻訳教育現場では，指導者が学習者に対して，実務に必要なスキルを指導するが，プロ翻訳者による翻訳操作の工夫，例えば，「原文に忠実に訳す」，「想定読者が読みやすく訳す」という操作を教えることができない.

翻訳実務現場においては，フリーランス翻訳者の翻訳の品質評価を担当するのは社内校正者や品質管理者であることが一般的であるが, 品質評価の際,

「この翻訳はとても品質が高い」,「この翻訳は意訳すぎて読みにくい」など，評価者個人の主観で判断されてしまっている. 機械翻訳の品質評価についても同様である.

この問題の原因は，原文と訳文とを独立した別々のテクストと見なすのではなく，お互いの関係を考慮して評価しなければならないにもかかわらず，原文を訳文へと変容させる記号的な操作（プロセス） を記述する詳細な言葉がないことによる。つまり，原文と訳文の関係を表現するためのメタ言語が確立されていない.

料理を例に見てみよう. 材料 (原文)を完成品（訳文）にするための料理（翻訳）というプロセスは，「惹る」「焼く」「炒める」「蒸す」などの調理方法 (方略）の言葉で記述できる. 翻訳でも， 1 つの原文に対して複数の訳出が可能であり, それぞれの訳文の違いは, どの翻訳方略を適用したのかの違いによる.例えば，従来から用いられている「直訳」と「意訳」 は，翻訳方略を示す類の言葉であるが，現場での実用に耐えうる粒度と客観性を持ち合わせていない。

この課題に対し, 我々は, 翻訳教育や翻訳実務の現場で用いることができるように，客観的かつ評価者間で統一した基準に従って認定できる翻訳方略体系を構築した. この体系を共通言語として用いるこ

とで，指導者は翻訳学習者に対してプロ翻訳者の作業を教えることができ，また，品質評価者は，プロ翻訳者の作業を言語的に分析し, 共通言語を使用して共有することができる.

## 3 先行研究

翻訳方略を体系化し実践教育への応用をいち早く試みた Vinay and Darbelnet [6] は, フランス語と英語の言語間の違いを挙げ，直接的翻訳にあたる 3 つ，間接的翻訳にあたる 4 つ, 計 7 つの翻訳方略を提案した. Pym [2] は, 教育現場での利用を目的とした 8 つの方略を構築し, 修士課程の 2 つのクラスで検証実験を行なった. Chesterman は, Vinay and Darbelnet の翻訳方略などの先行研究をまとめ, 3 種類のメインカテゴリとその下に 10 種類のサブカテゴリを設けて翻訳方略を整理した.ただし，いずれの研究も，英日翻訳の事例への適用の可否は確認しておらず， また翻訳教育や翻訳実務における実用性も十分には検討していない。

Bode [7] [8] は, Chesterman の翻訳方略体系を日英翻訳に当てはめて再検討を図っている。しかしながら，それぞれの方略が排他的に定義されておらず，使用者によって解釈が異なる可能性がある.

## 4 翻訳方略体系の構築

我々は，英日翻訳を対象とした翻訳方略体系を構築した。 その際, Chesterman の翻訳方略体系を土台とした. Chesterman の翻訳方略体系は, Syntactic strategy, Semantic strategy, Pragmatic strategy $の 3$ 種類のメインカテゴリに分けられている．また，サブカテゴリもある程度細分化されており, 個々の方略を区別しやすい，我々は，Chesterman の翻訳方略体系の英日翻訳の事例への適用の可否を確認することで，英日翻訳における翻訳方略体系を構築した。

## 4.1 英日翻訳事例への適用可否の検証

まず, 英日翻訳の個々の事例を Chesterman の翻訳方略体系によって説明できるか否かを, 次の手順で検証した。

1）原文 1 文とそれに対応する訳文（1 文でなくてもよい）を 1 組として扱う。

2）原文と最終訳文の間にあえて明示的に直訳を設定し, 直訳と最終訳文の間のテクスト上の違いを翻訳者の作業，つまり翻訳方略と考える。以下，直訳を「素朴訳」, 最終訳文を「適訳」と呼ぶ。ここで，素朴訳とは，誤りがなく，原文言語の文法構造通りであり，かつ目標言語の文法的に正しい状態で訳出された訳文をいう。

3）素朴訳と適訳の間でテクスト上の違いが見られる箇所に, Syntactic strategy, Semantic strategy, Pragmatic strategy のそれぞれから 1 方略ずつ付与寸る. 寸なわち, 1 事例につき 3 種類の方略を付与する。たとえば次の例の場合，一重下線部には Literal translation (G1), Synonymy (S1), Other pragmatic change ( $\operatorname{Pr} 10)$ が付与され, 二重下線部には Clause structure change (G6), Converses (S4), Other pragmatic change (Pr10)が付与される. <原文>CNN reported on Thursday that a giant tornado and hailstorm had killed 51 people in China.

＜素朴訳＞CNNが木曜日、中国で巨大竜巻と電が 51 人を死に追いやったと報じた。 <適訳＞CNN が 23 日、中国で巨大竜巻と雮で 51 人が死亡したと報じた。

4）各事例が示す特定の事象を Chesterman の翻訳方略の適用例としてみなせるかどうかを検証し，みなせないと判断した場合は，カテゴリの追加や定義の変更を行なう。

5）決定リストの形に方略を体系化する。

具体的にはまず，検証用の対訳事例を，書籍『プロが教える基礎からの翻訳スキル』 [13] の基礎編,『誤訳ゼロトレーニング』 [14] の Chapter 1 から抽出した。これらの書籍は，翻訳学習者向けに翻訳スキルについて細かく説明しており, 特定の分野に偏ることもなく，学習者にとって馴染みのある事例を扱っている。様々な翻訳作業が対訳例とともに説明されており, 各対訳例内の説明対象箇所には下線が引かれている。このような対訳例のうち, 翻訳方向が英日である 173 事例を使用した。そのうち，直訳が記載されている事例には，その訳を素朴訳として使用し, 直訳が記載されていない 37 事例には，アノテータが素朴訳を作成した。また, 説明対象箇所の下線が引かれていない箇所であっても, 素朴訳と適訳の間でテクスト上の違いが見られる対訳例については，そのような箇所に追加で下線を引き，検証対象事例とした。その結果, 原文, 素朴訳, 適訳の 3 つ組からなる 249 例の検証対象事例を得た。

次に，249 例の個々に対してChesterman の翻訳方略を付与した。各事例が示す特定の事象を Chesterman の翻訳方略の適用例としてみなせる場合

 & Antonymy & 反意語と否定要素を組み合わせて意味等価にすること。 または, 反意語と否定要素を外すことで意味等価にすること \\

## 図 1 我々が構築した英日翻訳における翻訳方略体系

はその方略を英日翻訳の翻訳方略として採用し, 適用例としてみなせないと判断した場合は新しい方略を追加した。この作業を通して，多様な操作を含む Other semantic changes (S10) と Other pragmatic changes (Pr10)を削除し, 代わりに, テクスト上の文法的要素の追加操作と削除操作を示す方略である Addition (G11)と Omission (G12), 句読法等の使用に関する方略である Punctuation change (G13), 分野や案件仕様を満たすための方略である Domain adaptation (Pr12) と External information adaptation (Pr13)を追加した. また, Chesterman の翻訳方略体系における Information change $(\mathrm{Pr} 3)$ と Visibility change (Pr8)は包含関係にあると判断して統合し, Partial translation (Pr7)も External information adaptation (Pr13)に含めた.最後に，1 つの操作に対して複数のカテゴリが付与されないように，また，異なるアノテータ間でも一貫して方略を付与できるように，決定リストの形で方略を体系化した。 その際，1 つの事例に重複して当てはまる恐れがある方略に関しては, 翻訳の単位が小さい方略の優先度を高くし, 対の関係にある方略は離さず並べ, Antonymy (S2)と Paraphrase (S8) のように一方が他方に含まれ得る方略に関しては，操作の定義が狭い順に優先度を高くした。

## 4.2 翻訳方略体系

我々の翻訳方略（図 1）は, Chesterman の翻訳方略と同じ Syntactic strategy, Semantic strategy, Pragmatic strategy の 3 種類のメインカテゴリからなる. 各メインカテゴリの定義は次の通りである.

Syntactic strategy（13 種類のサブカテゴリ）: 意味には触れず，表層上の操作だけを扱う方略.

Semantic strategy（9 種類のサブカテゴリ）: 一般常識, 言語学的な基本知識，与えられたテクスト内の情報，当該ドメインにおけるエンティティ（出現している名詞要素）の属性やエンティティ間の関係に関する知識に基づいて訳出できる方略.

Pragmatic strategy (10 種類のサブカテゴリ) : テクスト外の情報を参照し，それを理由として発動される方略.ここでいうテクスト外の情報とは，受信者（対象読者，潜在読者）の存在，発信者（依頼者，執筆者）と受信者（対象読者，潜在読者）の関係などのコミュニケーション属性や，当該ドメインにおける目標言語テキストの表記や表現および一般的なルールに関する知識である。

全 32 種のサブカテゴリを図 1 に示す. 優先度順に並べることで，各メインカテゴリからただ一つのみ方略が付与されるようにしてある.

## 5 検証

方略体系の構築時は，学習者向けの事例を扱い， 1 人のアノテータが方略の付与や整理を行なった. そこで，構築した翻訳方略体系が幅広いテクストタイプに対応しているか，また，複数のアノテータ間でも一貫して使用できるかを検証した。

## 5.1 体系の包括性

体系の包括性を検証するために，まず，方略体系の構築時とは異なる対訳例を準備した.『翻訳の布石と定石』 [11] からランダムに 47 例を選んだ. 構築時と同様に，翻訳方向が英日で，少なくとも原文と訳例が揃っているものを選び，すべての対訳例に素朴訳を与えた。本書籍においても，説明対象箇所には下線が引かれているが，下線が引かれていない箇所であっても, 素朴訳と適訳の間でテクスト上の違いが見られる箇所は追加で下線を引き, 検証対象事例とした。その結果, 計 62 例の検証対象事例を得た. 同様に，『第 29 回知的財産翻訳検定試験』の過去問題 [12] から, 問 2 の 18 事例を選び，参考回答例を適訳とみなしてそれに基づいてアノテータが素朴訳を作成した. “Lonely Planet”の旅行ガイド記事 [3] から 47 例, “University of Cambridge Judge Business School”のニュース記事 [4] から 38 例を抽出し, アノテータが素朴訳を作成し，翻訳会社において修正された翻訳文を適訳とした。

個々の事例に対して, 方略体系の構築時と同じアノテータが方略を付与した. その結果，下位分類を列挙することにより, 各カテゴリがカバーすべき範井をより明確に記述することにした。

## 5.2 分類の一貫性

アノテータによらず一貫して方略を付与できるかを検証するために，方略体系の構築時とは異なるアノテータ 1 名に方略の付与を依頼した。包括性を検証する際に使用した事例において特定の分野の専門性を必要としない,『翻訳の布石と定石』からの事例をランダムで 31 例と, “Lonely Planet”の旅行ガイド記事からの全 47 事例を用いた. これらに加えて，当該アノテータの専門である IT 分野の事例として,

『JTF ほんやく検定公式問題集』 [10] から 67 例を新たに抽出し，合計 145 事例を用いた。

各アノテータが付与した 435 件（145 事例 $\times 3$ メインカテゴリ）のうち 408 件 (94\%) で 2 名の分類結果が一致した。不一致箇所は，原文が正しく理解できていなかったことに起因する分類誤り，定義の理解の違いに起因する分類の不一致や，方略体系の構築時の定義では事例がカバーできていないことに起因する分類誤りであった．定義の理解の違いに起因する付与の摇れは，お互いの認識を合わせるような話し合いによって解決された。一方，構築時の定義ではカバーできていなかった事例については，発生したテクスト上の違いを下位分類に追加することで解決された。これによって，方略体系の構築時とは異なるアノテータであっても，一貫して方略を付与できるようになった.

## 6 まとめ

我々は，英日翻訳を対象とした翻訳方略体系を構築した. Chesterman の翻訳方略体系を土台とし，さらにテクスト上の文法的要素の追加操作や削除操作を示す方略, 分野や案件仕様を理由とする操作を追加し, Chesterman の翻訳方略体系で包含関係にある方略を統合した. さらに，1 つの操作に対してカテゴリを 1 つのみ付与したり，アノテータによらず一貫して方略を付与したりできるように，優先度順を定める決定リストを作成した。

今後は，翻訳教育現場や翻訳実務現場での利用を想定して検証を進め，より包括性と一貫性が高い翻訳方略体系に改善していく。

謝辞：本研究の一部は科研費基盤研究 $(\mathrm{S})$ (課題番号：19H05660，代表:影浦峡)の支援を受けた。

## 参考文献

1. Andrew Chesterman. (2016). Memes of translation: The spread of ideas in translation theory. Amsterdam: John Benjamins.

2. Anthony Pym. (2018). A typology of translation solutions. The Journal of Specialised Translation, Issue30. Retrieved September 10, 2020, from https://www.jostrans.org/issue30/art_pym.php 3. Female solo travel: the best places to visit in Asia. Retrieved March 10, 2020, from https://www.lonelyplanet.com/articles/female-solotravel-asia

4. How effective is psychological targeting in advertising? What we can learn about you from just one click. Retrieved March 10, 2020, from
https://www.jbs.cam.ac.uk/insight/2017/how-effectiveis-psychological-targeting-in-advertising/

5. International Standard Organization (ISO). (2015). ISO 17100:2015. Translation services - Requirements for translation services. First edition.

6. Jeremy Munday. (2008). Introducing Translation Studies. Routledge. (ジェレミー・マンデイ. 鳥飼玖美子 (監訳）(2018）。『翻訳学入門』.みすず書房.)

7. Jeroen Bode. (2009). Translation Strategies for Japanese Reconsidering Chesterman's Theory on Translation Strategies. Outside the Box: The Tsukuba Multi-Lingual Forum, 2 (1), 15-21.

8. Jeroen Bode. (2009). Translation Strategies for Japanese - Part 2 Revisiting Chesterman's Theory on Translation Strategies. Outside the Box: The Tsukuba Multi-Lingual Forum, 2 (2), 17-23.
9. Masaru Yamada, Mayuka Yamamoto, Nanami Onishi, Atsushi Fujita, Rei Miyata, and Kyo Kageura. (2020). Metalanguage for the translation process. In Proceedings of the 5th Conference on Translation in Transition: Human and Machine Intelligence (TT5), 46-51.

10. 一般社団法人日本翻訳連盟 (2011).『JTF ほんやく検定公式問題集』. 株式会社アルク.

11. 岡田信弘 (2013).『翻訳の布石と定石』. 三省堂. 12. 第 29 回知的財産翻訳検定試験【第 14 回英文和訳】 $>\ll 2$ 級課題》.(オンライン)(引用日: 2020 年 8 月 7 日 .) https://www.nipta.org/papers/20191020/29ip2_ques.pdf 13. 田辺希久子, 光藤京子 (2008).『プロが教える基礎からの翻訳スキル』。三修社.

14. 光藤京子 (2016). 『誤訳ゼロトレーニング』. 秀和システム。
表 1 Chesterman の翻訳方略体系と我々の英日翻訳方略体系の対比


# 言語専門職「リンギスト」の提案

西野 竜太郎
グローバリゼーションデザイン研究所
nishino@globalization.co.jp
}

山田優
関西大学
yamada@apple-eye.com

## 1 はじめに

本稿は、今後の産業翻訳を担う人材育成とその研究の必要性を提案する論考 (ポジションペーパー) である。翻訳業界における翻訳等の様々な多言語関連タスクを担う人を「リンギスト」と呼び、その新たな職種を提案する。本稿では、その職務範囲とスキル、またその教育方法の確立のための研究について論じる。

## 1.1 背景

翻訳サービスを提供する産業翻訳において機械翻訳の活用が進んでいる。しかし機械翻訳の出力はそのままでは不十分であるため、商品としての要求を満たすレベルまで高めるには人手による補助が不可欠である。その補助を行う人がポストエディター あるいは後編集者である。この考え方は 1966 年の ALPAC 報告書 [1] にもあるが、1995 年に刊行された長尾真氏らの書『コンピュータで翻訳する』でも 「機械翻訳システムの生産性を上げるには、後編集を専門に行なう後編集者を養成すべき」[2] とある。 ただし、翻訳者が必ずしも後編集に適しているとは限らない [2] としてはいるものの、やはり一般的には翻訳者がポストエディターになることが期待されてきた。

しかし現状の課題は、ポストエディットの仕事に既存の翻訳者が消極的 [3] という点である。大きな理由の一つに翻訳者の職務意識がある。つまり、ポストエディットと翻訳は別であり、翻訳者が本来する「翻訳」という職務に入らないと考えられている。「翻訳者とは翻訳をし、また翻訳をするのが翻訳者」と、職名（＝翻訳者）とスキル（＝翻訳）とが強固に結びつき、相互に連想される状態になっているのだ。他方で、機械翻訳を扱う仕事はポストエディツトに限定されず、付随する作業や判断が求められる。そのため、従来の職名とスキルとが密接に絡みあった「翻訳者」や矮小化された意味での「ポ
ストエディター」という職種では、今の言語産業の実情に対応できない。そこで、「翻訳者のような翻訳スキルを持ち合わせる専門職」を確立できれば、新たな課題を解決する糸口となり、言語産業を活性化する一方策になると考える。

## 1.2 「リンギスト」の提案

前述の通り、従来からポストエディターという専門職は提唱されてきたが、その名称は今後期待される仕事の幅を狭めてしまう可能性がある。たとえば機械翻訳システムに学習させる対訳コーパス構築には、翻訳スキルも求められる。また適切に仕事を行うための機械翻訳品質評価や機械翻訳エンジンの選択等も必要となる。

さらに、機械翻訳が直接関係しない業務にも翻訳スキルが求められる場面はある。用語集作成や翻訳メモリ管理などだ。大きく翻訳品質を左右する重要な仕事であり、翻訳スキルが求められるにも関わらず、これらは「翻訳の周辺作業」のように見做されてきた。しかしポストエディターという言葉と職種にはこれらが含まれていない。

翻訳業界からも同様の意見が出ている。ポストエディットや機械翻訳エンジンの調整といった「翻訳とは呼ばないけれど、翻訳者の資質を必要とする仕事」[4] をリンギストと呼んで職能を捉え直すのもよいという意見もある。そこで、翻訳スキルを持ち合わせながらも、ポストエディットに限定されない多言語関連タスクを広く担える専門職として「リンギスト」という名称の利用と職種を提唱したい。つまり、名称の提唱だけではなく、職務範囲や求められるスキルを同定し、教育方法を確立する研究も今後必要になると言える。

## 2 リンギストという言葉

元々の英語 linguist の辞書的な意味には（1）言語学者と (2) 複数言語に精通した人、という 2 つがある [5]。翻訳業界では後者から派生した「複数言語の
専門家」というニュアンスで使われることが多い。 たとえばイギリスの CIOL（The Chartered Institute of Linguists）では、翻訳、通訳、外国語教育などを専門にする人を認定している [6]。英語の linguist は包括的な職名としてすでに定着していると言える。

一方で日本国内でも、英語から作られたカタカナ語「リンギスト」の使用が外資系企業を中心に見られる。たとえば Lionbridge 社や SDL 社のような MLV では職種名として用いているし、Memsource や XTM のような翻訳管理システム（TMS）では、その UI（ユーザインターフェース）の役割名として設定されている。つまり「リンギスト」というカタカナ表記自体は全く目新しいわけではないため、日本国内において受け入れられる土壌はあるだろう。ただし一般英語としての linguist との間に、意味やニュアンスのギャップがある点には注意したい。

## 3 リンギストの射程

河野 [4] は、リンギストの仕事として「ポストエディット」や「機械翻訳エンジンの調整」、さらに 「コーパスのデータクレンジング」、「プリエディッ卜」、「翻訳工程の生産技術」も挙げている。いずれも機械翻訳と関係する作業だが、翻訳サービスのプロセス全体を眺めると、上記以外にも翻訳者の資質を必要とする仕事はいくつも考えられる。筆者らの翻訳産業における経験と、ISO 17100[7] のプロセスを念頭に置きつつ、リンギストの職務に入りうる仕事を挙げたい。リンギストは LSP（翻訳会社内）にいる場合だけでなくソースクライアント (発注企業内）にいるケースも想定している。なお実際にリンギストが担当するかどうかは現場の判断や状況による。

## 3.1 翻訳プロジェクトにおける仕事

ISO 17100 のプロセスに沿ってリンギストの仕事を列挙する。翻訳の作業の前後のタスク (preproductuion、post-production）も射程としている。

## 3.1.1 原文制作段階

翻訳の質を高めるには、原文ライティング時点からリンギストが関与することが望ましい。ISO 17100 では、付加価値サービスとして附属書 $\mathrm{F}$ に揭載されている一部項目に該当する工程である。下記のライティング (テクニカルライティング) やインターナショナリゼーションも附属書 $\mathrm{F}$ に含まれて
いる。

ライティング翻訳されることををあらかじめ考慮した原文で書く。原文の良し悪しで翻訳成果物の質が左右されるためである。プリエディット、制限言語などとも関係する。

インターナショナリゼーションローカリゼー ション（翻訳）しやすいコンテンツを制作する。テキストを画像から分離しておく、など。

## 3.1.2 翻訳前段階（pre-production）

ISO 17100 ではセクション 4.6.3（翻訳仕様書の作成）で扱う段階である。

設計求める成果物の仕様を決定する。使う参考資料（用語集、スタイルガイド、翻訳メモリーなど） の指定、検収時の評価方法や合否水準の指定など。

参考資料の制作当該プロジェクトで使う用語集やスタイルガイドなどを実際に準備する。

## 3.1.3 翻訳段階

ISO 17100 ではセクション 5 (production process) に包含される段階であるが、一部の項目（プリエディットとポストエディット）は付加価値サービス

機械翻訳システムの調整当該プロジェクト用のアダプテーション作業など。

プリエディット機械翻訳システムが性能を発揮できるように原文の編集。

翻訳翻訳の実作業。機械翻訳出力を利用した翻訳（ポストエディット）も含まれる。

チェック訳文の品質を保証する。LQA（Linguistic Quality Assurance）とも呼ばれる。言語面の確認に加え、文化面も対象になることがある。チェック、校正、校閲などが含まれるが、ISO 17100 ではセルフチェック、バイリンガルチェック、モノリンガルチェック、プルーフリードは異なるステップとして定義されている。

言語品質評価最終納品物の検収や中間納品物の確認で実施する品質評価。

## 3.1.4 翻訳後段階

ISO 17100 に規定はないが、一部（DTP やウェブのデザイン、字幕など）は付加価值サービスとして附属書 $\mathrm{F}$ に掲載されている。

多言語デザイン訳文が組み込まれた製品の見た目を整える。DTP、アプリ、ウェブ、ビデオ字幕

など。

多言語ユーザー評価訳文が組み込まれた最終製品の使いやすさなどを評価。

## 3.2 定常業務における仕事

特定の翻訳プロジェクトではなく、日常的に実施する定常業務の仕事もリンギストの職務の射程に入る。ISO 17100 の付加価値サービスとして附属書 F に記載されている項目も含まれる（たとえば専門用語管理やアラインメント)。

言語品質評価応募されたトライアル課題などを評価する。

用語集やスタイルガイドの維持管理特定の分野や顧客で用いる用語集やスタイルガイドを整備する。

言語資産の維持管理翻訳メモリーのアラインメントや対訳コーパスの整備する。

機械翻訳システムやツールのチューニング機械

調整する。エラー定義ファイルの修正や、特定分野の機械翻訳システムのアダプテーションなどが含まれる。

機械翻訳システムやツールの評価や選定言語成果物の質を高められるツールの評価や選定。機械翻訳システム、翻訳支援ツール、TMS、QAツールなどが対象。

人材育成翻訳者やチェッカーなどの人材を育成するために、資料やツールの使い方を教えたり、納品物にフィードバックしたりする。

繰り返しになるが、上記の範囲はあくまで暫定的な提示であり、今後の研究を通して調整や詳細化をすることになる。

## 4 必要になるスキル

リンギストの職務に対し、どのようなスキルや能力が実際に必要になるかは、今後の研究が必要となる。たとえば EMT (European Master's in Translation) の枠組みなどとの比較検討も求められる。 リンギストは専門職を想定している。ここで挙げた職務自体はリンギスト固有のものではない。現状ではプロジェクト・マネージャーやセールス担当者が行っているものとの重複もあろう。しかし、理想は翻訳・言語的スキルを兼ね備えたリンギストが担うべきであり、翻訳＋ $\alpha$ のスキルが必要となろう。

## 5 おわりに

機械翻訳の利用が進む中で、「翻訳者」の仕事に限定されず、十分な言語・翻訳スキルを兼ね備えた言語専門職が確立することは今後の産業にとって望ましい。機械翻訳の訳出を後編集するポストエディターの概念も包含しつつ、その範疇を超えた多言語関連タスクを担える「リンギスト」という職名を提唱した。またその職務範囲や必要スキルの調査研究を進めることも提案した。今後、とりわけ機械翻訳の開発者と実務者が共同し、機械翻訳活用（アダプテーションなど）の評価や実施を行っていく機会も増えていくと想像される。リンギストのような職種が活躍する場も増えるに違いない。

## 6 謝辞

本研究の一部は、日本学術振興会科研費補助金基盤研究（S）「翻訳規範とコンピテンスの可操作化を通した翻訳プロセス・モデルと統合環境の構築」（研究課題番号：19H05660）の支援を受けて行われた。

## 参考文献

[1] Automatic Language Processing Advisory Committee. Language and Machines: Computers in Translation and Linguistics. National Academy of Sciences, 1966.

[2]長尾真, 牧野武則（編著）.コンピユータで翻訳する。共立出版, 1995.

[3] 山田優. 誰がポストエディターになるのか？翻訳研究への招待, Vol. 9, , 2013.

[4] 河野弘毅. 機械翻訳の時代に活躍できる人材になるために. 通訳翻訳ジャーナル, Vol. SPRING, pp. 36-38, 2019.

[5] Oxford University Press. linguist: Oxford advanced learner's dictionary, (2020-12-10 閲覧）. https://www.oxfordlearnersdictionaries.com/ definition/english/linguist.

[6] Chartered Institute of Linguists. Become a chartered linguist,（2020-12-10 閲覧）. https://www.ciol.org.uk/ chartership.

[7] ISO. ISO 17100:2015 translation services - Requirements for translation services, 2015. https://www.iso. org/standard/59149.html.


# 人と言語モデルが捉える文の主題

藤原吏生 ${ }^{1}$ 栗林樹生 ${ }^{1,2}$ 乾健太郎 1,3
}

1 東北大学 ${ }^{2}$ Langsmith 株式会社 ${ }^{3}$ 理化学研究所

riki.fujihara.s4@dc.tohoku.ac.jp, \{kuribayashi, inui\}@ecei.tohoku.ac.jp
## 1 はじめに

(1) a. 兄は部屋に向かった。 b.兄が部屋に向かった。

二つの文は論理的に同等であるが，文脈や何についてメッセージを伝えたいか（主題）といった観点から人はこの二文を使い分ける．例えば，「兄がさっき帰ってきた。」というような兄に関する話に続く文であれば例 1a の方が自然であるし，単に兄が何をしたか客観的に描写するのであれば例 $1 \mathrm{~b}$ の方が好まれるだろう。このような先行文脈に依存する選択において計算モデルと人の判断に乘離があるか，近年流暢な文章の生成が可能になったとされるニューラル言語モデルに焦点を当てて調査する.

本研究では，文章の形成や評価において重要な側面である文の主題を取り上げる $[1,2]$. 日本語の係助詞「は」は主題であることを表し [3], 例 1 の二つの文は「兄」が主題か否かという点で異なる. ある要素を主題化するかの判断には，情報の新旧 [4] やセンタリング理論 [5] などの観点から先行文脈を考慮する必要があるとされている $[3,6]$. 文の主題の観点で言語モデルが人と同様の選択を行えるかを分析することで，言語モデルの文章生成における先行文脈の影響について考察する。

文の主題は英語では語順で示されるが [2], 日本語では係助詞「は」などによって明示され，その範囲を策定しやすいため日本語で研究を行う．はじめに，クラウドソーシング1)を活用し，NAIST テキストコーパス（NTC）[7] 中の主格に対して人の「は」 と「が」の判断に関するアノテーションを行った。「は」と「が」の対立には主題と非主題といった対立以外にも，対比と排他，節末まで係るか文全体に係るかといった様々な軸がある $[3,6,8]$. NTC の共参照アノテーションや先行文脈を見せる/見せないこ

1）Yahoo!クラウドソーシング https://crowdsourcing.yahoo. co.jp/を利用した。また，毎日新聞社に許可を得て NAIST テキストコーパス中の文をワーカに見せている.

図 1 人と言語モデルによる「は」と「が」の選択

とによる人の判断の変化から，「は」と「が」の選択について特に文脈が依存するデータポイントを収集し，言語モデルの評価に用いた。

実験では，文脈依存の「は」と「が」の選択について，人とニューラル言語モデルの傾向を比較した (図 1).人と言語モデルの選択の相関は高く，言語モデルは人と近い選択を行うことができていた. しかしながら，インスタンスごとの判断の不一致度 (agreement error) [9] や先行文脈の有無による判断の変化といった観点から分析を行うと，人と言語モデルの間に乘離が観察され，特に言語モデルは先行文脈を見なくても人と比べて不当に高精度な選択ができていた。これらの結果から，「は」と「が」の選択について言語モデルは人と近い選択が可能であるが，判断の拠り所は両者で異なるということが示唆された. 本研究で作成したデータセットは公開す $る^{2)}$.

## 2 関連研究

選択体系機能文法では，主題は「心理的主語」として「話者が伝えたいことの産出にとりかかる時にまず心の中にもつもの」と定義され [2]，文法的な主

次の文の下線部 _—に入る助詞としてより自然だと思うものを選んでください。

親戚の子供たちが遊びに来ました。子供たち——外でサッカーをしています。

が

○ は

○どちらでも良い (この文では判断できない)

図 2 クラウドソーシングにおける設問の例.

語とは異なるものである ${ }^{3)}$. 文章の形成や評価において，主題の構造は結束性などと並び重要な側面であるとされている $[1,2]$. また，例 1 のような「は」 と「が」の使い分けは日本語学習者にとって難しいとされており [10], 計算モデルが自然に使い分けられるのであれば，ライティング支援，学習者支援にも繋がる. 更に日本語では主題が省略される傾向もあり，どの要素を主題とするのが自然かといった自動評価は，どの要素を省略すると自然かといった研究・評価にも繋がると考えられる。

言語モデルによる文章の容認性判断に関する既存研究では，文レベルの文法性判断や $[11,12,13,14]$,論理的な能力 $[15,16]$ に焦点を当てた分析が多い.一方で，言語モデルの分析の文脈で文の主題に直接焦点を当てた研究は我々の知る限り存在しない.

## 3 データ作成

## 3.1 クラウドソーシング

NTC [7] 中の以下の条件を全て満たす主格をアノテーション対象とした。

・文内で最も後方に出現する動詞の主格である

・格助詞「が」または係助詞「は」を伴う

・各文章の先頭から 2-4 文目に出現する

上の条件を満たした主格について付随する助詞を隠し，クラウドワーカーに「は」と「が」のどちらを使用するのが適切か聞いた（図 2).「どちらでもよい(この文では判断できない)」という選択肢も用意した。それぞれの主格について，（i）同一文章内の先行文脈を全て見せる場合と（ii）文脈を見せない場合（特定の文脈を想像しない）の 2 つの設定でアノテーションをした. 両設定では異なるワーカがアノテーションをしている．また，ある問題について文脈ありの設問を解いた後，同一の文脈なしの設問を解くということが生じないようにした.

 & ラベル数 \\

事前に同様のタスクを複数回実施して優秀なワー カを選別し，さらにチェック設問を設定して不適切なラベルを付与するワーカを適宜除外した. この時点で 234 人のワーカから，各主格，各設定（文脈の有無）に対して 8 人のラベルを得た. さらに統計的後処理4) により信頼度下位 $30 \%$ のワーカを除外し,結果的に 3 人以下のラベルしか付与されていないデータポイントも除外した. 最終的に 1,562 の主格に対して，文脈の有無の両設定それぞれで平均 6 人から, 計 18643 ラベルが付与された. 得られたデー タセットにおけるアノテーション一致度はクリッぺンドルフの $\alpha$ で 0.694 であり，信頼可能なデータの一致度の下限とされる 0.667 を超えている [18].

## 3.2 サブセットの作成

1 節で言及したとおり，「は」と「が」の対立には主題か非主題かという軸だけでなく，対比を表すか排他を表すか，判断文であるか現象文であるか，どこまで係るかなどの様々な対立が内包されている $[3,8]$. 先行文脈で既に言及された要素は主題になりやすくなる（関連の主題）という，文脈依存の傾向が反映されたデータを収集するため，以下の条件を全て満たす主格を文脈依存の「は」として収集した。

・NTC 上で「は」を伴っていた.

・共参照アノテーション上で，主格の要素が先行文脈において既出である。

・文脈を見せることで，「は」と答える割合が $15 \%$ よりも上昇した.

上記条件を満たさずコーパス上で「は」を伴っていたデータポイントの集合については文脈非依存の 「は」，コーパス上で「が」を伴っていたデータポイントの集合については「が」全体と呼ぶ. サブセットの統計を表 1 に示す.

作成したサブセットごとにデータの例を示す。また，必要に応じて先行文脈を灰色で，アノテーション対象の主格を太字で載せる。

4）MACE [17]を用いて各アノテータの信頼度を計算した.

## 文脈依存の「は」の例

(2)十万円が当たった。暮れ息子が買ったジャンボ宝くじの二十枚連番の一枚である。昨日、息子はテレビでの当選番号と照らし合わせながら、「三千六百円になるから、お母さんにあげる」と言っていた。

毎日新聞記事データ集 1995 年版

例 2 では，主格の要素である「息子」が先行文脈に出現している. このように先行文脈に出現した要素やそれに関連するものは「は」を伴って主題になりやすいことが知られている [3].

## 文脈非依存の「は」の例

(3)民法九 $\bigcirc$ 条は、非嫡出子の相続分について 「嫡出子の二分の一とする」と定めている。

毎日新聞記事データ集 1995 年版

例 3 は主格の要素である「民放九○○条」について解説をする文となっている。このように主格名詞について解説 (措定) するときには「は」を伴う [19].

## 「が」全体の例

(4)ペソの暴落でメキシコ経済の混乱が続いている。北米自由貿易協定、中南米諸国だけでなく、日本や欧州企業にも影響が及び始めた。

毎日新聞記事データ集 1995 年版

例 4 は「メキシコ経済の混乱によって影響が及ぶ」 という現象を表した文である。現象をありのまま，判断の加工を施さないでそのまま表現した文を現象文と呼び，「が」を伴う [20]. 他にも排他の「が」など，様々な用法の「が」がこのサブセットに属する。

## 4 実験設定

言語モデルパラメータ数の異なる 2 つ Transformer ベースの言語モデル [21] (400M パラメータの TRANS-L と 55M パラメータの textscTrans-s）と LSTM ベースの言語モデル [22]（LSTM）について，「は」 と「が」の選択の傾向を分析する。言語モデルは文章レベルであり，学習データは約 300 万の新聞記事から成る ${ }^{5)}$. 言語モデルへの入力は，JUMAN[23] で形態素に分割したのち sentencepiece[24] でサブワー ドに分割した ${ }^{6)}$.

指標 3 節で作成した各インスタンスは， $\left(c, s_{\text {は }}, s_{\text {が }}\right)$

5）言語モデルの訓練に用いたデータは，3.1 節で作成した評価データと重複しない。

6） Unigram モデル [25]を用いた（character coverage $=0.9995$, vocab size $=100000$ )
の三つ組で表される. ただし， $s_{\text {は }}$ と $s_{\text {が }}$ は分析の対象となる主格が「は」または「が」を伴う文であり， $c$ は同一文章内の先行文脈である．各インスタンスにおける「は率」 $r_{\text {はを人と言語モデルに対して以下 }}$ のように計算する.

$
r_{\text {は }}=\frac{p\left(s_{\text {は }}\right)}{p\left(s_{\text {は }}\right)+p\left(s_{\text {が }}\right)}
$

ただし $p\left(s_{\text {は }}\right)$ および $p\left(s_{\text {が }}\right)$ は，人の場合何人中何人が「は」または「が」が自然であると判断したかの割合7) であり，言語モデルの場合 $s_{\text {はま }}$ および $s_{\text {が }}$ に対する生成確率である. $r_{\text {はが大きいほど「が」ではな }}$ く「は」が自然であると判断した割合が高いという

確信度の指標と考えられる。

また，文脈 $c$ を見せて（入力して）得られた $p\left(s_{\text {は }}\right)$ および $p\left(s_{\text {が }}\right)$ を元に計算した「は率」を $r_{\text {は }}^{\text {ctx }}$ ，文脈を見せない場合で得られた「は率」を $r_{\text {奻_ctx }}^{\text {woct }}$ と別する.人および各言語モデルについて，各インスタンスにおける文脈の影響を $\Delta_{\text {は }}=r_{\text {は }}^{\text {ctx }}-r_{\text {は_ctx }}^{\mathrm{wo} c \text { とす }}$ る. $\Delta_{\text {は }}$ が大きいインスタンスほど，文脈を見ることにより「は」を伴うと判断するようになった度合いが高いインスタンスであると言える.

## 5 実験 1: 文脈依存の「は」の傾向

はじめに，3.2 節で作成した文脈依存の「は」のサブセットについて人と言語モデルの傾向を分析する (表 2). 各言語モデルが各インスタンスに付与した $r_{\text {は }}^{\text {ct }}$ と $\Delta_{\text {は }}$ について, ワーカから得られた值との順位相関係数を報告する。 $r_{\text {は }}^{\text {ctx }}$ の相関は,「は」か「が」 を選択する際の確信度の強さにおける人らしさを示す. $\Delta_{\text {は }}$ 相関は，「は」と「が」の選択に及ぼす文脈の影響が人と言語モデルで似ているかを示す.

また，NAIST テキストコーパス上で主格に対して用いられていた助詞を正しい助詞 8 ) とみなした場合の正解率も報告する. 人の正解率は各インスタンスに付与されたラベルのうち正しい助詞（本実験では 「は」）を選択できたものの割合とし，言語モデルの正解率は正しい助詞に対して高い確率を付与できたインスタンスの割合とした. 文脈を見せた場合と見せない場合でそれぞれ正解率を計算した。

文脈ありの正解率を見ると人と言語モデルが同程度の値を示しており，およそ $90 \%$ という高い精度

表 2 文脈依存の「は」の選択傾向

 &  &  &  \\

で「は」と「が」の選択が可能であった。一方で表 2 中の文脈なしの正解率と文脈ありの正解率の比較より，人は文脈を見ることで正解率が 12 ポイント上がっているにも関わらず，言語モデルは先行文脈をみても正解率がほとんど変わらないことが確認された. 特に文脈を見ない場合の言語モデルの正解率が人よりも 10 ポイント程度高く，人が認識していないような文内の何らかの特徵量を手がかりに言語モデルが「は」と「が」の選択を行っていることが示唆された ${ }^{9)}$.また,$r_{\text {は }}^{\text {ctx }}$ の相関が弱いことから人と言語モデルの間のある種の選択の確信度が異なり， $\Delta_{\text {は }}$ 相関がないことからも文脈の考慮の仕方に乘離があることが分かる。つまり，言語モデルは正しく「は」と「が」の選択が行えているものの， その選択をする要因は人と異なることが示唆される.このような乘離は，言語理解タスクにおいて回答に十分な情報が提供されなくても解けてしまう問題 [26] や，人に認識不可能な特徵量（敵対的事例） の存在 [27] と類似する問題と考えられる。

本実験で確認された「は」と「が」の選択における乘離は，クラウドワーカによる複数人のアノテー ションや文脈が存在しない場合の判断といったコー パス上に表出されない情報によって明らかになった結果であり, 本データセットの作成に意義があったことを強調したい。なお言語モデル間の差については， $r_{\text {は }}^{\text {ctx }}$ の相関において LSTM が比較的人に近いという観察が得られた。

## 6 実験 2: コーパス全体の傾向

5 節では文脈依存の「は」のサブセットについて分析したが，最後に 3 節で作成したデータセット全体についても，人と言語モデルの傾向を分析する (表 3). 文脈なしの正解率と文脈ありの正解率を比較すると, 人も言語モデルも文脈の有無による正解率の変化は小さく，データセット全体としては「は」 と「が」の選択は文内の情報のみで可能であること

9）言語モデルだけが文脈を見ずに正解できたインスタンスを付録に示す.表 3 「は」と「が」の選択傾向 (データセット全体)

 &  &  &  \\

が示唆された.この結果は「は」と「が」の使い分けにしばしば情報の新旧といった談話レべルの概念が持ち込まれることと対照的であり，談話レベルの判断が必要な状況は実際のコーパス上では少数である可能性，文脈を見せない設定においても文内の情報から人が適当な文脈を復元できている（例えば代名詞の使用から情報の新旧の予測がつくなど）可能性を含めて今後さらに調査したい.

$r_{\text {は }}^{\mathrm{ctx}}$ の相関はどの言語モデルでも 0.79 以上と， データセット全体においては人と言語モデルの選択の確信度の強さに高い相関があることが確認された ${ }^{10)}$. 表 2 の $r_{\text {は }}^{\text {はtx }}$ の相関は弱かったことを踏まえると，言語モデルは「は」と「が」のどちらが自然かという粒度の選択においては人と近い傾向がみられるが，「は」を選択する際にどれくらいの確信度で選択しているかという側面では人と傾向に乘離があると考えられる (付録図 3)． $\Delta_{\text {は }}$ の相関はなく, 5 節の結果と一貫して，人と文脈の考慮の仕方に乘離があることが確認された。

## 7 おわりに

本研究では，談話レベルの文脈に依存する系列的な選択における言語モデルと人の判断について分析を行い，乘離があることを示した。「は」か「が」という選択においては言語モデルは人よりも正確な選択が行えるが，先行文脈の情報に依存した選択を行わないという点で人と乘離がみられた。これは言語モデルと人の「は」と「が」の選択の拠り所が両者で異なるということである．今後は，言語モデルが文内および先行文脈のどの部分の情報を頼りに系列的な選択を行うのかを調査していきたい。

## 謝辞.

本研究は JSPS 科研費 P19H04162 の助成を受けたものです.また，データセットの作成にあたり毎日新聞記事データ集 1995 年版の使用を許可していただいた毎日新聞社に感謝します。

10）人と言語モデルの $r_{\text {は }}^{\text {ctx }}$ の相関が高かったインスタンスを付録に示す.

## 参考文献

[1]Michael Alexander Kirkwood Halliday and Ruqaiya Hasan. Cohesion in english. Longman, 1976.

[2]Michael Halliday, Christian MIM Matthiessen, and Christian Matthiessen. An introduction to functional grammar. Routledge, 2014.

[3]野田尚史.「は」と「が」. くろしお出版, 1996. [4]松下大三郎. 標準日本口語法. 中文館書店, 1930.

[5]Barbara J Grosz, Aravind K Joshi, and Scott Weinstein. Centering: A framework for modelling the local coherence of discourse. Computational Linguistics, 1995.

[6]砂川有里子. 文法と談話の接点. くろしお出版, 2005.

[7]Ryu Iida, Mamoru Komachi, Kentaro Inui, and Yuji Matsumoto. Annotating a japanese text corpus with predicate-argument and coreference relations. In Proceedings of the linguistic annotation workshop, pp. 132-139, 2007.

[8]日本語記述文法研究会. 現代日本語文法 5 とりたて・主題. くろしお出版, 2009 .

[9]Suhas Arehalli and Tal Linzen. Neural language models capture some, but not all, agreement attraction effects, Feb 2020.

[10]孟玲秀. 『日本語教育における「は」と「が」の教授法』——国人学習者に対する日本語教育の場合—. 2004.

[11]Tal Linzen, Emmanuel Dupoux, and Yoav Goldberg. Assessing the ability of lstms to learn syntax-sensitive dependencies. Transactions of the Association for Computational Linguistics, Vol. 4, pp. 521-535, 2016.

[12]Jey Han Lau, Alexander Clark, and Shalom Lappin. Grammaticality, acceptability, and probability: A probabilistic view of linguistic knowledge. Cognitive Science, Vol. 41, No. 5, pp. 1202-1241, 2017.

[13]Jey Han Lau, Carlos S Armendariz, Shalom Lappin, Matthew Purver, and Chang Shu. How furiously can colourless green ideas sleep? sentence acceptability in context. arXiv preprint arXiv:2004.00881, 2020.

[14]Alex Warstadt, Alicia Parrish, Haokun Liu, Anhad Mohananey, Wei Peng, Sheng-Fu Wang, and Samuel R Bowman. Blimp: The benchmark of linguistic minimal pairs for english. Transactions of the Association for Computational Linguistics, Vol. 8, pp. 377-392,
2020.

[15]Xuhui Zhou, Yue Zhang, Leyang Cui, and Dandan Huang. Evaluating commonsense in pre-trained language models. In AAAI, pp. 9733-9740, 2020.

[16]Gregor Betz, Christian Voigt, and Kyle Richardson. Critical thinking for language models, 2020.

[17]Dirk Hovy, Taylor Berg-Kirkpatrick, Ashish Vaswani, and Eduard Hovy. Learning whom to trust with mace. In Proceedings of NAACL, pp. 1120-1130, 2013.

[18]Klaus Krippendorff. Content Analysis: an Introduction to its Methodology. Sage publications, 2004.

[19]三尾砂. 國語法文章論. 三省堂, 1948.

[20]三上章. 現代語法序説ーシンタクスの試みー. 刀江書院, 1953.

[21]Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, and Illia Polosukhin. Attention is all you need. In NeurIPS, pp. 5998-6008, 2017.

[22]Sepp Hochreiter and Jürgen Schmidhuber. Long shortterm memory. Neural computation, Vol. 9, No. 8, pp. 1735-1780, 1997.

[23]Daisuke Kawahara and Sadao Kurohashi. Case frame compilation from the web using high-performance computing. In Proceedings of LREC, Genoa, Italy, May 2006. European Language Resources Association (ELRA).

[24]Taku Kudo and John Richardson. Sentencepiece: A simple and language independent subword tokenizer and detokenizer for neural text processing. In EMNLP, pp. 66-71, 2018.

[25]Taku Kudo. Subword regularization: Improving neural network translation models with multiple subword candidates. Proceedings of ACL, 2018.

[26]Suchin Gururangan, Swabha Swayamdipta, Omer Levy, Roy Schwartz, Samuel R Bowman, and Noah A Smith. Annotation artifacts in natural language inference data. arXiv preprint arXiv:1803.02324, 2018.

[27]Andrew Ilyas, Shibani Santurkar, Dimitris Tsipras, Logan Engstrom, Brandon Tran, and Aleksander Madry. Adversarial examples are not bugs, they are features. In Advances in Neural Information Processing Systems, pp. 125-136, 2019.

(a) 文脈依存の「は

(b) データ全体

図 3 人と言語モデル (TRANS-L) の $r_{\text {は }}^{\text {はt }}$ の相関. 1 プロットが 1 インスタンスを表す.

表 4 人と言語モデルの「は」と「が」の選択傾向

## A インスタンス例

## 人と言語モデルの $r_{\text {はt }^{\text {ct }}$ 相関が高かったインスタンス}

(5)受験生に試練の季節がやってきた。十四日、日本海側が大雪に見舞われたなか始まった大学入試センター試験。今年の受験者は女子が大幅に増えるなど過去最多となった。

毎日新聞記事データ集 1995 年版

(6)三日未明から夕方にかけて北海道、東北地方で三陸はるか沖地震の余震とみられる地震が四回あった。午前一時四十二分ごろ、東北地方の一部で地震があった。

毎日新聞記事データ集 1995 年版

## 言語モデルだけが文脈を見ずに正しい助詞を選択できたインスタンス

(7) 4 歳の孫を連れておそば屋さんへ入りました。鍋焼きうどんを取って 2 人で食べました。孫は必死になって食べましたが、とても食べ切れません。

毎日新聞記事データ集 1995 年版

(8)七日は、無病息災を願う「春の七草」の日。大阪・キタの阪神百貨店では、午前八時から七草がゆの無料サービスを行い、サラリーマンや若い女性たち、剣道の早朝練習帰りの中学生らが季節の味覚を楽しんだ。用意した五百食は約一時間でなくなった。

毎日新聞記事データ集 1995 年版


# 質問応答に基づく日本語ゼロ代名詞同定

岩田 晟
渡辺 太郎
奈良先端科学技術大学院大学
\{iwata.sei.is6, taro\}@is.naist.jp

## 1 はじめに

日本語や中国では，文中の主語や目的語などの構成要素が省略されることがあり，このような省略をゼロ代名詞という．例えば，日英翻訳タスクにおいて日本語側の省略を補完する必要があり，結果として，このような省略は自然言語処理の応用タスクへと大きな影響を与える。

近年では共参照解析やNER などを質問応答 (Question Answering,QA) の一つである SQuAD 形式〉iteSQuAD のスパン予測問題をとして捉える研究がある [1][2].

本研究ではゼロ代名詞検出および同定タスクを QA タスクとして捉えた手法を提案する. 動詞または形容詞をクエリとし, その単語 (クエリ)を主辞とする節において省略された構成要素の種類およびその節の開始位置と終了位置を予測する. 句構造情報がアノテーションされた NPCMJ[3] を用いたゼロ代名詞同定タスクにおいて，BERT[4]を用いた系列ラベリングの手法と比べ, 提案手法は $\mathrm{F} 1$ 值で 2.2 ポイントの向上が確認できた.

## 2 関連研究

植田ら [5] は BERT[4] を用いた述語項構造解析・共参照解析・橋渡し照応解析の同時学習を提案した. Konno ら [6] は BERTを用いた Data Augmentation を行うことで，ゼロ照応解析の精度を向上させた.

Song ら [7] は，句構造の関係を利用し，BERTを用いてゼロ代名詞検出をサブタスクにしつつ, ゼロ代名詞の同定とゼロ照応解析を同時学習を行った. この手法では自己注意機構を用いて, 照応先の開始位置と終了位置を予測することでゼロ照応解析とした. Aloriani ら [8] と Aloriani ら [9]の研究では,句構造情報を踏まえて, BERT-base Multilingual $の$ 埋め込みを多層パーセプトロンの入力として用いることで，ゼロ代名詞同定とゼロ照応解析を行った. Takeno ら [10] は句構造構文情報の様々な素性を用

\author{
永田昌明
}

NTTコミュニケーション科学基礎研究所 masaaki.nagata.et@hco.ntt.co.jp

いることで，ゼロ代名詞検出を行った。

Devlin ら [4] は BERTを利用して，QAタスクにおいて質問とそれに対応する応答見つけるために，質問と文書を入力に文書の中から応答のスパンを予測した. Li ら [2] は NERのタグに対応する質問文を生成し，その質問と文を入力とすることで entity のスパンを予測することで Nested NER の問題に対応した. Wuら [1] は参照先をとうような質問を生成することでを共参照解析として捉えた手法を提案した。

## 3 スパン予測を用いたゼロ代名詞同定

本研究では，入力文における動詞や形容詞をクエリとし，クエリを主辞とする節にゼロ代名詞が存在するか，また，節に対応するスパンを予測するタスクとして定式化する. 入力文 $\boldsymbol{X}=\left.\{x_{1}, x_{2}, \ldots, x_{n}\right.\}$ とすると，とその文内のクエリー $x_{q}$ を与え， そのクエリを主辞とする節に対応するスパン $\left.\{x_{i}, \ldots, x_{j}\right.\}, 1 \leq i \leq j \leq n$ を予測する.

例えば，「宿題をすると私は決意した.」を入力文，動詞である「する」がクエリーとして与えられた場合，主語が省略されている節のスパン「宿題をする」を予測する。一方で「決意」がクエリーの場合，これを主辞とする節「〜と私は決意した.」には省略がないため，クエリを主辞とする節にはゼロ代名詞がないと予測する.定式化したタスクに対して，BERT[4]を用いた。

## 3.1 スパン予測を用いたゼロ代名検出

入力はこのクエリー $x_{q}$ とそのクエリーが含まれる文 $X$ である．具体的には二つの入力を特殊文字 $[C L S]$ と $[S E P]$ を用いて, 次のよう形式で BERT に与える.. $\left.\{[C L S], x_{q},[S E P], x_{1}, x_{2}, \ldots, x_{n}\right.\}$ ここで $[S E P]$ を基準にこれらの入力を基に， $[S E P]$ 以降の $i$ 番目のトークンに対して，スパンの開始確率 $S_{i}$ とスパンの終了確率 $E_{i}$ を予測する. $[C L S]$ の位置をゼロ代名詞がない場合に対応させ, $S_{[C L S]}$ と $E_{[C L S]}$ は，与えらた文にゼロ代名詞がない確率を表す。 ス

パンの開始確率 $S_{i} \in \mathbb{R}$ は Devlin らの SQuAD v2.0の手法 [4] と同様，次のように BERT の Encoder の最終層の埋め込みである $T_{i} \in \mathbb{R}^{n}$ を線形層に通して計算される。

$
S_{i}=\operatorname{softmax}\left(T_{i} W_{S}^{\top}+b_{S}\right)
$

ここで重み $W_{S} \in \mathbb{R}^{1 \times n}$, バイアス $b_{S} \in \mathbb{R}$ である. また, 終了確率 $E_{i}$ も同様に求める. 予測の開始位置と終了位置が $1 \leq i \leq j \leq n$ の時, これらの確率を用いてスパンのスコア定義は次のようにする。

$
\text { Score }_{i}, E_{j}=\log S_{i}+\log E_{j}
$

このスコアが最大となる区間にゼロ代名詞が存在すると予測する。一方で, 文中にゼ口代名詞がないスコアは [CLS] に対応する Score $_{\text {null }}=$ Score $_{S_{[C L S]}, E_{[C L S]}}$ とする. そのため, max $_{j \geq i}$ Score $_{S_{i}, E_{j}}<$ Score $_{\text {null }}$ のときは，与えられた文にはゼロ代名詞がないと予測する.

学習時の損失関数はクロスエントロピーを用いる. そのため, 正解の開始位置と終了位置が $i^{\prime}, j^{\prime}$ のとき，次のように対数尤度の和として定式化できる。

$
\text { loss }_{\text {span }}=-\log S_{i^{\prime}}-\log E_{j^{\prime}}
$

## 3.2 ゼロ代名詞クラス分類

3.1 節ではゼロ代名詞検出の二値分類であったが， ゼロ代名詞同定を行うためにクラス分類を行う1). $[C L S]$ に対応する BERT の Encoder の最終層の埋め込み $T_{-1} \in \mathbb{R}^{n}$ はクエリーと文の二つの入力が考慮された埋め込みとされている。

この $T_{-1}$ を用いて， ゼロ代名詞の num $_{\text {label }}$ 種類のクラスに対する確率を求める. 重み $W_{\text {label }} \in \mathbb{R}^{2 \times d}$ とバイアス $b_{\text {label }} \in \mathbb{R}^{\text {num label }}$ を用いて次のように表せる.

$
\begin{aligned}
H & =\operatorname{dropout}\left(T_{-1}\right) \\
P_{\text {label }} & =\operatorname{softmax}\left(H W_{\text {label }}{ }^{T}+b_{\text {label }}\right)
\end{aligned}
$

学習ではクロスエントロピーロスと正解のゼロ代名詞クラスを用いて，損失 loss label 計算する.

## 3.3 同時学習によるゼロ代名詞同定

本研究では, 3.1 節と 3.2 節のそれぞれのタスクを同時に学習することで, ゼロ代名詞の同定を行う.学習時の損失関数は次のように定義される.

$
\text { loss }_{\text {total }}=\alpha \text { loss }_{\text {span }}+(2-\alpha) \text { loss }_{\text {label }}
$
 クラスは述語の下位範疇に相当する.

表 1 データセットの内訳

ここで， $\alpha$ は $0<\alpha<2$ の間の値を取ることで，各タスクの損失関数に重みをつけるハイパーパラメー タである． 3.1 節のスパン予測にて省略が存在するとされたものを，3.2 節のタスクで予測したラベルのゼロ代名詞が省略されているとする。一方で，3.1 節のスパン予測にて省略がないと予測された場合は，このクエリを主辞と仮定したゼロ代名詞がないとする。

## 4 実験

## 4.1 実験データ

本実験のデータとして NINJAL Parsed Corpus of Modern Japanese（NPCMJ）[3]を用いる. NPCMJ はゼロ代名詞の情報を持つ欅ツリーバンク [11]を拡張したもので，青空文庫やニュースなどから成る約 4 万文に対して句構造がアノテーションされたコー パスである。ゼロ代名詞は，述語を主辞とする節 (inflectional phrase, IP) の最初の構成要素としてアノテーションされる.このアノテーションされた構文情報を用いて主辞が動詞 (VB) または形容詞 (ADJN) であり，ゼロ代名詞の有無にかかわらず全ての節を対象にクエリーを作成する。データセットは文単位で train : dev : test = 8:1:1 で分割を行う. データセットの各述語におけるゼロ代名詞の有無の件数と割合は表 1 のとおりである.

実験では, NPCMJでアノテーションさているゼロ代名詞の種類のうち, *pro*,*speaker*,*hearer $*, * T *$ を用い，それ以外は etc に置き換える。構文情報のアノテーションのうち，SBJに関するものは SBJ, OB1 や OB2 などの OBJ に関するものは OBJ，それ以外は Other タグに変換する．また，ゼロ代名詞がある述語 37410 件のうち，一つの述語に対して三つ以上ゼロ代名詞が含まれるものは $1 \%$ 未満である 80 件であった．そのため，今回の実験では一つのスパンに一つもしくは二つのゼロ代名詞の組み合わせをゼロ代名詞クラスとする．三つ以上の物に関しては

 &  & $89.2 \%$ \\

表 2 ゼロ代名詞検出の混同行列 (件数)

etcに置き換える。

## 4.2 モデル設定

事前学習言語モデルとして, NICT-BERT ${ }^{2}$ の BPE なし $\mathrm{BERT}_{B A S E}$ モデルを使用し，述語をクエリ，文を文脈として，述語を主辞とする節のスパンとゼロ代名詞の種類を予測するデータでファインチューニングした.

各パラメータ設定において，学習エポックは $\{2,4\}$, バッチサイズは 16 , 学習率は 3e-5, ドロップアウト確率は 0.1 , 式 6 のハイパーパラメータ $\alpha$ は $0.0 \sim 1.8$ のうち 0.2 間隔で用いた. 単語分割は NICT-BERT に合わせ，MeCab-Juman 辞書で単語分割を行った。

## 4.3 比較手法

ゼロ代名詞同定の実験において，BERT を用いた系列ラベリングを比較手法とする. Devlin ら [4] の手法を参考に，文全体を入力とし，BIOES 形式で述語にはゼロ代名詞クラス，それ以外は"O"をラベリングするように学習した. 正誤判定は提案手法のクエリーに対応する述語の箇所のみに適切なラベリングを行ったかで判定した。

## 4.4 実験 1: ゼロ代名詞検出

3.1 節で述べた質問応答に基づくゼロ代名詞検出に関する実験を行った.「ゼロ代名詞の有」かつ「そのゼロ代名詞の存在する節の完全一致」の時，True Positive (TP) とする. 表 2 はエポック 2 における混同行列である. 各セルには件数と割合を記載した.表 2 において，Gold データに対する True Negative (TN) の正答率が TP と比べて高い理由としては， TN は文中にゼロ代名詞が存在しない場合であるため,「節 (span) の一致」は考慮する必要がなく，「ゼロ代名詞の有無」の一致のみであるからと考えられる.

表 3 ゼロ代名詞検出の F1 值

表 4 ゼロ代名詞同定の F1 值

また，表 3 はエポック $\{2,4\}$ におる F1 值, Precision,Recall を載せる. Keyaki tree bank に対しての構文的素性を用いた Takeno ら [10] の F1 值が $73.2 \%$ であり，データセットは異なるため，単純な比較はできないが，これらの結果を踏まえても，表 3 の $81.3 \%$ は十分に高いスコアと言える.

## 4.5 実験 2: ゼロ代名詞同定

3.3 節の同時学習を用いてゼロ代名詞の同定に関する実験を行った. TPを「ゼロ代名詞の種類」が一致した場合とする。比較手法としては 4.3 の系列ラベリングを用いる．F1值による比較において，結果を表 4 に記す. 表 4 よれば，ベースラインよりも，提案手法の方が $2.2 \%$ 優れていた. ただし提案法はクエリとなる述語の正解を与えているので，厳密な比較ではないことに注意する必要がある.

また，式 6 のハイパーパラメータ $\alpha$ を変更した時の F1 の変化を図 1 に記す. 図 1 より，エポック 2,4 共に，ゼロ代名詞クラス分類に重心を強くして学習させるほうが，F1 值の精度が高かった.

## 5 エラー分析

提案手法の成果を確認するため，実際の事例を示す. 下線部がゼロ代名詞の存在する節である.

(1)衝撃や水濡れに強いのがウリの機種に決めました. Gold : pro_SBJ Predict : pro_SBJ

(2)偶然がもたらした大発見といってよいであろう。 Gold : $T \_O B J$ Predict : $T \_O B J$

例文 (1),(2) はゼロ代名詞の種類と主格/目的格を正確に捕らえらている.

一方で誤り例を示す.

図

実験 2 において， $\alpha$ を変化させたときの $\mathrm{F} 1$ 値

表 5 pro とその亜種の種類エラー率

(3)たまにはおごれよ.

Gold : hearer_SBJ Predict : speaker_SBJ

この場合，SBJ は認識できているが，二人称 (hearer) であるべきところを一人称 (speaker) と誤っている。このように主格/目的格は正確に捕らえられるが，pro とその亜種である hearer,speakerに関して区別できていないことがある. pro と比べ, 出現頻度低い speaker やhearer はこの傾向が顕著である.

表 5 は正解ラベルが SBJ に関するもの正答率と proと亜種の種類エラーにおける割合である.正答率において，亜種ラベルのない $T$-SBJ が $3.7 \%$ と比べて, pro とその亜種である speaker と hearer は正答率が大きく下がっている. 例文 (3) のような亜種に関するエラーが正答率を下げてる.このような亜種のエラーの割合は，"pro"のエラーのうち $10.1 \%$, "speaker"と"hearer"のそのようなエラー の割合は $35 \%$ 後半もある. "pro"と比べ，"speaker" と"hearer"がエラーが多い理由として, それらの付与されたデータ数の少なさ，および，提案法は文を入力単位としており, 文脈情報を利用していないことが考えられる.

## 6 おわりに

本研究では QA タスクにおけるスパン予測問題として定式化したゼロ代名詞の検出・種類同定を提案し，NPCMJ を用いて評価を行った.今後は推定した情報を基にゼロ照応解析や他言語のデータセットに対する評価などを行っていきたいと考えている。今回の提案手法では，一つの節に対して一つのクエリで推定を行っていたが，推定したゼロ代名詞のス
パンを用いて，節と節の関係について文全体で整合性をとることで，精度の向上が期待できる。

## 参考文献

[1]Wei Wu, Fei Wang, Arianna Yuan, Fei Wu, and Jiwei Li. CorefQA: Coreference resolution as query-based span prediction. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 6953-6963, Online, July 2020. Association for Computational Linguistics.

[2]Xiaoya Li, Jingrong Feng, Yuxian Meng, Qinghong Han, Fei $\mathrm{Wu}$, and Jiwei Li. A unified MRC framework for named entity recognition. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5849-5859, Online, July 2020. Association for Computational Linguistics.

[3]アラステアバトラー, 吉本啓, 岸本秀樹, プラシャントパルデシ. 統語・意味解析情報付き日本語コーパスのアノテーション. 言語処理学会第 22 回年次大会発表論文集, 3 月 2016.

[4]Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 41714186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[5]植田暢大, 河原大輔, 黒橋禎夫. Bert と refinement ネットワークによる統合的照応・共参照解析. 言語処理学会第 26 回年次大会発表論文集, 3 月 2020 年.

[6]Ryuto Konno, Yuichiroh Matsubayashi, Shun Kiyono, Hiroki Ouchi, Ryo Takahashi, and Kentaro Inui. An empirical study of contextual data augmentation for Japanese zero anaphora resolution. In Proceedings of the 28th International Conference on Computational Linguistics, pp. 4956-4968, Barcelona, Spain (Online), December 2020. International Committee on Computational Linguistics.

[7]Linfeng Song, Kun Xu, Yue Zhang, Jianshu Chen, and Dong Yu. ZPR2: Joint zero pronoun recovery and resolution using multi-task learning and BERT. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5429-5434, Online, July 2020. Association for Computational Linguistics.

[8]Abdulrahman Aloraini and Massimo Poesio. Anaphoric zero pronoun identification: A multilingual approach. In Proceedings of the Third Workshop on Computational Models of Reference, Anaphora and Coreference, pp. 22-32, Barcelona, Spain (online), December 2020. Association for Computational Linguistics.

[9]Abdulrahman Aloraini and Massimo Poesio. Cross-lingual zero pronoun resolution. In Proceedings of the 12th Language Resources and Evaluation Conference, pp. 90-98, Marseille, France, May 2020. European Language Resources Association.

[10]Shunsuke Takeno, Masaaki Nagata, and Kazuhide Yamamoto. Empty category detection using path features and distributed case frames. In Proceedings of the 2015 Confer-
ence on Empirical Methods in Natural Language Processing, pp. 1335-1340, Lisbon, Portugal, September 2015. Association for Computational Linguistics.

[11]Alastair Butler, Tomoko Hotta, Ruiko Otomo, Kei Yoshimoto, Zhen Zhou, and Hong Zhu. Keyaki treebank : phrase structure with functional information for japanese., 2012.


# 談話依存構造解析の教師なしドメイン適応

西田典起
理化学研究所 AIP
noriki.nishida@riken.jp

## 1 はじめに

談話依存構造解析 (Discourse Dependency Parsing) は文書内にある節や文の間の係り受けと修辞関係を同定し、文書の談話依存構造を明らかにすることを目指す $[1,2]$ 。本研究で解析対象にする論文アブストラクトの談話依存構造の例を図 1 に示す。談話構造はこれまで文書要約 $[3,1]$ や質問応答 [4]、極性分類 $[5,6]$ などのタスクでその有用性が確認されてきた。

談話構造解析の従来法は RST-DT [7] などのツリー バンクを使い、解析器を学習する $[8,9]$ 。しかし、既存のツリーバンクのサイズおよびそれらがカバーするドメインは限定的なため、一般的には解析したい文書はそれらのドメインから外れ、解析精度は低下する。よって、利用できる談話構造ツリーバンクのドメインと解析器を適用したいドメインが異なるときに、どのように適用先ドメインに解析器を適応するかという「教師なしドメイン適応」の問題は、現実的に重要な課題となっている。

本稿では、談話依存構造解析における教師なしドメイン適応問題に対する疑似ラベリング法 (Self-Training [10, 11, 12], Co-Training [13, 14, 15], Tri-Training [16], Asymmetric Tri-Training [17] など) の効果を調べ、その結果を分析する。疑似ラベリングはラベル付きデータとラベルなしデータからモデルを訓練する半教師あり学習の代表的な方法論である。本研究では特に科学技術論文アブストラクトの談話依存構造解析を対象に、自然言語処理アブストラクト(ソースドメイン)のツリーバンクで訓練された解析器を、医学生物学アブストラクト (ターゲットドメイン) に適応することを考える。実験の結果、疑似ラベリング、特に係り受けの一致率に基づいて合意基準を緩和化した Asymmetric Tri-Training が談話依存構造解析の教師なしドメイン適応に有効であることを確認した。解析精度は Labeled Attachment Score で 4.1 ポイント向上し、さ

\author{
松本裕治 \\ 理化学研究所 AIP \\ yuji.matsumoto@riken.jp
}

らに人手による談話構造のアノテーションコストが大幅に (e.g., 約 60\%) 削減できることがわかった。また、疑似ラベルの質と量の影響力は大きく、閾値による合意基準の調整によってそれらの最適なバランスを実現できることを示した。また、解析結果を分析し、解析エラーの主要因が (1) 係り受けパターンの頻度の偏り、(2) 談話関係クラスの曖昧性、(3) ドメインごとの論旨の展開の違いの 3 つである可能性があることを確認した。

## 2 方法

## 2.1 談話依存構造解析の疑似ラベリング

談話依存構造解析は、EDU の系列として表現された入力文書 $d=e_{0}, e_{1}, \ldots, e_{n}$ に対し、談話依存構造 $T=\{(h, m, l) \mid 0 \leq h \leq n, 1 \leq m \leq n, l \in \mathscr{L}\}$ を出力するタスクである。ここで $e_{0}$ は根ノードを表し、係り受け $(h, m, l)$ は $e_{h}$ (head) と $e_{m}$ (modifier) が談話関係 $l \in \mathscr{L}$ にって結合することを表す。本研究の疑似ラベリングは 4 ステップからなる。

1. 少量のラベル1) 付きデータ(ゴールドデータ)の集合 $L=\{\langle d, T\rangle\}$ を使い、解析器 $f$ を訓練する。

2. その解析器を使い、大量のラベルなしデータ $d^{\prime} \in U$ に対して疑似ラベル $T^{\prime}=f\left(d^{\prime}\right)$ を付与する。

3. 疑似ラベル付きデータの一部からシルバーデー タセット $L^{\prime}=\left.\{\left.\langle d^{\prime}, T^{\prime}\right.\rangle\right.\}$ を構成する。

4. ゴールドデータとシルバーデータを合わせて、解析器の再訓練を行う。

教師なしドメイン適応の問題設定では、ラベル付きデータについてはソースドメインのみに存在し、ラベルなしデータはテストデータと同じターゲットドメインから収集したものとする。

疑似ラベリングの方法として Self-Training, CoTraining, Tri-Training, Asymmetric Tri-Training の $4 \supset の$

ROOT

SARS-CoV-2 genetic identification is based on viral RNA extraction prior to RT-qPCR assay,

however recent studies support the elimination of the extraction step.

Herein, we assessed the RNA extraction necessity,

by comparing RT-qPCR efficacy in several direct approaches vs. the gold standard RNA extraction,

in detection of SARS-CoV-2 from laboratory samples as well as clinical Oro-nasopharyngeal SARS-CoV-2 swabs.

Our findings show advantage for the extraction procedure,

however a direct no-buffer approach might be an alternative,

since it identified up to $70 \%$ of positive clinical specimens.

図 1 科学技術論文アブストラクトの談話依存構造の例。

アルゴリズムを実装し、比較する。

Self-Training (ST) [10,11] は最も単純な疑似ラベリング法である。本研究では Reichart と Rappoport (2007) [12] に従い、すべての疑似ラベルをシルバー データとして用いた。ST は単一の解析器を用いるため、自己の誤り傾向を軌道修正する仕組みがなく、学習過程で誤りが増幅する可能性がある。

Co-Training (CT) [13, 14, 15] は二つの異なる解析器を使い、一方の解析器の予測結果をもう一方の解析器のシルバーデータとして活用する。

Tri-Training (TT) [16] は三つの解析器を使い、二つの解析器の予測結果が一致 (合意) している場合のみ、それを残り一つの解析器のシルバーデータとして採用する。すなわち、上記の ST や CT と異なり、疑似ラベル $T^{\prime}$ のうち二つの解析器の間で合意が得られたもののみを再訓練で用いる。

Asymmetric Tri-Training (AT) は TT の拡張であり、斎藤ら (2017) [17]によって教師なしドメイン適応の方法として開発された。AT では三つの解析器のうち一つをターゲットドメイン専用の解析器 $f_{t}$ として訓練する。具体的には、二つの解析器 $f_{1}$ と $f_{2}$ による予測結果 $T_{1}^{\prime}, T_{2}^{\prime}$ が一致しているときのみ、それをシルバーデータセット $L^{\prime}$ に追加し、 $f_{1}$ と $f_{2}$ は $L \cup L^{\prime} 、 f_{t}$ は $L^{\prime}$ のみで再訓練する。

## 2.2 合意基準の緩和化

TT および AT では一般に予測した「ラベル」が完全一致しているかどうかで合意判定されるが、談話構造解析では「ラベル」は文書レベルの木構造であるため、完全一致に基づく合意基準は非常に厳しい。その結果、ほとんどの疑似「ラベル」はシルバーデータとして採用されず、捨てられてしまう。

そこで、本研究では局所的に一致している係り受けの割合 (一致率) がある閾値以上の場合には合意し
ていると判定する。具体的には、 $\frac{2\left|T_{i}^{\prime} \cap T_{j}^{\prime}\right|}{\left|T_{i}^{\prime}\right|+\left|T_{j}^{\prime}\right|} \geq \tau$ を満たす場合のみ、 $T_{i}^{\prime}$ と $T_{j}^{\prime}$ の両方ともをシルバーデータセットに加える, i.e., $L_{k}^{\prime} \rightarrow L_{k}^{\prime} \cup\left.\{\left.\langle d^{\prime}, T_{i}^{\prime}\right.\rangle,\left.\langle d^{\prime}, T_{j}^{\prime}\right.\rangle\right.\}$. このような合意基準の緩和化によって、局所的に合意を得ている係り受け情報の活用を目指す。

## 2.3 談話依存構造解析器

Zhou と Goldman (2004) [15] によれば、CT においてデータの viewを明示的に二つに分けない場合、異なる inductive bias をもつモデルを使う必要がある。 また、モデル間の同意に基づく TT および AT でも、三つのモデルの多様性は重要であると考えられる。

本研究では、異なる解析戦略をもつ三つのニュー ラル談話依存構造解析器を実装する。具体的には、 グラフ型解析器 $(\mathrm{G})$ 、遷移型解析器 $\left(\mathrm{T}_{\mathrm{LR}}\right)$ 、逆向きの遷移型解析器 $\left(T_{R L}\right)$ を実装した。紙面の都合上、各解析器の詳細は省略する。

## 3 実験結果と考察

## 3.1 データ

ソースドメインのラベル付き訓練データとして、 SciDTB [18] に収録されている 742 件の NLPアブストラクトの談話依存構造を用いた。ターゲットドメインのラベルなし訓練データとして、CORD-19 [19] に収録されている 22,515 件の医学生物学アブストラクトを用いた。EDU 分割については Wang ら (2018) [20] の方法で自動的に行った。また、ター ゲットドメインのテストデータとして、CORD-19からランダムに 70 件のアブストラクトを選択し、それらに対して人手で談話依存構造をアノテーションした2）。以降ではこのデータセットを CORD19-DT

2）アノテーションに関しては、著者自身が行った。今後、より公平で大規模な設定で評価を行うために、現在第三者によるアノテーション作業を行っている。
表 1 各システムの評価結果。評価尺度として Labeled Attachment Score (LAS), Unlabeled Attachment Score (UAS), Undirected UAS (UUAS) を用いる。括弧内解析器を示す。 $\tau$ は合意基準の閾値を表す。SciDTB の結果の括弧内の数値はラベルなしデータとして NLP アブストラクトを用いたときのスコアである。

} \\

と表記する。 70 件のアノテーションデータをテストセット (50 件) と検証セット (20 件) に分割した。 CORD19-DT と SciDTB の特徵の比較については付録に載せる。

## 3.2 解析精度の比較

表 1 に各システムの評価スコアを載せる。比較のために、ターゲットドメインのラベルなしデータを活用しないべースラインシステム (Seed data only) のスコアも載せる。また、参考のために SciDTB のテストセットでの結果も載せる。

CORD19-DT での結果から、疑似ラベリングによるシステムはベースラインよりも一貫して高い解析精度であることがわかる。これは、疑似ラベリングによって、ターゲットドメインのラベルなしデータを活用して談話依存構造解析器のドメイン適応ができていることを示唆する。また、TT, AT は ST, CT よりも精度が高く、このことから複数の解析器の合意によってノイジーな疑似ラベルをフィルタリングすることが有効であるとわかる。また、本研究で導入した閾値による合意基準の緩和化も有効であった $(\tau=0.9$ vs. $\tau=0.5)$ 。

一方、SciDTB での結果では、TT $(\tau=0.5)$ を除いて、疑似ラベリングによる精度向上は見られなかった。しかし、ラベルなしデータとしてテストデータと同じドメインである NLP アブストラクトを用い

図 2 ラベル付きデータの個数と解析精度の関係。

図 $3 \mathrm{AT}$ における合意基準の閾値と、シルバーデータの量および解析精度の関係。量は全ラベルなしデータ数に対する割合で表す。

た場合、ST を除いて疑似ラベリングによる精度向上が見られた。このことから、疑似ラベリングを用いる場合、テストデータと同じドメインのラベルなしデータを用いることが重要であると判断できる。

## 3.3 アノテーションコストの削減率

図 2 にラベル付きデータの個数と解析精度 (LAS, UAS) の関係を示す。ラベル付きデータの個数の変化に対し、疑似ラベリングは一貫してベースラインを上回っている。また、AT の精度はST よりもほぼ一貫して高い。以上から、人手による談話構造デー タが少ないときにも、談話依存構造解析の教師なしドメイン適応に対し疑似ラベリングは有効であることがわかる。

また、注目すべきことに、図 2 は ATによって大幅にアノテーションコスト減らせることを示唆する。例えば、ベースラインシステムが $54.7 \%$ の LAS を実現するためには 742 件のラベル付きデータが必要であるのに対し、ATを用いることで必要なラべル付きデータの個数を 300 件まで減らすことができる。これは、AT によって、 $\frac{742-300}{742} \times 100 \fallingdotseq 60 \%$ のアノテーションコストの削減が可能であることを表す。

## 3.4 シルバーデータの量と質の重要性

AT における合意基準の間値 $\tau$ と、シルバーデー タの量および解析精度 (LAS, UAS) の関係を調べた結果を図 3 に示す。閾值が低すぎれば、解析器が予測する談話依存構造のうち一致率 (信頼性) が低いものまでシルバーデータに追加されてしまい、結果

図 4 AT による解析結果の混合行列。縦軸および横軸はそれぞれ人手またはシステムによる係り受けに対応する。各行で正規化している。

として解析精度が低くなってしまっている。一方、閾値が高すぎれば、ほとんどの談話依存構造が捨てられてしまい、結果としてシルバーデータの量が少なくなりすぎてしまい、ドメイン適応を行うのが難しくなっている。すなわち、閾値によってシルバー データの量と質が制御され、閾値をうまく調整することで量と質の最適なバランスを実現することができる。

## 3.5 エラー分析

ATを用いたシステムの解析エラーについて詳しく分析した結果、多くのエラーが以下の 3 つに起因することがわかった。

一つめの要因は、係り受けパターンの頻度の偏りである。低頻度のパターン (e.g., 長さ $\geq 2$, ラベル =Evaluation) を誤って最頻出の係り受けパターン (i.e., 長さ $=1$, ラベル=Elaboration) として解析する傾向が見られた。図 4 は、CORD19-DT における解析結果の混合行列である。それぞれ、係り受けの長さと談話関係ラベルに対応する。長さ 1 の係り受けの 90\%については同定できているのに対し、長さ 2 以上の係り受けについては約 $60 \%$ しか同定できていない。また、談話関係の誤分類のほとんどは Elaboration として予測されており (Elaboration の列を参照)、実際に Elaboration は SciDTB 中で最頻出の談話関係クラスである (付録参照)。

二つめの要因は、談話関係クラスそのものの曖昧性である。例えば、Elaboration と Progression, Cause-effect と Explain の識別は常に自明であるとは限らず、これらはしばしば人間にとっても識別するのが難しい。図 5 は、CORD19-DT のデータに対するシステムの解析結果の例である。EDU 間の係り受け (エッジ) については正しく同定できているが、 エッジ $(1,2)$ についてその関係クラスを Cause-effect

図 5 CORD-19-DT における解析結果の例。赤は解析エラー、青は正解を表す。

図 6 CORD19-DT における解析結果の例。

ではなく Explain と誤分類してしまっている。

最後の要因は、ドメイン (分野)ごとの論旨の展開傾向の違いである。具体例を図 6 に示す。システムは、 $e_{3}$ (head) から $e_{11}$ (modifier)への係り受けのラベルを、 $e_{11}$ の内容は $e_{3}$ の評価結果ではなく研究による知見であるにも関わらず、Evaluation と誤分類している。これは、Evaluation 関係の係り受けの頻度が SciDTB では CORD19-DT にくらべて非常に多く (7.4\% vs. $1.9 \%)$ SciDTB で訓練された解析器が 「Evaluation 関係の係り受けは論文アブストラクトの終盤EDUとの間で起こる」と学習しているからだと考えられる。

## 4 おわりに

本稿では、談話依存構造解析の教師なしドメイン適応問題に対する疑似ラベリング法 (Self-Training, Co-Training, Tri-Training, Asymmetric Tri-Training) の検討を行った。間値により同意基準を緩和化した Asymmetric Tri-Training が最も効果的であり、 4.1 ポイントの解析精度の向上と $60 \%$ のアノテーションコストの削減が可能であることを確認した。また、間值によって制御できるシルバーデータの量と質のバランスの重要性を示し、解析エラーの 3 つの主要因について分析した。

今後は、CORD19-DT の拡大および、論文全体の談話構造を解析する方法の開発に取り組んでいく。

## 謝辞

本研究は JST CREST(課題番号: JPMJCR1513) の支援を受けて行った。

## 参考文献

[1]Yasuhisa Yoshida, Jun Suzuki, Tsutomu Hirao, and Masaaki Nagata. Dependency-based discourse parser for singledocument summarization. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, 2014.

[2]Mathieu Morey, Philippe Muller, and Nicholas Asher. A dependency perspective on RST discourse parsing and evaluation. Computational Linguistics, Vol. 44, No. 2, pp. 197-235, 2018.

[3]Annie Louis, Aravind Joshi, and Ani Nenkova. Discourse indicators for content selection in summarization. In $S I G$ DIAL'10, 2010.

[4]Peter Jansen, Mihai Surdeanu, and Peter Clark. Discourse complements lexical semantics for non-factoid answer reranking. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, 2014.

[5]Livia Polanyi and Martin Van den Berg. Discourse structure and sentiment. In 2011 IEEE 11th International Conference on Data Mining Workshops, 2011.

[6]Parminder Bhatia, Yangfeng Ji, and Jacob Eisenstein. Better document-level sentiment analysis from RST discourse parsing. In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, 2015.

[7]Lynn Carlson, Daniel Marcu, and Mary Ellen Okurowski. Building a discourse-tagged corpus in the framework of Rhetorical Structure Theory. In Proceedings of the 2nd SIGdial Workshop on Discourse and Dialogue, 2001.

[8]Yangfeng Ji and Jacob Eisenstein. Representation learning for text-level discourse parsing. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, 2014.

[9]Shafiq Joty, Giuseppe Carenini, and Raymond T. Ng. CODRA a novel discriminative framework for rhetorical analysis. Computational Linguistics, Vol. 41, No. 3, pp. 385-435, 2015.

[10]David Yarowsky. Unsupervised word sense disambiguation rivaling supervised methods. In Proceedings of the 33rd Annual Meeting of the Association for Computational Linguistics, 1995.

[11]David McClosky, Eugene Charniak, and Mark Johnson. Effective self-training for parsing. In Proceedings of the 2006 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, 2006.

[12]Roi Reichart and Ari Rappoport. Self-training for enhancement and domain adaptationa of statistical parsers train on small datasets. In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics, 2007.

[13]Avrim Blum and Tom Mitchell. Combining labeled and unlabeled data with co-training. In Proceedings of the 11 th Annual Conference on Computational Learning Theory, 1998.

[14]Mark Steedman, Miles Osborne, Anoop Sarkar, Stephen Clark, Rebecca Hwa, Julia Hockenmaier, Paula Ruhlen, Steven Baker, and Jeremiah Crim. Bootstrapping statistical parsers from small datasets. In Proceedings of the 10th Conference of the European Chapter of the Association for
Computational Linguistics, 2003

[15]Yan Zhou and Sally Goldman. Democratic co-learning. In Proceedings of the 16th IEEE International Conference on Tools with Artificial Intelligence, 2004.

[16]Zhi-Hua Zhou and Ming Li. Tri-training: Exploiting unlabeled data using three classifiers. IEEE Transactions on Knowledge and Data Engineering, Vol. 17, No. 11, 2005.

[17]Kuniaki Saito, Toshitaka Ushiku, and Tatsuya Harada. Asymmetric tri-training for unsupervised domain adaptation. In Proceedings of The 34th International Conference on Machine Learning, 2017.

[18]An Yang and Sujian Li. SciDTB: Discourse dependency treebank for scientific abstracts. In Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics, 2018.

[19]Lucy Lu Wang, Kyle Lo, Yoganand Chandrasekhar, Russell Reas, Jiangjiang Yang, Douglas Burdick, Darrin Eide, Kathryn Funk, Yannis Katsis, Rodney Kinney, Yunyao Li, Ziyang Liu, William Merrill, Paul Mooney, Dewey Murdick, Devvret Rishi, Jerry Sheehan, Zhihong Shen, Brandon Stilson, Alex D. Wade, Kuansan Wang, Nancy Xin Ru Wang, Chris Wilhelm, Boya Xie, Douglas Raymond, Daniel S. Weld, Oren Etzioni, and Sebastian Kohlmeier. CORD19: The COVID-19 open research dataset. arXiv preprint arXiv:2004.10706, 2020.

[20]Yizhong Wang, Sujian Li, and Jingfeng Yang. Toward fast and accurate neural discourse segmentation. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, 2018.

## A 付録: CORD19-DT vs. SciDTB

本付録では、本研究で構築している CORD19-DT と、Yang ら (2018) によって構築された SciDTB の特徵の違いについて報告する。これら二つはそれぞれ医学生物学論文または自然言語処理論文のアブストラクトに対して人手で談話依存構造をアノテーションしており、ここで示す特徴の違いはドメイン間のギャップの大きさ、ドメイン適応の難しさを表す。

表 2 に CORD19-DT と SciDTB の特徴を載せる。医学生物学のアブストラクトの長さ (i.e., 文数、トー クン数) は NLP アブストラクトよりも長い傾向にあることがわかる (7.2 文vs. 5.3 文; 197.5 トークンvs. 130.5 トークン)。一方、平均 EDU 数については一致している (14.0 vs. 14.0)。このことから、医学生物学の EDU は平均的に NLP の EDU よりも長く (情報量が多く)、教師なしドメイン適応ではこの点が課題の一つになりうる。

係り受けの平均長 (談話関係によって結合される EDU 間の平均距離) についてはほぼ等しい $(2.5 \mathrm{vs}$. 2.4)。これは、一般に長い係り受けは読み手への負荷が高いため自然言語文書において起こりにくく、 この傾向は分野に依らないことを示唆する。

一方、文書 $d=e_{1}, \ldots, e_{n}$ 全体の親であり、根ノ一ド $e_{0}$ の唯一の子である Root EDU の平均位置は、医学生物学では前から 5.9 番目であるのに対し、NLP では 3.9 番目であった。両分野ともにアブストラク卜は大まかに研究背景 $\rightarrow$ 研究目的と方法 $\rightarrow$ 結果と考察という順番で記述される傾向にあると考えると、医学生物学では研究背景部分に関する記述が NLP よりも多く、対応して談話依存構造の傾向も分野間で異なることを示唆する。

各データセットにおける談話関係クラスごとの係り受けの分布を表 3 に載せる。いくつかの談話関係については出現率が大きく異なることがわかる。 Elaboration の出現率の違い (47.2 vs. 39.1) については、表 2 で見たように医学生物学アブストラクトは NLP アブストラクトよりも情報量が多く、順接で情報展開されることが多いことを反映していると考えらえる。Evaluation の出現率の違い (1.9 vs. 7.4) については、医学生物学論文の主軸は知見 (実験結果) の記述であることが多く、Root EDU そのものが知見に関するものであることが多いのに対し、NLPでは主軸が開発した手法であることが多く、その評価結果についてアブストラクトの後半で別に記述する傾表 2 CORD19-DT と SciDTB [18] の比較. 数値は各データセットのすべてのアブストラクト数を用いて平均化して

表 3 CORD19-DT と SciDTB における各談話関係クラスごとの係り受けの分布。

向にあることを反映していると考えられる。談話関係の分布は文書においてどのように論旨が展開されるのかという傾向を反映しており、このような論旨の展開傾向の違いはドメイン適応の難しさを表す。


# 物語におけるイベントの顕現性推定と物語類似性計算への応用

大竹孝樹 1 横井祥 1,2 井之上 直也 ${ }^{2,3}$ 高橋諒 1,2 栗林樹生 1,4 乾健太郎 1,2
1 東北大学 2 理化学研究所 ${ }^{3}$ Stony Brook University ${ }^{4}$ Langsmith 株式会社
\{takaki, yokoi, ryo.t, kuribayashi, inui\}@ecei.tohoku.ac.jp
naoya. inoue. lab@gmail.com

## 1 はじめに

物語はあるイベントや一連のイベントの表現である [1]. 物語に登場するイベントはその顕現性（重要さ）が異なり，物語において大きな役割を果たす重要なイベントとそうでないイベントが存在する。童話『シンデレラ』を例に挙げると，「シンデレラが王子に見初められる」というイベントは物語の進行に大きく関わる顕現性の高いイベントだが，「シンデレラが井戸で水を汲む」はそうではない。このようなイベントの顕現性推定は物語の自動生成などのタスクに役立ち，また物語分析のためのツールとしても有用である $[2,3]$. 物語におけるイベントの顕現性推定の有望な応用先として，物語の類似性計算が挙げられる．私たち人間は物語の類似性を自然に認識することができ，例えば「恵まれない境遇の女性が幸運を掴み成功を手に入れる」という物語は我々に『シンデレラ』との類似を思い起こさせる. こういった物語の類似性・類型を対象にした研究は人文学 $[4,5]$ 及び自然言語処理分野 $[6,7,8]$ で盛んに行われてきた. とくに民俗学や物語論では，顕現性の高いイベントに着目して物語の類型分類・分析を行う研究が多く存在し $[5,4,9]$, これらの研究は,物語の類似性を計算機によって計算する際にイベン卜顕現性を考慮することの重要性を示唆している.本研究では，物語論においてロラン・バルト (Roland Barthes) によって提案されたイベント顕現性の概念である枢軸機能体 (Cardinal Functions) $[10,11]$ の定義1) に基づき，あるイベントの顕現性を “そのイベントを物語から削除したときに，物語全体としての首尾一貫性が損なわれる度合い”として推定する手法を提案する [13]（2 節)。人手によりイベント顕現性が付与された昔話コーパスに提案法を

## 言語モデル(首尾一貫性の計算モデル)

salience $\left(\boldsymbol{S}_{3}\right)=\operatorname{coherence}\left(\boldsymbol{S}_{\{\mathbf{1}: n\}}\right)-\operatorname{coherence}\left(\widetilde{\boldsymbol{S}}_{\{1: n\}}\right)$

図 1 バルトの枢軸機能体の概念に基づいた

物語におけるイベントの顕現性推定手法の概要.

適用し，その有効性を実験的に検証する（3 節).

加えて，提案法が物語の類似性計算に有用であるか検証するため，提案法を利用した物語の類似性計算方法を検討する．民俗学の専門家により物語の類型が付与された民話コーパスにおける実験で，提案法によりイベント顕現性を考慮する効果を実験的に検証する（4 節）。

## 2 物語におけるイベント顕現性推定

## 2.1 タスク設定

本研究では Ouyang ら [2] に従い，イベントそのものではなく文の顕現性を推定するタスクに取り組む. すなわち，物語を構成する各文に対して， その文が顕現性の高いイベントを含む度合いを推定する。形式的には， $n$ 個の文から構成される物語 $S_{\{1: n\}}:=\left.\{S_{1}, \ldots, S_{n}\right.\}$ と，ターゲット文 $S_{k} \in S_{\{1: n\}}$ が与えられ，タスクは $S_{k}$ に対する顕現性スコア $\sigma\left(S_{k}, S_{\{1: n\}}\right) \in \mathbb{R}$ を予測することである.

## 2.2 提案手法

概要バルトの枢軸機能体の定義に基づき，顕現性スコア $\sigma\left(S_{k}, S_{\{1: n\}}\right)$ を “文 $S_{k}$ に含まれる全てのイベントを $S_{\{1: n\}}$ から削除した際に，物語全体としての首尾一貫性が損なわれる度合い”として計算する。提案法の概要を図 1 に示す。
$r$ を後述するイベント削除関数とし, $\widetilde{S}_{\{1: n\}}:=$ $\left.\{S_{\{1: k-1\}}, r\left(S_{k}\right), S_{\{k+1: n\}}\right.\}$ を, $S_{\{1: n\}}$ において $S_{k}$ に含まれる全てのイベントが削除された物語とする。 $c(S)$ を物語 $S$ の首尾一貫性スコアとすれば， $S_{k}$ に対する顕現性スコアは以下の式で与えられる。

$
\sigma\left(S_{k}, S_{\{1: n\}}\right):=c\left(S_{\{1: n\}}\right)-c\left(\widetilde{S}_{\{1: n\}}\right)
$

イベントの削除方法イベント削除関数 $r$ として以下の 3 つを検討する。

・文削除: 文そのものを削除する
- 動詞置換: 文に含まれる全ての動詞を，“do”, “does”，“did”など一般的な動詞で置き換える2)
- 動詞 - 項置換: 動詞置換と同様の処理に加え, 動詞の項（主格・目的格）を不定代名詞“someone”, “something”で置き換える")

物語の首尾一貫性の計算方法 See ら [14] に従い，事前学習済み言語モデルによって計算される物語テキストの生成確率をその物語の首尾一貫性スコアと見なす. 物語テキストの首尾一貫性スコア $c(S)$ は以下の式で与えられる。

$
c\left(S_{\{1: n\}}\right):=\frac{1}{\left|S_{\{k+1: n\}}\right|} \log P\left(S_{\{k+1: n\}} \mid S_{\{1: k-1\}}, S_{k}\right),
$

$c\left(\widetilde{S}_{\{1: n\}}\right):=\frac{1}{\left|S_{\{k+1: n\}}\right|} \log P\left(S_{\{k+1: n\}} \mid S_{\{1: k-1\}}, r\left(S_{k}\right)\right)$,

ここで $\left|S_{\{k+1: n\}}\right|$ は $S_{\{k+1: n\}}$ に含まれるトークンの総数である. 詳細を付録 A. 1 に示す.

## 3 実験 1: 物語中の文の顕現性推定

本節では，提案法が物語におけるイベント顕現性を推定できるかどうかを実験的に確かめる．具体的には，人手によりイベント顕現性が付与された物語コーパスを用いて，各提案法の性能を複数のベースライン手法と比較する.

## 3.1 実験設定

データセット評価用データセットとして, Finlayson [15] によって提案された ProppLearner コー パスを使用した。コーパスの基本統計量を付録 A. 2 の表 3 に示す.コーパス中の各物語には，動詞に対

2）置換先の一般的な動詞として "do", “does", “did", “done”, “doing”を使用する．例えば，品詞タグが VBZ（三人称単数現在形の動詞）である場合，“does”で置き換える.

3）ARG0 (agent) に該当するテキストのスパンを “someone”で， ARG1 (patient) に該当するスパンを“something”で置き換える。
して Propp の機能4)（顕現性の高いイベント）が付与されている． 2.1 節のタスク設定に従い，各手法はそのような動詞を含む文を判別する.

提案法に用いる言語モデル首尾一貫性の計算に使用する言語モデルとして, 事前学習済みの GPT-2 [17]を使用した. 物語ドメインへの適応の度合いが異なる 3 種類の fine-tuning の設定を検討する。

・ fine-tuning なし: 事前学習済みの GPT-2をそのまま使用する。
- BookCorpus: 一般的な物語ドメインへの適応を狙い，物語ドメインの大規模コーパスである BookCorpus [18] で fine-tuning する.

$\cdot$ ProppLearner: トランスダクティブ設定 $[19,20]$ のドメイン適応として, ProppLearnerコーパスで fine-tuning する.

ベースライン手法提案法の比較対象として，以下のベースライン手法を検討する:

・ランダムベースライン: 各文に対して $[0,1)$ の範囲のランダムなスコアを与える.

・TF-IDFベースライン: 各文に対してその文を構成する単語の TF-IDF 値の和を与える。

## 提案法と TF-IDF ベースラインの組み合わせ手法加えて, 各提案法と TF-IDFベースラインを組み合 わせる手法を検討する．各提案法と TF-IDFベース ラインが各文に対して計算する顕現性スコアはまず 各物語内で $[0,1]$ の値に正規化され，それら 2 つの 値の和が組み合わせ手法の顕現性スコアとなる。

以上より，提案法はイベント削除方法 ( 3 種類) $\times$言語モデルの fine-tuning 設定 $(3$ 種類 $)=9$ 種類のバリエーションをもつ．TF-IDFベースラインとの組み合わせ手法を含めると計 18 種類となる.

評価指標 Liu ら [21] に従い，顕現性推定をランキング問題とみなして評価を行う。すなわち，各手法はそれぞれの物語に含まれる文を顕現性スコアの高い順にランク付けし, 最終的に構成されるランキングの良さを評価する。評価尺度として，2 値適合性に基づくランキングの評価に一般的に用いられる Mean Average Precision (MAP) [22]を使用した.

## 3.2 実験結果

表 1 に各手法の結果を示す. +TF-IDF に対応する行は組み合わせ手法の結果を表している。全提案法

4）Propp の機能は “登場人物の行為で、しかも、筋＝出来事全体の展開過程にとって当の行為がもちうる意義 (位置) という観点から規定された登場人物の行為” [16] と定義される.

は一貫してランダムベースラインの性能を上回り，提案法単独では (文削除, ProppLearner) が最も高い性能を示した。

イベントを削除する方法の比較動詞置換や動詞・項置換と比べて，文削除が概ね良い性能を示していることがわかる. 動詞置換や動詞・項置換によるイベント削除は文からイベントの情報のみをより精緻に削除することが期待されたが，実験結果はこれらのイベント削除方法は効果的でないことを示している．動詞置換や動詞・項置換では，文に含まれる単語を置換する操作によって不自然な文が生成され，こうした文が言語モデルの推論に悪影響を及ぼしている可能性が考えられる.

言語モデルの fine-tuning の効果 GPT-2を BookCorpus で fine-tuning した場合には一貫して提案法の MAP スコアが改善しており，またトランスダクティブ設定の fine-tuning をした場合には文削除と動詞・項置換による提案法の MAP スコアが改善していることが確認できる。これらの結果から，首尾一貫性の計算に使用する言語モデルを物語ドメインに適応させることが有効であることがわかる.

提案法と TF-IDF ベースラインの組み合わせ手法組み合わせ手法は全ての場合で各提案法そのもの, あるいは TF-IDF ベースラインそのものの性能を一貫して上回る結果となり，最終的に提案法（文削除， BookCorpus）と TF-IDF ベースラインの組み合わせが全手法の中で最も高い性能を達成した. これらの結果は，バルトの枢軸機能体の概念に基づいて提案法が計算するイベント顕現性の手がかりと，単語の頻度・逆文書頻度に基づく手がかりが相補的な関係にあり，これらが統合されることでより良いイベン卜顕現性の尺度となっていることを示唆している。

付録 A. 3 の表 5 に童話『シンデレラ』の toy example に対する提案法の実際の振る舞いを示す.

## 4 実験 2: 物語類似性計算への応用

本節では，提案法が計算する顕現性スコアが物語の類似性計算に有用であるか実験的な検証を行う。具体的には，まずイベント顕現性を考慮する儿ないという点のみが異なる物語の類似性計算方法を検討する。次にそれらを専門家による分類が付与された物語データセットに適用し，内的/外的な評価を行うことで，提案法により顕現性を考慮することで物語の類似性計算が改善するかどうかを確かめる。

表 1 各手法のMAP スコア. ランダムベースラインはシード值を変えて 10 回の実験を行った際の平均值である (標準偏差 $=0.015)$. ダガーのついた値はランダムベースラインから $p<0.05$ で統計的に有意な差があったものを示している。統計的検定は Wilcoxon signed-rank test [23] により行った.太字の值は提案法単独で最も性能が高いものを，太字かつ斜体の値は提案法と TF-IDF ベースラインの組み合わせ手法の中で最も性能が高いものを示す。

## 4.1 物語類似性の計算方法

物語テキスト $S$ 及び $S^{\prime}$ の埋め込み表現をそれぞれ $\mathbf{S}, \mathbf{S}^{\prime}$ とする. $\mathbf{S}, \mathbf{S}^{\prime}$ はそれぞれ物語 $S$ 及び $S^{\prime}$ を構成する文の文ベクトル和である. 本研究では $S$ と $S^{\prime}$ の類似度 $\operatorname{sim}\left(S, S^{\prime}\right)$ をコサイン類似度 $\cos \left(\mathbf{S}, \mathbf{S}^{\prime}\right)$ で計算する。

イベント顕現性を考慮しない場合: 文ベクトルを，文を構成する単語の単語ベクトルの和とする。

イベント顕現性を考慮する場合：文ベクトルを，文を構成する単語の単語べクトルの顕現性重みつき和とする。重みは提案法が文に対して計算した顕現性スコア゙)であり，(文削除, fine-tuning なし) 及び (文削除, BookCorpus) の 2 通りを検討する. 比較対象として，重みを単語の TF-IDF 值とするべースラインを検討する。また各提案法と TF-IDFベースラ

5）顕現性スコアは負の値をとる場合もあるため，重みは $1+[0,1]$ に正規化した顕現性スコアとした。

6) 重みを 1 + (正規化した顕現性スコアと正規化した TF-IDF 値の平均値)とした。

 &  \\

TF-IDF & - & $\mathbf{. 1 7 8 0}$ & .0029 & .0034 \\

fine-tuning なし) & $\checkmark$ & .1724 & .0049 & .0052 \\

BookCorpus) & $\checkmark$ & .1725 & $\mathbf{. 0 0 6 0}$ & $\mathbf{. 0 0 5 4}$ \\

表 2 物語の類似性計算の実験結果. 太字の値は各指標で最も性能が高いものを示す。+TF-IDF に対応する行は各提案法と TF-IDFベースラインの組み合わせ手法を示す.

インの組み合わせ手法6)を検討する．全ての場合で重み付けを行う単語は文に含まれる動詞とその項 （主格・目的格）とした.

## 4.2 実験設定

データセット評価用データセットとして，大竹ら [24] が作成した 793 編の民話からなるデータセットを使用した. データセットの基本統計量を付録 A. 2 の表 4 に示す. 各物語には，民俗学において最も一般的な民話の分類体系の一つであるATU 分類 [5] が付与されている．ATU 分類は，物語をそのモチーフ（物語中に出現する特徵的な要素，たとえば「Crimes punished (罪が罰せられる)」）に基づき階層的に分類した体系である.

内的な評価方法: RSA Score ATU 分類の分類木上での物語の距離構造が，どの程度埋め込み空間にエンコードされているかを RSA Score $[25,26] を$用いて定量的に評価する. 今回使用する民話デー タセットの埋め込み空間における表現を $r_{1}$, 分類木上での離散的な表現を $r_{2}$ とする. Bouchacourt ら [26] に従い， $r_{1}$ 内で物語ぺアの全組み合わせについて類似度を計算し，その類似度列を $s_{1}, r_{2}$ において同様に求めた類似度列を $s_{2}$ として， $s_{1}$ と $s_{2}$ の間のスピアマンの順位相関係数を RSA Score とする。ただし，分類木における物語間の類似度は，物語 $S$ と $S^{\prime}$ の分類木上でのパス長を $\operatorname{dist}\left(S, S^{\prime}\right)$ とし, $\max _{S, S^{\prime}}\left[\operatorname{dist}\left(S, S^{\prime}\right)\right]-\operatorname{dist}\left(S, S^{\prime}\right)$ として計算した. RSA Score の値が高ければ，ATU 分類における物語の距離構造が，埋め込み空間によく反映されている （すなわち， $r_{1}$ で近い物語ペアは $r_{2}$ で近く, $r_{1}$ で遠い物語ぺアは $r_{2}$ で遠くなっている）ことを示す.

外的な評価方法: ARIによるクラスタリング評価先に述べた複数の類似性計算方法により物語の集合をクラスタリングし，結果が専門家による分類であ
る ATU 分類とどの程度一致するかを評価する。クラスタリング結果の分割 $\widehat{C}$ と正解の分割 $C$ の一致の尺度として，一般的に用いられる Adjusted Rand Index（以下 ARI）[27]を用いた。また，クラスタリングアルゴリズムとして階層的凝集型クラスタリング（群平均法）を使用した。クラスタリングとその結果の評価は, ATU 分類の中間層における分類 (例: ATU type1-99『野生動物』), 及び最下層における分類 (例: ATU type333『赤ずきん』)の 2 通りで行った.内的/外的な評価実験共に，単語ベクトルとして学習済みの GloVe [28]を使用した。

## 4.3 実験結果

結果を表 2 に示す. RSA Score による内的な評価に注目すると，イベント顕現性を考慮しない場合と比較して，提案法によってイベントの顕現性を考慮することで物語の類似性計算が改善していることがわかる．クラスタリングによる外的な評価に注目すると，提案法単独の重み付けをおこなった場合， ATU 分類の最下層におけるクラスタリングでは効果が見られなかったものの，中間層においては提案法のイベント顕現性スコアを考慮することでょり正解の分類と近いクラスタが形成されていることがわかる.また実験 1 の結果（3節）と同様, 評価指標によらず提案法と TF-IDF ベースラインを組み合わせることで提案法単体よりも性能が向上していることが確認できる。これらの結果は，バルトの枢軸機能体の概念に基づく提案法が物語の類似性計算に役立つ可能性を示唆するものである.

## 5 おわりに

本論文では，物語論におけるイベント顕現性の概念であるロラン・バルトの枢軸機能体の定義を足掛かりに，物語におけるイベントの顕現性を言語モデルを利用して推定する教師なし手法を提案した。人手によりイベント顕現性が付与された昔話データセットにおける実験で，提案法はべースライン手法の性能を上回ることを示した。加えて，物語におけるイベント顕現性推定の有望な応用先として，提案法が物語の類似性計算に有用であるか検証を行った. 専門家による類型分類が付与された民話データセットにおける実験で，提案法が物語の類似性計算に役立つ可能性が示唆された。

謝辞本研究は JSPS 科研費 JP19H04425 の助成を受けたものである.

## 参考文献

[1] H Porter Abbott. The Cambridge Introduction to Narrative. Cambridge Introductions to Literature. Cambridge University Press, 2 edition, 2008.

[2] Jessica Ouyang and Kathleen McKeown. Modeling Reportable Events as Turning Points in Narrative. In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 2149-2158, Lisbon, Portugal, 9 2015. Association for Computational Linguistics.

[3] Pinelopi Papalampidi, Frank Keller, and Mirella Lapata. Movie Plot Analysis via Turning Point Identification. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 1707-1717, Hong Kong, China, 11 2019. Association for Computational Linguistics.

[4] Vladimir Propp. Morphology of the Folktale. University of Texas Press, 1968.

[5] Hans-Jörg Uther. The Types of International Folktales: A Classification and Bibliography, based on the system of Antti Aarne and Stith Thompson, Vol. 1-3. Suomalainen Tiedeakatemia, Academia Scientiarum Fennica, Helsinki, 2004.

[6] Lisa Friedland and James Allan. Joke retrieval: recognizing the same joke told differently. In Proceedings of the 17th ACM Conference on Information and Knowledge Management (CIKM), pp. 883-892, Napa Valley, California, USA, 2008. Association for Computing Machinery.

[7] Dong Nguyen, Dolf Trieschnigg, and Mariët Theune. Using Crowdsourcing to Investigate Perception of Narrative Similarity. In CIKM, CIKM '14, pp. 321-330, New York, NY, USA, 2014. ACM.

[8] Snigdha Chaturvedi, Shashank Srivastava, and Dan Roth. Where Have I Heard This Story Before? Identifying Narrative Similarity in Movie Remakes. In NAACL, pp. 673-678, New Orleans, Louisiana, 6 2018. Association for Computational Linguistics.

[9] A Aarne and S Thompson. The types of the folktale: a classification and bibliography. FF communications. Suomalainen Tiedeakatemia, Academia Scientarum Fennica, Helsinki, 1961.

[10] Roland Barthes. Introduction à l'analyse structurale des récits. Communications, 8, 1966. Recherches sémiologiques : l'analyse structurale du récit., 1966.

[11] Roland Barthes and Lionel Duisit. An Introduction to the Structural Analysis of Narrative. New Literary History, Vol. 6, No. 2, p. 237, 1975.

[12] Gerald Prince, 遠藤健一. 物語論辞典. 松柏社叢書, 言語科学の冒険 4. 松柏社, 改訂, 2015.

[13] Takaki Otake, Sho Yokoi, Naoya Inoue, Ryo Takahashi, Tatsuki Kuribayashi, and Kentaro Inui. Modeling Event Salience in Narratives via Barthes' Cardinal Functions. In Proceedings of the 28th International Conference on Computational Linguistics, pp. 17841794, Barcelona, Spain (Online), 12 2020. International Committee on Computational Linguistics.

[14] Abigail See, Aneesh Pappu, Rohun Saxena, Akhila Yerukola, and Christopher D Manning. Do Massively Pretrained Language Models Make Better Storytellers? In Proceedings of the 23rd Conference on Computational Natural Language Learning (CoNLL), pp. 843-861, Hong Kong, China, 11 2019. Association for Computational Linguistics.

[15] Mark A Finlayson. ProppLearner: Deeply annotating a corpus of Russian folktales to enable the machine learning of a Russian formalist theory. Digital Scholarship in the Humanities, Vol. 32, No. 2, pp. 284-300, 2015.

[16] Vladimir Propp, 北岡誠司, 福田美智代. 昔話の形態学. 叢書記号学的実践, No. 10. 白馬書房, 1987.

[17] Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, and Ilya Sutskever. Language Models are Unsupervised
Multitask Learners. OpenAI Blog, Vol. 1, No. 8, 2019.

[18] Yukun Zhu, Ryan Kiros, Rich Zemel, Ruslan Salakhutdinov, Raquel Urtasun, Antonio Torralba, and Sanja Fidler. Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books. In The IEEE International Conference on Computer Vision (ICCV), 122015.

[19] Vladimir Vapnik. Statistical learning theory. Wiley, 1998.

[20] Hiroki Ouchi, Jun Suzuki, and Kentaro Inui. Transductive Learning of Neural Language Models for Syntactic and Semantic Analysis. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 3665-3671, Hong Kong, China, 11 2019. Association for Computational Linguistics.

[21] Zhengzhong Liu, Chenyan Xiong, Teruko Mitamura, and Eduard Hovy. Automatic Event Salience Identification. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1226-1236, Brussels, Belgium, 2018. Association for Computational Linguistics.

[22] Christopher D Manning, Prabhakar Raghavan, and Hinrich Schütze. Evaluation in information retrieval. In Introduction to Information Retrieval, p. 139-161. Cambridge University Press, 2008.

[23] Frank Wilcoxon. Individual Comparisons by Ranking Methods. Biometrics Bulletin, Vol. 1, No. 6, pp. 80-83, 1945.

[24] Recurrent Neural and Point-wise Mutual. 顕現的要素の出現順序に基づく物語の類似性尺度. 言語処理学会第 25 回年次大会発表論文集, pp. 304-307, 2019.

[25] Nikolaus Kriegeskorte, Marieke Mur, and Peter Bandettini. Representational similarity analysis - connecting the branches of systems neuroscience. Frontiers in Systems Neuroscience, Vol. 2, No. NOV, pp. 1-28, 2008.

[26] Diane Bouchacourt and Marco Baroni. How agents see things: On visual representations in an emergent language game. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 981-985, Brussels, Belgium, 2018. Association for Computational Linguistics.

[27] Lawrence Hubert and Phipps Arabie. Comparing Partitions. Journal of Classification, Vol. 2, No. 1, pp. 193-218, 1985.

[28] Jeffrey Pennington, Richard Socher, and Christopher Manning. \{G\}love: Global Vectors for Word Representation. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1532-1543, Doha, Qatar, 10 2014. Association for Computational Linguistics.

[29] Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond, Clement Delangue, Anthony Moi, Pierric Cistac, Tim Rault, Rémi Louf, Morgan Funtowicz, and Jamie Brew. HuggingFace's Transformers: State-of-the-art Natural Language Processing. arXiv:1910.03771, 2019.

[30] Lars Buitinck, Gilles Louppe, Mathieu Blondel, Fabian Pedregosa, Andreas Mueller, Olivier Grisel, Vlad Niculae, Peter Prettenhofer, Alexandre Gramfort, Jaques Grobler, Robert Layton, Jake VanderPlas, Arnaud Joly, Brian Holt, and Gaël Varoquaux. API design for machine learning software: experiences from the scikit-learn project. In ECML PKDD Workshop: Languages for Data Mining and Machine Learning, pp. 108-122, 2013.

[31] Chikashi Nobata, Satoshi Sekine, and Hitoshi Isahara. Evaluation of Features for Sentence Extraction on Different Types of Corpora. In Proceedings of the ACL 2003 Workshop on Multilingual Summarization and Question Answering, pp. 29-36, Sapporo, Japan, 7 2003. Association for Computational Linguistics.

[32] Matt Gardner, Joel Grus, Mark Neumann, Oyvind Tafjord, Pradeep Dasigi, Nelson F Liu, Matthew Peters, Michael Schmitz, and Luke S Zettlemoyer. AllenNLP: A Deep Semantic Natural Language Processing Platform. 2017.

## A 付録

## A. 1 提案法詳細

首尾一貫性の計算に使用した GPT-2 は，一度に入力できるテキストの長さに制限があるため，実装上はターゲット文の前後の文脈を適当に捨てることで首尾一貫性スコア $c\left(S_{\{1: n\}}\right)$ を計算した:

$
c(S)=\frac{1}{\left|S_{\left.\{k+1: n-\ell^{\prime}\right.\}}\right|} \log P\left(S_{\left.\{k+1: n-\ell^{\prime}\right.\}} \mid S_{\{1+\ell: k-1\}}, S_{k}\right)
$

$\left|S_{\{i: j\}}\right|$ は $\left(S_{i}, \ldots, S_{j}\right)$ に含まれるトークンの総数を示す. $\ell^{\prime}$ 及び $\ell$ は言語モデルの最大入力長 $L$ によって決まる閾値であり, $\left|S_{\left.\{k+1: n-\ell^{\prime}\right.\}}\right|+\left|S_{\{1+\ell: k\}}\right|$ が $L$ 以下かつ最大の值をとるように定める. $c(\widetilde{S})$ についても同様である. ただし $P\left(S_{i}\right)$ はトー クンの生成確率の積である:

$
\log P\left(S_{i} \mid \text { context }\right)=\log P\left(w_{1}^{(i)} \mid \operatorname{context}\right)+\sum_{j=2}^{\left|S_{i}\right|} \log P\left(w_{j}^{(i)} \mid \operatorname{context}, w_{1}^{(i)}, \ldots, w_{j-1}^{(i)}\right)
$

また，各物語の最後の文の顕現性スコアを計算するため，各物語の末尾に文書の区切りを示す特殊トークンを添加した. 提案法はこの特殊トークンの生成確率を利用することで，各物語の最後の文の顕現性スコアを他の文と同様に計算することが可能である.

## A. 2 実験に使用したデータセットの基本統計量

表 3 ProppLearnerコーパスの基本統計量

表 4 大竹ら [24] が作成した民話コーパスの基本統計量

## A. 3 提案法の toy example に対する振る舞い

表 5 童話『シンデレラ』の toy example に対して提案手法 (文削除,fine-tuning なし)を適用した際の振る舞い.

提案法の実際の物語に対する振る舞いを定性的に分析するため，6文から構成される童話『シンデレラ』の toy example に対して提案法を適用した. 表 5 に，各文に対して提案法（文削除，fine-tuningなし）が計算した顕現性スコアを示す.「魔法使いが現れ，シンデレラにドレスや馬車，御者を与える」や「シンデレラが王子に見初められる」といった顕現性の高いイベントを表現している文に対しては，「シンデレラが井戸で水を汲む」といった顕現性が低いイベントを表す文よりも高い顕現性スコアを与えていることがわかる.

## A. 4 実装の詳細

GPT-2 の実装は transformers [29] の事前学習済みモデル (12-layer, 768-hidden, 12-heads, 117M parameters)を使用した. 実験 1,2 で行った顕現性スコアのスケーリングには，scikit-learn [30] の MinMaxScalerを使用した. 実験 1,2 の TF-IDFべー スラインでは野畑ら [31] の研究において T3 と呼ばれる修正 TF-IDF 值を使用した. イベントを表す単語（動詞とその項） の抽出について，実験 1 では ProppLearner コーパスが品詞タグや述語項構造のアノテーションを含んでいるためこれらをそのまま利用した．実験 2 で使用した大竹ら [24] の民話コーパスはそのようなアノテーションを含まないため, Allen NLP [32] が提供している述語項構造解析器の実装5)を用い，その解析結果を利用した.

5) https://demo.allennlp.org/semantic-role-labeling


# $A B C$ ツリーバンク：学際的な言語研究のための基盤資源

窪田悠介
国立国語研究所
kubota@ninjal.ac.jp
林則序
東京大学
hayashi@phiz.c.u-tokyo.ac.jp

## 1 はじめに

NLP と理論言語学の融合的研究に活用可能な日本語の範疇文法ツリーバンクである ABC ツリーバンクを構築した。ツリーバンクのデータ,構築のために開発したツール群，マニュアルは， https://github.com/ABCTreebank/で公開する。本論文では，主要な言語現象のアノテーションを概説し，活用事例として，このツリーバンクを学習デー タとして統語パーサ（CCG パーサ）を訓練し，論理的意味表示に基づいてパーサの性能を評価する実験を試行的に行った結果について報告する。1)

## 2 ABC 文法の概要

$\mathrm{ABC}$ リーバンクで用いられているのは ABC 文法という範疇文法の一種である。これは組み合わせ範疇文法 (CCG; [14, 18]) やタイプ論理文法 (TLG; $[12,11,7])$ といった特定の範疇文法の流派へのコミットメントを避けながらも，それらの文法への変換の土台となりうる，汎用性を重視した中間的枠組みである。以下， $\mathrm{ABC}$ 文法の基本的な構成要素であるカテゴリと素性，および種々の規則を示す。

## 2.1 カテゴリと素性

$\mathrm{ABC}$ 文法で用いられている基本カテゴリ (atomic category)のうち，代表的なものを表 1 に挙げる。2)

カテゴリには素性が表示されることがある。3)素性は小文字で始め，大文字のカテゴリに続けて表記

//github.com/ajb129/KeyakiTreebank) [4] からの変換によって構築された。構築の詳細については $[19,8]$ を参照。

2） S，CP はそれぞれ，元コーパスのけやきツリーバンクでの IP, CP に対応し, 生成文法での区分とは必ずしも一致しない。

3）素性による区別は，けやきツリーバンクにおける拡張タグを用いた区別におおむね準ずる。
}

峯島宏次

慶應義塾大学

minesima@abelard.flet.keio.ac.jp

岡野伸哉

東京大学

okano@phiz.c.u-tokyo.ac.jp

表 1 代表的な基本カテゴリ

する。以下では代表的な素性をカテゴリと合わせて列挙する。

文法役割を示すもの PPs (主語), PPs2 (第二主語), PPo1 (第一目的語), PPo2 (第二目的語), CPt-sbj (補部節主語), CPq-sbj (疑問節主語) ${ }^{4}$

節の種類を示すもの $\mathrm{Sa}$ (連用節), $\mathrm{Se}$ (空所なし名詞修飾節), Simp (命令節), Sm (主節), Snml (名詞化節), Srel (関係節), Ssmc (小節), Ssub (準主節), $\mathrm{CPf}$ (終助詞節), $\mathrm{CPq}$ (疑問節) $\mathrm{CPt}$ (補部節), $\mathrm{CPx}$ (感嘆節)

## 量化的であることを示すもの $\mathrm{NPq$}

一般に範疇文法では，X，Y がカテゴリであるならば， $\mathrm{X} / \mathrm{Y}, \mathrm{Y} \backslash \mathrm{X}$ もカテゴリ（関数的カテゴリ）である。例えば，自動詞は $\mathrm{PPs} \backslash \mathrm{S}$ ，他動詞は $\mathrm{PPo} 1 \backslash(\mathrm{PPs} \backslash \mathrm{S})$ というカテゴリを付与される。

## 2.2 統語規則

$\mathrm{ABC}$ 文法という名前には，関数適用の規則のみをもつ $\mathrm{AB}$ 文法 $[1,3]$ に，関数合成 (Function Composition)の規則を加えたもの，という由来がある。したがってこの 2 つは基本的な規則として置か

れている。図1にこれを示す。5)

図 1 基本的な規則

上に示した binary 規則だけでなく，ある 1 つのカテゴリを別のカテゴリに変換する，unary 規則も存在する。これは日本語を分析するにあたっての必要性から用いられるもので，上記の一般的な規則とは異なり，適用可能なカテゴリ・素性が限られている。unary 規則は以下のものに大別される。(i) 名詞の項化・述語化; (ii) 関係節による名詞修飾 ; (iii) 連用節化・副詞化; (iv) かき混ぜ。以下，規則において素性の指定がない場合は，カテゴリさえ合致していればそれが適用可能であるということを意味する。

## 2.2.1 名詞の項化・述語化

名詞 $\mathrm{N}$ はまず名詞句 $\mathrm{NP}$ を投射した上で，さらに述語または項としてのカテゴリを投射する。以下，関連する unary 規則を簡単に説明する (表 2 参照)。

名詞の名詞句化本ツリーバンクでは, 基本カテゴリとして N と NP の区別を行い，N から NP へは，つねに 1 本の unary branch が伸びる。

名詞句の述語化コピュラが後続する名詞句はそれ自体が述語と見なされ，S で終わるカテゴリとなる（コピュラは $\mathrm{S} \backslash \mathrm{S}$ のようなカテゴリを与えられ，関数合成で述語名詞句と結びつく)。

名詞句の後置詞句化表層で格助詞が落ちる名詞句も，格助詞のある場合と同じカテゴリとして扱うため unary 規則で PP を投射する。

表 2 名詞の項化・述語の規則 (抜粋)

## 2.2.2 関係節による名詞修飾

日本語には英語のような明示的な関係代名詞が存在しないため，表 3 に代表される規則を用いて関係節 (Srel) を名詞を修飾するカテゴリ（N/N）へと変換する。
 / \$$ は $\mathrm{X}, \mathrm{X} / \mathrm{Y},(\mathrm{X} / \mathrm{Y}) / \mathrm{Z}, \ldots$ のいずれかを， $\$ \mathrm{X}$ は $\mathrm{X}, \mathrm{Y} \backslash \mathrm{X}$, $\mathrm{Z} \backslash(\mathrm{Y} \backslash \mathrm{X}), \ldots$ のいずれかを表す。
}

表 3 関係節による名詞修飾の規則 (抜粋)

## 2.2.3 連用節化・副詞化

バンクの仕様を引き継ぎ，動詞の連用形と終止形をカテゴリの上で区別しない。一方で，両ツリーバンクは連用節に特別のカテゴリを与えている（けやきツリーバンクにおける連用節 IP-ADV が ABC ツリー バンクの $\mathrm{Sa}$ に対応する)。この情報を利用し，動詞の連用形が「て・で」などの接続助詞を伴わずに連用節をなすケースについて，表 4 上段の規則を導入する。つまり，Saで終わるカテゴリから，S で終わるカテゴリを修飾するカテゴリへの変換である。

加えて，「今朝」のような副詞的な用法をもつ名詞句についても，同様に S で終わるカテゴリを修飾するカテゴリへの変換規則が必要である (表 4 下段)。

表 4 連用節化・副詞化の規則 (抜粋)

## 2.2.4 かき混ぜ

ABC ツリーバンクでは，かき混ぜ (scrambling)を規則で扱う。例えば，「主語-目的語-述語」という語順と，「目的語-主語-述語」という語順に対応して，同じ音形の述語に別個の語彙項目を割り当てるのではなく，前者を基本語順として，それ以外の語順は規則適用によって捉える，という扱いをする (表 5)。

表 5 かき混ぜの規則 (抜粋)

## 3 意味表示

範疇文法をフレームワークとして用いる ABC リーバンクは，統語構造と意味表示との対応に関して明示的な解析を与える。範疇文法の意味パーサ ccg2lambda [9], および，辞書としての意味テンプ

レートを用いることで， $\lambda$ 計算に基づく意味合成に

出木を自動的に得ることができる。意味表示としては一階論理 (FOL)，談話表示構造 (DRS) [6]，高階論理 (HOL) の 3 つの出力形式を用いる。

具体例として，(1)の各意味表示を以下に示す。

(1) 窓が開けてある。 (Keyaki:13_textbook_djg_gram_terms)

FOL: $\exists x_{1} \exists x_{2}$. (窓 $\left(x_{2}\right) \wedge \exists e_{3}$. ( 開ける $\left(e_{3}\right) \wedge \arg \_\mathrm{s}\left(e_{3}, x_{1}\right) \wedge$ arg_01 $\left.\left.\left(e_{3}, x_{2}\right) \wedge \tau\left(e_{3}\right)\right)\right)$

DRS: $\left(\left.\{x_{1}, x_{2}, e_{3}\right.\},\left.\{\right.\right.$ 窓 $\left(x_{2}\right)$, 開ける $\left(e_{3}\right), \arg s\left(e_{3}, x_{1}\right)$,

$
\left.\left.\left.\arg 001\left(e_{3}, x_{2}\right), \tau\left(e_{3}\right)\right)\right.\}\right)
$

HOL: ある $(\lambda y \lambda x$. 開ける $(x, y)$, 窓 $)$

それぞれの意味表示について簡単に説明する。

FOL FOL の意味表示は Neo-Davidsonian Event Semantics [13] に基づく。ここで, $\arg s(e, x)$ と arg_01 $(e, x)$ はそれぞれ，ABC 文法のカテゴリ PPs と PPo1 に対応する意味役割であり, 「イベント $e$ の主体は個体 $x$ である」「e の対象は $x 」 を$ 表す。 (1)では，「(て) ある」を受身に類する述語として解析することで，適切な述語項構造が得られている。6)

DRSDRS は意味合成によって導出された FOL の意味表示からの自動変換によって得られる。DRS は, 談話指示物 (discourse referent) $の$ 集合 $D$ と条件の集合 $C$ の対 $(D, C)$ から構成され, 図 2 のように Box 表記により見通しよく表すことができる。また 4 節で述べるように，DRS を節形式に変換することで意味表示の評価に用いることができる。

HOL HOL は範疇文法の統語構造に即した意味表現であり，範疇文法の意味合成の過程を関数と項の形で明示的に記述することができる。上の HOL の例では，「(て) ある」は高階述語として扱われ，2 項述語「開ける」を項とし, その項構造を変化させる役割を担う。

ここで使用している論理的な意味表示の特徴として, 量化や否定，モーダル表現などのスコープを明示的に表現できることが挙げられる。例えば，以下に示す (2)の各意味表示は, 理由の「から」および否定「ない」がもつスコープ関係を捉えたものである。

（2）咳がなおらないから，病院に行きます。 (642_textbook_purple_basic)

6）使役・受身やコントロール述語などの文末述語の扱いについて詳しくは $[19,8]$ を参照。

図 2 (1)と(2)の DRS の Box 表記

FOL: $\exists x_{1}$. (病院 $\left(x_{1}\right) \wedge \exists e_{2}$. (行く $\left(e_{2}\right) \wedge \arg \mathrm{s}\left(e_{2}\right.$, speaker $) \wedge$ に $\left(e_{2}, x_{1}\right) \wedge$ から $\left(e_{2}, \neg \exists x_{3}\right.$. 咳 $\left(x_{3}\right) \wedge \exists e_{4}$. なおる $\left(e_{4}\right) \wedge$ $\left.\left.\left.\left.\left.\arg \mathrm{s}\left(e_{4}, x_{3}\right)\right)\right)\right)\right)\right)$

DRS: $\left(\left.\{x_{1}, e_{2}\right.\},\left.\{\right.\right.$ 病院 $\left(x_{1}\right)$, 行く $\left(e_{2}\right)$, arg_s $\left(e_{2}\right.$, speaker $)$, に $\left(e_{2}, x_{1}\right)$, から $\left(e_{2}, \neg\left(\emptyset,\left.\{\left(\left.\{x_{3}, e_{4}\right.\},\left.\{\right.\right.\right.\right.\right.$ 咳 $\left(x_{3}\right)$,

なおる $\left.\left.\left.\left.\left.\left.\left.\left(e_{4}\right), \arg \mathbf{s}\left(e_{4}, x_{3}\right)\right.\}\right)\right.\}\right)\right)\right.\}\right)$

HOL: から (なおる (咳),に (病院, $\lambda x$. 行く $(x))$, speaker)

現時点で意味表示の導出に用いられる意味テンプレートは， unary 規則に対するもの（46個），カテゴリに対する意味割り当て（62 個），カテゴリと単語のペアに対する意味割り当て（68 個）からなる。付

クの導出木を示す。

## 4 統語パーサの構築と評価

$\mathrm{ABC}$ ツーバンクの応用として日本語統語パー サの構築が考えられる。以下，この途中経過を報告する。係り受け以上の細かい分析を行うパーサに関しては，木構造の些末な差異などが性能評価に大きな影響を及ぼしがちであり，適切な評価指標は何かという問題がつきまとう。一つの解決策として， パーサの性能評価を構文木のレベルで行うのでなく，構文木に基づいて得られる意味表示（3 節参照） のレベルで行う方法が考えられる。以下，この手順で行った性能評価の結果を報告する。

表示の妥当性を人手でチェックし，評価用の GOLD データ（223 件）を作成した。言語現象の多様性を確保するため，言語学のテキストの例文を集めたもの（textbook, 133 例）を中心とし，その他に書籍 (book, 11 例), 辞書 (dict, 17 例)，フィクション (fiction, 26 例)，ニュース (news, 8 例)，ノンフィクション (nonfiction, 13 例)，テッドトーク（ted,

15 例）という複数のジャンルの文を含めた。

今回は，[17] と同様の手法によって，範疇と木の依存関係の両方を表現ベクトルの中に含んだ bi-LSTM モデルを，AllenNLP [5] を用いて訓練した。 $\mathrm{ABC}$ ツーー゙ンクの全データ（44,750 文）から上記の評価用データ（223 文）を除き，さらに二分木でないもの7)を排除した 21,456 文のうち，訓練用に 17,137 文，訓練のステップごとの評価のために 4,319 文を分けて，訓練を行った。8)

ここで学習したパーサの評価のため，パーサの出力の木からテンプレートにより意味表示を導出し， それを DRS の節形式に変換する。節形式は, 節の一致率を求める評価手法 (COUNTER [16]) によって比較することが可能である。9) (2) の節形式を図 3 に示す。

図 3 (2) のDRS から得られた節形式

$\mathrm{ABC}$ パーサで評価用データの 223 文を解析10) し, 出力の導出木から DRS の節形式を生成した。 COUNTER による GOLD の節形式との一致率は, precision の平均が $77.4 \%$, recall の平均が $76.4 \%, \mathrm{~F} 1$ の平均が $76.7 \%$ であった。意味表示が出力されず解析エラーとなったものは，10文であり，残りの 213 文に対しては well-formed な意味表示が出力された。

以下では一致率が低かった文に関するエラー分析の結果を簡単に報告する。問題点は主に，係り受けや連体節の種類（「内の関係」対「外の関係」）など，統語解析のみでは解決が困難な問題に関するパーサの誤解析と，変換元コーパスのけやきツリーバンクの仕様に依存する部分でのエラーに大別できる。 パーサの誤解析に関しては，(3)のような例 ( prec/rec/F1 = 42.9/45.0/43.9）で「内の関係」の連体節が誤って「外の関係」として解析されるケースや,

7）例えば，複数文の埋め込み multi-sentence や，断片的な文 FRAG 範疇とする部分木を含む文が該当する。

8）結果とパラメータは, https://github.com/ABCTreebank/ ABCTreebank/tree/master/papers/202103_NLP27 で公開予定。

9) これは, Abstract Meaning Representation (AMR [2]) の評価で使われている SMATCH をスコープ付きの意味表現に拡張した評価法である。詳細は [16]を参照。

10）それらの文の形態素解析は，もとの ABCツリーバンクにおける解析をそのまま使用した。
(4)のような例（50.0/45.5/47.6）で動詞の項の係り受け先が正しくないケースが目立った（「教える」に係るべき「人に」が誤って「獲る」に係っている)。

（3） ... 泳ぎをおぼえるチャンスもなかった。

(7_book_excerpt-18;JP)

（4）人に魚を獲ることを教えれば，... (28_nonfiction_ANC__110CYL067;JP)

ツリーバンクの仕様に依存する問題の代表例としては，元コーパスのけやきツリーバンクのアノテー ションに従って決定される，動詞の項構造に関するものがある。例えば存在動詞「ある」に対しては，「に/が」または「が/が」の格配列に応じて，以下の二つのカテゴリが割り振られる。

(5) a. 私が意欲がある ${ }_{P P s} \backslash P P s 2 \backslash S$

b. 私に意欲がある $\operatorname{PPol} \backslash \operatorname{PPs} \backslash S$

以下の (6) のように外の関係の連体節で表層で格助詞が落ちる場合，「ある」に関して (5a) と (5b) のどちらの語彙項目を使うかの曖昧性がある。

（6）意欲ある住民

(43_news_KAHOKU_33)

この曖昧性は本来は意味解釈のレベルでは捨象されるべきものだが，現状では動詞の項構造を示すラべルの不一致による解析の失敗と分類されている。

## 5 おわりに

[8] で詳述した文末述語の扱いに関しては，構造が単純な文についてはパーサの解析結果に基づいて概ね正しい意味表示が得られることが確認できた。言語学的知見を適切に反映させた言語資源による end-to-end の解析システムを組むことができることを示した点において，一定程度所期の目的を達成したと考えられる。今後の課題としては，4 節で議論した誤解析への対応，関連研究である日本語 CCGBank [15] に基づく統語・意味パーサ [10] との比較，また，汎用性を重視したツリーバンクであるという特徴を活かして，CCG では扱いが煩雑になる量化現象を，タイプ論理文法の手法で扱うことなどに取り組みたい。

謝辞吉川将司氏（東北大）のサポートに感謝します。この研究は JSPS 科研費 18K00523，国立国語研究所共同研究プロジェクト「対照言語学的観点から見た日本語の音声と文法」の助成を受けている。

## 参考文献

[1] Kazimierz Ajdukiewicz. Die syntaktische Konnexität. In Storrs McCall, editor, Polish Logic 1920-1939, pp. 207231. Oxford University Press, Oxford, 1935. Translated from Studia Philosophica, 1, 1-27.

[2] Laura Banarescu, Claire Bonial, Shu Cai, Madalina Georgescu, Kira Griffitt, Ulf Hermjakob, Kevin Knight, Philipp Koehn, Martha Palmer, and Nathan Schneider. Abstract Meaning Representation for sembanking. In Proceedings of the 7th Linguistic Annotation Workshop and Interoperability with Discourse, pp. 178-186, 2013.

[3] Yehoshua Bar-Hillel. A quasi-arithmetic notation for syntactic descriptions. Language, Vol. 29, pp. 47-58, 1953.

[4] Alastair Butler, Kei Yoshimoto, Shota Hiyama, Stephen Wright Horn, Iku Nagasaki, and Ai Kubota. The Keyaki Treebank Parsed Corpus, Version 1.1. http://www.compling.jp/keyaki/, 2018. Last accessed: 2021.01.01.

[5] Matt Gardner, Joel Grus, Mark Neumann, Oyvind Tafjord, Pradeep Dasigi, Nelson F. Liu, Matthew Peters, Michael Schmitz, and Luke Zettlemoyer. AllenNLP: A deep semantic natural language processing platform. In Proceedings of Workshop for NLP Open Source Software (NLP-OSS), pp. 1-6, 2018 .

[6] Hans Kamp and Uwe Reyle. From Discourse to Logic. Kluwer Academic Publishers, Dordrecht, 1993.

[7] Yusuke Kubota and Robert Levine. Type-Logical Syntax. MIT Press, Cambridge, Mass., 2020.

[8] Yusuke Kubota, Koji Mineshima, Noritsugu Hayashi, and Shinya Okano. Development of a general-purpose categorial grammar treebank. In Proceedings of the 12th Language Resources and Evaluation Conference, pp. 51955201, 2020.

[9] Pascual Martínez-Gómez, Koji Mineshima, Yusuke Miyao, and Daisuke Bekki. ccg2lambda: A compositional semantics system. In Proceedings of ACL-2016 System Demonstrations, pp. 85-90, 2016.

[10] Koji Mineshima, Ribeka Tanaka, Pascual MartínezGómez, Yusuke Miyao, and Daisuke Bekki. Building compositional semantics and higher-order inference system for a wide-coverage Japanese CCG parser. In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, pp. 2236-2242.

[11] Michael Moortgat. Categorial Type Logics. In Johan van Benthem and Alice ter Meulen, editors, Handbook of Logic and Language, pp. 93-177. Elsevier, Amsterdam, 1997.

[12] Glyn Morrill. Type Logical Grammar: Categorial Logic of Signs. Kluwer, Dordrecht, 1994.

[13] Terence Parsons. Events in the Semantics of English. MIT Press, Cambridge, Mass., 1990.

[14] Mark Steedman. The Syntactic Process. MIT Press, Cambridge, Mass., 2000.

[15] Sumire Uematsu, Takuya Matsuzaki, Hiroki Hanaoka, Yusuke Miyao, and Hideki Mima. Integrating multiple dependency corpora for inducing wide-coverage Japanese CCG resources. ACM Transactions on Asian and LowResource Language Information Processing, Vol. 14,
No. 1, pp. 1-24, 2015.

[16] Rik van Noord, Lasha Abzianidze, Hessel Haagsma, and Johan Bos. Evaluating scoped meaning representations. In Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018).

[17] Masashi Yoshikawa, Hiroshi Noji, and Yuji Matsumoto. A* CCG parsing with a supertag and dependency factored model. Journal of Natural Language Processing, Vol. 26, No. 1, pp. 83-119, 2019.

[18] 戸次大介. 日本語文法の形式理論. くろしお出版, 東京, 2010.

[19] 窪田悠介, 峯島宏次, 林則序, 岡野伸哉. 汎用的な範疇文法ツリーバンクの構築. 言語処理学会第 25 回年次大会発表論文集, pp. 143-146, 2019.

## A 付録

3 節で例示した (1) と (2) の文の意味表示 (FOL, DRS, HOL) に対する導出木を示す。これは 3 節で述べた意味テンプレートに基づいて，ccg2lambdaを用いて ABCツリーバンクの木から生成したものである。なお，ABCツリーバンクでは名詞句のカテゴリとして N と NPを区別しているが（2.2.1 節を参照），現在のところ，意味合成において $\mathrm{NP}$ と $\mathrm{N}$ の意味割り当ては区別されていない。

HOL: から(-なおる(咳),に(病院, |X0.行く(X0)),*speaker*)