# 発話順序に基づくGraph Attention Networks を用いた 対話文における感情認識

石渡 太智 ${ }^{\dagger,+\dagger}$ ・安田 有希 $\dagger$ ・宮㠃 太郎 ${ }^{\dagger}$ 後藤 淳 $\dagger$
}

SNS 上のユーザ動向調査やフェイクニュース検知を目的に, 対話文における各発話の感情認識 (Emotion Recognition in Conversations: ERC) が注目を集めている。ERCで は，対話文における各発話の内容に加えて，発話間の関係が話者の感情に大きな影響を 与えることが知られている。従来の State-of-the-art を達成した手法は, 発話間の関係 の中でも特に自己依存と相互依存を, Relational Graph Attention Networks (RGAT) を用いて取得し, 当時の世界最高峰の認識精度を得た. しかしながら, RGAT モデル は発話の順序情報を利用できない課題がある。そこで本論文は， RGAT モデルに発話順序を加える新たな手法 Relational Position Encodings を提案する。提案手法を用い ることで，自己依存と相互依存を含む発話間の関係と，発話の順序情報の両方を利用で きる。評価実験において，ERCにおける 3 つのベンチマークデータセットのうち， 2 つのデータセットで従来手法を上回る認識精度を達成し, 世界最高峰の認識精度を達成 した.

キーワード：感情認識, 発話順序, Relational Graph Convolutional Networks, Graph Attention Networks, Position Encodings
## Position-aware Graph Attention Networks for Emotion Recognition in Conversations

\author{
Taichi Ishiwatari ${ }^{\dagger, \dagger \dagger}$, Yuki Yasuda $^{\dagger}$, Taro MiYazaki ${ }^{\dagger}$ and Jun Goto ${ }^{\dagger}$
}

Interest in emotion recognition in conversations (ERC) has been increasing in various fields, because it can be used in the various tasks such as analyzing user behaviors and detecting fake news. Many recent ERC methods use graph neural networks to consider the relationships between the utterances of the speakers. In particular, the strong method considers self-speaker and inter-speaker dependencies in conversations by using relational graph attention networks (RGAT). However, graph neural networks do not consider sequential information. In this paper, we propose relational position encodings that provide RGAT with sequential information reflecting the relational graph structure. Therefore, our RGAT model can capture both the speaker dependency and the sequential information. Experiments on three ERC datasets show that our model is beneficial to recognizing emotions expressed in conversations. In

addition, our approach empirically outperforms the state-of-the-art on several benchmark datasets.

Key Words: Emotion Recognition, Utterance Sequence, Relational Graph Convolutional Networks, Graph Attention Networks, Position Encodings

## 1 はじめに

SNS 上のユーザ動向調査 (Lee and Hong 2016) やフェイクニュース検知 (Guo et al. 2019)への応用を目的として, 対話文における各発話の感情認識 (Emotion Recognition in Conversations: ERC) が注目を集めている (Picard 2010)。またチャットボットなどの会話エージェントが自然な発話文を生成するために，話者の感情が対話中にどのように変化するかが分析されている (Huang et al. 2018).

先行研究の多くは, Recurrent Neural Networks (RNN) を用いて, 各発話の特徴を抽出する (Liu et al. 2016; Hochreiter and Schmidhuber 1997)。しかし，RNNを用いる場合，長い系列データの特徴の抽出は容易ではない (Bradbury et al. 2016). そこで Majumder らは, Attention 機構により全発話の中から関連のある発話に焦点を当て, 長い系列データの特徴を抽出することで高い認識精度を実現した (Majumder et al. 2019)。しかしながら，これらの従来手法は発話間の関係，特に自身の発話からの影響（自己依存）と他者の発話からの影響（相互依存）を考慮していない．表 1 を用いて，2つの依存関係の重要性を示す。表 1 は，2 人の話者が就職活動について意見を交わす例である。話者 A は長い間就職先が見つからないため，一連の発話で常に負の感情を抱いている. これは自己依存の例を示し，自分自身の感情の推移を表す。一方で，話者 B の 4 番目の感情は，直

 & neutral \\

表 1 対話文の各発話に現れる感情ラベルの例
前の話者 A の状況に同情し, 負の感情を抱いている. これは相互依存の例を示し, 他者の発話が自身の感情に影響を与える性質を持つ。

Ghosal らは自己依存と相互依存の関係を利用するために, Relational Graph Attention Networks (RGAT) 1 を用いて, 当時の世界最高峰の認識精度を達成した (Ghosal et al. 2019).この手法は, ノードに各発話の特徴量を, エッジに発話間の関係を, エッジの種類に依存関係の種類を設定し,有向グラフを構築する。しかしながら，RGAT を含む Graph Neural Networks (GNN) は対話文中の発話の順序情報を利用できない課題がある．表 1 を用いて，順序情報の重要性を示す。話者 B は 4 番目の発話で，感情が変化する。これは， 1 番目や 2 番目の発話ではなく, 直前の 3 番目の発話に同情したことが原因と考えられる。従って, ERC の認識精度の向上には, 発話から発話への距離の影響を考慮する必要がある。

一般的な解決策として，発話の絶対位置 (Vaswani et al. 2017) や相対位置 (Shaw et al. 2018)を基にした Position Encodings を，GNN モデルに加える方法がある．絶対位置を基にした Position Encodings は GNN のノード（発話）に，相対位置を基にした Position Encodings はエッジ（発話間の関係) に加えられる。一方で提案手法は, Ghosal らの手法 (Ghosal et al. 2019)を参考に, 自己依存と相互依存の利用を目的として, 依存関係の種類に応じたRGAT を用いる。従って, 絶対位置や相対位置ではなく依存関係の種類に応じた位置表現を用いることで, 認識性能の向上が期待できる.

本論文は，依存関係の種類に応じた位置表現を新たに作成し，RGAT に加える手法 Relational Position Encodings を提案する。提案手法を用いることで, 自己依存と相互依存を含む発話間の関係と，発話の順序情報の両方を利用できる．評価実験において，ERCにおける 3 つのべンチマー クデータセットのうち, 2 つのデータセットで従来手法を上回り, 世界最高峰の認識精度を達成した. さらに, 絶対位置や相対位置ではなく, 依存関係の種類に応じた位置表現が, ERC の精度向上に貢献することも確認した。

本論文の貢献を以下に示す。(1) 対話文における発話の順序情報を利用するため, 初めて RGAT モデルに Relational Position Encodings を適応した. (2) 提案手法を用いることで, 自己依存と相互依存を含む発話間の関係と，発話の順序情報の両方の利用を可能にした. (3) 従来手法との比較実験を通して，提案手法の有用性を確認した。(4) 絶対位置や相対位置ではなく, 依存関係の種類に応じた位置表現の有用性を確認した。
^{1}$ RGCN: Relational Graph Convolutional Networks (Schlichtkrull et al. 2018) と GAT: Graph Attention Networks (Veličković et al. 2017) を組み合わせたモデル.
}

## 2 関連研究

対話文における各発話の感情認識 (ERC) 多くの研究者が ERC に注目し認識精度向上に取り組んでいる。その中でも，精度向上に大きく貢献した手法に DialogueRNN (Majumder et al. 2019) がある. DialogueRNN は, Attention 機構によって全発話の中から関連のある発話に焦点を当て,長い系列デー夕の特徴を抽出する手法である.

また，発話の特徴を抽出する手法として，Luo らの手法 (Luo and Wang 2019) と Yang らの手法 (Yang et al. 2019) がある. Luo らの手法 (Luo and Wang 2019) は事前学習済み BERT モデル (Devlin et al. 2018)を用いて, トークンごとの特徴量を抽出する. 得られた特徴量の中から, 先頭の $[C L S]$ トークンの特徴量を抜き出し, Feed Forward Neural Networks (FFNN) を用いて感情ラベルの確率値を算出する. Yang らの手法 (Yang et al. 2019) は, 事前学習済み BERT モデルに,複数の発話をまとめて入力する手法である。複数の発話の間に $[S E P]$ トークンを挿入し，連結する。連結した複数発話を同時に入力することで, 各発話の内容を考慮しつつ発話間の相互作用も利用することができる.

Graph Neural Networks (GNN) GNN は, 自然言語処理の分野だけでなく画像処理など様々な問題に応用され, 著しい注目を集めている。いくつか種類のある GNN の中でも，ノードとノー ドの結合関係を表す隣接行列を利用した GCN: Graph Convolutional Networks (Kipf and Welling 2016)をはじめ, RGCN (Schlichtkrull et al. 2018)やGAT (Veličković et al. 2017) が盛んに利用されている。提案手法は， RGCN と GATを組み合わせた RGAT を用いる， RGCN はノード間の関係の種類ごとに GCN を用意するため，自己依存と相互依存など依存の種類ごとにネットワークを構築することができる。またGAT を用いることで, ノード間の類似度を計算し，関連性のあるノードに注意を向けることができる.

提案手法に最も関連のある手法として, DialogueGCN (Ghosal et al. 2019) がある. DialogueGCN は，自己依存と相互依存を含む発話間の関係の取得のために RGAT モデルを利用し，当時の世界最高峰の認識精度を達成した手法である．Ghosal らは，対話文に登場する話者ごとに自己依存と相互依存の影響の度合いが異なると考え, 話者ごとに自己依存と相互依存を区別する RGAT モデルを構築した. しかしながら, 話者の数が増えると, 依存関係の種類が増えパラメータの数も増加する. そこで提案手法は, パラメータ数の削減を目的として, 話者ごとに自己依存と相互依存を区別しないRGAT モデルを構築する。加えて, DialogueGCN を含む GNN モデルは, 対話文中の発話の順序情報を利用できない課題がある。本論文は, 順序情報の利用を目的として, 依存関係の種類に応じた位置表現を新たに作成し，RGAT モデルに加える手法 Relational Position Encodings を提案する.

Position Encodings本論文は, 発話の順序情報をGNN モデルに加える手法を提案する。関連研究に, Position Encodings を Transformer (Vaswani et al. 2017) に加える方法がある. Transformer

モデルは Attention 機構を基に構成されるため，時系列情報の利用が容易ではない，そこで，絶対位置 (Vaswani et al. 2017) や相対位置 (Shaw et al. 2018), 構造位置 (Wang et al. 2019) に基づく Position Encodings が提案されている. GNN も同様に時系列情報の利用が容易ではない。そのため Ingraham らはタンパク質の設計に際し，タンパク質の相対的な位置をGNN のエッジに付加するモデルを提案した (Ingraham et al. 2019).

## 3 提案手法

はじめに $\mathrm{ERC}$ の問題設定を示す． ERC では，対話文における各発話 $u_{1}, u_{2}, \cdots, u_{N}$ の感情ラべル (neutral, surprise, fear など）を認識する．Nは1つの対話に現れる発話の数を示す.また, 1 つの対話に登場する話者を $s_{m}(m=1, \cdots, M)$ とする． $M$ は話者の人数を示す.

提案手法は, 発話特徵量の抽出, Position Encodings を加えた発話関係の抽出, 感情ラベルの識別の 3 つで構成される。全体図を図 1 に示す. 本手法は, Ghosal らの手法 (Ghosal et al. 2019)を参考に，発話間の関係の抽出を目的として，RGAT モデルを構築する。さらに，RGAT では取得が容易でない発話の順序情報の利用を目的として, Position Encodings を加える手法を提案する.

図 1 提案手法の全体図。はじめにRoBERTaを用いて発話の特徵量を抽出する。次に，RGATを用いて発話間の関係を考慮した特徴量を作成する。 $\mathbf{h}_{i}^{l}$ は発話 $u_{i}$ の $l$ 層目の特徴量を表す. 次に, Position Encodings により RGAT に発話の順序情報を付加する。最後に発話の特徴量と発話間の関係を考慮した特徴量を連結し, FFNNを用いて感情ラベルを認識する。 図は発話 $u_{4}$ の感情ラベルを識別する例を示す.

## 3.1 発話特徵量の抽出

BERT モデル (Vaswani et al. 2017) を用いた発話特徵量の抽出方法 (Luo and Wang 2019) を参考に, 発話内の token ごとの特徵量を抽出する。まず, 各発話 $u_{1}, u_{2}, \cdots, u_{N}$ を RoBERTa tokenizer を用いて, tokenごとに分割する。発話 $u_{i}$ の分割された token を $\left(u_{i, 1}, u_{i, 2}, \cdots, u_{i, T_{i}}\right)$ とする. $T_{i}$ は発話 $u_{i}$ に含まれる tokenの数を示す. 次に，事前学習モデル RoBERTa-large ${ }^{2}$ (Liu et al. 2019) を用いて，発話の内容を考慮した特徴量を抽出する。最後に，Max-pooling を通じて発話 $u_{i}$ の特徵量 $\mathbf{h}_{i}^{0} \in \mathbb{R}^{D}$ を得る. $D$ は発話特徴量の次元数を示す. 事前学習済み RoBERTa モデルは, 学習ステップでファインチューニングを行う.

## 3.2 順序情報を考慮した発話関係の抽出

次に，3.1 節で作成した特徴量 $\mathbf{h}_{i}^{0}$ を RGAT に入力し, 発話間の関係を考慮した特徴量を作成する。本手法は，自己依存と相互依存の関係を区別するために，RGAT を用いて関係の種類に応じたネットワークを用意する。また, Attention 機構を導入し，関連性のある発話に注意を向ける。さらに，発話の順序情報の利用を目的として，依存関係の種類に応じた位置表現を加える Relational Position Encodings を提案する.

## 3.2.1 グラフ構造

はじめにグラフ構造を定義する. グラフのノード（発話の特徵量）を $\mathbf{v}_{i} \in \mathcal{V}$ とし，2つのノード $\mathbf{v}_{i}, \mathbf{v}_{j}$ 間を結ぶエッジ（発話間の関係）を $\left(\mathbf{v}_{i}, r, \mathbf{v}_{j}\right) \in \mathcal{E}$ とする. $r \in \mathcal{R}$ はエッジの種類（依存関係の種類）を示す.ノードとエッジを一つにまとめた複数のグラフを， $\mathcal{G}=(\mathcal{V}, \mathcal{E}, \mathcal{R})$ と表記する. ノードグラフのノード $\mathbf{v}_{i} \in \mathcal{V}$ は, 各発話の特徴量で表現する. ノード $\mathbf{v}_{i}$ は, 発話の特徴量 $\mathbf{h}_{i}^{0}$ を初期値とする．RGAT を複数層重ねることで，隣接する発話の特徴量を複数回集計する． $L$ 層重ねた発話 $u_{i}$ の特徴量を $\mathbf{h}_{i}^{L}$ とする.

エッジの種類発話間の関係ごとにグラフを構築する Ghosal らの手法 (Ghosal et al. 2019) を参考に，(a) 話者の関係と (b) 時間の関係に基づきエッジの種類を決定する。(a) 話者の関係：発話間の関係を自己依存と相互依存のいずれかに割り当てる。話者 $s_{m}$ による発話 $u_{i}$ に対して, 同じ話者 $s_{m}$ の発話（ $u_{i}$ を含む）を自己依存とする。一方で, 話者 $s_{m}$ による発話 $u_{i}$ に対して, 違う話者 $s_{k \neq m}$ の発話を相互依存とする. (b) 時間の関係：発せられた時間によって, エッジの種類を割り当てる。すなわち発話 $u_{i}$ に対して，発話 $u_{j}$ が先に発せられたか（過去），あるいは後に発せられたか（未来）に応じて種類を分ける。一般的に，リアルタイムの対話では，未来の発話を利用できないが，ERC の問題設定はデータが全て揃ったオフラインを想定しているため，未来の発話も利用することができる.
^{2}$ https://github.com/pytorch/fairseq
}
以上より，(a) 話者の関係と (b) 時間の関係に基づき, (1) 自己 - 過去, (2) 相互 - 過去, (3) 自己 - 未来, そして (4) 相互 - 未来, の計 4 種類のエッジを設定する. エッジの種類を $\mathcal{R}=\{1,2,3,4\}$ とする。

次に，エッジの種類について, Ghosal らの手法 (Ghosal et al. 2019) と本手法の違いを説明する.

Ghosal らは自己依存と相互依存の影響の度合いが話者ごとに異なると考え，登場する話者の数に応じて, (a) 話者の関係と (b) 時間の関係に基づく 4 種類の関係を用意した。例えば，ある対話に $s_{1}, s_{2}$ の話者 2 人が登場する場合, (1) 話者 $s_{1}$ - 自己 - 過去, (2) 話者 $s_{2}$ - 自己 - 過去, $\cdots$, (8) 話者 $s_{2}$ - 相互 - 未来の, 計 2 (話者の数) $\times 4$ (関係の種類) $=8$ 種類のエッジを用意する. Ghosal らの手法は，話者ごとにネットワークを区別するため，特定の話者に関する影響を考慮することができる。しかしながら，対話に登場する話者の数が増えると，エッジの種類が増えパラメータの数も増加する，そこで本手法は，パラメータの数を削減するために，話者ごとに関係を区別せず，(a)話者の関係と $(\mathrm{b})$ 時間の関係に基づく 4 種類の関係を用いる.

グラフの構築対話文における全ての発話に対して，4 種類の関係に基づいたグラフを構築する.

図 2 を用いて, グラフ構築の例を示す. 図 2 は，4 番目の発話（左）と 5 番目の発話（右）を基準にしたときの，隣接する発話との関係を示す。例えば，4番目の発話を基準にした 1 番目の発話は，過去の自身の発話なので，赤色で示す $(1)$ 自己 - 過去の関係 $(r=1)$ を表す. また， 6 番目の発話は未来の自身の発話なので，青色で示す $(3)$ 自己 - 未来の関係 $(r=3)$ を表す. 次に， 5 番目の発話を基準にした図 2 の右側の例を考える．５番目の発話を基準にした 2 番目の発話は，過去の違う話者の発話なので, 黄色の点線で示す $(2)$ 相互 - 過去の関係 $(r=2)$ を表す.このように, 対話文における全ての発話 $u_{i}$ に対して, 隣接する発話 $u_{j}$ と, 話者と時間の関係に基づく 4 種類の関係を

図 2 グラフの構築方法. 対話文における全ての発話に対して, エッジの種類に基づくグラフを構築する. 左は発話 $\mathbf{h}_{4}$ を基準にしたとき，右は発話 $\mathbf{h}_{5}$ を基準したときのエッジの種類を示す.
構築する.

エッジの上限数エッジを結ぶ発話の上限数（密幅）を定める．過去の密幅を $p$ ，未来の密幅を $f$ としたとき，発話 $u_{i}$ と $p$ 個の過去の発話， $f$ 個の未来の発話をエッジで結ぶ．密幅を小さく設定する場合，小さな隣接グループしか注目することができない，一方で窓幅を大きくする場合，高い計算コストが必要となる。従って，適当な窓幅 $p$ と $f$ の設定が求められる．本手法は，ハイパーパラメータの数を削減するために, 過去の密幅 $p$ と未来の窓幅 $f$ を同じ値 $p=f$ に設定する.

隣接発話の集合発話 $u_{i}$ の隣接する発話の集合を定める. エッジの種類 $r$ で発話 $u_{i}$ に隣接する発話の集合を $\mathcal{N}_{r}(i)$ とする。集合 $\mathcal{N}_{r}(i)$ の要素は，最大で密幅 $p(=f)$ の数存在する，例えば，図 2 において窓幅 $p=3$ で 5 番目の発話（右側）を基準にしたとき，黄色の点線で示すエッジの種類 $r=2$ で発話 $u_{5}$ に隣接する発話の集合は, $\mathcal{N}_{2}(5)=\{1,2,4\}$ となる.

## 3.2.2 RGAT

RGCN モデル (Schlichtkrull et al. 2018) と GAT モデル (Veličković et al. 2017) に基づき，隣接する発話の特徵を加味した, $l+1$ 層目の発話 $u_{i}$ の特徵量 $\mathbf{h}_{i}^{l+1}$ を作成する. 次項に示す, 発話 $u_{i}$ と発話 $u_{j}$ 間の Attention 機構と Position Encodings を加味した重み係数 $\alpha_{i j}^{l}$ により，隣接する発

集計した特徴量を下式で示す.

$
\mathbf{h}_{i}^{l+1}=\sum_{r \in \mathcal{R}} \sum_{j \in \mathcal{N}_{r}(i)} \alpha_{i j}^{l} W_{r}^{l} \mathbf{h}_{j}^{l}
$

$W_{r}^{l}$ は，エッジの種類 $r$ ごとに用意した RGAT のパラメータである. RGAT の層数を $L$ 回重ねることで， $L$ 回分のエッジによって結ばれた隣接ノードの特徵を反映することができる。 さらに本手法は式 (1)に Multi Head Attention を適用し, Layer Normalization も加える.

## 3.2 .3 エッジの重み係数

式 (1)における, Attention 機構を用いたエッジの重み係数 $\alpha_{i j}^{l}$ を導入する。本手法は, GAT モデル (Veličković et al. 2017) と同様に Attention 機構を利用する. 発話 $u_{i}$ と, エッジの種類 $r$ で隣接する発話の集合 $\mathcal{N}_{r}(i)$ の発話 $u_{j}$ の, エッジの重み係数 $\alpha_{i j}^{l}$ を下式で示す.

$
\begin{aligned}
\alpha_{i j}^{l} & =\frac{\exp \left(z_{i j}^{l}\right)}{\sum_{\bar{j} \in \mathcal{N}_{r}(i)} \exp \left(z_{i \bar{j}}^{l}\right)} \\
z_{i j}^{l} & =\operatorname{LeakyReLU}\left(\left(\mathbf{a}_{r}^{l}\right)^{T}\left[W_{r}^{l} \mathbf{h}_{i}^{l} \| W_{r}^{l} \mathbf{h}_{j}^{l}\right]\right)
\end{aligned}
$

ただし, 式 (1) に示すように, $j$ はエッジの種類 $r$ で発話 $u_{i}$ に隣接する集合 $\mathcal{N}_{r}(i)$ の要素である. 従っ $\tau, j \in \mathcal{N}_{r}(i)$ の関係から， $(i, j)$ の組が定まるとエッジの種類 $r$ も定まる。また, $W_{r}^{l}$ は Attention 機構のパラメータを, $\mathbf{a}_{r}^{l}$ は学習可能なべクトルを, ${ }^{T}$ は転置を示す. 活性化関数 LeakyReLU を
通じて得た $z_{i j}^{l}$ を，集合 $\mathcal{N}_{r}(i)$ における edge softmax ${ }^{3}$ (Veličković et al. 2017)で正規化し，重み係数 $\alpha_{i j}^{l}$ を得る.

## 3.2.4 Relational Position Encodings

本項では，RGAT モデルでは取得が容易でない発話の順序情報の利用を目的として，エッジの種類に応じた位置表現を新たに作成し，RGAT に加える手法 Relational Position Encodings を提案する。提案手法の位置表現を図 3 に示す。

順序情報を加える従来手法に，絶対位置 (Vaswani et al. 2017) や相対位置 (Shaw et al. 2018) に基づくPosition Encodings がある. 図 3 に示すように，絶対位置はノード（発話）の順番に基づき，相対位置はエッジ（発話間の関係）すなわち発話から発話への距離に基づく．発話から発話へ有向グラフを結ぶ GNN では，相対位置を基にした Position Encodings の適用が望ましい。しかしながら，相対位置を基にした Position Encodings は，エッジの種類によらず一律に順序情報が与えられる。本手法は，自己依存と相互依存の取得を目的に RGAT を利用するため（3.2.1 項），エッジの種類に応じた位置表現を作成する。以上より，図 3 に示す，エッジの種類ごとに用意した相対位置の位置表現 (Relational Position)を新たに作成する。

次に Relational Position の式を示す.はじめに，隣接発話の集合に対応する順番の集合を定める. 隣接発話の集合 $\mathcal{N}_{r}(i)$ に対応する順番の集合を， $\mathcal{I}_{r}(i) \subset \mathbb{N}$ とする． $\mathbb{N}$ は自然数の集合を示す. $\mathcal{I}_{r}(i)$ は, 窓幅 $p(=f)$ を最大とする自然数から降順に，隣接発話の集合 $\mathcal{N}_{r}(i)$ の要素数を取り出した集合を示す. 例えば, 図 3 の例で空幅 $p=3$ の時, エッジの種類 $r=1$ で発話 $u_{4}$ に隣接する集合は， $\mathcal{N}_{1}(4)=\{1,2,4\}$ である.この時，窓幅 $p=3$ を最大とする自然数から降順に，隣接発話の集合 $\mathcal{N}_{1}(4)$ の要素数取り出した順番の集合は $\mathcal{I}_{1}(4)=\{1,2,3\}$ となる. 次に，エッジの種類 $r=2$

図 3 提案手法 Relational Position の例. 提案手法は,エッジの種類ごとに用意した相対位置を用いる. 背景色は $\mathbf{h}_{4}$ を基準とした時のエッジの種類を示す. 提案手法の値は, 空幅 $p=3$ のときの発話 $u_{4}$ からの Relational Position を示す.

で発話 $u_{4}$ に隣接する集合 $\mathcal{N}_{2}(4)=\{3\}$ に対応する順番の集合を考える。この時，密幅 $p=3$ を最大とする自然数から降順に，隣接発話の集合 $\mathcal{N}_{2}(4)$ の要素数取り出した順番の集合は $\mathcal{I}_{2}(4)=\{3\}$ となる.

続いて，隣接発話の集合 $\mathcal{N}_{r}(i)$ の要素に対応する，順番の集合 $\mathcal{I}_{r}(i)$ の要素を取り出す変換を定める. 隣接発話の集合 $\mathcal{N}_{r}(i)$ の中で，対象 $i$ から相対距離の遠い順に，順番の集合 $\mathcal{I}_{r}(i)$ の要素を対応させる. その変換を $\operatorname{idx}_{r, i}: \mathcal{N}_{r}(i) \rightarrow \mathcal{I}_{r}(i)$ とする. すなわち, 対象 $i=4$ にエッジの種類 $r=4$ で隣接する発話の集合 $\mathcal{N}_{4}(4)=\{5,9,10\}$ に対して, 対象 $i=4$ から相対距離の遠い順に, 順番の集合 $\mathcal{I}_{4}(4)=\{1,2,3\}$ を対応させる. 例えば, $j=10$ 番目の発話は, 隣接する発話 $\mathcal{N}_{4}(4)$ の中で対象 $i=4$ に最も遠いので，順番の集合 $\mathcal{I}_{4}(4)$ の中から 1 が対応する. したがって， $j=10$ 番目の発話の順番を抜き出すときは，変換 $\mathrm{idx}_{r, i}(j)$ を用いて $\mathrm{idx}_{4,4}(10)=1$ となる.

本手法では, 発話 $u_{j}$ から発話 $u_{i} への$ 位置表現 Relational Position を，変換 $\mathrm{idx} r_{r, i}$ を用いて，下式で表現する。

$
\mathrm{PE}_{i j}=\mathrm{idx}_{r, i}(j)-\{(r+1) \bmod 2\}
$

$\bmod$ は剩余演算を示す. 式 $(3)$ の $\bmod$ を含む 2 項目は, 相互の依存関係を示すエッジの種類 $r=2,4$ の時に，位置表現の値を $(-1)$ 加算する処理を示す。すなわち，対象の発話に対して，自分自身の発話の位置表現を最大（空幅 $p$ ）に設定する。また，位置表現 $\mathrm{PE}_{i j}$ は，対象の発話から離れるに従い減少する.

Gehring らの手法 (Gehring et al. 2017) を参考に，位置表現 $\mathrm{PE}_{i j}$ の値を固定する場合 (fixed) と学習する場合 (learned)の 2 つを用意する。まず值を固定する場合 (fixed) は, 式 (3) によって得られる値をそのまま用いる。一方で，値を学習する場合 (learned) は，式 (3) によって得られた値を入力した 1 層の FFNN の出力を用いる。値を学習する場合 (learned) は，データセットに適した位置表現を学習することが可能になる.

図 4 に示すように，相対位置に基づく位置表現 $\mathrm{PE}_{i j}$ は，発話から発話への距離に相当し，エッジの重み係数に加えることができる (Relational Position Encodings). 新たに提案する位置表現を加えたエッジの重み係数を下式で示す.

$
\begin{aligned}
\alpha_{i j}^{l} & =\frac{\exp \left(z_{i j}^{l}\right)}{\sum_{\bar{j} \in \mathcal{N}_{r}(i)} \exp \left(z_{i \bar{j}}^{l}\right)} \\
z_{i j}^{l} & =\operatorname{LeakyReLU}\left(\left(\mathbf{a}_{r}^{l}\right)^{T}\left[W_{r}^{l} \mathbf{h}_{i}^{l}|| W_{r}^{l} \mathbf{h}_{j}^{l}\right]+\mathrm{PE}_{i j}\right)
\end{aligned}
$

式 (2) との違いは, 位置表現 $\mathrm{PE}_{i j}$ を足し合わせている点である。位置表現 $\mathrm{PE}_{i j}$ は, 値を固定する場合 (fixed) も学習する場合 (learned) も, 同様にスカラー値である.

図 4 Relational Position Encodings の挿入方法. 位置表現をエッジの種類ごとに用意し，それぞれをエッジに加える。 “PE"は Position Encodings を示す.

表 2 MELD, IEMOCAP, EmoryNLP ベンチマークデータセットの割合と評価方法. train, validation, test における対話数と発話数, クラス数を示す.

## 3.3 感情ラベルの識別

3.2 節で発話関係を考慮し作成した特徴量 $\mathbf{h}_{i}^{L}$ と， 3.1 節で作成した発話の特徴量 $\mathbf{h}_{i}^{0}$ を連結した

別する。式を以下に示す.

$
\operatorname{Classifier}(\mathbf{x})=\operatorname{ReLU}\left(\mathbf{x} W_{1}+\mathbf{b}_{1}\right) W_{2}+\mathbf{b}_{2}
$

$W_{1}$ と $W_{2}$ は FFNN のパラメータを示し, $\mathbf{b}_{1}$ と $\mathbf{b}_{2}$ は学習可能なバイアスベクトルを示す.

## 4 実験設定

## 4.1 データセット

ERCにおける 3 つのベンチマークセットを用いて，提案手法の有効性を検証する． train, validation， test の割合と評価方法を表 2 に示す。また各セットにおける対話数と発話数，クラス数を示す.

MELD (Poria et al. 2018) は，複数の俳優が登場する Friends という TVドラマの, 一部シー ンを切り取った映像と音声の書き起こしからなるデータセットである。また， 1 つ対話に複数の話者が登場するデータセットである。各発話は, (neutral, happiness, surprise, sadness, anger, disgust, or fear)のうち 1 つが付与される.

IEMOCAP (Busso et al. 2008) は 2 人の話者が， 1 対 1 の会話を行う様子を収録した映像と音声の書き起こしからなるデータセットである. 各発話は, (happy, sad, neutral, angry, excited, or frustrated) のうち 1 つが付与される.

EmoryNLP (Zahiri and Choi 2018) はTV ドラマ Friendsから，一部のシーンを切り取り収集したデータセットである．MELDデータセットとデータサイズとラベルの種類が異なり， (neural， sad, mad, scared, powerful, peaceful, or joyful)のうち 1 つが付与される.

## 4.2 評価指標

Ghosal らの手法 (Ghosal et al. 2019) で用いられた評価指標と同じ, Weighted-F1 值を全てのデータセットの評価に用いる.

## 4.3 従来手法

提案手法の有効性を検証するために，以下に示す従来手法と精度を比較する。

CNN (Kim 2014)Convolutional Neural Networks (CNN) を用いて対話文における各発話の特徵量を抽出する手法である。これは対話文における発話同士の関係は利用しない.

CNN+cLSTM (Poria et al. 2017) CNN を用いた発話特徴量の抽出に加えて，双方向 Long Short Term Memory (LSTM) を用いて隣接する発話間の関係を利用する手法である.

KET (Zhong et al. 2019) 階層的 Self-Attention を用いて発話の特徴量を抽出する手法である. また, GAT と外部データベースを組み合わせ, Commonsense Knowledge と感情に関連する単語の特徵量を抽出する手法である.

DialogueRNN (Majumder et al. 2019) CNN を用いて発話の特徴量を抽出し，各発話の関連と話者の特徴, 感情の推移について，それぞれ Gated Recurrent Unit (GRU) でモデリングする手法である.

DialogueGCN (Ghosal et al. 2019) CNN を用いて発話の特徴量を抽出し，隣接する発話間の相互作用を GRU を用いて抽出する手法である。加えて，発話間の関係の中でも自己依存と相互依存の取得に RGAT を利用する手法である.

IEIN (Lu et al. 2020) 双方向 GRU を用いて発話の特徵量を抽出し, 発話間の相互作用の抽出に双方向 GRU と Attention 機構を用いる手法である。 さらに，感情ラベルの確率を入力し，新たな感情ラベルの確率を出力するネットワークを用いる，再起的に確率を導出することで，隣接する発話間の影響を利用する。

HiTrans (Li et al. 2020) EmoryNLP データセットにおいて, State-of-the-art を達成した手法である。発話特徴量の抽出に BERT モデルを用い，話者間の関係の抽出に Transformer を利用し，階層的に組み合わせた手法である。

DialogXL (Shen et al. 2020) MELD, IEMOCAP データセットにおいて, State-of-the-art を達成した手法である。過去の発話を保存し共有するネットワークを, XLNet に加えた手法である. また隣接する発話間の関係 (local) と, 会話全体の発話間の関係 (global) と, 話し手, 聞き手の特徵を，それぞれ Self-Attention を用いて抽出する手法である。

## 4.4 その他の実験設定

その他の実験設定を示す. 提案手法は, 損失関数に Cross Entropy Loss を用いて学習を行った. また, RoBERTa と RGAT モデルの学習率を $1 e-3$ に設定し, Cosine Annealing Schedule により学習率を減少させ学習した (Loshchilov and Hutter 2016). RAdam optimizer (Liu et al. 2019)を用いて最適化を行った. 発話の特徴量と発話関係を考慮し作成した特徴量の次元数を 1024 とし, ラベル識別の中間層の次元数を 512 に設定した。また, エッジ重み係数を計算する際に, 4-Head Attention を用いた．RGATのレイヤ数とバッチサイズはそれぞれ 2 と 8 に設定した． validation セットで最も Weighted-F1 值が高くなるハイパーパラメータの組み合わせを選択した. ドロップアウトの割合は $0.1,0.3,0.5$ の中から 0.3 を，窓幅は $(p, f)=(2,2),(3,3),(4,4),(5,5)$ の中から $(p, f)=(5,5)$ を選択した。全ての実験結果は 5 回行い平均値を用いた. $512 \mathrm{~GB}$ メリの Xeon(R) Gold $6246 \mathrm{CPU}$ と，48GBメモリの Quadro RTX 8000 GPU を用い, CentOS 環境で実験を行った.

## 5 結果と考察

## 5.1 従来手法との比較

従来手法との比較結果を表 3 と表 4 に示す. 提案手法を除く全ての Weighted-F1 値は, 各文献から引用する。

ベンチマークの比較表 3 より, MELD データセットでは, Weighted-F1 値 $63.12 \%$ を達成し, 従来手法を約 $0.7 \%$ 近く上回る世界最高水準の認識精度を達成した。また, IEMOCAPデータセットにおいても, Weighted-F1 值 $65.95 \%$ を獲得し，世界最高水準の認識精度を達成した。結果から 3 つのベンチマークデータセットのうち，2つのデータセットでState-of-the-art を達成し, 提案手法の有効性を確認した. さらに, 複数のベンチマークで高い認識精度を有することから, デー夕数や発話数，登場する話者数が異なる場合でも，精度良く認識できることを確認した。

感情ラベルの比較MELD データセットを用いて, 感情ラベルごとの認識精度を比較し, 提案手法の特徴を分析する。結果を表 4 に示す. 従来手法 $(\sharp 0-\sharp 4)$ に加え, $\sharp 5$ に発話特徴量の抽出を目的として RoBERTa を用いた手法 (RoBERTa), $\sharp 6$ に発話関係の抽出を目的としてRGAT を加え

表 3 MELD, IEMOCAP, EmoryNLP ベンチマークデータセットにおける従来手法との比較.ボールド体は最も性能が高い値を示す，各値は 5 回の実験による Weighted-F1 值の平均値を示す.

表 4 MELDデータセットに打ける従来手法と提案手法の, 感情ラベルごとの認識結果. ボールド体は最も性能が高い値を示す．RoBERTa は発話特徴量の抽出を目的としてRoBERTaを用いた手法, +RGAT は発話関係の抽出を目的としてRGAT を加えた手法 (RoBERTa+RGAT), +PE は Position Encodings を加えた提案手法 (RoBERTa+RGAT +PE) を示す．W-F1 は Weighted-F1 值を示す.

た手法 (+RGAT)，そして $\sharp 7$ に Position Encodings を加えた提案手法 (+PE) の結果を示す.

結果から, 従来手法 $(\sharp 0-\sharp 4)$ と比較し, 全ての感情ラベルで提案手法 $(\sharp 7)$ の有効性を確認できる. 特に, 出現回数の少ない disgust ラベルにおいて, 提案手法 ( $\sharp 7$ ) は F 1 值 $27.51 \%$ を達成し, F1 値 $19.38 \%$ を獲得した $\mathrm{Lu}$ らの手法 ( $\sharp 4)$ を $8 \%$ 以上上回る認識精度を達成した．出現頻度の低い感情ラベルにおいても，提案手法は高い認識性能を有することを確認した。

また $\operatorname{RoBERTa}(\sharp 5)$ と $+\operatorname{RGAT}(\sharp 6)$ と比較し, ほとんど全ての感情ラべルで提案手法 ( $\sharp 7)$ の有効性を確認できる。しかしながら， fear ラベルでは， $\operatorname{RoBERTa}(\sharp 5)$ が高い認識性能を達成した. MELD データセットでは, “I lost it”や“How bad is this?”といった発話に，しばしば fear ラべルが付与される． RoBERTa(\#5) が最も高い $\mathrm{F} 1$ 值を達成したことから，他の発話からの影響や時系列情報に比べて，発話内容が fear の感情に影響することが分かった.

## 5.2 推定結果の分析

次に，発話特徴量の抽出を目的としてRoBERTaを用いた手法，発話関係の抽出を目的として RGAT を加えた手法 (+RGAT)，そしてPosition Encodings を加えた提案手法 $(+\mathrm{PE})$ ，それぞれの推定結果を分析する．結果を表 5 に示す．表 5 は，MELDの validation セットの一部で，恋人と共に引越しをする Monica が，友人である Rachel に別れを告げるシーンである.

結果から，RGAT を用いない手法 (RoBERTa) は，4番目と 10 番目の発話で，誤って joy と認識していることが分かる。一方で, RGAT を用いる手法 $(+\mathrm{RGAT},+\mathrm{PE})$ は, 正しく感情ラべルを認識した，発話間の関係を考慮したことで，Monicaと Rachel の一連の悲しい感情を反映し，正しく認識した。

しかしながら，0 番目の発話で，提案手法 (+PE) は joy と誤って認識した. 先頭（または末尾） の発話を認識する場合, 未来（過去）の発話しか参照できないため, 他の発話に比べて識別が難しい，そこで，対話全体の感情の傾向を考慮することで，参照し得る情報の不足を補うことが見达める. MELD データセットでは, 表 5 の正解ラベルが示すように, 負の感情が現れる対話の場合は負の感情 (sadness, surprise など）が続く傾向にある，従って，対話全体で負の感情が連続する傾向を考慮することで, 表 5 の 0 番目の結果のような正の感情（joyなど）への誤認識を防ぐことが期待

 & neutral & joy & neutral & joy \\

表 5 MELD データセットにおける推定結果．RoBERTa は発話特徴量の抽出を目的として RoBERTaを用いた手法, +RGAT は発話関係の抽出を目的として RGAT を加えた手法 (RoBERTa+RGAT), +PE は Position Encodings を加えた提案手法 (RoBERTa+RGAT+PE) を示す.

$r=1:$ 自己 - 過去 $\square r=2:$ 相互 - 過去

$r=3:$ 自己 - 未来 $\square r=4:$ 相互 - 未来

図 5 表 5 のサンプルにおけるエッジの種類ごとの重み係数. 左に発話関係の利用を目的として RGAT を加えた手法+RGAT(RoBERTa+RGAT), 右に Position Encodings を加えた提案手法 $+\mathrm{PE}(\mathrm{RoBERTa}+\mathrm{RGAT}+\mathrm{PE})$ の結果を示す. 各図は RGAT モデルの最終層 $(L=2)$ の, 4 番目の発話へのエッジの重み係数を示す。重み係数の值が大きいほど，濃い色を示す.

できる。提案手法は，window 幅を設け隣接する発話の局所的な影響を考慮する構造をそなえているが，対話全体の感情の傾向を捉える構造はそなえていない．今後の展望として，発話間の局所的な影響を抽出するモデルに加えて，対話全体の大域的な感情の傾向を抽出するモデルを検討する．

最後に RGAT を加えた手法 $(+\mathrm{RGAT})$ と提案手法 $(+\mathrm{PE})$ について, 4 番目の発話で neutral と推定した際に，周辺のどの発話の影響を重視したかを分析する。表５のサンプルにおける，+RGAT と $+\mathrm{PE}$ のそれぞれのエッジの重み係数（式 (2),(4)）を，図 5 に示す. 左に+RGAT の結果を，右に $+\mathrm{PE}$ の結果を示す。それぞれの図は，RGAT モデルの最終層 $(L=2)$ の， 4 番目の発話に対するエッジの種類ごとの重み係数を示す. 重み係数の值が大きいほど濃い色で示す.

図 5 の結果から, $\mathrm{PE}$ 加えることで，対象の発話 $(i=4)$ に近い発話の影響がそれぞれのエッジの種類で大きくなることが確認できる．赤色で示す自己 - 過去の関係 $(r=1)$ では，PE を加えることで 4 番目の発話の影響が大きくなり，緑色で示す相互 - 未来の関係 $(r=4)$ では, $\mathrm{PE}$ を加えることで 7 番目の発話の影響が大きくなった。このように，PEを加えることで，対象に近い発話の影響を重視することが確認できる。

## 5.3 モデルの種類

MELD データセットを用いて，絶対位置と相対位置に基づくPosition Encodings と比較し，提案手法の有効性を確認する。 Transformerにおける Position Encodings 手法 (Vaswani et al. 2017) を参考に，絶対位置に基づくPosition Encodings をRGAT モデルの入力部分に加える．また，相対位置に基づくPosition Encodings を，グラフのエッジ係数に加える。位置表現を示す值は，固定する場合 (fixed) と，FFNN を用いて学習する場合 (learned)のいずれかを用いる．結果を表 6 に

表 6 絶対位置と相対位置, 提案手法に基づくPosition Encodings の比較

示す. 発話特徴量の抽出を目的としてRoBERTa を用いた手法 $(\sharp 0)$ と，発話関係の抽出を目的としてRGAT を加えた手法 ( $\sharp 1)$ をそれぞれベースラインとする．Position Encodings の種類を変更し，固定または学習した場合の結果を $\sharp 2-\sharp 7$ に示す.

提案する Relation Position Encodings を用いて値を学習する場合 ( $\sharp 7$ ), 最も高い Weighted-F1 値 $63.12 \%$ を得た。提案手法はベースライン $(\sharp 0, \sharp 1)$ に比べ $2 \%$ 近く值が改善し, さらにその他の Position Encodings に比べ高い認識精度を達成した，以上より，Position Encodings を学習する場合, 最も高い認識精度を達成することが確認できる。また，全ての Position Encodings $(\sharp 2-\sharp 7)$ が，ベースライン $(\sharp 0, \sharp 1)$ よりも高い Weighted-F1 值を得ていることから, Position Encodings の有効性も確認することができる。

## 6 まとめ

本論文は，対話文における各発話の感情認識において，RGAT モデルに適した順序情報を加える Relational Position Encodings を提案した。順序情報を加えたRGAT を用いることで，発話間の関係と発話の順序情報の両方を利用できる．3つのベンチマークデータセットを用いて提案手法の有効性を確認したところ，2つのデータセットで従来手法を上回る認識精度を達成した。また提案手法は, 絶対位置や相対位置に基づく Position Encodings よりも高い認識精度を達成し, その有効性を確認した。

今後, Relational Position Encodings の次元数を増加させることを検討している． Relational Position Encodings はエッジの重み係数に加えるため, スカラー值で表現した. スカラー值では表現次数として不十分な可能性があり，今後次元数を増やすことを検討する．また，発話間の局所的な影響を抽出するモデルに加えて，対話全体の大域的な感情の傾向を抽出するモデルを検討する。

## 謝 辞

本論文の内容の一部は, Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP2020) で発表したものである (Ishiwatari et al. 2020).

貴重なコメントや議論を頂いた NHK 放送技術研究所の山田一郎上級研究員, 美野秀弥研究員,遠藤伶研究員, 東京工業大学の德永健伸教授に感謝の意を表す.

## 参考文献

Bradbury, J., Merity, S., Xiong, C., and Socher, R. (2016). "Quasi-recurrent Neural Networks." In Proceedings of the International Conference on Learning Representations.

Busso, C., Bulut, M., Lee, C.-C., Kazemzadeh, A., Mower, E., Kim, S., Chang, J. N., Lee, S., and Narayanan, S. S. (2008). "IEMOCAP: Interactive Emotional Dyadic Motion Capture Database." Language resources and evaluation, 42 (4), p. 335.

Devlin, J., Chang, M.-W., Lee, K., and Toutanova, K. (2018). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." CORR, abs/1810.04805.

Gehring, J., Auli, M., Grangier, D., Yarats, D., and Dauphin, Y. N. (2017). "Convolutional Sequence to Sequence Learning." In Proceedings of the 34th International Conference on Machine Learning-Volume 70, pp. 1243-1252.

Ghosal, D., Majumder, N., Poria, S., Chhaya, N., and Gelbukh, A. (2019). "DialogueGCN: A Graph Convolutional Neural Network for Emotion Recognition in Conversation." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 154-164.

Guo, C., Cao, J., Zhang, X., Shu, K., and Liu, H. (2019). "DEAN: Learning Dual Emotion for Fake News Detection on Social Media." CORR, abs/1903.01728.

Hochreiter, S. and Schmidhuber, J. (1997). "Long Short-term Memory." Neural Computation, 9 (8), pp. 1735-1780.

Huang, C., Zaiane, O. R., Trabelsi, A., and Dziri, N. (2018). "Automatic Dialogue Generation with Expressed Emotions." In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 2 (Short Papers), pp. 49-54.

Ingraham, J., Garg, V., Barzilay, R., and Jaakkola, T. (2019). "Generative Models for Graph-based Protein Design." In Advances in Neural Information Processing Systems,
pp. 15794-15805.

Ishiwatari, T., Yasuda, Y., Miyazaki, T., and Goto, J. (2020). "Relation-aware Graph Attention Networks with Relational Position Encodings for Emotion Recognition in Conversations." In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 7360-7370.

Kim, Y. (2014). "Convolutional Neural Networks for Sentence Classification." In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1746-1751.

Kipf, T. N. and Welling, M. (2016). "Semi-supervised Classification with Graph Convolutional Networks." In Proceedings of the International Conference on Learning Representations.

Lee, J. and Hong, I. B. (2016). "Predicting Positive User Responses to Social Media Advertising: The Roles of Emotional Appeal, Informativeness, and Creativity." International Journal of Information Management, 36 (3), pp. 360-373.

Li, J., Ji, D., Li, F., Zhang, M., and Liu, Y. (2020). "HiTrans: A Transformer-Based Contextand Speaker-Sensitive Model for Emotion Detection in Conversations." In Proceedings of the 28th International Conference on Computational Linguistics, pp. 4190-4200.

Liu, L., Jiang, H., He, P., Chen, W., Liu, X., Gao, J., and Han, J. (2019). "On the Variance of the Adaptive Learning Rate and Beyond." In Proceedings of the International Conference on Learning Representations.

Liu, P., Qiu, X., and Huang, X. (2016). "Recurrent Neural Network for Text Classification with Multi-Task Learning." In Proceedings of the 25th International Joint Conferences on Artificial Intelligence Organization (IJCAI-16), pp. 2873-2879.

Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., and Stoyanov, V. (2019). "RoBERTa: A Robustly Optimized BERT Pretraining Approach." CORR, abs/1907.11692.

Loshchilov, I. and Hutter, F. (2016). "SGDR: Stochastic Gradient Descent with Warm Restarts." In Proceedings of the International Conference on Learning Representations.

Lu, X., Zhao, Y., Wu, Y., Tian, Y., Chen, H., and Qin, B. (2020). "An Iterative Emotion Interaction Network for Emotion Recognition in Conversations." In Proceedings of the 28th International Conference on Computational Linguistics, pp. 4078-4088.

Luo, L. and Wang, Y. (2019). "EmotionX-HSU: Adopting Pre-trained BERT for Emotion Classification." CORR, abs/1907.09669.

Majumder, N., Poria, S., Hazarika, D., Mihalcea, R., Gelbukh, A., and Cambria, E. (2019). "DialogueRNN: An Attentive RNN for Emotion Detection in Conversations." In Proceedings
of the AAAI Conference on Artificial Intelligence, Vol. 33, pp. 6818-6825.

Picard, R. W. (2010). "Affective Computing: From Laughter to IEEE." IEEE Transactions on Affective Computing, 1 (1), pp. 11-17.

Poria, S., Cambria, E., Hazarika, D., Majumder, N., Zadeh, A., and Morency, L.-P. (2017). "Context-Dependent Sentiment Analysis in User-Generated Videos." In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (volume 1: Long papers), pp. 873-883.

Poria, S., Hazarika, D., Majumder, N., Naik, G., Cambria, E., and Mihalcea, R. (2018). "MELD: A Multimodal Multi-party Dataset for Emotion Recognition in Conversations." In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. $527-536$.

Schlichtkrull, M., Kipf, T. N., Bloem, P., Van Den Berg, R., Titov, I., and Welling, M. (2018). "Modeling Relational Data with Graph Convolutional Networks." In European Semantic Web Conference Springer, pp. 593-607.

Shaw, P., Uszkoreit, J., and Vaswani, A. (2018). "Self-Attention with Relative Position Representations." In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics, pp. 464-468.

Shen, W., Chen, J., Quan, X., and Xie, Z. (2020). "DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition." In 35th AAAI Conference on Artificial Intelligence, pp. 13789-13797.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., and Polosukhin, I. (2017). "Attention Is All You Need." In Advances in Neural Information Processing Systems, pp. 5998-6008.

Veličković, P., Cucurull, G., Casanova, A., Romero, A., Lio, P., and Bengio, Y. (2017). "Graph Attention Networks." In Proceedings of the International Conference on Learning Representations.

Wang, X., Tu, Z., Wang, L., and Shi, S. (2019). "Self-Attention with Structural Position Representations." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 1403-1409.

Yang, K., Lee, D., Whang, T., Lee, S., and Lim, H. (2019). "EmotionX-KU: BERT-Max based Contextual Emotion Classifier." CORR, abs/1906.11565.

Zahiri, S. M. and Choi, J. D. (2018). "Emotion Detection on TV Show Transcripts with Sequencebased Convolutional Neural Networks." In Workshops at the 32nd AAAI Conference on

Artificial Intelligence, pp. 44-52.

Zhong, P., Wang, D., and Miao, C. (2019). "Knowledge-Enriched Transformer for Emotion

Detection in Textual Conversations." In Proceedings of the 2019 Conference on Empirical

Methods in Natural Language Processing and the 9th International Joint Conference on

Natural Language Processing (EMNLP-IJCNLP), pp. 165-176.

#
略歴

石渡太智：2017 年早稲田大学大学院修士課程修了. 同年, NHK に入局. 2019 年より放送技術研究所にて自然言語処理の研究に従事. 2021 年より東京工業大学博士後期課程在学. 言語処理学会会員.

安田有希：2017 年早稲田大学大学院修士課程修了. 同年, NHK に入局. 2019 年より放送技術研究所にて自然言語処理の研究に従事.

宮﨑太郎：2006 年東京工業大学大学院修士課程修了. 同年, NHK に入局. 2011 年より放送技術研究所にて自然言語処理の研究に従事. 2017 年から 2018 年メルボルン大学訪問研究員. 言語処理学会, 映像情報メディア学会, 電子情報通信学会, 各会員.

後藤淳：1993 年徳島大学大学院修士課程修了. 同年, NHK に入局. 1998 年より同放送技術研究所で言語処理研究に従事. 2014 年総合研究大学院大学博士課程修了. 博士 (情報学). 現在, 放送技術研究所上級研究員. 映像情報メディア学会, 電子情報通信学会各会員.

\author{
(2021 年 3 月 31 日受付) \\ (2021 年 7 月 1 日再受付) \\ (2021 年 8 月 11 日採録)
}


# ニューラル機械翻訳での目的言語側の文脈の効果的な利用

美野 秀弥 ${ }^{+}, \dagger+$ - 伊藤 均 $\dagger \cdot$ 後藤 功雄 $\dagger$ - 山田 一郎 $\dagger \cdot$ 德永 健伸 $\dagger \dagger$

本稿では, 文脈を考慮したニューラル機械翻訳の精度向上のため, 目的言語側の前文の参照訳と機械翻訳結果の両方を文脈情報として用いる手法を提案する。文脈と して，原言語側または目的言語側の周辺の文が利用できるが，目的言語側の周辺の 文を用いる手法は翻訳精度が下がることが報告されている。目的言語側の文脈を利用したニューラル機械翻訳では，学習時は参照訳を用い，翻訳時は機械翻訳結果を 用いるため, 参照訳と機械翻訳結果の特徴の異なり（ギャップ）が原因の 1 つと考 えられる。そこで，学習時と翻訳時の目的言語側の文脈情報のギャップを緩和する ために，学習時に用いる目的言語側の文脈情報を学習の進行に応じて参照訳から機械翻訳結果へ段階的に切り替えていく手法を提案する。時事通信社のニュースコー パスを用いた英日・日英機械翻訳タスクと，IWSLT2017の TED トークコーパスを 用いた英日 -日英, および英独・独英機械翻訳タスクの評価実験により, 従来の目的言語側の文脈を利用した機械翻訳モデルと比較して，翻訳精度が向上することを 確認した。

キーワード：ニューラル機械翻訳，文脈情報，Curriculum Learning
## Effective Use of Target-side Context for Neural Machine Translation

\author{
Hideya Mino ${ }^{\dagger, \dagger \dagger}$, Hitoshi $^{\dagger}$ Ito $^{\dagger}$, Isao Goto ${ }^{\dagger}$, Ichiro Yamada $^{\dagger}$ and \\ TAKEnobu Tokunaga ${ }^{\dagger \dagger}$
}

This paper proposes a method for a context-aware neural machine translation (NMT) using both the ground truth and the machine-translated previous sentences of the target-side. Through the progress made in a sentence-level NMT, a context-aware NMT has been rapidly developed to exploit previous sentences as context. Recent work in the context-aware NMT incorporates source- or target-side contexts. In contrast to the source-side context, the target-side context causes a gap between training that utilizes a ground truth sentence and a machine-translated sentence as context. This gap leads to translation quality deteriorating because the translation model is trained with only the ground truth data that cannot be used in the inference. The proposed method can make the translation model robust against mistakes and biases made at the inference. We confirmed the improvements of our proposed approach

compared to models using the previous approaches in English $\leftrightarrow$ Japanese and English $\leftrightarrow$ German translation tasks.

Key Words: Neural Machine Translation, Context Information, Curriculum Learning

## 1 はじめに

近年，ニューラルネットワークを活用した機械翻訳（ニューラル機械翻訳）(Vaswani et al. 2017; Bahdanau et al. 2015; Sutskever et al. 2014) は著しい精度の向上を実現している.ニュー ラル機械翻訳は通常，原言語一文を入力して目的言語への翻訳結果を出力するが，さらに翻訳精度を上げるため，翻訳対象の周辺の文を文脈情報として活用する手法が提案されている (Maruf et al. 2019; Voita et al. 2019; Agrawal et al. 2018; Bawden et al. 2018; Kuang et al. 2018; Läubli et al. 2018; Miculicich et al. 2018; Tiedemann and Scherrer 2017; Wang et al. 2017). 本稿では,特に目的言語側の前文を活用したニューラル機械翻訳の改善手法を提案する。文脈情報を用いる手法には原言語側や目的言語側の周辺の文を用いる手法があるが，文脈情報に目的言語側の周辺の文を用いる手法は翻訳精度が下がることが報告されている (Bawden et al. 2018). この翻訳精度の低下は，翻訳モデルの学習時と翻訳時で用いる周辺の文の特徴の異なり（ギャップ）が原因の 1 つと考えられる。従来研究では, 学習時は目的言語側の周辺の文の参照訳を使用し,翻訳時は翻訳モデルによって生成された機械翻訳結果を用いているが，機械翻訳結果には，参照訳には含まれない訳抜け，過剰訳，誤訳などの機械翻訳特有の誤り（機械翻訳誤り）が含まれる可能性がある。また，機械翻訳誤りが無い場合でも，機械翻訳結果は，Translationese（翻訳調）と呼ばれる偏りのある文となっている．Toral (2019) は，機械翻訳結果が人手翻訳で作られた翻訳文と比較して単純で標準的な翻訳になる傾向があることを示している。学習時と翻訳時でギャップのあるデータを用いることで生じるモデルの偏りは, exposure bias と呼ばれており (Ranzato et al. 2016), 翻訳品質の低下に繋がることが報告されている (Zhang et al. 2019).目的言語側の周辺の文の利用において，学習時に参照訳を用い，翻訳時に機械翻訳誤りを含み，翻訳調の特徴を有する機械翻訳結果を用いることは, exposure biasによる翻訳低下を引き起こすと考えられる。下記は, IWSLT2017で提供されている日英対訳データセット (Cettolo et al. 2012) から抽出した例であり, 翻訳対象の原言語文, 翻訳対象の参照訳, 翻訳対象の機械翻訳結果を示している。 さらに，文脈情報として，前文の参照訳と機械翻訳結果を示している。機械翻訳結果は，日英対訳データセットを Transformer モデル (Vaswani et al. 2017) で学習した機械翻訳器を用いて翻訳した。

前文の参照訳 : She lays eggs, she feeds the larvae - so an ant starts as an egg, then it's a larva.
前文の機械翻訳結果 : And when they get their eggs, they get their eggs, and the queen is there.

翻訳対象の原言語文：脂肪を吐き出して幼虫を育てます

翻訳対象の参照訳 : She feeds the larvae by regurgitating from her fat reserves.

翻訳対象の機械翻訳結果 : They take fat and they raise the larvae of their larvae.

翻訳対象の原言語文では主語が省略されており，この文のみで主語を推定することができず参照訳を生成することは困難である。しかし，前文の参照訳，または機械翻訳結果には主語を推定する情報（参照訳には“she”，機械翻訳結果には“queen”）が含まれており，目的言語側の前文を使うことで正しい翻訳ができる可能性がある。一方で，前文の参照訳と機械翻訳結果を比較すると機械翻訳結果には誤訳が含まれており，参照訳と機械翻訳結果との間にギャップがあることが分かる。誤訳のない参照訳のみを文脈情報として学習した翻訳モデルは文脈に含まれる誤訳に頑健でないと考えられ，参照訳と機械翻訳を学習時と翻訳時で別々に用いる手法は exposure biasによる翻訳精度低下を引き起こす可能性がある。

本稿では，スケジュールドサンプリング法 (Bengio et al. 2015) を参考にして，学習時と翻訳時の目的言語側の前文の特徴のギャップを緩和するための学習デー夕制御手法を提案する。具体的には, 初期の学習では従来手法と同様に文脈情報として目的言語側の前文に参照訳のみを用い，学習が進行するにつれて，段階的に参照訳から機械翻訳結果へ切り替えていく．この処理により，翻訳モデルが機械翻訳誤りに頑健になり，翻訳調の特徴に対応できるようになると期待できる。機械翻訳結果は, 対訳データを Transformer モデルで学習した機械翻訳器で生成する，実験では，提案手法を結合ベース文脈考慮型ニューラル機械翻訳 (Bawden et al. 2018; Tiedemann and Scherrer 2017) とマルチエンコーダ文脈考慮型ニューラル機械翻訳 (Kim et al. 2019; Bawden et al. 2018) で実装し，ニュースコーパス (田中他 2021)を用いた英日・日英機械翻訳タスク，およびIWSLT2017データセット (Cettolo et al. 2012) を用いた英日・日英，および英独・独英機械翻訳タスクで評価した。その結果, 提案手法が従来手法と比較して BLEU スコア (Papineni et al. 2002)により翻訳精度が改善していることを確認した。

本稿の構成は以下の通りである。まず， 2 章で提案手法が前提とする文脈考慮型ニューラル機械翻訳について述べ， 3 章で提案手法を説明する． 4 章で提案手法の効果を確認するための翻訳実験の詳細を示し， 5 章で翻訳実験の結果を示して提案手法の効果を分析する，6 章で関連研究について述べ, 最後に 7 章で本稿をまとめる.

## 2 文脈考慮型ニューラル機械翻訳

本節では，文脈考慮型ニューラル機械翻訳モデルの従来手法である，結合ベース文脈考慮型ニューラル機械翻訳と，マルチエンコーダ文脈考慮型ニューラル機械翻訳を説明する。

## 2.1 結合ベース文脈考慮型ニューラル機械翻訳

結合ベース文脈考慮型ニューラル機械翻訳 (Tiedemann and Scherrer 2017; Bawden et al. 2018) は，ニューラル機械翻訳モデルの構造を変えずに，翻訳対象の文と文脈情報との間に特殊なトー クン (_BREAK-) を挿入して結合してエンコーダに入力する。翻訳時に，翻訳対象の文の翻訳結果のみを出力するモデルを 2-to-1 モデル，翻訳対象の文に加えて文脈情報を併せて翻訳するモデルを 2-to-2 モデル1 と呼ぶ． 2-to-2 モデルでは，翻訳対象の文の翻訳結果と文脈情報の翻訳結果の間に特殊なトークンを併せて出力させることで, 出力から翻訳対象の文の翻訳結果のみを抽出できるようにする。李他 (2019) は，新聞デー夕を用いた日英・英日機械翻訳実験で 2-to-2 モデルと 2-to-1 モデルの比較を行い，2-to-1 モデルの方が翻訳精度が向上したことを報告しており，本稿でも事前実験の結果も踏まえて 2-to-1 モデルを用いた.

## 2.2 マルチエンコーダ文脈考慮型ニューラル機械翻訳

マルチエンコーダ文脈考慮型ニューラル機械翻訳 (Bawden et al. 2018; Kim et al. 2019) は,翻訳対象の文を入力とするエンコーダと，文脈情報を入力とするエンコーダを持つ．複数のエンコーダの出力べクトルは結合する必要があり，複数の出力べクトルを「どこで結合させるか」 と，「どのように結合させるか」の違いでいくつかのバリエーションがある.「どこで結合させるか」は，エンコーダの出力ベクトルをデコーダの内側と外側のどちらで結合するかを表す．Kim et al. (2019) は, エンコーダの出力ベクトルをデコーダの内側で結合したモデルの方が翻訳精度が高いことを示しており，本稿でもデコーダの内側で結合する手法を用いた.「どのように結合させるか」は，連結 (attention concatination), 重み付き和（attention gate），階層（hierarchical attention）の 3 種類がある (Bawden et al. 2018). 本稿では，事前実験で BLEU スコアの高かった重み付き和を用いた。重み付き和は，翻訳対象のベクトル $\mathbf{c}_{\mathrm{s}}$ と文脈のベクトル $\mathbf{c}_{\mathrm{r}}$ を用いて下記の式によりベクトル $\mathbf{c}$ を得る (Bawden et al. 2018).

$
\begin{gathered}
\mathbf{g}=\tanh \left(W_{r} \mathbf{c}_{\mathbf{r}}+W_{s} \mathbf{c}_{\mathbf{s}}\right)+\mathbf{b} \\
\mathbf{c}=\mathbf{g} \odot\left(W_{t} \mathbf{c}_{\mathbf{r}}\right)+(\overrightarrow{1}-\mathbf{g}) \odot\left(W_{u} \mathbf{c}_{\mathbf{s}}\right)
\end{gathered}
$

g は gating activation と呼ばれる，各ベクトルの要素の重要度の違いを表すべクトルである．b はバイアスベクトル $, W_{r}, W_{s}, W_{t}, W_{u}$ は重み行列である。はアダマール積を計算する.

## 3 提案手法

本節では，文脈を考慮した機械翻訳手法の一手法である目的言語側の文脈を考慮する機械翻
^{1}$ 2-to-1 は片言語の文脈があれば適用可能であるのに対し, 2-to-2 は対訳の文脈が必要となり, 適用範囲が異なる.
}
訳における，学習時と翻訳時に用いる目的言語側の文脈情報のギャップを低減することを目的としたサンプリング手法について説明する。

## 3.1 利用する文脈情報

学習時にニューラル機械翻訳のエンコーダに入力する目的言語側の文脈情報として, 前文の参照訳と機械翻訳結果の両方を用い，前節で示した 2 種類のアーキテクチャに適用する。翻訳対象が文書の先頭のときは，前文の情報がないため，特殊なトークン（_BOS_）を文脈情報として用いる。図 1 （a）は結合ベース文脈考慮型ニューラル機械翻訳に適用したモデルを示し，図 1（b）はマルチエンコーダ文脈考慮型ニューラル機械翻訳に適用したモデルを示している.翻訳対象である，文書中の $j$ 番目の原文のトークン列は $X^{j}$ で表す. 文脈情報として用いる，文書中の $j-1$ 番目の参照訳のトークン列は $\hat{Y}^{j-1}$ で表し, $j-1$ 番目の機械翻訳結果のトークン列は $\bar{Y}^{j-1}$ で表す。文脈情報として用いる機械翻訳結果は，学習時と翻訳時ともに文脈を考慮しないニューラル機械翻訳で生成する。図 1 の $p$ は 1 エポックの学習データに含まれる参照訳の割合を示し， $1-p$ が機械翻訳結果が含まれる割合となる． $p=0$ の場合は入力される文脈情報データの全てが機械翻訳, $p=1$ の場合は文脈情報データの全てが参照訳で学習されることになる。翻訳時は $p=0$ ，すなわち常に機械翻訳結果が文脈情報として用いられる．結合べース文脈考慮型ニューラル機械翻訳（図１（a））では，エンコーダが出力したべクトルがデコーダに入力される，マルチエンコーダ文脈考慮型ニューラル機械翻訳（図 1 （b））では，原文エンコーダと文脈エンコーダが出力した 2 つのべクトルを 1 つのべクトルに変換してからデコーダに入力し，デコーダを通して目的言語側の文のトークン列 $Y^{j}$ を得る.

## 3.2 サンプリング制御

学習データ内の目的言語側の文脈情報として，参照訳と機械翻訳結果のどちらを用いるかをサンプリングレート $p$ により制御するが，タスクや学習時の翻訳モデルの性能によって適切な

(a)

(b)

図 1 （a）結合ベース文脈考慮型ニューラル機械翻訳，（b）マルチエンコーダ文脈考慮型ニューラル機械翻訳

サンプリングレートは異なる。学習時において，目的言語側の文脈情報に機械翻訳結果を使う場合ではエンコードされた文脈情報ベクトルは訳抜け, 過剰訳, 誤訳など機械翻訳特有の誤り （機械翻訳誤り）を含み，翻訳モデルはこれらの機械翻訳誤りを考慮して学習される。一方，参照訳のみを使う場合では機械翻訳誤りがないので，文脈情報を効果的に利用するように翻訳モデルが学習されることが期待できる。翻訳時において，目的言語側の文脈情報に機械翻訳誤りのない参照訳を使うことができる場合では，学習時も同様に参照訳を使うことが望ましい。しかし，翻訳時には参照訳ではなく機械翻訳結果を用いるため，翻訳モデルは訳抜け，過剰訳，誤訳などが含まれた文脈を利用して翻訳することになる。さらに，機械翻訳結果は，機械翻訳誤りがない場合でも，Translationese（翻訳調）と呼ばれる偏りのある文であることが知られている. Toral (Toral 2019) は，機械翻訳は人手翻訳よりもシンプルかつ標準化された結果になる傾向にあると示しており，参照訳と機械翻訳結果は多様性の側面からも異なる特徴を有していると考えられる。

翻訳時と同じ特徴を有する目的言語側の文脈情報を使うという観点では機械翻訳結果を用いることが好ましいが，効果的な文脈の利用という観点では参照訳を用いることが好ましい，そこで，双方の利点を活かすために，特徴の異なる参照訳と機械翻訳結果の両方を用いて学習することを提案する。提案手法は，カリキュラム学習 (Bengio et al. 2009) とスケジュールドサンプリング (Bengio et al. 2015) のアプローチを参考にしてサンプリングを制御する. Bengio et al. (2015) は, 学習時に, Recurrent neural networkに入力する直前のトークンとしてモデルの出力と正解のどちらを用いるかをサンプリング制御したのに対し，本稿ではこの手法を，目的言語側の文脈情報として機械翻訳の出力と正解のどちらを用いるかのサンプリング制御に応用する. この手法は, 下記の手順により学習エポックごとに, 入力に用いる文脈情報を変更することで,翻訳モデルを段階的に機械翻訳誤り，および翻訳調に対応させる。学習エポック数 $l$ に対応したサンプリングレートを $p_{l}$ とする.

（1） 1 エポック目 $(l=1)$ の学習はサンプリングレートを $p_{1}=1$ とし，目的言語側の文脈情報には全て参照訳を用いる。

（2） 2 エポック目 $\left(l \geq 2 ）\right.$ 以降の学習はサンプリングレート $p_{l}$ を下記の逆シグモイド関数により減少させる.

$
p_{l}=\frac{k}{k+\exp (l-2 / k)}
$

$k(\geq 1)$ は $p$ の減少スピードを制御するハイパーパラメータである. 1 エポック終了時の翻訳モデルの性能が高いのであれば $k$ の値を 1 に近づけ, 2 エポック目以降の学習デー夕内の機械翻訳の割合を増やす。上記の手順により，翻訳誤りに頑健で翻訳調の特徴に対応した翻訳モデルの学習を実現する。

## 4 評価実験

本節では，提案手法の効果を確認するための機械翻訳実験について述べる.

## 4.1 データ

実験では，下記の 2 種類のコーパスを用いる．表 1 に各データセットのデータ数と記事数を示す.

$
\text { ニュースコーパス }
$

時事通信社のニュース記事を利用して開発された日英ニュース対訳コーパス (田中他 2021)の一部を用いた. このコーパスは日本語のニュース記事の一部を文単位で人手翻訳している。本実験では，ニュースタイトルを除きニュース本文を利用した。コーパス中の 1 記事あたりの平均文数は 8 文であった.

TED トークコーパス

IWSLT2017 (Cettolo et al. 2012) で公開されている TED の字幕対訳コーパスを用いた.

開発データセットは“dev2010”を用いた。テストセットは英日・日英機械翻訳タスクについては“tst2014”を用い, 英独・独英機械翻訳タスクについては“tst2015”を用いた. コーパス中の 1 記事あたりの平均文数は 119 文であった.

## 4.2 文脈の利用

2 章で述べた結合ベース文脈考慮型ニューラル機械翻訳（図 1 (a)）とマルチエンコーダ文脈考慮型ニューラル機械翻訳（図 1 （b））の２種類の文脈考慮型ニューラル機械翻訳を用いた.目的言語側の文脈情報には翻訳対象の文の 1 つ前の文を利用した.

## 4.3 詳細設定

英語とドイツ語のデータのクリーニング, および単語分割には Moses toolkit ${ }^{2}$ の clean-corpus-

表 1 コーパスの統計情報.

n.perl ${ }^{3}$, tokenizer.perl ${ }^{4}$ を用いた。日本語の形態素解析には, KyTea (Neubig et al. 2011)を利用した。各タスクで語彙数を制限するため, バイトペア符号化（byte pair encoding）を用いたサブワード (Sennrich et al. 2016) を用いた。語彙数は 48,000 とし，頻度が 35 以下の語彙はサブワー ドに分割した。データ内の長大語は特別な処理を行わなかった ${ }^{5}$. 結合べース文脈考慮型ニュー ラル機械翻訳には， Transformer モデル (Vaswani et al. 2017) のエンコーダとデコーダを用いた. Transformer モデルは, レイヤを複数層スタックしたモデルであり, multi-head attention 層と position-wise feed-forward 層のサブレイヤを有する．原言語文と目的言語側の文脈情報が結合された単語列をエンコーダが中間表現であるべクトルに変換し，デコーダがそのべクトルを用いて翻訳結果となる目的言語文を生成する。マルチエンコーダ文脈考慮型ニューラル機械翻訳についても，Transformer モデルを用い，Littell et al. (2019)のアーキテクチャを基に実装した。結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳のいずれも Sockeye toolkit (Hieber et al. 2018)を用いて実装した。

本稿のモデルの学習には Adam (Kingma and Ba 2015) を optimizer として用い，学習率は 0.0002 とした. バッチ内のデータは 5,000 トークン以内になるように構築した。学習時の各エンコーダへの入力の最大長は，結合ベース文脈考慮型ニューラル機械翻訳では 200 トークン, マルチエンコーダ文脈考慮型ニューラル機械翻訳では原文エンコーダ，文脈エンコーダともに 100 トークンに制限した 6 . 翻訳時の各エンコーダへの入力の最大長は設定しなかった。 その他のハイパーパラメータの設定は Sockeye toolkit のデフォルト値に従った. Early stopping を設定し，patienceの値を 32 とした．翻訳時は，ビームサーチを用い，ビーム幅を 5 とした。式 3 のハイパーパラメータ $k$ は 2 とした。学習, 翻訳ともに, Nvidia P100 Tesla GPUを用いて計算を行った。翻訳性能の比較には，ランダムシードの異なる 5 つのモデルを学習してそれぞれのモデルが出力した翻訳結果の BLEU スコア (Papineni et al. 2002)の中央値を用いた. BLEU スコアには, case-insensitive BLEU-4 を用い, multi-bleu.perl7で計算した. また, サンプル数を 10,000 に設定した paired-bootstrap.py8を用い，BLEU スコアにおける提案手法と他手法との有意差を調べた。

## 4.4 比較手法

提案手法との比較を行うために本稿で用いた比較手法（表 2）を説明する.
^{3}$ https://github.com/moses-smt/mosesdecoder/blob/master/scripts/training/clean-corpus-n.perl

4 https://github.com/moses-smt/mosesdecoder/blob/master/scripts/tokenizer/tokenizer.perl

5 頻度などの設定条件に従い，バイトペア符号化によりサブワード分割される.

6 結合ベース文脈考慮型ニューラル機械翻訳は，原文と文脈の合計が 200 トークン以内であれば学習データとして用いるため, マルチエンコーダ文脈考慮型ニューラル機械翻訳よりも学習データの数は $6 \sim 153$ データ多くなった.

7 https://github.com/moses-smt/mosesdecoder/blob/master/scripts/generic/multi-bleu-detok.perl

 }^{8}$ https://github.com/neubig/util-scripts/blob/master/paired-bootstrap.py

 \\

表 2 比較手法.

文レベル機械翻訳（Single-Sentence）

文脈として目的言語側の前文を考慮することによる効果を知るために，文脈を考慮しない機械翻訳手法を比較手法とした。翻訳対象のみをエンコーダに入力してデコーダが翻訳結果を出力する。 Transformer モデルのニューラル機械翻訳を用いた.

文脈考慮型機械翻訳（Src-Context， Trg-Context）

文脈を考慮する機械翻訳手法として，原言語側の情報を用いる手法 (Agrawal et al. 2018;

Bawden et al. 2018) と目的言語側の情報を用いる手法 (Bawden et al. 2018) がある. 両方の情報を併用することもできるが，本稿ではどちらの情報が有効であるかを比較するために，原言語側の情報を用いた場合（Src-Context）と目的言語側の情報を用いた場合 （Trg-Context）のそれぞれを比較手法とした。目的言語側の情報を用いる手法では，参照訳と機械翻訳結果のいずれかを用いることができるため，それぞれを用いた手法（TrgContext GT，Trg-Context Pred.）を比較した。文脈情報は，提案手法と同様に翻訳対象の文の 1 つ前の文を利用した. Src-Context, Trg-Context GT, Trg-Context Pred. ともに，結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳の 2 種類のシステムに適用した.

## 5 実験結果

ニュースコーパスを用いた英日・日英機械翻訳実験の結果，および TED トークコーパスを用いた英日・日英, 英独・独英機械翻訳実験の結果を表 3 に示す. 文脈を用いない手法（SingleSentence), 原言語側の前文を用いた手法 (Src-Context)，目的言語側の前文として，参照訳を用いて学習した手法 (Trg-Context GT), 機械翻訳結果を用いて学習した手法 (Trg-Context Pred.),参照訳と機械翻訳結果の両方を用いて学習した提案手法, それぞれの BLEU スコアを示している.

表 3 原言語側，または目的言語側の文脈情報を用いた,ニュースコーパスの英日・日英機械翻訳 (EN-JA, JA-EN）の実験結果（上部）およびTED トークコーパスの英日・日英機械翻訳 (EN-JA, JA-EN),英独・独英機械翻訳（EN-DE，DE-EN）の実験結果（下部）、vanilla は文脈を用いないニューラル機械翻訳, concat. は結合ベース文脈考慮型ニューラル機械翻訳, multi-enc. はマルチエンコーダ文脈考慮型ニューラル機械翻訳を表している．Src，Trg GT，Trg MT は，学習時に用いた文脈情報として，原言語側の前文，目的言語側の参照訳，目的言語側の機械翻訳結果を用いたことを表して

Trg-Context GT, Trg-Context Pred. と比較して有意に BLEU スコアが高いことを示している（有意水準 $\alpha=0.05$ ). Src-Context, Trg-Context GT, Trg-Context Pred については同じシステム内 (concat.または multi-enc.) での比較とした.

## 5.1 提案手法の有効性の検証

提案手法と，文脈を考慮しないニューラル機械翻訳，目的言語側の前文を用いた手法，および原言語側の前文を用いた手法とを比較することで提案手法の有効性を検証する。

先ず，提案手法と，文脈を用いないニューラル機械翻訳（Single-Sentence）とを比較する。表 3
より，結合ベース文脈考慮型ニューラル機械翻訳（concat.）を用いた場合は,ニュースコーパス日英機械翻訳と TED トークコーパス英日・日英機械翻訳以外のタスクにおいて提案手法の BLEU スコアが有意に高かった. マルチエンコーダ文脈考慮型ニューラル機械翻訳 (multi-enc.) を用いた場合は，全てのタスクにおいて提案手法の BLEU スコアが有意に高かった。

次に，目的言語側の前文を用いた手法間の比較として，提案手法と，参照訳のみを用いて学習した手法（Trg-Context GT），および機械翻訳結果のみを用いて学習した手法（Trg-Context Pred.）とを比較する，表 3 より，結合ベース文脈考慮型ニューラル機械翻訳（concat.）を用いた場合は，TEDトークコーパスの英独機械翻訳の Trg-Context GT との比較では同じ BLEU スコアだったが，それ以外では提案手法の BLEU スコアが高く，一部のタスクでは有意に高かった。マルチエンコーダ文脈考慮型ニューラル機械翻訳（multi-enc.）を用いた場合は，全タスクにおいて提案手法の BLEU スコアが高く，一部のタスクでは有意に高かった.

最後に，提案手法と，原言語側の前文を用いた手法（Src-Context）とを比較する。表 3 より， マルチエンコーダ文脈考慮型ニューラル機械翻訳（multi-enc.）を用いた場合は，全タスクにおいて提案手法の BLEU スコアの方が高く, TED トークコーパスの英日, 独英機械翻訳タスクでは有意に高かった．先行研究では目的言語側の文脈の利用により翻訳精度が低下することが報告されていたが (Bawden et al. 2018)， multi-enc. を用いた提案手法では，文脈を用いていない手法と比較して有意に BLEU スコアが高かっただけでなく, Src-Context と比較しても全タスクで BLEU スコアが高くなっており，Src-Context と同等以上の効果が得られた。原言語側の前文を用いる手法と目的言語側の前文を用いる手法は異なる情報を用いており，競合するものではなく，条件によって一方のみが利用可能である場合や，併用が可能である場合が考えられる．上記の比較により，提案手法の有効性を確認した.

## 5.2 目的言語側の前文に機械翻訳結果のみを用いる影響の考察

表 3 より，目的言語側の前文に機械翻訳結果のみを用いた手法（Trg-Context Pred.）の BLEU スコアは，提案手法よりも低かっただけでなく，結合べース文脈考慮型ニューラル機械翻訳 (concat.）を用いたニュースコーパスの日英機械翻訳タスクと TED トークコーパスの英日・日英, 英独機械翻訳タスクでは, 文脈を考慮しない Transformer モデル（Single-Sentence）よりも低かった．Trg-Context Pred.は，学習時，翻訳時ともに機械翻訳結果を用いており exposure bias による影響を回避できているが，BLEU スコアが低かった理由について考察する．表 3 の参照訳のみを用いて学習した手法（Trg-Context GT）は, 学習時に参照訳, 翻訳時に機械翻訳結果を用いているが，Trg-Context GT の翻訳時に参照訳を用いることで，Trg-Context Pred. と同様に exposure biasによる影響を回避することができる。Trg-Context GT の翻訳時に目的言語側の前文として参照訳を用いた結果は，後で説明する「exposure biasの影響の考察」（表 4 の一番下の行）で示しており，Trg-Context Pred.の結果と比較して BLEU スコアが高い. 両者の

表 4 学習時と翻訳時両方ともに目的言語側の前文の参照訳を用いた実験結果（BLEU スコア）との比較. マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた。目的言語側の前文の機械翻訳の出力には Single-Sentence の出力を用いた。†は Single-Sentence と比較して有意に BLEU スコアが高いことを示している（有意水準 $\alpha=0.05 ）$.

違いは，翻訳時に目的言語側の前文として機械翻訳結果を用いたか，参照訳を用いたかの違いであり，これらの訳質の違いであるといえる。以上より, Trg-Context Pred. の BLEU スコアが低かった理由は，文脈として利用している目的言語側の前文の機械翻訳結果の訳質が低いために，文脈情報を効果的に利用するように学習することが困難であったためと考えられる．

提案手法は, 学習の初期に訳質の高い参照訳を用いて文脈情報を効果的に利用する方法を学習した上で, 段階的に機械翻訳の出力に置き換えることで, 文脈情報の効果的な利用と exposure bias の影響の回避を両立したと考えられる。提案手法の学習終了時の学習データ内に含まれる参照訳の割合は 9\%（学習終了時のエポック数が8の場合），または 6\%（学習終了時のエポック数が 9 の場合）であり ${ }^{9}$, 学習終了時には exposure biasの影響がほぼ無い学習を行っている.

## 5.3 Exposure bias の影響の考察

提案手法は exposure biasの問題を緩和するための手法であるが，仮に，学習時，翻訳時ともに目的言語側の文脈に参照訳を用いた場合も，exposure biasの問題は起こらないといえる。そこで, exposure biasの影響を考察するために，翻訳時に目的言語側の前文として， exposure bias の影響がない参照訳を用いた場合の結果を表 4 に示す。機械翻訳器は，マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた。翻訳時の文脈情報に参照訳を用いた Trg-Context GT は， exposure bias の問題が起こると考えられる機械翻訳の出力（Single-Sentence の出力）を用いた Trg-Context GT と比較して, 全てのタスクで BLEU スコアが高かった. また, Single-Sentence との比較では，翻訳時の文脈情報に機械翻訳結果を用いたTrg-Context GT はニュースコーパスの日英機械翻訳タスクと TED トークコーパスの英独・独英機械翻訳タスクのみで有意に BLEU スコアが高かったが，参照訳を用いた Trg-Context GT は全てのタスクで有意に BLEU スコアが高いことを確認できた，以上の結果より，翻訳時に目的言語側の前文として利用した機械翻訳結果と参照訳の違いが翻訳精度に影響していると言え, これが exposure biasの影響と考えることができる.

## 5.4 翻訳時に自身の機械翻訳結果を用いた場合の効果の考察

提案手法は, exposure biasの影響の緩和を目的とし, 学習時の目的言語側の前文として参照訳と事前に用意した機械翻訳の出力（Single-Sentence の出力）をサンプリング制御しながら用い，翻訳時の目的言語側の前文としても同様の Single-Sentence の出力を用いることを前提とした。目的言語側の前文には，他の選択肢として，学習時と翻訳時ともに Single-Sentenceの出力の代わりに自身の機械翻訳結果を用いることも考えられる。自身の出力を用いる場合には，文書単位で 1 文ずつ順番に機械翻訳する必要があり，文書内の文を並列に翻訳できないという問題がある. さらに，学習時にはモデルの更新ごとに機械翻訳する必要がある。一方で, 「目的言語側の前文に機械翻訳結果のみを用いる影響の考察」で示したように文脈情報として用いる機械翻訳結果の訳質も翻訳精度に影響することから, 目的言語側の前文として, Single-Sentenceの出力の代わりに，訳質の高い自身の出力を用いることで，翻訳精度の向上が期待できる。学習時の自身の出力の利用は困難であるが，翻訳時であれば自身の出力を用いることが可能である. そこで, Trg-Context Pred.の翻訳時には目的言語側の前文として Trg-Context Pred.の出力を用い，提案手法の翻訳時には目的言語側の前文として提案手法の出力を用いた場合の結果を表 5 に示す. 機械翻訳器は, マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた。 Trg-Context Pred., および提案手法のいずれにおいても, 自身の前文出力を利用することで, 一部のタスクで有意に BLEU スコアが高く，かつ BLEU スコアが低下したタスクはなく，これらは訳質の向上によるものと考えられる，以上の結果より，翻訳速度を優先する場合は Single-Sentence の出力を用い，翻訳品質を優先する場合は自身の出力を用いればよい.

## 5.5 事例を用いた考察

表 6 に，TEDトークコーパスを用いた日英タスクの出力例を示す. 上段（点線の上）には, 目的言語側の前文の参照訳と機械翻訳結果 (MT-OUT), 翻訳対象の日本語文と参照訳を示し, 下段（点線の下）には，各手法による翻訳結果を示す。機械翻訳器は，マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた。例文の翻訳対象の日本語文には，ゼロ代名詞が含まれ，かつ，

} & \multicolumn{2}{|c|}{ ニュースコーパス } & \multicolumn{4}{|c|}{ TED トークコーパス } \\

表 5 目的言語側の前文の自身の機械翻訳結果を用いた実験結果 (BLEU スコア）との比較. マルチエンコー ダ文脈考慮型ニューラル機械翻訳を用いた。†は翻訳時に目的言語側の前文として Single-Sentence の出力を用いた場合と比較して有意に BLEU スコアが高いことを示している（有意水準 $\alpha=0.05 ）$

 &  \\

表 6 TED トークコーパスを用いた日英機械翻訳実験の翻訳結果例（上段：入力と参照訳, 下段：各手法の結果).
目的言語側の文から代名詞を推定できると考えられるものを選んだ。最初の例（\#1）は，同じ文 ("We choose to go to the moon.") が 2 度続くケースであり, 代名詞 ("We =私たち”) が省略されている。翻訳対象文では，文の主語である“We＝私たち”が省略されており，文脈を考慮しない機械翻訳（Single-Sentence）は主語を誤って翻訳した。一方，文脈を考慮した機械翻訳では 4 つとも主語を適切に補完して翻訳した， 2 番目の例（＃2）は，前文が長文の例であり，代名詞 ( "him =彼”) が省略されている. 文脈を考慮しない機械翻訳では代名詞を補完せずに翻訳した。文脈考慮型機械翻訳では，原言語側の前文を用いた手法（Src-Context）と提案手法は代名詞を正しく補完して翻訳しているが，目的言語側の前文を用いたその他の手法（Trg-Context GT，Trg-Context Pred.）では，誤った代名詞を補完して翻訳した．前文が長文になるとエンコーダが目的言語側の文脈を適切に処理することが困難となる。この例は, Trg-Context GT, Trg-Context Pred.において，エンコーダが適切に処理できなかった例であると考えられる． 3 番目の例 $(\# 3)$ は, 代名詞 ("his =彼”) が省略されている. 提案手法のみが代名詞を適切に補完して翻訳している。

## 6 関連研究

機械翻訳において文脈の情報は, 語彙, 時制, 指示詞, 省略などの文間の表現の一貫性を保持する上で重要である (Bawden et al. 2018; Läubli et al. 2018; Müller et al. 2018; Voita et al. 2018).加えて，翻訳する上で対応する必要が出てくるゼロ照応解析 (Okumura and Tamura 1996; Iida et al. 2016) や語義曖昧性の解消などにも文脈は有効な情報となる. 多くの文脈考慮型のニュー ラル機械翻訳は, 翻訳対象の文だけでなく, 原言語側の文脈, 目的言語側の文脈, またはその両方を入力できるようなモデルとなっている (Tiedemann and Scherrer 2017; Agrawal et al. 2018; Bawden et al. 2018; Kim et al. 2019). Bawden et al. (2018)は, 原言語側, および目的言語側の前文を文脈情報として用いた手法を提案し，それぞれの効果を比較した. Agrawal et al. (2018) は，原言語側，および目的言語側の複数の前文，および後文を文脈情報として用いる手法を提案した. Bawden et al. (2018)は，目的言語側の前文を用いる手法では，学習時に前文の参照訳を，翻訳時には機械翻訳結果を用いて実験を行い，目的言語側の文脈情報の効果が低かったことを報告している. Agrawal et al. (2018)は, 目的言語側の文脈を使うと誤差が伝搬することで性能が劣化することを報告している．また，複数の文脈情報を使うことで翻訳品質が向上する場合があるが，膨大なメモリと計算量が必要となる傾向があることを報告している．本稿では，先行研究で指摘された目的言語側の文脈を用いることで性能が劣化した原因を推定し，その問題を低減する手法を提案している.

文脈考慮型ニューラル機械翻訳の実装方法には，結合ベース文脈考慮型ニューラル機械翻訳 (Tiedemann and Scherrer 2017; Bawden et al. 2018) とマルチエンコーダ文脈考慮型ニューラル機
械翻訳 (Bawden et al. 2018; Kim et al. 2019) がある。Tiedemann and Scherrer (2017) は，前文と翻訳対象の原文の間に特殊なトークン（_BREAK_）を挿入して結合して単体のエンコーダに入力することを提案した. Bawden et al. (2018) は，マルチエンコーダ NMT (Zoph and Knight 2016; Libovický and Helcl 2017; Wang et al. 2017)を拡張し，原言語側の前文と翻訳対象の文とを別々のエンコーダに入力することを提案した．マルチエンコーダ文脈考慮型ニューラル機械翻訳は，各エンコーダの出力ベクトルを連結（attention concatination），重み付き和（attention gate）,階層（hierarchical attention）のいずれかにより結合する. Kim et al. (2019) は，各エンコーダの出力ベクトルの結合をデコーダの前段，またはデコーダ内で行うことができることを示し，その違いを調査した，本稿では，先行研究と同様に結合べース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳を用いているが，先行研究は目的言語側の文脈として参照訳を用いているのに対して，本稿では機械翻訳結果を用いて exposure bias を低減している点において異なる。

本稿の提案手法はスケジュールドサンプリング法 (Bengio et al. 2015) を参考にしている.

Bengio らは，イメージキャプショニング，構文解析，音声認識のタスクに対して，自己回帰型の言語モデルの最尤推定学習時と推論時との間のギャップの問題を解決するためにスケジュールドサンプリング法を提案した. Ranzato et al. (2016)は, このギャップを exposure bias と呼び，文書要約, 機械翻訳, イメージキャプショニングのタスクに対して, exposure biasの問題を解決するために評価尺度を報酬として用いる強化学習の手法を提案した. Zhang et al. (2019) は, リカレントニューラルネットワーク (RNN) ベースのニューラル機械翻訳における exposure bias の問題を解決するために減衰を用いたサンプリング法を提案し，参照訳のトークンと予測トー クンのいずれかを確率的にサンプリングして用いることで学習時と翻訳時のギャップを効果的に削減することを示した. Ranzato et al. (2016) と Zhang et al. (2019) は，文脈を考慮しない機械翻訳においてスケジュールドサンプリング法を学習時に用いて直前の履歴のトークンの選択に利用している。これに対して，本稿では，文脈を考慮する機械翻訳において，スケジュールドサンプリング法を学習時に文脈として用いる文の選択に利用している.

## 7 まとめ

本稿では，文脈考慮型ニューラル機械翻訳において，目的言語側の文脈を効果的に利用する手法を提案した，提案手法では，学習時と翻訳時の間にある目的言語側の前文のギャップ （exposure bias）の問題の解消を目的とし, 目的言語側の参照訳と機械翻訳結果の両方を用いて, スケジュールドサンプリング法で学習データを制御した。結合べース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳を用いて提案手法を実装し，英日・日英，および英独・独英の機械翻訳タスクで評価した。実験により，BLEU スコアにおいて提
案手法の有効性を確認した. 今後の課題として, 提案手法の各タスクにおける最適なハイパー パラメーター値の調査と, 目的言語側と原言語側の周辺の複数文を併用した手法に取り組む予定である.

## 謝 辞

本稿は国際会議 The 28th International Conference on Computational Linguistics (COLING2020) で発表した論文 (Mino et al. 2020)に基づいて日本語で書き直し, 説明を追加したものである.本研究成果は, 国立研究開発法人情報通信研究機構 (NICT) の委託研究「多言語音声翻訳高度化のためのディープラーニング技術の研究開発」により得られたものである.ここに謝意を表する．また，有意義なコメントを頂いた査読者のみなさま，日頃熱心にご討論頂いている NHK 放送技術研究所スマートプロダクション研究部のみなさま，特に本稿をまとめるにあたり多くのコメントを頂いた衣川和克氏に感謝を表する。

## 参考文献

Agrawal, R., Turchi, M., and Negri, M. (2018). "Contextual Handling in Neural Machine Translation: Look Behind, Ahead and on Both Sides." In Proceedings of the 21st Annual Conference of the European Association for Machine Translation, pp. 11-20, Alacant, Spain. European Association for Machine Translation.

Bahdanau, D., Cho, K., and Bengio, Y. (2015). "Neural Machine Translation by Jointly Learning to Align and Translate." In 3rd International Conference on Learning Representations, ICLR 2015, San Diego, CA, USA, May 7-9, 2015, Conference Track Proceedings.

Bawden, R., Sennrich, R., Birch, A., and Haddow, B. (2018). "Evaluating Discourse Phenomena in Neural Machine Translation." In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers), pp. 1304-1313, New Orleans, Louisiana. Association for Computational Linguistics.

Bengio, S., Vinyals, O., Jaitly, N., and Shazeer, N. (2015). "Scheduled Sampling for Sequence Prediction with Recurrent Neural Networks." In Cortes, C., Lawrence, N. D., Lee, D. D., Sugiyama, M., and Garnett, R. (Eds.), Advances in Neural Information Processing Systems 28, pp. 1171-1179. Curran Associates, Inc.

Bengio, Y., Louradour, J., Collobert, R., and Weston, J. (2009). "Curriculum Learning." In Danyluk, A. P., Bottou, L., and Littman, M. L. (Eds.), ICML, Vol. 382 of ACM International

Conference Proceeding Series, pp. 41-48. ACM.

Cettolo, M., Girardi, C., and Federico, M. (2012). "WIT": Web Inventory of Transcribed and Translated Talks." In Proceedings of the $16^{\text {th }}$ Conference of the European Association for Machine Translation (EAMT), pp. 261-268, Trento, Italy.

Hieber, F., Domhan, T., Denkowski, M., Vilar, D., Sokolov, A., Clifton, A., and Post, M. (2018). "The Sockeye Neural Machine Translation Toolkit at AMTA 2018." In Proceedings of the 13th Conference of the Association for Machine Translation in the Americas (Volume 1: Research Papers), pp. 200-207, Boston, MA. Association for Machine Translation in the Americas.

Iida, R., Torisawa, K., Oh, J.-H., Kruengkrai, C., and Kloetzer, J. (2016). "Intra-Sentential Subject Zero Anaphora Resolution using Multi-Column Convolutional Neural Network." In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, pp. 1244-1254, Austin, Texas. Association for Computational Linguistics.

Kim, Y., Tran, D. T., and Ney, H. (2019). "When and Why is Document-level Context Useful in Neural Machine Translation?" In Proceedings of the 4th Workshop on Discourse in Machine Translation, DiscoMT@EMNLP 2019, Hong Kong, China, November 3, 2019, pp. 24-34.

Kingma, D. P. and Ba, J. (2015). "Adam: A Method for Stochastic Optimization." In International Conference on Learning Representations (ICLR).

Kuang, S., Xiong, D., Luo, W., and Zhou, G. (2018). "Modeling Coherence for Neural Machine Translation with Dynamic and Topic Caches." In Proceedings of the 27th International Conference on Computational Linguistics, pp. 596-606, Santa Fe, New Mexico, USA. Association for Computational Linguistics.

Läubli, S., Sennrich, R., and Volk, M. (2018). "Has Machine Translation Achieved Human Parity? A Case for Document-level Evaluation." In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 4791-4796, Brussels, Belgium. Association for Computational Linguistics.

Libovický, J. and Helcl, J. (2017). "Attention Strategies for Multi-Source Sequence-to-Sequence Learning." In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers), pp. 196-202, Vancouver, Canada. Association for Computational Linguistics.

Littell, P., Lo, C.-k., Larkin, S., and Stewart, D. (2019). "Multi-Source Transformer for KazakhRussian-English Neural Machine Translation." In Proceedings of the 4th Conference on Machine Translation (Volume 2: Shared Task Papers, Day 1), pp. 267-274, Florence, Italy. Association for Computational Linguistics.

Maruf, S., Martins, A. F. T., and Haffari, G. (2019). "Selective Attention for Context-aware Neural Machine Translation." In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 3092-3102, Minneapolis, Minnesota. Association for Computational Linguistics.

Miculicich, L., Ram, D., Pappas, N., and Henderson, J. (2018). "Document-Level Neural Machine Translation with Hierarchical Attention Networks." In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 2947-2954, Brussels, Belgium. Association for Computational Linguistics.

Mino, H., Tanaka, H., Ito, H., Goto, I., Yamada, I., and Tokunaga, T. (2020). "ContentEquivalent Translated Parallel News Corpus and Extension of Domain Adaptation for NMT." In Proceedings of The 12th Language Resources and Evaluation Conference, pp. 3616-3622, Marseille, France. European Language Resources Association.

Müller, M., Rios, A., Voita, E., and Sennrich, R. (2018). "A Large-Scale Test Set for the Evaluation of Context-Aware Pronoun Translation in Neural Machine Translation." In Proceedings of the 3rd Conference on Machine Translation: Research Papers, pp. 61-72, Brussels, Belgium. Association for Computational Linguistics.

Neubig, G., Nakata, Y., and Mori, S. (2011). "Pointwise Prediction for Robust, Adaptable Japanese Morphological Analysis." In Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies, pp. 529-533, Portland, Oregon, USA. Association for Computational Linguistics.

Okumura, M. and Tamura, K. (1996). "Zero Pronoun Resolution in Japanese Discourse Based on Centering Theory." In COLING 1996 Volume 2: The 16th International Conference on Computational Linguistics, pp. 871-876, Copenhagen, Denmark.

Papineni, K., Roukos, S., Ward, T., and Zhu, W.-J. (2002). "Bleu: A Method for Automatic Evaluation of Machine Translation." In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics, pp. 311-318, Philadelphia, Pennsylvania, USA. Association for Computational Linguistics.

Ranzato, M., Chopra, S., Auli, M., and Zaremba, W. (2016). "Sequence Level Training with Recurrent Neural Networks." In Bengio, Y. and LeCun, Y. (Eds.), 4th International Conference on Learning Representations, ICLR 2016, San Juan, Puerto Rico, May 2-4, 2016, Conference Track Proceedings.

李凌寒, 中澤敏明, 鶴岡慶雅 (2019). 文脈情報を考慮した日英ニューラル機械翻訳. 言語処理学会第 25 回年次大会, pp. 101-104. [R. Ri et al. (2019). Bunmyaku Jyoho wo Koryo shita

Nichiei Nyuraru Kikaihonyaku. Proceedings of the 25th Annual Meeting of the Association for Natural Language Processing, pp. 101-104.].

Sennrich, R., Haddow, B., and Birch, A. (2016). "Neural Machine Translation of Rare Words with Subword Units." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1715-1725, Berlin, Germany. Association for Computational Linguistics.

Sutskever, I., Vinyals, O., and Le, Q. V. (2014). "Sequence to Sequence Learning with Neural Networks." In Proceedings of the 27th International Conference on Neural Information Processing Systems - Volume 2, NIPS'14, pp. 3104-3112, Cambridge, MA, USA. MIT Press.田中英輝, 中澤敏明, 美野秀弥, 伊藤均, 後藤功雄, 山田一郎, 川上貴之, 大嶋聖一, 朝賀英裕 (2021). 時事通信社ニュースの日英対訳コーパスの構築一第 3 報. 言語処理学会第 27 回年次大会, pp. 228-231. [H. Tanaka et al. (2021). Jiji Tsushinsha Nyusu no Nichiei Taiyaku Kopasu no Kochiku: The 3rd Report. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 228-231.].

Tiedemann, J. and Scherrer, Y. (2017). "Neural Machine Translation with Extended Context." In Proceedings of the 3rd Workshop on Discourse in Machine Translation, pp. 82-92, Copenhagen, Denmark. Association for Computational Linguistics.

Toral, A. (2019). "Post-editese: an Exacerbated Translationese." In Proceedings of Machine Translation Summit XVII Volume 1: Research Track, pp. 273-281, Dublin, Ireland. European Association for Machine Translation.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., and Polosukhin, I. (2017). "Attention Is All You Need." In Guyon, I., Luxburg, U. V., Bengio, S., Wallach, H., Fergus, R., Vishwanathan, S., and Garnett, R. (Eds.), Advances in Neural Information Processing Systems 30, pp. 5998-6008. Curran Associates, Inc.

Voita, E., Sennrich, R., and Titov, I. (2019). "Context-Aware Monolingual Repair for Neural Machine Translation." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pp. 877-886, Hong Kong, China. Association for Computational Linguistics.

Voita, E., Serdyukov, P., Sennrich, R., and Titov, I. (2018). "Context-Aware Neural Machine Translation Learns Anaphora Resolution." In Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1264-1274, Melbourne, Australia. Association for Computational Linguistics.

Wang, L., Tu, Z., Way, A., and Liu, Q. (2017). "Exploiting Cross-Sentence Context for Neu-
ral Machine Translation." In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 2826-2831, Copenhagen, Denmark. Association for Computational Linguistics.

Zhang, W., Feng, Y., Meng, F., You, D., and Liu, Q. (2019). "Bridging the Gap between Training and Inference for Neural Machine Translation." In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 4334-4343, Florence, Italy. Association for Computational Linguistics.

Zoph, B. and Knight, K. (2016). "Multi-Source Neural Translation." In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 30-34, San Diego, California. Association for Computational Linguistics.

## 略歴

美野秀弥：2002 年東京工業大学情報理工学部計算工学科卒業. 2004 年同大学院情報理工学研究科修士課程修了. 同年 NHK 入局, 北見放送局, (独) NICT 出向を経て, 現在, 放送技術研究所スマートプロダクション研究部研究員. 自然言語処理の研究に従事. 言語処理学会会員.

伊藤均：2010 年神戸大学工学部電気電子工学科卒業. 2012 年京都大学大学院情報学研究科修士課程修了. 同年 NHK 入局. 山口放送局を経て, 現在, 放送技術研究所スマートプロダクション研究部研究員. 自然言語処理の研究に従事. 音響学会, 言語処理学会各会員.

後藤功雄 : 1995 年早稲田大学理工学部電気工学科卒業. 1997 年同大学院理工学研究科修士課程修了. 2014 年京都大学大学院情報学研究科博士課程修了.博士（情報学）１１997 年 NHK 入局，（株）ATR および（独）NICT 出向を経て, 現在, 放送技術研究所スマートプロダクション研究部にて自然言語処理の研究に従事. 言語処理学会, 情報処理学会各会員.

山田一郎：1991 年, 名古屋大学工学部情報工学科卒業. 1993 年, 同大学大学院修士課程修了. 博士 (情報科学)。同年, NHK 入局. スタンフォード大学訪問研究員, (独) NICT 専門研究員を経て, 現在, 放送技術研究所スマートプロダクション研究部にて機械翻訳，ビッグデータ解析の研究に従事. 言語処理学会, 映像情報メディア学会各会員.

徳永健伸：1983 年東京工業大学工学部情報工学科卒業. 1985 年同大学院理工学研究科修士課程修了. 同年 (株) 三菱総合研究所入社. 1986 年東京工業大学大学院博士課程入学. 現在, 東京工業大学情報理工学院教授. 博士 (工学).
専門は自然言語処理, 計算言語学. 情報処理学会, 人工知能学会, 言語処理学会, 計量国語学会, Association for Computational Linguistics, ACM SIGIR, Cognitive Science Society, International Cognitive Linguistics Association 各会員.

(2021 年 3 月 31 日受付)

(2021 年 7 月 1 日再受付)

(2021 年 8 月 17 日採録)

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/